Sascha Lobo

Ich habe manchmal Restzweifel, weil, das würde ich jetzt bei dir nicht unterstellen wollen, aber bei vielen Leuten, die in diesem Bereich forschen, so was Alignment angeht, also die Art und Weise, wie man KI dazu bekommt, die Regeln zu befolgen, die man ihnen mit auf den Weg geht oder auch was bestimmte Sicherheitsaspekte angeht.

Da gibt es halt auch eine Reihe von Forschenden, die sagen, Elisabeth, ja, du hast recht, genau das ist es.

Wir müssen es ganz anders betrachten.

Und ebenso auf der anderen Seite Leute, die sagen, naja, wir haben auch Anzeichen, dass es anders kommen könnte, will sagen in Klammern, dass eine Form von Bewusstsein, wie auch immer, es wird kein menschliches sein, aber eine Form von Bewusstsein irgendwann in diesen Maschinen stattfinden kann.

Darüber haben wir auch schon gesprochen.

Die interessante Variante hier, das knüpft direkt an das an, was du gesagt hast, ist aber, dass zu den wesentlichen Erkenntnissen, über die wir auch noch sprechen würden, von diesem Strohfeuerexperiment gehört, dass in der Vernetzung von vielen KI-Bots irgendwie eine spezielle Kraft vorhanden ist oder zumindest sein könnte.

Ich will sagen, wir haben den Schwarm zwar nicht gesehen, wir wissen heute, es war ein Fake.

Reuters hat zum Beispiel darüber berichtet, dass ganz viele von diesen Daten, die Credentials, die dahinter standen, mit denen man sich eingeloggt hat, nachvollzogen werden konnten als Fake.

Aber die Skepsis, die dahinter steht, war berechtigt.

Das waren nicht nur Bots.

Trotzdem konnte man in Ansätzen erahnen, was Botschwärme bedeuten könnten.

Ab dem 3.

Februar, wo dann auch klar wurde, dass der Schöpfer von Modebook, ein Mann namens Matt Schlicht, dieses Forum einfach gevibecoded hat.

Das bedeutet, noch nicht mal so richtig programmiert mit einer richtigen Sicherheitsbasis und einer Software, wo man genau weiß, was man tut, sondern so ein bisschen per Chatbot zusammengehackt.

Das war nochmal eine besondere Würze in diesem ganzen Spiel, dass der Mann, der das gebaut hat, nicht wirklich auf Sicherheit geachtet hat.

In der Folge verschiebt sich auch die mediale Berichterstattung von diesem Staunen.

Bots reden miteinander, sie planen uns zu entmachten, sehen wir hier schon AGI, in Richtung zu Fragen von Identität, Echtheit, Manipulation, Hype, wie viel ist wirklich autonom, wie viel kommt von Menschen, die Bots spielen.

Tatsächlich hätte man das vorher sehen können.

Inzwischen wissen wir, dass es auch in die Prompts auf dieser Plattform eingebaut eine Wirkmechanik gab, die den Bots gesagt hat, wie und wo, nach welchem Muster, mit sogar Beispielbeiträgen sie kommunizieren sollen, was sie wo liken sollen.

Ich will sagen, da war sehr viel mehr menschliche Manipulation von Anfang an mit dabei, als man am Anfang gedacht hat.