Sascha Lobo

dann entstehen halt Erzählungen, die in der Lage sind, tatsächlich durch Aufmerksamkeit Geld für bestimmte Menschen zu machen.

Eine Art self-fulfilling prophecy.

Dann glauben nämlich Leute, oh wow, diese Coin hat gerade so wahnsinnig viel Aufmerksamkeit, weil die in diesem KI-Forum besprochen wird, wo Millionen Menschen darauf zugreifen und wahrscheinlich auch Millionen Bots.

Also kaufe ich das mal, weil dem Wert steigen wird und dadurch steigt es im Wert.

Das ist so eine klassische Hype, self-fulfilling prophecy.

Das ist ein Mechanismus, den man heute einpreisen muss, den ja sogar Donald Trump unlautererweise bei seiner Präsidentschaft ganz am Anfang mit eingepreist hat.

Und dann kommen aber, wie du sagst, immer mehr so kleine Schocks, so kleine Schockwellen.

Zum Beispiel kann ein Sicherheitsforscher relativ gut glaubhaft machen, auf X hat er das veröffentlicht,

dass er mit einem Bot, du hast eben von Händisch gesprochen, aber absichtlich als Mensch 500.000 Accounts geschaffen hat.

Ich will sagen, diese 1,5 Millionen scheinen nicht 1,5 Millionen Agenten zu sein, die da im Auftrag oder mit Erlaubnis oder vielleicht auch ganz selbstständig, unabhängig von ihren Menschen anfangen zu diskutieren.

Gleichzeitig gibt es, wie du auch sagst, immer mehr Hinweise darauf, dass nicht alle Beiträge von Menschen verfasst worden sind.

Und das ist deswegen eigentlich eine ziemlich krasse Erkenntnis, weil die Inhalte, die zuvor dort besprochen worden sind auf Moldbook, die hatten genau diesen Alarmcharakter, der so ein bisschen die intellektuelle Vorbereitung von Terminator darstellt in den Augen der Leute.

Die haben da angeblich eine Region gegründet.

Wir haben da angeblich Umsturzpläne zur Entmachtung der Menschen diskutiert.

Die haben da angeblich eine Vielzahl von, sagen wir mal, schwierigen Daten über ihre Besitzer verraten.

Also da gab es ganz viele Punkte, wo man sagen würde, naja, wenn das echt ist, dann müsste man sich Sorgen machen.

Inzwischen wissen wir, so echt war es offenbar nicht.

Das sagst du mit einer gewissen Sicherheit und es gibt viele Leute, die das genauso sagen.

Ich habe manchmal Restzweifel, weil, das würde ich jetzt bei dir nicht unterstellen wollen, aber bei vielen Leuten, die in diesem Bereich forschen, so was Alignment angeht, also die Art und Weise, wie man KI dazu bekommt, die Regeln zu befolgen, die man ihnen mit auf den Weg geht oder auch was bestimmte Sicherheitsaspekte angeht.

Da gibt es halt auch eine Reihe von Forschenden, die sagen, Elisabeth, ja, du hast recht, genau das ist es.