Linus Neumann

Also ich glaube, die Lösung wird sein, A,

dem Ding APIs zu geben, auf denen man irgendwie kontrolliert also Regeln auf den Informationsfluss widersetzen kann und andererseits KIs zu nehmen, die nicht zu klug sind für ihre Aufgabe.

Das war ja hier dieses Beispiel mit dem, was wir hier vor einiger Zeit auch besprochen hatten, dieses Anthropic Experiment, wo die... Mit dem Automaten.

Genau, wo der Automaten betrieben hat.

Und wo der dann auf einmal einen Controller bekommen hat und dann haben die sich nachts über transzendentale Philosophie unterhalten.

Wie im richtigen Leben?

Aber das sind auch genau die gefährlichen Leute.

Ja, also man muss auch sehen, was dieses McKinsey Beispiel betrifft, was ich jetzt wirklich schon... Ich lege Wert auf die Festlegung, dass die beiden Beispiele sehr ähnlich sind.

Man muss gerade kurz zwei Dinge noch eben trennen.

Diese Hacks, das ist ja das auf der Meta-Ebene Interessante daran, die haben überhaupt nichts mit der AI zu tun.

Das ist das Erste.

Das heißt, wir bauen was Neues und machen immer auch die Fehler aus dem Neuen.

Also das finde ich, muss ich wirklich sagen, das finde ich noch nicht so, noch nicht ganz so beeindruckend.

Das sind wirklich Dinge, die sind...

Ja, das mag sein, dass es für jemanden, der es nicht selber kann, immer beeindruckend ist.

Aber würdest du, also unter der Annahme, dass die KI irgendwann mal ein Buch über IT-Security gelesen hat,

in ihrer mehrmonatigen Trainingsphase, wo irgendwie so ein, einmal so ein paar Boote in dieser, äh, Meerstraße von Honduras oder wo, wo, wo, sorry, äh, verbrannt wurden.

Horm, ja.

Ich wollte ja nur mal hier wieder meine geografische, mit meiner geografischen, äh, Unkenntnis kokettieren.

Und unter der Annahme, dass sie jemals gelesen hat, was häufige Fehler sind, finde ich es jetzt nicht überraschend, dass sie, wenn sie mit einer API konfrontiert ist und vor allem die vollständige API-Dokumentation kriegt, dass sie die systematisch durchklimpert.