Christian Lutz-Weicken

Also, du hast halt nicht nur das Problem, dass diese KI-Sachen irgendwelche Drive-By-Prompt-Injections, dass sie darüber stolpern.

Also, eine Prompt-Injection ist, er findet irgendeinen Text,

im Netz und weil KIs nicht genau unterscheiden können, was ist jetzt Text, den ich aus dem Internet gefunden habe und was ist ein Befehl für mich und er das als Befehl interpretiert, ist klar, können viele doofe Dinge passieren und das ist auch

Ein ungelöstes Problem, also die guten, großen Modelle können das, sind da, werden immer besser da drin, aber das ist trotzdem ein strukturelles Problem, was man…

Ja, was man immer im Hinterkopf haben muss.

Aber gleichzeitig ist es auch wirklich so, dass diese Dinger wie diese Agenten, dass die halt immer Codeschnipsel nachladen.

Und wenn dieser Codeschnipsel oder das muss ja nicht nur ein Schnipsel sein oder die Software halt einfach mit Malware verseucht ist, dann hat man sich Malware eingefangen, obwohl man eigentlich nichts falsch gemacht hat.

Genau, das ist halt nur eine Sache.

Also das andere ist ja zum Beispiel, dass du mit KI halt so Phishing echt richtig krass machen kannst, dass du halt Phishing wirklich automatisiert auf einzelne Personen...

also dass die Phishing-Nachrichten halt besser werden können.

Malware kann sich selbstständig anpassen und vor allem Schwachstellen lassen sich viel schneller finden.

Also für Script-Kiddies sozusagen sind das ganz neue Möglichkeiten.

Also das ist alles krass.

Also im Zweifel kannst du halt sogar mit einem Realtime-Deepfake

kursierte ja jetzt gerade so ein Video, dass irgendwie so ein Typ, es gibt ja diese Microsoft-Geschichte, du wirst von Microsoft angerufen oder so, dass du irgendwas machen musst auf deinem PC und dann hatte der Typ so einen Gesichtsfilter laufen, also der saß offenbar in Indien, der sah aber halt aus wie so ein, ja, wie so ein,

Anderer Mensch sozusagen.

Und diese Deepfakes, da kannst du natürlich richtig krasses Social Engineering machen, dass ich mir halt so ein Realtime-Deepfake mache und dann sehe ich halt aus wie, ja keine Ahnung, wie der Admin von Heise oder so.

Und die Leute kennen den vielleicht so ein bisschen vom Sehen.

aber halt auch nicht so gut vielleicht, dass sie das Deepfake erkennen würden.

Also gibt es tausend Möglichkeiten und meine These ist jetzt jedenfalls, dass man das nur in den Griff bekommt, wenn die Gegenseite auch KI verwendet, weil das einfach zu...