Paulina Joe Pesch

So KI-Modelle sollen ja was Kreatives erzeugen.

Deshalb sind die so angelegt, dass die manchmal Unwahrscheinliches beimischen, zum Beispiel im Text.

Das kann dann dazu führen, dass zum Beispiel Fehlinformationen über eine Person darin vorkommen.

Ein ganz plakativer Fall ist der von Martin Berntlau.

Das ist ein Journalist aus Tübingen.

Der ist Gerichtsreporter und berichtet über verschiedene Fälle.

Und der hat ein Chatbot-Copilot, war das von Microsoft, gefragt, wer ist Martin Berntlau?

Also wer ist er selbst?

Und der Chatbot hat ihm dann die Taten zugeschrieben, über die er berichtet hat.

Es war ein Ausbruch aus der Psychiatrie, Sexualdelikte zum Nachteil von Kindern.

Es war ein Betrug von trauernden Witwen.

Und das zeigt schon, wie gefährlich das sein kann, wenn da viele Informationen kommen.

Und so richtig menschenrechtskritisch wird das dann, wenn solche Systeme im Bereich zum Beispiel von Strafverfolgung eingesetzt werden.

Es wird von ganz vielen bei der Arbeit Chatbots eingesetzt.

Und geraten dann vielleicht so Fehlinformationen in Entscheidungen.

Zum Beispiel ist letztens eine Entscheidung getroffen worden in Großbritannien, wonach so bestimmte als gewaltbereit bekannte Fußballfans von dem Fußballklub in Tel Aviv von einem Match ausgeschlossen wurden.

Und die Entscheidung wurde begründet mit einem Gewaltvorfall bei einem Spiel, das es gar nicht gab.

Das muss sehr wahrscheinlich eine KI-Halluzination gewesen sein.

Wenn wir uns dann denken, dass so automatisierte Entscheidungen wie von Palantir aufgrund von Daten aus diversen Datenbanken getroffen werden und da sind zum Teil so halluzinierte Daten drin, zum Teil einfach Daten, die aus anderen Gründen qualitativ nicht so hochwertig sind, dann ist gar nicht absehbar, inwieweit falsche und menschenrechtswidrig benachteiligende Entscheidungen da getroffen werden können.

Und die meisten interessieren sich dafür gar nicht so, weil die denken, ja, ich mache ja nichts, ich bin ja keine Straftäterin.