Paulina Joe Pesch

Wenn wir uns angucken, was Palantir genau anbietet, und Palantir ist nicht die einzige Anbieterin, die solche Dienste anbietet, dann sind das automatisierte Entscheidungen, also irgendwie datengetriebene Prozesse, die Palantir Unternehmen in ganz verschiedenen Wirtschaftsbereichen anbietet, aber zum Beispiel auch

So werden zum Beispiel Palantirdienste in Gaza eingesetzt oder in der Ukraine.

Und Palantirdienste werden auch im Kontext von Migration und Grenzschutz eingesetzt.

Zum Beispiel, wenn in den USA Eis auch MigrantInnen aufspürt, um dann irgendwie Abschiebeprozesse einzuleiten.

Ja, da stellen sich so komplexe Abwägungsfragen.

Natürlich ist völlig nachvollziehbar, dass eine große Frustration darüber entsteht, dass im Internet gewisse AkteurInnen Hassrede von sich geben und irgendwie die Rechte anderer nicht achten und dann gar nicht nachvollziehbar ist, von wem das ist.

Die Antwort darauf wäre natürlich, dass man irgendwie eine Klarnamenpflicht hat und das ergibt nur Sinn, wenn dann irgendjemand auch immer die Identität von den Beteiligten überprüft.

Das hat natürlich Auswirkungen darauf, wer sich an der öffentlichen Debatte beteiligt.

Da wird dann möglicherweise, weil ein sehr kleiner Teil an InternetnutzerInnen bzw.

an Internetaccounts sowas wie Hassrede macht...

werden ganz viele daran gehindert, sich im Internet überhaupt zu äußern, weil die zum Beispiel vulnerablen Gruppen, gefährdeten Gruppen angehören und sich gar nicht trauen, ihre Meinung frei zu äußern, wenn die ihren Klarnamen angeben müssen.

Oder die Sorge haben, vielleicht aufgespürt zu werden und irgendwie negative Konsequenzen für ihre Meinungsäußerung zu haben.

Deswegen kann das natürlich mit Menschenrechten in Konflikt geraten.

Ja, also der ganze Bereich generativer KI-Modelle stellt neue Herausforderungen.

Es sind ja Modelle, die aufgrund von einer Vielzahl von Daten trainiert werden.

Wir kennen zum Beispiel so Chatbots wie ChatGPT oder Gemini oder Cloud.

Und bisher läuft dieses ganze Ökosystem so, dass sehr große Modelle mit einer Vielzahl auch öffentlich verfügbarer Daten trainiert werden.

Dabei gibt es aber auch große Probleme.

Die merken sich zum Beispiel bestimmte Teile der Trainingsdaten und geben die dann wieder aus.

Und noch schlimmer im Bereich von Menschenrechten, von Grundrechten oder auch einfach, was Risiken für Betroffene allgemein angeht, ist, dass sie sich manchmal Informationen ausdenken.