Sascha Lobo

Aber was definitiv wahr ist, ein Vibe-gecodeter Bot

mit sehr weitgehenden Rechten auf dem eigenen Rechner.

Da ist das Szenario möglich, dass inzwischen massenhaft von diesen Bots auf den Rechnern zumindest Übernahmeversuche erdulden mussten.

Es sind fast hysterisch.

Eine Vielzahl von Beiträgen von Sicherheitsnerds erschienen in sozialen Medien, die gesagt haben Hey,

Wenn ihr Cloudbot installiert, dann müsst ihr folgende 17 Sicherheitsfeatures unbedingt noch dazu buchen, denn in der Standardvariante ist der total leicht von außen zu übernehmen.

Da kann man dem sogar irgendwelche fremden Befehle auf dritte Plattform mit auf den Weg geben.

Prompt Injection zum Beispiel oder andere Mechaniken, wo vollkommen klar ist, das ist ein vibegecodetes Experimentalding.

Es ist ungefähr so, als würde man mit einem Auto irgendwo ein bisschen experimentell unterwegs sein und glauben, man hätte es abgeschlossen.

Aber in Wirklichkeit kann man per Knopfdruck, kann jeder per Knopfdruck dieses Auto nicht nur öffnen, sondern auch starten und dann in deinem Namen irgendwo hinfahren.

Der Vergleich hängt ein bisschen.

Aber tatsächlich sehen wir, und das ist so ein bisschen das, was du gesagt hast,

Wir sehen, dass die viel größere Gefahr nicht nur eine übermächtige KI ist, sondern dass wir Leute wie normalen Menschen der KI so viel Macht geben und sie dann durch irgendwelche mangelhaften Sicherheitsfeatures gekapert werden kann.

Ja, man muss dazu sagen, dass zumindest ein Gerücht, also das, was WhatsApp ab Werk eingebaut hat, auch durch einen sehr bekannten Sicherheitsforscher, das ist eine Ende-zu-Ende-Verschlüsselung.

Es gab aber immer wieder Gerüchte, ob und wie und wo genau an welchen Sollbruchstellen das in Zweifel zu ziehen wäre.

Definitive Sachen weiß man noch nicht.

Diese Klage soll das offenbar herausfinden.

Aber natürlich weiß man ganz sicher, dass die Regierung Trump

alles macht, selbst Dinge, die absolut überhaupt nicht verfassungskonform wären, alles tut, um ihre Ziele zu verfolgen.

Und da ist die Macht der Daten einerseits und die Macht der KI-Agenten, die heraufzieht und die man jetzt sehen konnte, ein extrem wichtiger Faktor.