Sascha Lobo

Tokens und Keys sind an die Agenten gegeben worden.

Das sind genau diese vielen halbinformierten Nutzer, die halt irgendwas auf ihrem Rechner installiert haben und gar nicht genau wussten, was jetzt dieser eine Befehl irgendwo in der Shell jetzt bedeutet hat.

Einige haben sogar behauptet, Cloud-Bot-Root-Zugang gegeben zu haben.

Standardmäßig konnte der das nicht.

Das ließe sich theoretisch denken, dass man den ein bisschen pimmt.

Also eine vollständige Macht über den ganzen Computer samt System.

Aber was definitiv wahr ist, ein Vibe-gecodeter Bot

mit sehr weitgehenden Rechten auf dem eigenen Rechner.

Da ist das Szenario möglich, dass inzwischen massenhaft von diesen Bots auf den Rechnern zumindest Übernahmeversuche erdulden mussten.

Es sind fast hysterisch.

Eine Vielzahl von Beiträgen von Sicherheitsnerds erschienen in sozialen Medien, die gesagt haben Hey,

Wenn ihr Cloudbot installiert, dann müsst ihr folgende 17 Sicherheitsfeatures unbedingt noch dazu buchen, denn in der Standardvariante ist der total leicht von außen zu übernehmen.

Da kann man dem sogar irgendwelche fremden Befehle auf dritte Plattform mit auf den Weg geben.

Prompt Injection zum Beispiel oder andere Mechaniken, wo vollkommen klar ist, das ist ein vibegecodetes Experimentalding.

Es ist ungefähr so, als würde man mit einem Auto irgendwo ein bisschen experimentell unterwegs sein und glauben, man hätte es abgeschlossen.

Aber in Wirklichkeit kann man per Knopfdruck, kann jeder per Knopfdruck dieses Auto nicht nur öffnen, sondern auch starten und dann in deinem Namen irgendwo hinfahren.

Der Vergleich hängt ein bisschen.

Aber tatsächlich sehen wir, und das ist so ein bisschen das, was du gesagt hast,

Wir sehen, dass die viel größere Gefahr nicht nur eine übermächtige KI ist, sondern dass wir Leute wie normalen Menschen der KI so viel Macht geben und sie dann durch irgendwelche mangelhaften Sicherheitsfeatures gekapert werden kann.

Ja, man muss dazu sagen, dass zumindest ein Gerücht, also das, was WhatsApp ab Werk eingebaut hat, auch durch einen sehr bekannten Sicherheitsforscher, das ist eine Ende-zu-Ende-Verschlüsselung.