Linus Neumann

Guck mal, früher würdest du sagen ...

Hier gibt es die Web-App.

Die Web-App prüft die Autorisierung der Nutzerin und führt dann die Aktion durch.

Ich nehme jetzt WordPress mal als Beispiel, weil ja Logbuch-Netzpolitik auch auf WordPress gehostet ist.

Das WordPress selber hat auch nur eine Datenbank-User-Credential.

Das heißt, das WordPress selber kann jederzeit alles löschen.

Das heißt, die Prüfung von Authentisierung und Autorisierung findet in der PHP-Logik von dem WordPress statt.

Und wenn man da jetzt als Visitor ist,

oder als User, oder als Admin, oder die unterschiedlichen Rollen, das macht alles das WordPress.

Und wenn irgendetwas da falsch ist und du irgendwo in dem WordPress-Frontend beispielsweise einen Fehler hast und eine SQL-Ejection ermöglichst, dann wird das sofort mit dem höchst privilegierten User üblicherweise in dem WordPress-Kontext mindestens – also du hast Zugriff auf das komplette WordPress –

Oder wenn du halt das falsche Tutorial auf Stack Overflow gelesen hast, eben mit Root gemacht.

Und wenn der User in der Datenbank wiederum nicht ordentlich beschnitten ist, dann kann der potenziell auch Code exekuten.

Also auch hier ...

hast du im Prinzip, das WordPress hat zu viele Rechte, je nachdem in welchem Kontext du dich in dem WordPress befindest und wenn das seine Authentisierung und Autorisierung nicht ordentlich macht, dann hat es eben zu viel Zugriff.

Dieses Setup oder dieser Grundgedanke wird jetzt auch bei den KIs wiederholt.

Dass man der KI nämlich sagt, naja, okay, natürlich kriegst du alle Daten, wäre ja auch viel zu anstrengend, dir die nicht zu geben, aber pass mal bitte auf, hier sind Daten,

Da schreiben wir dir jetzt eine Regel, das darfst du den Leuten nicht sagen.

Und dann versucht man in der KI in irgendeiner Weise das Rollenkonzept umzusetzen und hofft, dass sie sich dran hält.

Das geht natürlich regelmäßig schief.

weil die Grundanforderung dafür eigentlich ist, dass du die Daten, die die KI da so zugreift, vernünftig labelst.