Linus Neumann

Authentisierung, Autorisierung prüfen und auch zentral nachschärfen kann und an der man an einer Stelle kontrollieren kann.

Also du hast einen architektonischen Vorteil, dass sich deine Kontrollen nicht dezentral über irgendwelche Requests in einem Netzwerk bewegen, aber die Komplexität von Zugriffsrechten, Zugriffen und Rollen

Wird unglaublich schnell so kompliziert, dass du da am laufenden Band Probleme hast.

Und das Beispiel, was wir hier haben, ist ja nur eine Web-App.

Da hast du ja wenigstens noch einen endlichen, also eine endliche Anzahl von Regeln, die du prüfst in einer gegebenen Situation.

Und da kriegst du schon nicht hin, wo es ein formal...

endlicher, also zumindest theoretisch endliche Menge an Regeln ist, die in unterschiedlichen Kontexten zum Tragen kommen.

Also die gesamte Web-App ist ja immer noch deterministisch.

Also jetzt hast du aber eine KI und du weißt ja gar nicht, in was für Kontexte und Zustände Leute die bringen.

Wo du jetzt sagst, okay, ein Nutzer vom Stande der normalen Mitarbeiterinnen darf niemals die Quartalszahlen sehen.

Und du hast aber relativ schnell eine, dass du sagst, wenn das Haus brennt, muss der Nutzer hier raus oder so.

Dass du sehr schnell in Situationen kommst, wo du den Kontext nicht mehr vollständig überblicken kannst.

Und das ist wirklich eine große Herausforderung, die ich glaube, die wirklich, weil ja erkennbar nun eigentlich,

die Zeit, Zeiten vorbei sind, dass wir Programme schreiben und das ist gerade alles vorbei, das sind hier die Beispiele, dass die Leute bei McKinsey hingehen und sagen, was kostet hier, zack, alles klar, kipp drauf, zack, bumm, machst eine Django-App davor oder was und dann gib ihm, ja?

Das findet gerade überall auf der Welt statt.

Und tatsächlich glaube ich, dass jetzt wirklich IT-Sicherheit und Security, Safety, Qualitätskontrolle, all das, das muss jetzt noch sich entwickeln, was die brauchbaren Controls in diesen Situationen sind.

Ich glaube, dass die Lösung sein wird, dass du wiederum zwischen das, was die KI macht und die Daten im Prinzip wieder irgendwelche Controls machst, APIs denen gibst, auf denen du monitorst und guckst, okay, was haben wir am einen Ende, was macht die gerade, darf die das überhaupt, ergibt sich das gerade aus dem Kontext?

Aber eine...

belastbare Implementierung, die universell funktionieren kann, wie man das immer noch gerade zumindest theoretisch hinkriegt mit deterministischen Systemen, wo es ja auch schon nicht klappt.

Und das sehe ich jetzt für nicht-deterministische AIs umso weniger.