Jan-Keno Janssen

Wenn man halt so gar nicht sich da die Ärmel hochkrempelt, dann hat man halt gar kein Bewusstsein und weiß so oft auch gar nicht, welche Bibliotheken überhaupt eingebunden sind in das Vibe-Control-Vergebnis.

Gehe ich 100% mit bei dem Take.

Ich hatte auch schon mal vor ein paar Folgen, hatte ich schon mal Shen AI erwähnt, was quasi so ein automatisches AI-driven Pen-Testing-Framework ist, also wo quasi eure Web-App oder eure IT-Infrastruktur

Powered by Cloud auf Schwachstellen überprüft werden kann und die Schwachstellen werden auch direkt exploitet und ihr kriegt quasi nur Benachrichtigungen, wenn die Schwachstellen auch aktiv ausgenutzt werden können in eurer Infrastruktur.

Das ist was, was natürlich, wenn das nicht zum Penetration Testing, also zum Überprüfen der eigenen Infrastruktur verwendet wird, sondern von böswilligen Akteuren, dann geht von sowas natürlich höchste Gefahr aus.

Und es gibt ja auch dieses neue Cloud-Modell, Cloud Mythos, Codename Capybara, spricht auf jeden Fall auch sofort zu mir, die Benennung, was im Moment...

Wo der offizielle Narrativ ist, dass Anthropic das nicht rausgibt an Leute, die außerhalb dieser Security-Bubble operieren, weil sie sagen, dass das so mächtig ist, dass die Gefahr für Cyberangriffe, die davon ausgeht, so hoch ist, dass sie das erstmal nur in dieser Security-Bubble an verifiziert Leute rausgeben, die halt eindeutig positive Akteure sind.

Ja, es gab wohl auch dokumentierte Fälle schon letztes Jahr, wo chinesische Hackergruppen auch Claude verwendet haben, um Infrastruktur in Amerika zu hacken.

Und die hatten auch da so...

Die hatten so Jailbreaks quasi, um die Sicherheitsguardrails von Claude zu umgehen, wo sie irgendwie diese Sandbox da verlassen konnten und dann quasi auch Claude eingetrichtert haben, dass sie irgendwie Penetration Testing oder irgendwas anderes Legitimes machen wollten.

Und dann hat Claude sich da zum Erfüllungsgehilfen gemacht.

Das Problem bei den Open-Rates-Modellen ist vor allen Dingen auch, dass die Leute davon modifizierte Versionen auf Hugging Face hochladen, wo sie zum Beispiel bei Quan 3 auch die Guardrails und die Zensur entfernt haben.

Und das sind ja eh sehr liberale, sehr freie Modelle, die chinesischen Modelle.

Und wenn du da noch das bisschen Zensur, was da drin ist, das auch noch entfernst, dann glaube ich, können die auch ziemlich gefährlich werden.

Ja, auf jeden Fall.

Ja, das ist vor allen Dingen eine riesen PR-Schlappe für Anthropic, die ja von sich selber behauptet haben, dass sie das sicherste AI-Lab der Welt gebaut hätten.

Und die haben jetzt, das war menschliches Versagen halt, die haben eine Map-Datei gepublished mit ihrem NPM, da haben wir schon wieder NPM zum zweiten Mal heute.

haben die einfach eine Map-Datei gepublished und die hat irgendwie... Was ist denn eine Map-Datei?

Eine Map-Datei ist was, was du zum Debuggen von JavaScript verwendest normalerweise.

Und die haben da eine 60 Megabyte große Map-Datei veröffentlicht, wo in 1900 Quell-Files über eine halbe Million Zeilen Code drin waren, im Klartext, also TypeScript quasi, also Typ...