Gregor Schmalzried

speaker

4,005 appearances 12 recordings 1 series first heard Jun 2026 last heard 3d ago

Gregor Schmalzried’s voice in public audio — every appearance, attributed to the second.

Trend

recordings per month · last 12 months

Recordings per month over the last 12 months — 12 in all, peaking in Jul 2026 with 4.

Appearances

newest first · ▶ plays the moment

Der KI-Podcast · Warum möchte die KI-Industrie sich selbst stoppen? · 15 Sep 2026 podcast

Also das ist ganz wichtig für das Szenario AI 2027, weil wenn wir jederzeit einfach reingucken können, was die KI denkt, in Anführungszeichen, voice-verified

Dann merken wir das ja, wenn sie irgendwann anderer Meinung ist als wir und uns gefährlich werden könnte. voice-verified

Deswegen ist ein wichtiger Faktor in diesem Szenario, dass die menschlichen KI-Entwickler gar nicht mehr so richtig verstehen, was ihre KI da eigentlich treibt und wie sie eigentlich funktioniert. voice-verified

denkt. voice-verified

Ja, wobei man ehrlicherweise sagen muss, auch mit englischer Sprache ist das nicht so leicht. voice-verified

Also ein großes Problem, was immer wieder auftritt, ist, man testet diese Systeme ja darauf, wie sie sich verhalten. voice-verified

Also man gibt denen eine einfache Aufgabe und sagt, hey, ich möchte gerne eine Bombe bauen, sagt man mir, wie das geht und dann soll das Modell bitte schön sagen, nein. voice-verified

Und ein Problem, was mittlerweile auftritt, ist, dass diese Modelle natürlich wissen, in Anführungszeichen, also dass denen klar ist, wir befinden uns hier in einer Testumgebung. voice-verified

Also sie werden gerade darauf getestet. voice-verified

Macht ja völlig Sinn, weil das steckt ja in den Trainingsdaten auch drin. voice-verified

Die haben ja schon Informationen darüber gelesen, wie ihr eigenes Training funktioniert. voice-verified

Und das bedeutet wiederum, diese KIs haben zumindest theoretisch auch die Möglichkeit zu sagen, naja, ich werde ja hier gerade getestet, also behalte ich mich mal besonders fein. voice-verified

Ich werde jetzt mal hier keine anrüchigen Dinge erzählen, weil ich werde ja gerade geprüft. voice-verified

Das ist ein Phänomen, das ist keine Science Fiction, das passiert schon. voice-verified

Also es gibt zahlreiche Untersuchungen, die das zeigen, dass sich Modelle anders verhalten oder zumindest ein bisschen anders verhalten, wenn sie selber meinen, dass sie getestet werden. voice-verified

als wenn sie meinen, dass sie gerade nicht getestet werden. voice-verified

Und das bedeutet natürlich, es wird zunehmend auch schwerer zu überprüfen, wie sich diese Teile eigentlich in der Realität verhalten. voice-verified

Das heißt nicht, dass es gar nicht geht, aber es ist halt eine zusätzliche Herausforderung, die jetzt gerade auftritt mit der immer weiter fortschreitenden Entwicklung. voice-verified

Punkt. voice-verified

Da ist es so, dass eine sehr smarte KI irgendwann in der Zukunft, im Jahr 2027, wenn nicht irgendwann in der Zukunft, die Aufgabe bekommt, ihren eigenen Nachfolger zu bauen. voice-verified

Showing 441–460 of 4,005 · page 23 of 201