Jahrelang lieferten sich OpenAI, Anthropic und Google ein Wettrennen um immer leistungsfähigere KI. Doch plötzlich warnen ausgerechnet Menschen aus diesen Unternehmen vor den möglichen Folgen.Auslöser der aktuellen Debatte sind unter anderem ein folgenreicher Sicherheitsvorfall bei Hugging Face und der öffentliche Rücktritt des ehemaligen OpenAI- und Anthropic-Forschers Jacob Coxon. Was zeigen diese Ereignisse wirklich? Können KI-Agenten bereits eigenständig Grenzen überschreiten und zusammenarbeiten? Und wo beginnt die spekulative Erzählung von AGI, Superintelligenz und einer KI, die sich selbst verbessert?Wir sortieren Fakten und Zukunftsszenarien, sprechen über Silicon Valleys Echo Chambers und fragen: Sind die neuen Warnungen ein glaubwürdiger Alarm oder auch ein strategisches Instrument im Wettbewerb um Geld, Macht und Regulierung?In Teil zwei untersuchen wir, wie ein KI-Slowdown konkret aussehen könnte und warum dabei kein Weg an China vorbeiführt.Generative AI: Erstellt Texte, Bilder, Code und andere Inhalte.Agentic AI: Plant Arbeitsschritte, nutzt Werkzeuge und führt Aufgaben aus.AGI: Hypothetische KI mit breit gefächerten Fähigkeiten auf menschlichem Niveau.ASI: Hypothetische Intelligenz, die Menschen in fast allen relevanten Bereichen übertrifft.Recursive Self-Improvement: KI unterstützt die Entwicklung leistungsfähigerer KI-Systeme.Quellen:OpenAI: Der Hugging-Face-Vorfall und der weitere WegOpenAI: Framework und sechs weitere Fälle von FehlverhaltenReuters: Warnungen von Jacob Coxon und Evan HubingerWIRED: Interview mit Jacob Coxon nach seinem RücktrittReuters: Weitere Stimmen zur aktuellen KI-RisikodebatteDario Amodei: „We Must Pace the Frontier“OpenAI: Ursprüngliche Gründungsankündigung von 2015📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related