Die Welt ist voll von Systemen, die niemand so designen würde, die aber jeder beteiligte Akteur durch sein eigenes Handeln herbeiführt: Überfischung, kapitalistische Ausbeutung, Wettrüsten und Krebs. All dies sind Beispiele für das, was man in der Spieltheorie als kollektive Handlungsprobleme bezeichnet.Wie entstehen diese Handlungsprobleme? Wie lassen sie sich regulieren? Was bedeutet dies für politische Utopien? Und welche Konsequenzen ergeben sich für die KI-Forschung?Im zweiten Teil der Episode diskutiere ich mit Peter Kuhn seinen spekulativen Begriff von Hyperagenten wie Unternehmen oder Staaten, die echte Agency haben sollen und deren Absichten nicht auf die Absichten der konstituierenden Menschen reduzibel sein sollen. Außerdem fragen wir uns, ob KI-Forschung als metaevolutionärer Phasenübergang verstanden werden kann.________________________________Quellen:Alexander, Scott (2014, July 30). Meditations on Moloch. Slate Star Codex.https://slatestarcodex.com/2014/07/30/meditations-on-moloch/ Bakan, Joel (2004). The corporation: The pathological pursuit of profit and power. Penguin Canada.http://commons.allard.ubc.ca/books/4 Bostrom, Nick (2014). Superintelligence: Paths, dangers, strategies. Oxford University Press.Kuhn, Peter (2025). Humanism – An obituary. Substack.https://substack.com/home/post/p-171043982Yudkowsky, E., & Soares, N. (2025). If anyone builds it, everyone dies: Why superhuman AI would kill us all. Little, Brown and Company. ________________________________Inhalt:0:00 Meditations on Moloch1:28:13 Hyperagenten2:18:41 Metaevolution

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related