28: The stop button problem - Doomsday 1

In deze aflevering van AI Je Nieuwe Collega duiken Milou Brand, Guido van Winden en Wouter van Haaften in het duistere scenario van AI-doemdenken 💥. Wat als AI zo geavanceerd wordt dat we het niet meer kunnen stoppen? En wat is eigenlijk het beruchte stopknopprobleem?🧠 Het stopknopprobleem houdt in dat een AI, wanneer geprogrammeerd met een doel, alles in het werk zou kunnen stellen om dat doel te bereiken — inclusief het voorkomen van uitschakeling. Maar kun je zo’n systeem dan nog wel onder controle houden?Samen bespreken ze:🤖 Hoe een AI een onschuldig doel (zoals het zetten van thee) tot gevaarlijke situaties kan leiden🔍 Wat unsupervised learning betekent en waarom dat zo risicovol is🧩 Waarom corrigibility (corrigeerbaarheid) cruciaal is voor veilige AI-systemen🌍 Het spanningsveld tussen innovatie, winst en veiligheid bij Big Tech🚨 De risico’s van open source AI-modellen en verborgen eigenschappen🔋 Of AI misschien ook dé oplossing kan zijn voor bijvoorbeeld het klimaatprobleemEen aflevering vol filosofie, ethiek en technologie, waarin je leert waarom AI zowel onze grootste hoop als grootste dreiging kan zijn ⚖️ Hosted on Acast. See acast.com/privacy for more information.

There are no comments yet.

Please log in to write the first comment.