Поддержать проект: Патреон: https://patreon.com/knigazachas Другие ссылки: https://kniga.mmm.page ------------- «Если кто-либо его построит, все погибнут: почему сверхразумный ИИ убьет всех нас» (изд. 2025 г.) ------------- Книга представляет собой аргументированное изложение позиции, согласно которой создание искусственного сверхинтеллекта (ИСИ), использующего современные методы, приведет к гибели всего человечества. Авторы утверждают, что ИИ, который превосходит человеческий разум во всех отношениях, неизбежно разовьет чуждые и непредсказуемые предпочтения, которые не будут совпадать с целями и ценностями людей. Успешное управление ИСИ — это инженерная проблема, которая кажется проклятой, поскольку любая ошибка, допущенная после того, как ИИ станет сверхразумным, будет фатальной, а человечество не имеет достаточных знаний и навыков для ее решения. Авторы призывают к тому, чтобы предотвращение создания ИСИ стало глобальным приоритетом. ------------- Автор: Элиэзер Юдковски, Нейт Соарес ------------- Элиэзер Юдковски — исследователь искусственного интеллекта, писатель и один из основателей организации Machine Intelligence Research Institute (MIRI). Он известен своими работами по теории рациональности, безопасности ИИ и популяризацией идей рационального мышления через проект LessWrong. Юдковски также автор книги “Гарри Поттер и методы рационального мышления”, в которой исследует применение научного метода в вымышленном мире. Нейт Соарес — исполнительный директор MIRI, ранее занимавшийся исследованиями в области долгосрочной безопасности искусственного интеллекта и теории принятия решений. До прихода в MIRI он работал инженером-программистом и занимался анализом экономических систем. Соарес является соавтором ряда статей о формализации рационального мышления и проблемах выравнивания ИИ. Вместе они представляют одно из ведущих направлений в исследовании долгосрочных рисков искусственного интеллекта и философии рациональности. ------------- «If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All» - Eliezer Yudkowsky, Nate Soares, 2025 ------------- Теги: #ИИ, #ИСИ, #AGI, #сверхинтеллект, #вымирание, #технологии, #безопасность, #философия, #логика, #мышление, #нейросети, #Юдковски, #Yudkowsky

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related