В данном интервью Адам Марблстоун анализирует ключевые различия между человеческим мозгом и искусственным интеллектом, указывая на биологические механизмы, которые ИИ пока не может воспроизвести. Основная гипотеза автора заключается в том, что эволюция создала в мозге сложную систему целевых функций, где «рулевая подсистема» (древние структуры мозга) задает инстинктивные цели и правила обучения для коры. В отличие от современных нейросетей, предсказывающих следующий токен, мозг работает как система всенаправленного вывода, способная гибко прогнозировать любые переменные. Марблстоун подчеркивает необходимость развития коннектомики — детального картографирования нейронных связей — для того, чтобы перенести биологическую эффективность обучения в цифровые системы. Также обсуждается роль формальной верификации и языка Lean в автоматизации математики и создании программного обеспечения с доказуемой безопасностью. Итогом беседы становится вывод о том, что понимание архитектуры и алгоритмов обучения мозга критически важно для создания безопасного и мощного общего искусственного интеллекта (AGI).

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related