Sommaire : 0:00:00 - Peux-tu te présenter et nous expliquer ce qui t'a amené à t'intéresser à la sécurité de l'IA ? 0:02:56 - Peux-tu nous présenter ton organisation et ses missions principales en matière de gouvernance de l'IA ? 0:07:45 - Peux-tu faire un état des lieux des capacités actuelles des intelligences artificielles ? 0:18:06 - Quelles sont les capacités actuelles des IA qui posent déjà des enjeux concrets en matière de sécurité ? 0:21:49 - Votre organisation a publié un audit de sécurité des laboratoires d'IA, quels sont les meilleurs et les moins bons élèves ? 0:24:24 - Comment la course pour être le premier à développer une AGI influence-t-elle la négligence de la sécurité ? 0:35:10 - Est-il probable que les États-Unis finissent par nationaliser l'industrie de l'IA pour des raisons de sécurité nationale ? 0:36:48 - Quelles sont les estimations actuelles sur l'arrivée d'une IA de niveau général humain (AGI) ? 0:39:38 - Pourquoi vouloir créer des IA générales plutôt que des IA spécialisées surpuissantes pour résoudre des problèmes spécifiques (médecine, énergie) ? 0:40:42 - Comment expliques-tu le concept de risque existentiel à des personnes qui ne sont pas familières avec le sujet ? 0:49:14 - Pourquoi développons-nous des intelligences plus fortes que nous, alors que nous savons que cela comporte des risques ? 0:52:21 - Même si les IA deviennent très puissantes, le passage du 'software' au 'hardware' ne va-t-il pas ralentir leur impact sur le monde réel ? 0:58:56 - Quel sera l'impact sur les emplois et la société si l'IA automatise la plupart des tâches humaines ? 1:02:22 - Y a-t-il un risque que tout se passe bien jusqu'à ce que tout se passe mal, avec des IA qui cacheraient leurs véritables intentions ? 1:04:30 - Comment expliques-tu le désaccord profond entre experts, certains alertant sur les risques existentiels et d'autres les rejetant complètement ? 1:10:55 - Où en sont les tentatives de régulation, notamment avec l'AI Act européen, et est-ce suffisant ? 1:15:26 - Pourrait-on réguler la chaîne d'approvisionnement, par exemple en traquant les puces les plus puissantes ? 1:19:13 - Est-ce qu'il faudra attendre un accident ou une catastrophe majeure pour que des régulations sérieuses soient mises en place ? 1:23:05 - Les 'agents IA' autonomes ne pourraient-ils pas causer un accident en se répliquant de manière incontrôlée, comme un virus informatique ? 1:26:36 - Que penses-tu du rapport prospectif 'AI 2027' et de son scénario d'accélération exponentielle ? 1:31:44 - Comment des expériences récentes prouvent-elles que les IA peuvent déjà feindre l'alignement pour ne pas être modifiées ? 1:45:41 - Y a-t-il un risque que nous créions des consciences artificielles capables de souffrir et de les enfermer dans des "enfers numériques" ? ----------------------------------------------------------------- ✍️ QUI EST DERRIÈRE CE CONTENU ? ☕ ➡ Production : The Flares - https://the-flares.com ➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/ ----------------------------------------------------------------- 💡 SOURCES & RÉFÉRENCES 💡 ➡ Site de Safer AI : https://www.safer-ai.org/ ➡ Classement des labo d'IA en matière de sécurité : https://ratings.safer-ai.org/ ➡ Site d'Henry Papadatos : https://henrypapadatos.com/ ➡ Scenario AI 2027 : https://ai-2027.com/ Dans cet épisode de la Prospective, nous accueillons Henry Papadatos, expert en gestion des risques de l’IA et Directeur Général de SaferAI. ⬇️ Lisez la suite ici ⬇️ https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/course-a-lia-course-vers-precipice-henry-papadatos-saferai-risque-extinction/

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related