Miedo a la IA, advirtió Elon Musk en 2014, uniéndose a otros líderes de opinión como Steve Wozniak, Noam Chomsky y Stephen Hawking para respaldar una petición contra el desarrollo de armas autónomas. Como afirmó Vladimir Putin en 2017: "Quien lidera la IA, gobierna el mundo". Desde la invasión de Ucrania, muchas cosas que parecían ciencia ficción se han convertido en realidad. En marzo de 2022, un dron kamikaze ruso controlado por inteligencia artificial, conocido como ZALA KYP, fue derribado en Kiev. En respuesta, Estados Unidos suministra sus propios modelos a Ucrania. Empresas privadas donan Internet satelital y software de vigilancia de inteligencia artificial que pueden rastrear cadáveres y saqueadores. Rusia amenaza con golpear al Reino Unido con un torpedo nuclear autónomo, mientras China observa atentamente desde la barrera y potencias emergentes de alta tecnología como Turquía cierran acuerdos con ambas partes. La carrera armamentista de la IA sobre la que los expertos habían advertido durante años ahora es real. No sólo dará forma a las guerras del futuro, sino que también está transformando la forma en que pensamos sobre la seguridad en el “frente interno”, donde la policía y las fuerzas de seguridad privadas están ávidas de nueva tecnología. La IA promete superioridad en todas las categorías de armas, mayor eficiencia y un aumento espectacular de la velocidad operativa. Tan dramático, de hecho, que los observadores temen que los conflictos impulsados por la IA puedan escalar tan rápidamente que los actores humanos no puedan reaccionar a tiempo. Señalan escenarios de los mercados financieros en los que los llamados “fallos repentinos” (desencadenados por algoritmos en competencia) se han vuelto frecuentes, pero siguen siendo poco comprendidos. Ven un peligro real de que la humanidad pierda el control de sus máquinas de guerra. Este documental se sumerge en el inquietante mundo de las armas autónomas. Exploramos por qué es tan difícil enseñar moralidad a una IA y pensamos en formas en que las armas autónomas podrían hacer que las guerras futuras sean más humanas. Y seguimos al ex hacker Alberto Pelliccione hacia un mundo secreto de software espía, contratistas militares y armas cibernéticas vendidas por empresas europeas a regímenes autoritarios. Primero se inventó la pólvora y luego la bomba atómica. Ahora nos encontramos en el umbral de otra dramática escalada en la esfera del conflicto armado.

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related