Javier Lacort

Si ese sistema comete lo que en un humano llamaríamos un crimen de guerra, ¿quién va a responder?

¿Va a responder el ingeniero que escribió esa parte del código en una oficina del ECE de San Francisco hace dos años sin tener ni idea de que esto iba a acabar siendo usado para esto?

¿Va a responder el general que activó el sistema esa mañana?

¿Va a responder el presidente que firmó la orden?

¿Va a responder la empresa que vendió el modelo?

¿Quién responde en ese escenario?

El derecho internacional humanitario, como tantas otras cosas, fue escrito mucho antes de la IA, mucho antes de la informática, pensando en seres humanos que toman decisiones, en personas identificables.

Ahora la IA difumina muchísimo esa cadena y la hace borrosa, la fragmenta y hace que sea imposible atribuir decisiones con precisión.

Y los marcos legales que tenemos hoy no creo que sepan bien qué hacer con eso.

Nadie los ha actualizado para ese escenario y quizás nadie sabe muy bien cómo hacerlo.

Y esto no es una cosa teórica, porque en Ucrania, que lleva por cuatro años de guerra, ya hay drones semiautónomos en combate.

Es decir, este debate sobre cuánta autonomía entregarle a un sistema armado no es un debate superfuturista.

Esto ya está pasando.

Esto no es una cosa para las guerras que hay en los años 30 o 40, sino que esto ya ocurre ahora mismo.

Y hay otro flanco, que os he dicho antes que luego entraba, que es igual menos espectacular, pero también es importante, que es el de la vigilancia masiva, que es la otra línea roja que pone Anthropic.

Los estados democráticos históricamente han tenido una capacidad muy limitada de monitorizar a sus ciudadanos, no por falta de ganas, sino porque físicamente no era posible llegar a ciertos niveles.

Al final, procesar millones de conversaciones y clasificarlas y conectarlas, identificar patrones, todo eso siempre ha requerido recursos humanos que nadie tiene.

Digamos que la ineficiencia del Estado siempre ha sido de alguna forma una protección informal para el ciudadano.

La IA elimina buena parte de esas limitaciones porque lo que antes parecía imposible por falta de medios se vuelve una cosa rutinaria y muy barata.

Y tener millones de conversaciones procesadas en tiempo real, clasificadas, cruzadas...