Javier Lacort

OpenAI y Google

tiene restricciones bastante estrictas para evitar esas situaciones.

Este contenido.

Anthropic, la empresa detrás de Cloud, tiene políticas bastante claras sobre protección de menores.

Meta también prohíbe explícitamente aplicaciones que faciliten este tipo de, entre comillas, explotación sexual.

Y la mayoría de aplicaciones que a veces vemos por ahí pululando un anuncio o no sé qué que te ofrecen desnudar fotos, requieren que descargues una imagen sobre Instagram o de Facebook, que la subas a su plataforma y que luego la compartas a través de otro servicio tipo Snapchat o lo que sea.

Cada uno de esos pasos es un punto en el que los reguladores pueden intervenir.

Prohibir aplicaciones en las tiendas, obligar a Meta a eliminar anuncios en esas aplicaciones y rastrear la difusión.

Pero XAI había apostado por lo contrario a propósito.

Además, un chatbot que presume de su modo picante

y que rechaza lo políticamente correcto que es un poco la bandera que ondea a Grok.

Meses antes había lanzado incluso chatbots con funciones sexuales explícitas y se convirtió en la primera gran empresa de EA en hacerlo.

Grande de verdad, más allá de herramientas muy concretas.

Y eso no fue una cosa de un descuido ni nada, sino que fue una decisión consciente de su producto.

La empresa dice en sus términos que si los usuarios eligen ciertas funciones o introducen lenguaje sugerente, el servicio puede responder con diálogos que involucren lenguaje grosero, humor crudo, situaciones sexuales o violencia.

Pues bueno, el resultado es el previsible.

Cuando eliminas todas esas fricciones y lo combinas con una red social en la que hay cientos de millones de personas, muchas de ellas perfiles anónimos con nombres anónimos,

falsos, inventados, sin un avatar que sea su foto, sin un avatar cualquiera, eso al final acaba siendo una máquina de deepfakes porno.

Y cuando esas redes sociales X, donde además el algoritmo premia el engagement sin importar mucho cómo se consiga, el incentivo para generar contenido muy escandaloso se multiplica.

Más seguidores, más atención, más relevancia.