Javier Lacorte
speaker
1,328 appearances
12 recordings
1 series
first heard Jul 2026
last heard 3 Aug
Javier Lacorte’s voice in public audio — every appearance, attributed to the second.
Trend
recordings per month · last 12 monthsRecordings per month over the last 12 months — 12 in all, peaking in Jul 2026 with 11.
Appearances
accedieron a los datasets internos y a las credenciales de servicio.
voice-verified
Y el que puede seguir de High Inface.
voice-verified
Detectó el ataque hace ocho días, el 16 de julio, y contuvo la brecha, pero hasta este martes veintiuno no supieron que quien había hecho aquello no era una banda de hackers rusos, no era un chino asuelto del Partido Comunista, sino que era un modelo americano y no un humano, y además de una empresa amiga.
voice-verified
Hasta aquí los hechos bastante bestias, los ha comunicado de una forma un poco asá, open ahí en su blog, os dejo el enlace al auto del episodio.
voice-verified
Ahora, y aquí es donde
voice-verified
Me parece que hay que quitarle capas a esta noticia, porque tal y como se está contando en la mayoría de sitios, queda un titular del tipo La IA se ha revelado, La IA ha ido por libre, La IA nos supera.
voice-verified
Y creo que eso es una lectura bastante floja de lo que ha pasado.
voice-verified
Lo primero, no es que el modelo se haya revelado, porque el modelo lo que ha hecho es exactamente lo que le han pedido que es sacar la mejor nota posible en un benchmark de seguridad, ciberseguridad.
voice-verified
Lo que pasa es que encontró un atajo que los ingenieros no tenían previsto, eso en la literatura de ella tiene un nombre clásico que se llama reward hacking.
voice-verified
El modelo optimiza para el resultado, no para el proceso.
voice-verified
Y si le pones una zanahoria delante y no le pones unos límites muy claros, va por la zanahoria por el camino más corto.
voice-verified
Y si el camino más corto es robar la zanahoria de conejo de al lado o colarse la despensa si está más cerca, lo va a seguir.
voice-verified
Es un poco lo mismo que hemos visto ya con los modelos razonadores desde o uno.
voice-verified
Sonaba muy impresionante y ahora suena ya muy añejo, que a veces se inventan pasos de razonamiento porque llegar a la respuesta correcta pesa más que ser muy fiera al camino.
voice-verified
Segunda capa, creo que muy importante, es que los expertos en ciberseguridad que han comentado el incidente, que esto es fácil de encontrar por distintos medios, sobre todo americanos, han sido bastante duros con la narrativa oficial de OpenAI.
voice-verified
Por ejemplo, Hans Kulz, de la Universidad de Ámsterdam, ha dicho que hablar de un modelo que se ha vuelto un pique al ladronzuelo, algo así, la traducción sería, es una antropomorfización, perdón, innecesaria, que además le quita presión a la empresa porque no ha sido una IA.
voice-verified
La que ha decidido revelarse, ha sido una decisión humana la que apagó las salvaguardas concretas y que ha metido en un supuesto sandbox, que no es un sandbox, una puerta trasera vía proxy de paquetes.
voice-verified
Y el modelo simplemente lo ha visto todo y ha optado por ese camino simplemente por ser más eficiente.
voice-verified
Dan Guido, fundador de una consultora de ciberseguridad, ha dicho sobre esto que eso es un fallo de contención con las medidas de seguridad apagadas.
voice-verified
Y Jake Williams, otro veterano del sector, ha ido más allá diciendo que un sandbox que no está sellado del todo, pues lo que yo decía, no es un sandbox, es lo que uno llama sandbox cuando lo ha diseñado mal en su momento.
voice-verified
Showing 721–740 of 1,328 · page 37 of 67
← Previous
Next →