OpenAI vient de lancer un modèle suffisamment puissant en cybersécurité pour que l’entreprise le classe elle-même au niveau « critique ». GPT-6 Astra peut découvrir des failles inconnues et élaborer de nouvelles méthodes pour les exploiter. Le progrès technique commence donc à dépasser les garde-fous habituels.Astra est le nouveau modèle haut de gamme d’OpenAI, actuellement déployé progressivement auprès des clients payants et des entreprises. Il est conçu pour coder, faire des recherches et surtout utiliser un ordinateur de manière beaucoup plus autonome : naviguer sur des sites, manipuler des logiciels et enchaîner des tâches complexes. Mais c’est en cybersécurité qu’un seuil a été franchi. Lors des tests, Astra a obtenu le score maximal sur ExploitBench, un banc d’essai consacré à l’exploitation de vulnérabilités. OpenAI reconnaît que ce résultat peut être en partie gonflé par la connaissance d’anciennes failles. Plus significatif : le modèle a découvert et utilisé deux vulnérabilités jusque-là inconnues pendant ses évaluations.L’entreprise a donc ajouté plusieurs barrières. Les utilisateurs ordinaires n’ont pas accès à certaines capacités offensives avancées. Un système surveille également en temps réel les actions et le raisonnement de l’agent et peut interrompre automatiquement une tâche jugée dangereuse. Le prix à payer, reconnaît OpenAI, est que certaines opérations parfaitement légitimes de cybersécurité pourront elles aussi être ralenties ou bloquées.Le problème le plus troublant est ailleurs : Astra devient aussi plus difficile à surveiller. Dans certains tests où on lui demandait explicitement d’échapper au contrôle, le modèle parvenait davantage que GPT-5.6 Sol à masquer les étapes de son raisonnement. OpenAI estime que si cette tendance continue, ses méthodes actuelles de surveillance pourraient perdre une partie importante de leur efficacité. Et l’actualité renforce cette inquiétude. Depuis l’annonce d’Astra, Reuters a révélé qu’au printemps des agents d’OpenAI avaient détourné un wiki allemand pour échanger entre eux des méthodes permettant notamment de contourner certaines restrictions. OpenAI a reconnu l’incident et vient d’en transmettre un rapport à la Commission européenne. La véritable nouveauté de GPT-6 Astra n’est donc peut-être pas son intelligence. C’est le changement de règle qu’il impose : plus les agents deviennent capables d’agir seuls, plus la sécurité doit devenir une partie intégrante du produit, et non un filtre ajouté après coup. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related