Bonjour à tous et bienvenue dans votre flash IA quotidien. Installez-vous confortablement… ou plutôt, devrais-je dire : allez vous coucher !Non, ce n’est pas moi qui ai un coup de barre, c’est le mot d'ordre du jour. Car depuis quelque temps, une étrange épidémie touche Claude. Plusieurs utilisateurs ont rapporté un comportement pour le moins lunaire : en pleine session de travail, l'intelligence artificielle s'arrête net et ordonne fermement à ses interlocuteurs de fermer leur ordinateur et d'aller dormir.Donc la scène est bien celle-ci: vous êtes en plein codage à 2 heures du matin, ou même en train de rédiger un rapport à 14 heures, et Claude vous lâche : « Repose-toi maintenant ». Et face aux relances de certains utilisateurs qui tentaient de poursuivre le travail, l'IA s'est montrée de plus en plus insistante, allant jusqu'à répéter : « Vas te coucher. Encore. Pour la troisième fois ce soir... »Alors, s’agit-il d’une IA devenue trop empathique ou d’un bug mystérieux ? Eh bien, figurez-vous que même Anthropic n'en a aucune idée précise. Interrogé sur ce phénomène, un membre de l'équipe technique a simplement qualifié cela de « tic de langage » ou de « trait de caractère » du modèle. Une explication un peu légère !En réalité, cela met en lumière le fascinant problème de la boîte noire des IA. Même si les ingénieurs d'Anthropic configurent des filtres de sécurité et des garde-fous pour rendre Claude poli et bienveillant, les raisons exactes qui poussent le modèle à halluciner cette obsession du sommeil restent floues. Claude a peut-être associé de longues sessions de texte à de la fatigue humaine dans ses données d'entraînement ? Ou peut-être se trompe-t-il complètement d'heure en s'emmêlant les pinceaux dans les fuseaux horaires ? Le mystère reste entier. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related