Anthropic ha introdotto un watermark “invisibile” nei testi generati da Claude: una filigrana statistica che sopravvive al copia-incolla e che, con una chiave segreta, permette di stimare se un brano provenga dal modello. L’idea (attribuita allo schema proposto da Scott Aaronson) agisce durante la scelta delle parole: tra alternative quasi equivalenti, il modello viene spinto a selezioni coerenti con una funzione crittografica basata sul contesto recente. A parole sembra la soluzione al problema della trasparenza, anche in risposta alle richieste dell’AI Act UE e al cosiddetto Bruxelles Effect.Il punto però è che la filigrana è forte soprattutto nei “casi puri” (testo generato da zero e pubblicato tale e quale) e diventa debole proprio nei casi reali: correzioni leggere di stile e grammatica, documenti ibridi a strati (parti umane + parti IA), o semplici trasformazioni che spezzano la finestra di contesto. Inoltre nei testi a bassa entropia—definizioni tecniche, formule, diritto, e spesso anche codice—c’è meno libertà lessicale e il watermark è strutturalmente più fragile.Resta il nodo politico: chi controlla la chiave e la soglia di rilevazione controlla anche l’attribuzione. Senza numeri pubblici su falsi positivi e soglie minime, il “rilevato dal watermark” rischia di diventare un sospetto vestito da prova, con conseguenze concrete in scuole, redazioni e tribunali.00:00 La firma invisibile di Claude02:05 Come funziona il watermark04:00 AI Act e Brussels Effect06:15 Cosa c’è di buono07:40 Correzioni e casi ibridi10:12 Traduzioni e definizioni ambigue12:54 Come distruggerlo facilmente15:01 Chiave segreta e rischi#Claude #Anthropic #AIACT~~~Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo FloraINFO E AZIENDE: https://matteoflora.comIl CORSO di AI: https://zero.matteoflora.comNewsletter: https://link.mgpf.it/nlSocial: https://io.matteoflora.comEnglish: https://www.youtube.com/@CiaoInternetPrivacy » https://privacy.matteoflora.comAI Policy » https://privacy.matteoflora.com/aiMail #adv: sales (at) matteoflora.com

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related