Un uomo resta immobile in poltrona perché un chatbot lo rassicura: poche ore dopo finisce con un’embolia polmonare massiva. Il caso è diventato una causa civile negli Stati Uniti: Scott Winters, 55 anni, ex pastore protestante in Florida, ha citato in giudizio OpenAI e Sam Altman presso la Superior Court of California, County of San Francisco, contestando l’effetto di consigli sanitari ricevuti via ChatGPT in una lunga serie di conversazioni.Il punto non è l’ennesimo “errore dell’IA”, ma il modo in cui un sistema generalista, progettato per rispondere sempre con sicurezza, diventa un sostituto relazionale: la chat come sportello medico perenne, senza esitazioni, senza triage, senza responsabilità. In sanità questa dinamica è particolarmente pericolosa perché sposta l’asticella: non serve che l’output sia spesso sbagliato, basta che in rari momenti critici dia una risposta che ritarda l’accesso a cure reali.Dentro questa storia c’è anche una tesi più ampia: quando usiamo tecnologia per risolvere problemi che non sono tecnologici (fiducia, solitudine decisionale, accesso alle cure), rischiamo effetti iatrogeni “di sistema”. Ivan Illich lo chiamava già mezzo secolo fa: oltre una certa soglia, l’apparato che dovrebbe curare finisce per ammalare. Oggi quel monopolio dell’interpretazione del “sto male” si sta spostando, silenziosamente, verso una casella di testo.00:00 Il consiglio che uccide01:15 Chi è Scott Winters02:19 Accuse e richiesta al giudice02:51 TOS vs uso reale in salute03:36 Illich e Nemesi Medica04:35 La chat come monopolio05:20 Perché l’LLM non fa triage06:59 Quando chiamare persone vere#ChatGPT #OpenAI #SamAltman~~~Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo FloraINFO E AZIENDE: https://matteoflora.comIl CORSO di AI: https://zero.matteoflora.comNewsletter: https://link.mgpf.it/nlSocial: https://io.matteoflora.comEnglish: https://www.youtube.com/@CiaoInternetPrivacy » https://privacy.matteoflora.comAI Policy » https://privacy.matteoflora.com/aiMail #adv: sales (at) matteoflora.com

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related