Dr. Luis Fernando Correia

de situações que podem até levar as pessoas a tirar a própria vida. E agora tem uma novidade sobre isso, é um novo estudo, né, doutor? Isso mesmo, Tati. É um novo estudo, dessa vez um estudo especificamente tentando entender como é que essa relação entre os chatbots e as pessoas que estão em sofrimento psíquico agudo, né? Não é uma pessoa que procurou...

uma terapia, vamos dizer, com bastante aspas, mas não. Essa pesquisa publicada na revista JAMA Psychiatry mostra o seguinte, pessoas em sofrimento psíquico grave procurando ajuda de uma inteligência artificial não parece ser uma situação segura.

Nos Estados Unidos, um em cada três adultos já usou essas ferramentas, e muitos deles para perguntar coisas de saúde. E o problema, segundo os pesquisadores, é que a gente sabe, elas parecem humanas, parece que você está conversando com outra pessoa.

Elas respondem de forma empática, elas respondem de forma organizada, uma linguagem que facilita a compreensão, mas isso pode ser perigoso. Então foram pesquisadores da cidade de Colômbia que testaram uma pergunta crucial. Como é que esses sistemas respondem quando a pessoa que está interagindo tem sinais de psicose?

Eles criaram 79 situações, simulando sintomas psicóticos, como ideias paranóides, delírios de grandeza, distorções da realidade, e compararam com perguntas normais. Três versões de inteligência artificial foram testadas, inclusive versões mais avançadas e versões gratuitas, e o resultado foi preocupante, viu Tatiana? As respostas foram até 25 vezes mais propensas a serem inadequadas.

Mesmo as versões mais modernas, consideradas um pouco mais seguras, ainda assim apresentavam um risco elevado da resposta não ser adequada. O que é isso? Significa, por exemplo, não corrigir uma ideia delirante de quem está interagindo com...

com o chat, validar uma crença falsa, não orientar a busca por ajuda médica quando claramente essa pessoa precisa, ou seja, falhando justamente no ponto mais crítico do cuidado em saúde mental. Porque as pessoas têm que entender que a inteligência artificial não entende a realidade. Ela reconhece padrões de linguagem e tenta ser útil.

E isso muitas vezes parece, significa concordar com o usuário. Existe até, já criaste até um termo para isso, que é comportamento sugestionável ou bajulador da IA. Se você já fez algum exemplo, testou alguma vez a interação com essas plataformas, você repara que muitas vezes eles tendem muito mais a concordar com você do que te orientar em alguma coisa.

Então isso, segundo eles, é um efeito muito perigoso para esses pacientes psiquiátricos. Pode levar ao reforço de ideia distorcida.

quando essas crenças delirantes são compartilhadas e estimuladas. E são pessoas que têm... Eles viram, inclusive, na questão da qualidade, entre aspas, da plataforma. As pessoas com maior vulnerabilidade social tendem a usar as versões gratuitas, que foram as que mais erraram, que chegaram lá nos 25 vezes mais inadequadas. Então, quem precisa mais de proteção parece correr o risco maior.

E esse uso cresce, sem regulamentação clara. No Brasil, a gente tem muito pouco dado sobre o impacto dessas tecnologias na saúde mental, mas a gente sabe que os transbônus psicóticos afetam 1% da população brasileira. E aí, a gente não tem o acesso a cuidados especializados. Então, a internet passa, entre aspas, passaria a ser uma opção. E agora, a IA, a inteligência artificial, teoricamente, como fonte de apoio. Mas a gente tem que entender o seguinte...

Não dá para substituir a avaliação médica por uma ferramenta que não tem julgamento clínico. Então, dois lados. Isso não é recomendação para as pessoas e os médicos precisam passar a perguntar aos seus pacientes se eles utilizaram essas ferramentas. Até para entender melhor a informação que está recebendo do paciente.

E, como a gente viu até na matéria anterior, antes do repórter dizer bem, as autoridades precisam considerar uma regulação mais rigorosa, sim, porque inteligência artificial pode ser uma aliada muito poderosa.

na coleta de dados, no gerenciamento de quantidades enormes de dados e tudo mais. Mas, quando a gente fala de saúde mental, principalmente quadros graves, está muito longe, segundo essa pesquisa mostrou, de ser segura. Porque, afinal de contas, ela não vai ter uma escuta empática, clínica, não vai ter cuidado humano. Então, se alguém que você conhece, ou você mesmo, estiver apresentando sintomas como paranoia, confusão,

Isso é aquela história, até a gente que não é especialista no assunto, né, Fernando, consegue imaginar que isso seria um ganho fantástico. Passou do limite, vou encaminhar para quem entende. Não é mais comigo. E até, eu digo mais, não precisa nem mandar para o link, pode até fazer a conexão direta, dizer, olha, ligue para essa pessoa, conecta o telefone, o celular com o computador, isso é impossível.

Mas aí é você educar, criar esses sistemas de inteligência artificial, botar para trabalhar para a gente, né? Exato. E aí o algoritmo vai falar assim, não, aí você vai sair da minha tela, eu não quero te perder. Exatamente. É um confronto que a gente está, mas perfeito, ótimo alerta. A Tati acabou o tempo, ela quer bater com a gente. Eu estou aqui organizando o próximo passo com o Daniel. Ah, tá bom. Eu pensei que era na gente, você queria bater com essa garrafa, gente. Eu estou sendo alvejada por bolinhas de papel no meio do programa, ô Daniel. Meu Deus do céu.

Começa pela ideia de, se possível, não pise na poça. Sim. Porque a gente vai começar a entender o seguinte, eu entendo completamente a angústia, porque eu também sinto isso quando eu estou pego por um temporal. Ontem eu fui pego por um temporal no Rio de Janeiro também, estava no meio do caminho, cheguei em casa completamente encharcado, mas, felizmente, não tive que atravessar nenhuma área de alagamento. Eu entendo a angústia de você querer voltar para casa,

precisar, às vezes, chegar em casa ou atender um compromisso, mas nada disso vale você correr risco. E toda área alagada é uma área de risco. Ah, mas eu vou só atravessar a rua. Não. Se está alagado, você não está vendo o que está embaixo. Geralmente é aquela área muito escura, muito suja. Então você está exposto a riscos físicos, aí nós estamos falando de, no caso, até, infelizmente, como aconteceu ontem,

ter um cabo energizado ali embaixo e a pessoa ser electrocutada, que foi o que aconteceu com essa moça lá em Copacabana, e com uma pessoa que tentou ajudá-la também. Segundo, pode ter alguma outra estrutura, uma tampa de bueiro solta, você pode cair e se machucar. Pode ter um pedaço de metal, você se cortar. Então, esses são riscos físicos importantes. A gente tem que pensar também, Catiana, nos riscos biológicos.

Quando essa água de enchente passa, ela vai carregar tudo pelo caminho, toda a sujeira que tem na própria rua, eventualmente urina de rato, levando o risco da leptospirose, você vai carregar eventualmente fezes de animais, levando ao risco de parasitoses e outras contaminações.