Dr. Felipe Kitamura

Com frequência, o médico continua acertando os 70% que ele acertava antes, mesmo usando uma IA que acerta 90%. Por que isso? Existe um efeito comportamental e cada pessoa se comporta de forma diferente, cada médico se comporta diferente, que é, por vezes, quando eu estou errado e a IA está certa, eu ignoro o que a IA falou e eu acho que eu estou certo.

só que eu estava errado. O contrário também, quando eu estou certo, mas estou um pouco na dúvida, eu vou olhar a opinião da IA, a IA me fala uma coisa diferente, que está errado, e eu confio na IA, nesse caso. Então, como isso pode acontecer, e acontece, tem trabalhos publicados no JAMA, na Nature, mostrando isso, acaba que tem pessoas que acabam melhorando um pouco a acurácia, tem pessoas que ficam no 0 a 0, tem pessoas que pioram a acurácia, inclusive. Então, enfim, vou parar por aqui, porque eu estou falando demais, mas muita coisa aconteceu nesse meio do caminho, é muito legal ver essa evolução e participar disso.

Ótimo ponto esse que você trouxe hoje, como funciona, é a IA é considerada uma ferramenta como qualquer outra. Então, a responsabilidade continua sendo do profissional de saúde quem assinou e carimbou o que era a conduta.

a ser feita, independente se você usou ou não usou IA. Mas isso porque a IA hoje não está sendo usada de forma autônoma, que é o que você começou a mencionar na sua colocação, de a IA meio que tomar a decisão sozinha para algumas coisas. Para a gente ter IA autônoma...

a gente precisa ter essa regulamentação muito bem definida e muito bem estudada. Do tipo, a culpa é de quem se o algoritmo errar? No caso em que o algoritmo é autônomo. É uma discussão relativamente semelhante com a discussão de carro autônomo. Se você tem um carro que tem vários mecanismos de segurança que te avisam que freia antes se você for bater, mas é você que está dirigindo, isso é uma coisa. Se o mecanismo de IA não funcionar, a princípio você já tinha que estar dirigindo de qualquer forma. Ele foi só um...

Um guardrail a mais. Mas a partir do momento que você tem carro nível 5, que não tem nem volante, aí a coisa muda de figura, porque a pessoa não está atuando em absolutamente nada. E aí a responsabilidade é de quem? É do fabricante do carro? Eu não sei na IA como é que seria nesse caso. A gente até tem uma situação de um algoritmo para triagem de radiografia de tórax, que foi aprovado pelo CIMARC na Europa, a Anvisa deles.

Esse foi o primeiro caso de algoritmo que foi aprovado para uso autônomo. Ele não precisa de médico. Se ele olhar a radiografia e disser que a radiografia de tórax está normal, você não precisa passar por um médico. Está normal. O médico não precisa laudar esse exame. Se ele disser que está alterado, aí precisa de um médico para laudar e dizer exatamente o que tem. Só que eu não sei como ficou isso na prática em termos desse risco. E se alguém, de fato, está usando esse produto dessa forma.

Porque você pode contratar o produto e não usar dessa forma. Ainda assim, colocar médicos para olharem os casos normais. Mas eu dividiria dessa forma. A gente não chegou lá ainda. E eu acredito que a gente não tenha resposta para essa situação específica da autônoma que você falou. Dá até um pouco de medo isso. Sem dúvida.

Ótima pergunta. Acho que uma forma interessante de a gente olhar o uso desses modelos é olhar as competições do Kaggle para a área médica e biomédica. E a gente viu lá desde 2016, a maioria dos ganhadores usavam redes neurais convolucionais para análise de imagens.

Quando a gente começou a ter competições, isso para a radiografia, que é a imagem 2D, imagem única por paciente. A partir do momento que a gente tem uma imagem de tomografia, que são vários cortes 2D, e aí você forma um bloco 3D, tem várias formas de você modelar isso. Você pode fazer uma CNN que é 2,5D, que cada um dos canais pega três cortes. Pode fazer uma CNN que é 1D mesmo, ou 2,5D, mas você pega o embedding dessa CNN e coloca isso como entrada de uma LSTM ou qualquer outro modelo sequencial.

E aí depois que veio o Transformers, as pessoas começaram a colocar esse embedding como a entrada do Transformers, passando o positional encoding em seguida e depois para baixo é tudo Transformers. Então a gente começou a ver essas soluções ganhando competições. Usar a VIT mesmo, o Vision Transformer puro, até teve um ou outro ganhador.

Mas talvez isso seja muito mais uma percepção pessoal minha. Dificilmente eu consegui fazer um VIT ganhar de uma CNN. São poucas situações. Mas o VIT tem suas vantagens. Para você embedar ele num modelo de linguagem é muito mais fácil. Ele tem lá a chave, valor, key, query, value.

Ele integra de forma melhor a informação numa LLM. Em termos de segmentação, você comentou UNET. Cara, está para surgir alguma coisa melhor do que UNET ainda hoje. UNET é muito boa, principalmente depois da NNUNET, que é...

Aquele framework que criaram que, de acordo com o seu dataset, ele automaticamente ajusta os parâmetros todos da UNET para você, customizado para o dataset que você tem. É um negócio muito bizarro. NNUNET dá resultados fantásticos. Tem os Foundation Models atuais que estão começando a chegar em uma performance próxima do que você consegue com um aprendizado supervisionado padrão como a UNET.

mas ainda não superou. Mas a vantagem do Transformer, do Foundation Model, baseado em Transformer, é que apesar de você precisar de pré-treinar com uma quantidade absurda de dados, você não precisa de label, então isso é uma facilidade, basta juntar dados, não tem que anotar. E outra coisa é que você consegue atingir aquela performance com uma quantidade de dados anotado muito pouco depois, quando você vai fazer o fine-tuning para cada tarefa.

Então, mais ou menos é isso que eu tenho visto, assim, né? Apesar da empolgação, né? Pô, Transformers, VIT e tal, aí o NET ainda tem seu lugar pra segmentação, sabe? E CNN pra classificação também. Tem várias coisas simples que, putz, mais fácil treinar uma CNN, mais rápido, mais eficiente. Você chegou a testar o SAM da Meta?

Sam2 criaram o MadSam e o MadSam2 também. E ficou muito bom. Ficou bem bacana. A única coisa meio ruim é que ele precisa de uma... O prompt dele, você tem que dar a coordenada do que você quer segmentar. Então você não pode falar assim, segmenta o rim, escreve segmenta o rim. Você tem que pegar a imagem e clicar em cima do rim. Aí ele vai e segmenta o rim bonitinho, entendeu?

Então, assim, é bom, é legal, funciona relativamente bem. Ele segmenta, inclusive, não só tomografia, ele segmenta imagem de patologia, várias outras coisas, foto de pele. Mas esse fato de você precisar dar no prompt de entrada dele o ponto do centróide de onde você quer segmentar, acaba limitando você a automatizar as coisas. Porque você vai precisar botar o ponto lá, entendeu? Tipo, não dá pra você automaticamente mandar ele segmentar o rim. Não daria pra você usar um modelo multimodal pra identificar, ah, o rim está mais ou menos por aqui, bota no meio.

Verdade. Você teria que criar um pipeline que você tem um modelo de detecção de objeto ou que cria um bounding box ou um ponto só. E aí ele faz isso primeiro e depois você passa isso como entrada e isso aí funcionaria. Verdade.

Mas aí, é, vai complicando, né? Sim, sim. Vai sempre tentando simplificar as coisas. Começa a ficar uma gambiarra. É, gostei dessa ideia. Às vezes as gambiarras são as coisas que funcionam, né? Ficam lá em produção, lá, sustentando um sistema de milhões lá, e no final das contas, ninguém sabe que o seu prompt, ele, por favor, não erre. Dê saída em JSON, não erre JSON na saída. Sim.