Fabrício Carraro
👤 SpeakerVoice Profile Active
This person's voice can be automatically recognized across podcast episodes using AI voice matching.
Appearances Over Time
Podcast Appearances
São esses hyperscalers, que eles fazem chips computacionais específicos para uma atividade. Então, por exemplo, o que eu tinha falado da semana passada lá, você servir o chat GPT ou algum modelo desses gigantescos ali nas GPUs da NVIDIA, você vai servir ali, vamos dizer, 100 tokens por segundo, 100 palavras por segundo, enquanto que servir em um chip da GROK ou da Cerebras, esses sistemas que eles têm ali,
otimizados para isso, você vai servir ali 900 tokens por segundo, então é um nível de grandeza maior, é muito, muito mais rápido, e a Nvidia tinha visto isso e fez o acordo com a GROK, agora a OpenAI achou uma ótima ideia, isso também provavelmente já vinha vindo há um bom tempo.
fez esse acordo com as cerebras para também servir o ChatGPT de maneira mais rápida e mais específica com eles, um acordo com eles. Lembrando que a OpenAI também tinha feito alguns acordos com a Broadcom para eles projetarem e construírem um chip específico da OpenAI, algo similar que a Google tem também com as TPUs dele, que eles têm os próprios chips deles,
específicos para a arquitetura e para os softwares do Google, agora a OpenAI também entrando de cabeça aí, que faz total sentido para o que eles querem, uma visão não de agora, não de daqui a um ano, mas daqui a 5, 10 anos. Só para colocar em contexto, 750 megawatts de energia é equivalente ao consumo de energia de 3 milhões de casas no Brasil. Então, só para a gente colocar um pouquinho da dimensão do que significa esse acordo,
que é menos luz para todo mundo que está em volta. Essas coisas, óbvio, estão bem relacionadas. E isso também é um grande tema lá do livro Empire of AI, que inclusive eu discuti no episódio. Novamente, o link está na descrição para quem quiser dar uma olhada. Boa! E a OpenAI também começou a pedir para os terceirizados dela para enviar ali tarefas, projetos reais de empregos que eles tiverem, atuais ou passados, para avaliar o desempenho dos novos agentes que eles têm ali, estão construindo dentro da OpenAI.
para meio que criar um benchmark, uma comparação ali, base de comparação humana para atividades profissionais e medir quando que eles vão estar chegando ali na suposta EDI, na inteligência artificial geral. E foi a Wired que publicou essa notícia, falou que os trabalhadores vão ter que enviar os arquivos finais reais, tipo documentos, repositórios de trabalho, planilhas,
Claro, removendo informações sensíveis, confidenciais e lá e tudo mais, entre aspas. Mas eles têm uma ferramenta interna lá que se chama Superstar Scrubbing, que vai basicamente pegar todos esses dados e tentar criar esse benchmark. E a galera aqui da área de propriedade intelectual...
fala que isso vai acabar expondo os terceiros, esses contratados da OpenAI, quanto a própria OpenAI, a riscos legais de violação de NDAs, acordo de confidencialidade, uso de propriedade indevida, direitos autorais, enfim, aquele papo que a gente tem sempre e, mais uma vez, o que essas empresas precisam? Elas precisam de dados.
então elas estão tentando pegar levantando pedras ali na floresta para ver se tem dado aqui então basicamente é isso que eles estão tentando fazer hoje em dia e qualquer lugar que venha vai ser beneficial para os modelos, para o treinamento de modelos futuros deles
Só que tem todas as questões éticas e direitos que estão associadas a isso, que podem acabar causando problemas, como a gente viu ali o caso da Antropic, alguns meses atrás, com um acordo de 1.5 bilhão de dólares com os autores de livros que teriam sido usados, pirateados pela Antropic. Então, algo ali em torno de 3 mil dólares de multa para cada autor. E ali, 1.5 bilhão de dólares já é um dinheiro...
que não é aquela multa que a gente fala, que é só uma multinha ali para ele continuar funcionando. 1,5 bilhão de dólares é valor de rodada de investimento. Então já é uma coisa alta que as empresas têm que pagar. Acaba sendo uma multa, mas é uma multa que já dói mais na empresa.
a OpenAI, mas eles também estão de olho. Sim, e outra aquisição que eles fizeram foi da Torch Health, que é uma startup de saúde, que é aqueles caras que tentam unificar todos os resultados de laboratórios, medicamentos que você está tomando, visitas a médicos. A questão, você quer unificar uma coisa que não seja só atrelada a um plano de saúde específico. E, como a gente sempre vem falando, dados de saúde são o próximo ouro, ou o atual ouro, nem o próximo.
o atual ouro, tanto que a gente viu a OpenAI lançar semana passada o chat GPT Health, numa versão um pouco mais ainda de lista de espera, só nos Estados Unidos, mas já uma coisa específica para a saúde, até por isso faz todo sentido eles terem adquirido essa empresa. Foi uma aquisição ali só pagando em ações, 100 milhões de dólares em ações da própria OpenAI,
E aí a galera, todos os funcionários da Torch vão ser contratados, vão passar a ser funcionários da própria OpenAI. Só que eu fui ver aqui no LinkedIn quantos são, qual é o tamanho da Torch. Estava ali no LinkedIn, de 2 a 10 funcionários.
É o CEO e mais três caras ali, provavelmente. Mas agora vão ser todos funcionários da própria OpenAI. O CEO também entra ali. E esses dados de saúde, o nosso convidado, o professor Alexandre Chiavegato Filho, falou na semana passada sobre isso. O Aydamari também, que a gente repercutiu aqui o artigo que ele tinha colocado. É a nova Eldorado agora, desses próximos anos. Porque vai ter muita, muita grana envolvida aí.
E vale pensar como é que o Brasil vai estar incluído nesse sistema, porque a gente tem um sistema de saúde único, que se tiver alguma coisa feita pelo governo, pelo Ministério da Saúde, fazer alguma coisa dessa nesse sentido para...
que seja de acesso aos cidadãos, você ter o seu boletim interno online, saber todas as coisas que aconteceram no passado, ou os doutores, melhor, terem acesso a esse tipo de coisa de uma maneira mais fácil e mais automatizada, pode ser uma boa ideia se for feita com algum planejamento e sem vazamento de dados. Claro, sempre tem essas questões que vale colocar.
em questão, em perspectiva, mas isso aí é uma coisa mais de engenharia de software do que outra coisa e também do treinamento. Como é que vai ser feito o treinamento de alguma coisa específica para isso no Brasil. Mas me parece uma coisa muito válida e que todo mundo vai fazer. Não pensem que não. Não sejam poliana de achar que não vai ser feito. Vai ser feito. E a questão é ser feito bem, ser feito com regulação e por quem que vai ser feito e quem que vai ter acesso a isso. Mas vale a pena o Brasil se colocar como um líder nisso. Por que não?
Sim, e uma outra novidade da Antropica essa semana, talvez eu acho que é a notícia que mais tem potencial de ser uma coisa que faça barulho, não sei se revolucionária, mas que pode muito bem chegar ali no Jornal Nacional, na sua avó, igual foi o momento de psique lá atrás, foi o lançamento do Claude's Cowork. O que é o Claude's Cowork?
Ele é um recurso experimental, basicamente colocando uma cara mais bonita no Cloud Code, que a gente vem falando nas últimas semanas, que ele explodiu. O Cloud Code explodiu principalmente lá nos Estados Unidos, agora que foi as férias do pessoal, os líderes, CEO, CTO das empresas, que eles tiveram tempo para utilizar mais nos projetos pessoais dele, ou em alguma coisa específica que eles queriam fazer ali da empresa.