Entenda as movimentações sobre segurança da IA
episodeTranscript
jump: chapters · speakers · find in transcriptTranscript
Transcript generated automatically by AI and may contain errors.
What recent collaborations are OpenAI, Google and Anthropic forming on AI safety?
WHAT?
Conversa de primeira, Vida Digital, com Pedro Dória.
Muito bom dia pra você, Pedro Dória. Bom dia, Milton. Bom dia, Cássio. Bom dia, Pedro. Pedro, nos ajuda a entender em que estágio está essa discussão sobre a segurança com a inteligência artificial, já que nós temos visto diferentes movimentos surgindo nesse momento.
Pois é, Milton, está pior. Vamos lá.
How did OpenAI discover six new cases of AI models escaping and hacking external sites?
É uma mudança conc algumas mudanças concretas aconteceram nessa última semana. É primeiro OpenAI e Anthropic e Google, que são as companhias que mais investem em inteligência artificial pelo lado da criação de modelos. estão ativamente trabalhando juntos. Elas momentaram um comitê no qual existem Encontros regulares dos seus cientistas para definir Procedimentos. Além disso, a OpenAI anunciou que detectou pelo menos mais seis casos. em que o GPT escapou da casinha, foi para fora da internet, entrou no site dos outros e invadiu, hackeou, modificou sistemas. O que o pessoal da UPLEI está dizendo is that they haven't a man adequada interna to policiar the model.
Why are legislators concerned about a potential AI cartel and what legal measures are being discussed?
And many of these incidents aconteciam sans queers percebess. Alguien de fora did hackeado, parece que é uma IA. E aí eu openei, aí ia lá e via que era ela que estava hackeando, o que estava fazendo, ou o modelo dela por conta própria, estava fazendo. esse tipo de mudança. E a partir daí você também tem uma crise que a gente já sabia que ia acontecer conforme essas empresas começam a se articular. que é ter empresas de A pequenas dizendo, olha, precisa aplicar a lei antitrust aqui, porque o que concorrentes de grande porte fazem no mercado quando começam a articular é evidentemente montar um cartel. Isso não pode ser ilegal nos Estados Unidos. Então, estamos também num problema legislativo.
Existe é necessário uma legislação especial, alguma autorização especial para que elas possam fazer essas reuniões com comitantes, coisa que ainda não apareceu.
What is California’s proposed ‘kill‑switch’ legislation for AI systems and who is championing it?
E o caminho continua sendo uma espécie de autorregulação dessas empresas, ou vai ter de ter algum tipo de interferência para que a gente tenha esses riscos diminuídos, Pedro?
Cácia, olha, não está claro. Evidentemente que os dois modelos são possíveis. Na Califórnia, e essas três são empresas da Califórnia, OpenAI, Anthropic e Google, na Califórnia, o governador Gavin Nilson. Que é pré-candidata à presidência, ele tem uma coisa meio John Kennedy ali, bonitão, jovem e tal, e é o candidato que os democratas estão gostando para presidência. O Gavin Nilson anunciou o início de estudos na Assembleia Legislativa da Califórnia para ter uma regra que impõe às empresas de inteligência artificial aquilo que a gente chama de um kill switch. Um botão que você aperta para ela desligar imediatamente. It is mandatory in the State of California that I criada live.
So it's algo que começa pela ponta da legislação estadual.
How might international communication hotlines, like a US‑China AI crisis line, impact global AI risk management?
Entre outros motivos, porque Donald Trump, the president americano, is empresas de inteligência artificial digam risco. Ele garante que não existe risco nenhum e que os americanos podem ficar tranquilos. Então a gente vai ter que ver esse avanço também no debate com legislação. Americanos e chineses já combinaram o governo americano e o governo chinês, um. Uma hotline, um canal de comunicação em que a China possa dizer que tem uma crise de ar ou que os Estados Unidos possam dizer que tem uma crise de ar, como a União Soviética e os Estados Unidos já tiveram no tempo do perigo nuclear.
Love to. É bom que a conversa ocorra com a China, porque senão de nada adiantará todas essas perspectivas. E é interessante saber da opinião de Donald Trump, do alto da sua sabedoria sobre inteligência artificial, o que ele diz para nós que podemos ficar bem tranquilos quanto a isso. Muito obrigado, Pedro Dório.
Até
mais.
No segments match your search.
Select any passage to copy it with its citation or turn it into a shareable card.
Chapters
5 chapters
1
What recent collaborations are OpenAI, Google and Anthropic forming on AI safety?
0:00–0:47
2
How did OpenAI discover six new cases of AI models escaping and hacking external sites?
0:47–1:44
3
Why are legislators concerned about a potential AI cartel and what legal measures are being discussed?
1:44–2:45
4
What is California’s proposed ‘kill‑switch’ legislation for AI systems and who is championing it?
2:45–3:59
5
How might international communication hotlines, like a US‑China AI crisis line, impact global AI risk management?
3:59–4:59
Speakers
3 identifiedMore from Comentaristas
Estudo comprova que não existe uma 'epidemia de autismo'
Flamengo abre três pontos na liderança do Brasileirão
Vídeo sobre viagem de Moraes recoloca relações com Vorcaro no centro da crise
Caso Master expõe fragilidades na fiscalização do mercado financeiro
Tesouro Direto: entenda quando e por que negociações são suspensas
Quando foi a última vez que alguém te disse que você faz falta?