Quem controla uma inteligência maior que a nossa?
episodeTranscript
jump: chapters · speakers · find in transcriptTranscript
Transcript generated automatically by AI and may contain errors.
What are the early warnings about AI posing an existential risk to humanity?
Futuramente, com Marta Gabriel.
Hoje a Mata Gabriel responde a você: quem controla uma inteligência maior que a nossa?
Bom dia, Milton, Cássia, ouvintes da CBN. O assunto aqui hoje é sobre o nosso futuro com a inteligência artificial. Quem controla uma inteligência maior que a nossa? Não é de hoje que pesquisadores de inteligência artificial vêm alertando para uma possibilidade extrema da IA representar um risco existencial para a humanidade.
How likely is a 10 % chance that advanced AI could lead to human extinction or loss of control?
E apesar desse risco ser real, até recentemente, para muita gente parecia ficção científica e raramente chegava ao centro dos noticiários. Em pesquisas realizadas em 2022 e 2023, com especialistas em inteligência artificial, a média das estimativas chegou a 10% de probabilidade de extinção da humanidade ou desempoderamento permanente da humanidade pela nossa incapacidade de controlar sistemas avançados de IA. 10% parece pouco, né? Mas pense: se os engenheiros de uma ponte estimassem 10% o risco dela cair, a gente inauguraria a ponte ou tentaria primeiro entender qual é o problema? Pois é, nessa semana esse assunto dos riscos de A explodiu na mídia becca um pesquisador que trabalhou na Open AI e na Anthropic pediu demission and reverberado especialmente because outros pesquisadores de A concordam com ele.
Mas o que significa, na realidade, esse risco existencial da humanidade?
What are the two distinct ways AI could become an existential threat?
Bom, existem dois grandes caminhos distintos de risco, não é tudo a mesma coisa. O primeiro deles é realmente perdermos o controle da própria IA. Então, imagina uma super inteligência encarregada de reduzir conflitos humanos, e aí ela decide controlar a nossa comunicação e o nosso comportamento. Para cumprir esse objetivo. Nesse caso, ela não seria má, estaria apenas cumprindo a nossa ordem de uma maneira incompatível com os nossos valores, ou seja, restringindo a nossa liberdade. Mas se não conseguirmos controlar essa IA, seríamos incapazes de impedi-la.
How could misuse of super‑intelligent AI by powerful institutions manipulate millions of people?
O segundo risco é o contrário e talvez seja mais fácil de imaginar e de acontecer. Seria os humanos continuarem no controle, mas usando mal, uma inteligência muito superior à nossa. Então imagina uma instituição ou organização usando uma super inteligência para descobrir a mensagem perfeita para manipular individualmente milhões de pessoas. Nesse caso, a IA não saiu do Controle. O problema é justamente que ela está obedecendo perfeitamente a quem a controla, mesmo que não seja de uma maneira correta, ética, né?
Why is proactive risk management essential before AI risks become irreversible?
Adequada. Então, portanto, o risco existencial da IA tem duas faces. Em um caso, o perigo é perdermos o controle da IA e, no outro, é alguém ter controle demais sobre ela. Agora, pensando em futuros, é importante lembrar que esses riscos são possibilidades, não previsões de que isso necessariamente acontecerá. E justamente por isso, o momento de agir é antes que eles se concretizem. Porque quando o risco pode ser irreversível, prevenir não é alarmismo, é gestão de riscos.
E se você quiser mais futuramente, já está no podcast o novo episódio apresentado pela Carolina Tamacia e pela Marta Gabriel. Elas entrevistam Solano de Camargo, professor de Direito da USP, e falam sobre a inteligência artificial na justiça brasileira.
No segments match your search.
Select any passage to copy it with its citation or turn it into a shareable card.
Chapters
5 chapters
1
What are the early warnings about AI posing an existential risk to humanity?
0:03–0:50
2
How likely is a 10 % chance that advanced AI could lead to human extinction or loss of control?
0:50–1:58
3
What are the two distinct ways AI could become an existential threat?
1:58–2:37
4
How could misuse of super‑intelligent AI by powerful institutions manipulate millions of people?
2:37–3:12
5
Why is proactive risk management essential before AI risks become irreversible?
3:12–4:08
Speakers
2 identifiedMore from Comentaristas
Cautela externa e incertezas eleitorais pressionam o mercado
Desembargador da 'Turma do KN' deve ser 'nova fonte de informações da atuação' de Kássio Nunes
MP das Bets: 'Temos um problema de saúde pública'
Qual a opção mais vantajosa para amortizar um financiamento imobiliário?
Conheça o trabalho de Benjamin Wright
El Niño muito forte e o retorno do DENV-3: o que muda na temporada de dengue