O CEO da Anthropic, Dario Amodei, alertou urgentemente para a necessidade de desaceleração no desenvolvimento de inteligência artificial, em artigo publicado recentemente, destacando que o avanço tecnológico pode acarretar prejuízos na casa dos centenas de bilhões de dólares e que modelos de IA podem se aprimorar recursivamente em intervalos curtos, configurando um risco existencial.
Contexto Institucional e Antecedentes do Alerta
Dario Amodei, responsável pela Anthropic e desenvolvedor do chatbot Claude, publicou um extenso ensaio no sábado no qual defende a adoção imediata de medidas para conter o ritmo acelerado da inteligência artificial, argumentando que os benefícios da tecnologia devem ser equilibrados com cautela perante ameaças estruturais como o autoaperfeiçoamento recursivo e o potencial uso maléfico para ataques cibernéticos e bioterrorismo.
A apuração revela que o alerta ganha contornos críticos após a demissão de um pesquisador interno da Anthropic, Jacob Coxon, que afirmou publicamente na terça-feira passada que a IA poderia levar à extinção humana até o final da década, posição que ressoa com as preocupações já manifestadas por especialistas do setor, inclusive por figuras como Sam Altman, CEO da O penAI.
O avanço da IA pode causar prejuízos de centenas de bilhões de dólares e modelos poderiam se autoaperfeiçoar recursivamente em seis a doze meses.
Repercussão Institucional e Compromissos Setoriais
Sam Altman, CEO da O penAI, concordou com Amodei ao anunciar que sua empresa adotará avaliadores independentes com acesso irrestrito para garantir transparência nos processos de segurança e avaliação dos modelos de IA, sinalizando um movimento de coligação setorial rumo à regulamentação proativa.
Amodei reiterou a necessidade de governos democráticos e não democráticos coordenarem esforços para estabelecer normas globais de segurança, sugerindo que as empresas assumam compromissos voluntários com auditorias externas rigorosas, transparência em incidentes e monitoramento contínuo dos fluxos de treinamento como práticas essenciais para mitigar riscos iminentes.
