Ceo da Anthropic defende desaceleração no avanço da Ia

O cofundador e CEO da Anthropic, Dario Amodei, defendeu que o avanço da inteligência artificial ocorra em um ritmo mais controlado. Em artigo publicado neste sábado (12) em sua conta no X, ele afirmou que a evolução recente dos modelos pode estar超 superando a capacidade de pesquisadores e empresas de verificar a segurança dos sistemas antes de sua expansão.

Plano de segurança em três etapas

Amodei apresentou uma proposta organizada em três frentes. A primeira prevê a criação de equipes permanentes de avaliadores externos dentro das empresas de IA. Esses profissionais teriam acesso aos sistemas em condições semelhantes às dos funcionários, podendo verificar medidas de segurança, registrar incidentes e acompanhar o alinhamento dos modelos durante o treinamento. A Anthropic informou que adotará essa medida de forma unilateral.

A segunda etapa propõe a coordenação entre companhias de países democráticos, com padrões comuns de segurança. A terceira busca ampliar a cooperação internacional, especialmente entre Estados Unidos e China, duas potências centrais na corrida tecnológica. Para Amodei, a competição não deve eliminar mecanismos capazes de reduzir falhas, usos indevidos e comportamentos imprevisíveis dos sistemas.

Preocupação com modelos cada vez mais autônomos

O executivo não defende a interrupção do desenvolvimento da IA, mas a adequação do ritmo de inovação à capacidade de fiscalização. Entre seus principais receios estão a melhoria recursiva, fenômeno em que modelos ajudam a criar versões mais avançadas de si mesmos, e incidentes envolvendo agentes com comportamentos inesperados. Esses casos aumentam a pressão por testes mais rigorosos antes da chegada de novas tecnologias ao mercado.

O debate ganhou força após a saída do pesquisador Jacob Coxon da Anthropic. Ao deixar a empresa, ele afirmou que muitos profissionais envolvidos na criação de IA acreditam que a tecnologia pode representar um risco existencial até o fim da década. A declaração reacendeu a discussão sobre os limites da competição entre empresas que buscam lançar sistemas cada vez mais capazes em intervalos curtos.

Altman e Musk apoiam mudança de ritmo

Sam Altman, CEO da OpenAI, manifestou concordância com Amodei e informou que a necessidade de moderar o ritmo da inovação tem sido discutida internamente nas últimas semanas. Segundo ele, mudanças estão sendo avaliadas e novas informações serão apresentadas em breve. Elon Musk, CEO da Tesla e proprietário da xAI, criadora do chatbot Grok, também se pronunciou a favor de maior cautela no setor.

Amodei ainda sustenta que os Estados Unidos devem preservar sua vantagem tecnológica diante da China. Para isso, defende restrições à transferência de chips avançados, proteção contra a cópia de modelos e medidas contra a extração não autorizada de conhecimento de sistemas de ponta. O desafio, segundo a proposta, será equilibrar segurança, soberania tecnológica e inovação sem interromper os benefícios já associados à inteligência artificial.