Inteligência artificial entre riscos reais e promessas exageradas

O debate sobre inteligência artificial voltou ao centro das atenções após a demissão de Jacob Coxon da Anthropic, empresa responsável pelo Claude, e a publicação de um texto de Dario Amodei, fundador da companhia, defendendo uma redução no ritmo de avanço da tecnologia.

Alertas sobre segurança e controle

Coxon, que também trabalhou na OpenAI, responsável pelo ChatGPT, acusou grandes empresas de tecnologia de ignorarem riscos que conhecem. Entre os pontos mais graves levantados por ele está a avaliação de alguns desenvolvedores de que sistemas avançados de IA poderiam representar uma ameaça à humanidade antes de 2030.

Amodei seguiu na mesma direção ao defender que o desenvolvimento da inteligência artificial seja desacelerado. Para ele, é necessário ganhar tempo para criar mecanismos de segurança, controle e cibersegurança capazes de acompanhar a evolução dos modelos. Sam Altman, da OpenAI, Demis Hassabis, da Google DeepMind, e Elon Musk também reconheceram a necessidade de moderar o avanço e reforçar a proteção digital.

Pânico e otimismo seguem a mesma lógica

A reação ao tema, porém, costuma cair em narrativas previsíveis. De um lado, críticos veem na IA uma força capaz de destruir empregos, ampliar desigualdades ou até levar a humanidade ao colapso. De outro, defensores entusiastas tratam a tecnologia como caminho inevitável para resolver doenças, escassez, limitações humanas e problemas históricos.

Essas visões opostas têm mais em comum do que aparentam. Ambas atribuem à tecnologia uma autonomia quase absoluta, como se ela seguisse um destino próprio, independente de decisões humanas, interesses econômicos e escolhas políticas. Também apontam para uma ruptura final: a extinção, no caso dos pessimistas, ou a libertação definitiva, na visão dos tecno-otimistas.

O espaço da política precisa permanecer aberto

O problema dessa disputa é que ela reduz o campo da ação humana. Se a tecnologia for vista apenas como salvação ou condenação, desaparecem as possibilidades de regulação, negociação e transformação social. Questões como transparência, responsabilidade, concentração de poder, impacto no trabalho e uso militar deixam de ser tratadas como escolhas coletivas.

Também não é adequado tratar a ciência como neutra e incapaz de produzir consequências negativas. Inovações podem gerar benefícios relevantes, mas igualmente ampliar assimetrias e desigualdades. Por outro lado, transformar a ciência em origem de todos os males alimenta o negacionismo e enfraquece a capacidade da sociedade de avaliar riscos com base em evidências.

Avançar com cautela, sem profecias

O caminho mais responsável está entre o alarmismo e a confiança cega. A inteligência artificial traz riscos concretos e exige padrões de segurança, fiscalização, auditoria e controle democrático. Ao mesmo tempo, pode contribuir para avanços em saúde, educação, pesquisa e produtividade.

Não há motivo para aceitar um destino de apocalipse tecnológico, mas também não há razão para esperar uma redenção automática. O futuro da IA dependerá menos da tecnologia em si e mais das instituições, regras e escolhas que a sociedade construir em torno dela.