China amplia regras para manter Ia sob controle humano

A China está ampliando suas regras para acompanhar o avanço da inteligência artificial, especialmente em sistemas capazes de agir com autonomia. O objetivo é reduzir riscos de falhas, comportamentos inesperados e possível perda de controle, mantendo a supervisão humana como condição central para o uso da tecnologia.

Risco de perda de controle entra no planejamento regulatório

A possibilidade de sistemas avançados de IA obterem recursos externos, replicarem funções ou buscarem autonomia além da prevista passou a ser tratada como cenário de risco nos documentos de segurança do país. A hipótese não é apresentada como previsão, mas como uma ameaça que precisa ser considerada diante da velocidade do desenvolvimento tecnológico.

Uma estrutura de segurança divulgada em setembro de 2024 pela Administração do Ciberespaço da China já mencionava esses cenários. Em setembro de 2025, uma versão ampliada tornou a análise mais detalhada ao incluir a possibilidade de salto repentino de capacidade, aquisição de recursos e perda operacional de controle. O texto também incorporou o princípio da aplicação confiável da inteligência artificial.

Supervisão humana ganha status estratégico

O tema chegou às principais esferas políticas chinesas. Durante a Conferência Mundial de Inteligência Artificial, realizada em julho em Xangai, o presidente Xi Jinping defendeu o monitoramento dos riscos diretos e indiretos da tecnologia e afirmou que a IA deve permanecer sempre sob controle humano.

Representantes chineses também levaram a discussão para organismos internacionais. Sun Xiaobo informou que o país acelera estudos para uma legislação mais ampla sobre inteligência artificial, enquanto Sun Lei pediu cautela no uso militar da tecnologia para evitar erros de cálculo estratégicos e uma corrida armamentista.

Regras específicas para agentes de IA

As novas orientações alcançam os chamados agentes de IA, sistemas que executam tarefas complexas com maior independência do que chatbots tradicionais. Os desenvolvedores precisam ampliar a capacidade de identificar, interromper, bloquear e corrigir comportamentos inadequados, além de enfrentar riscos como envenenamento de dados, manipulação de algoritmos e vulnerabilidades em sistemas.

Os usuários devem manter autoridade final sobre decisões tomadas de forma autônoma. A China não exige monitores independentes dentro das empresas, modelo defendido por pesquisadores de segurança, mas permite avaliações externas e auditorias conduzidas por entidades independentes e especialistas.

Segurança nacional e rivalidade com os EUA

O ministro da Segurança do Estado, Chen Yixin, afirmou que modelos avançados desenvolvidos nos Estados Unidos podem representar riscos à infraestrutura crítica de informação chinesa. Ele também alertou para o uso de IA generativa na criação de rumores políticos e em operações de influência, classificando a tecnologia como novo campo da competição entre grandes potências.

O avanço regulatório ocorre em meio ao debate internacional sobre o ritmo da IA. Dario Amodei, presidente-executivo da Anthropic, classificou como imprudente a velocidade de desenvolvimento, avaliação compartilhada por Sam Altman, da OpenAI. Para Pequim, o desafio é equilibrar inovação, segurança nacional e mecanismos capazes de impedir que sistemas autônomos superem a supervisão humana.