A empresa de inteligência artificial Anthropic, responsável pelo desenvolvimento do assistente Claude, defendeu a criação de mecanismos internacionais que permitam desacelerar ou até interromper temporariamente o avanço dos sistemas mais avançados de IA. A proposta surge em meio a preocupações crescentes sobre a capacidade humana de supervisionar tecnologias cada vez mais sofisticadas.
Em relatório recente, a companhia afirmou que uma pausa coordenada no desenvolvimento da inteligência artificial de ponta poderia trazer benefícios ao permitir que pesquisas sobre segurança e estruturas regulatórias acompanhem a velocidade das inovações tecnológicas.
Segundo a empresa, uma medida desse tipo só teria eficácia se fosse adotada simultaneamente pelas principais desenvolvedoras de IA em diferentes países, especialmente nos Estados Unidos e na China, com regras claras e mecanismos de verificação compartilhados.
“Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”, afirmou a Anthropic no documento.
A companhia destacou que, sem uma coordenação internacional, empresas e governos enfrentam um dilema: equilibrar preocupações com segurança enquanto lidam com pressões competitivas e geopolíticas cada vez maiores.
A proposta enfrenta resistência em parte do setor tecnológico e do governo norte-americano. Críticos argumentam que uma desaceleração no desenvolvimento da inteligência artificial poderia favorecer concorrentes internacionais, especialmente a China, em uma disputa considerada estratégica para a liderança tecnológica global.
Ao mesmo tempo, o governo dos Estados Unidos tem ampliado a atenção sobre o tema. Recentemente, o presidente dos EUA, Donald Trump, assinou uma medida que permite avaliações preliminares de modelos avançados de IA antes de seu lançamento comercial.
Dona do Claude alerta para IA desenvolvendo IA
Um dos principais alertas apresentados pela Anthropic envolve a crescente participação da própria inteligência artificial no processo de desenvolvimento de novos sistemas.
De acordo com a empresa, evidências internas indicam que as ferramentas de IA estão acelerando significativamente a pesquisa e a criação de tecnologias mais avançadas, o que pode gerar um ciclo de autoaperfeiçoamento cada vez mais rápido.
Esse fenômeno, conhecido entre pesquisadores como “melhora recursiva de si mesma”, descreve um cenário em que sistemas de inteligência artificial seriam capazes de contribuir para o desenvolvimento de versões mais inteligentes de si próprios.
Embora a Anthropic ressalte que esse cenário não é inevitável, a empresa observa que o papel humano em várias etapas do desenvolvimento tecnológico vem diminuindo gradualmente. Por isso, defende um debate mais amplo envolvendo governos, pesquisadores, organizações da sociedade civil e empresas do setor para definir regras e
