A Anthropic decidiu não lançar seu novo modelo de Inteligência Artificial (IA) para o público geral. O motivo declarado é a capacidade de encontrar vulnerabilidades em softwares com uma eficiência que nenhum humano ou ferramenta automatizada conseguiu antes.
Algumas dessas falhas permaneceram escondidas por décadas, sobrevivendo a revisões anuais e milhões de testes. O modelo se chama Claude Mythos e sua existência veio à tona por um erro banal de configuração em um sistema de gerenciamento de conteúdo, que deixou documentos internos acessíveis publicamente por alguns minutos.
A Anthropic decidiu disponibilizar o novo modelo para um consórcio de 45 empresas, incluindo Apple, Google, Microsoft, Amazon e Nvidia, para que possam testar seus próprios sistemas antes de um lançamento mais amplo.
A lógica é parecida com a divulgação coordenada de vulnerabilidades que ocorre normalmente, avisar primeiro quem pode se tornar um alvo, para dar tempo de corrigir o que puder ser corrigido. Expliquei melhor esses pontos no episódio do RESUMIDO desta semana.
O que chama atenção nessa narrativa toda não é a potência do modelo, que pode ser exagerada para fins de marketing. É que a escolha de lançar ou não lançar uma tecnologia com esse potencial de dano está nas mãos do CEO de uma empresa privada. Não há tratado, agência reguladora, nem qualquer instância democrática envolvida; a Anthropic anuncia que vai esperar e isso é tudo. Até mudar de ideia. Sem falar que os concorrentes podem não ter a mesma cautela.
Alguns especialistas disseram que faltam análises independentes, com acesso de especialistas externos ao sistema. Sem isso, é difícil definir o tamanho da preocupação. Afinal, quanto mais uma empresa fala que seu modelo é “poderoso demais para ser liberado”, mais ela também está vendendo a ideia de que criou algo revolucionário.
Toda infraestrutura crítica do planeta, de água e energia a bancos e telecomunicações, depende de software para funcionar. E, em breve, poderemos ver tipos de ataques antes restritos a governos e agências de inteligência, tornarem-se tão baratos que poderão ser causados por qualquer um.
Para além das questões técnicas, o debate político está sendo terceirizado para laboratórios privados que também têm interesse financeiro no resultado.
