Um pesquisador de inteligência artificial de 27 anos pediu demissão e em um post no X acusou as empresas onde trabalhou de agir com irresponsabilidade. Jacob Coxon passou pela OpenAI e pela Anthropic e disse que internamente há uma convicção de que a IA pode eliminar a humanidade até o fim da década.
A fala ganhou peso quando Evan Hubinger, da equipe de alinhamento da Anthropic, confirmou e estimou em mais de 10% a chance da tecnologia matar todos os humanos nos próximos dez anos. Para a cientista da computação e ex-Google Timnit Gebru, conhecida por criticar os rumos da IA desde quando fazia parte da empresa, essa sequência de falas e anúncios são uma forma de marketing.
O medo funciona tanto como propaganda, quanto como escudo. Uma empresa que se apresenta como capaz de construir algo tão perigoso está também dizendo que seu produto é poderoso demais para ser ignorado. E quando o problema é descrito como um modelo que escapa ao controle, desaparece da conversa a responsabilidade de quem programou, treinou e lucrou com isso tudo. Bom lembrar que tudo isso está acontecendo enquanto Anthropic e OpenAI se preparam para abrir capital na bolsa.
Em fevereiro, a Anthropic retirou de sua carta de segurança o compromisso de suspender o desenvolvimento caso não conseguisse controlar os riscos. A empresa anuncia o perigo enquanto afrouxa as próprias travas de segurança. Quem abre um restaurante tem que cumprir exigências sanitárias antes mesmo de servir o primeiro prato. No caso da IA, a próprias empresas afirmam estar construindo algo capaz de extinguir a espécie e seguem e não tem nenhuma obrigação equivalente.
Crítico constante do setor, o cientista Gary Marcus considera quase nula a chance de extinção e mesmo assim recusa a ideia de que não há com que se preocupar. Ele separa o risco existencial, que ele considera especulativo, do risco catastrófico, que já existe hoje. Coisas como desenvolvimento de novas armas biológicas, ataques a infraestrutura elétrica e financeira, desinformação em escala e vigilância não dependem de superinteligência nenhuma. São danos possíveis de acontecer agora e essa fixação em um suposto apocalipse desvia atenção deles.
Na sequência das declarações do ex-funcionário, o CEO da Anthropic, Dario Amodei, publicou uma carta pedindo uma desaceleração coordenada do desenvolvimento da IA entre laboratórios e países. Sam Altman, da OpenAI, e Elon Musk, da SpaceX, que vivem em atrito público, concordaram quase de imediato.
Três rivais em coro, dois dias depois do post de um funcionário de escalão médio repercutir muito. A convergência é conveniente demais, e há um detalhe dessa cronologia que desenvolvi no episódio desta semana do RESUMIDO (https://resumido.cc).
Uma desaceleração combinada por resolve simultaneamente os problemas de segurança e o da competição, sem que nenhuma das empresas precise assustar os investidores ao admitir que talvez a tal superinteligência não esteja de fato tão próxima quanto gostam de dizer.
