Em algum momento, dois anos atrás, dez drones quadricópteros partiram para uma linha de frente perto de Bakhmut, na Ucrânia, cortaram a conexão com os operadores humanos e escolheram sozinhos os próprios alvos.
Quando outros drones foram verificar o resultado, encontraram dois soldados russos mortos e um caminhão destruído. Ninguém apertou o gatilho, tudo aconteceu de forma automatizada.
A alegação ainda não foi confirmada de forma independente, a informação é de um empresário que supostamente forneceu a tecnologia, de acordo com a revista NewScientist. O protocolo era bem claro e o comando era pra destruir ou matar tudo o que fosse encontrado naquela área.
O debate sobre armas autônomas costuma ser tratado como uma questão futura. Acontece que enquanto especialistas discutem regulação, a tecnologia já pode ter ultrapassado este ponto e já é utilizada nos campos de batalha.
A Foundation Robotics já tem dois robôs humanoides de 80 quilos sendo testados também na Ucrânia. Os modelos estão longe de serem operacionais, ainda não têm bateria própria, não resistem a chuva e não conseguem se levantar quando caem. Isso tudo pode mudar bem rápido.
A empresa tem contratos de pesquisa de 24 milhões de dólares com exércitos e planeja produzir 40 mil unidades por ano até 2027. O gap entre a ambição e a capacidade atual é enorme, mas a direção é clara.
Três senadores nos EUA apresentaram o HALO Act (Human Authority in Lethal Operations) que exige a presença de um comandante humano na decisão final de qualquer operação letal. O projeto ganhou força depois que o Pentágono rompeu com a Anthropic quando a empresa se recusou a remover dos seus modelos as proteções contra uso em armamento totalmente autônomo.
Em seguida, o Departamento de Comércio americano ordenou que a Anthropic suspendesse o acesso de todos os não-americanos ao Claude Mythos 5, inclusive funcionários da própria empresa. A justificativa oficial é que o modelo pode ser usado para identificar vulnerabilidades e atacar redes em larga escala.
É a primeira vez que uma restrição de exportação recai não sobre hardware, como chips, e sim sobre quem pode usar um software de inteligência artificial. O movimento revela que os governos perceberam algo que o mercado tem preferido ignorar. O problema não é só o drone, é a inteligência que decide o que o drone faz.
Comentei no RESUMIDO desta semana como essa proibição expõe uma divisão que vai se aprofundar entre países com acesso a IA de fronteira e os que ficam de fora, independentemente de serem aliados (ouça: https://resumido.cc).
A automação militar que pode substituir soldados chegou antes mesmo que fosse decidido se queremos que isso exista.
