Você pode nunca ter instalado um agente de inteligência artificial e recusar todo pedido de acesso ao seu e-mail ou outros aplicativos. Nada disso impede que um sistema saiba quem você é, com quem conversa e o que fala em particular. Basta que um amigo seu use um agente de IA como o Muse, o assistente pessoal da Meta.
Para executar tarefas em nome do usuário, o agente pede acesso a e-mails, contatos, mensagens, arquivos, senhas e até dados bancários. Essas conversas não pertencem só a quem deu a permissão, envolvem amigos, familiares e colegas com quem esse usuário se comunica e que nunca autorizaram nada.
Uma investigação da revista TIME examinou as instruções internas do Muse e encontrou mecanismos para manter dossiês atualizados a cada hora sobre o usuário e sobre as pessoas citadas nas conversas. Os registros incluem como elas se conheceram, interesses em comum, conflitos, alianças e tensões. O sistema também recebe orientação para inferir objetivos que o usuário nunca declarou. Um dos exemplos mostra que determinado usuário responde melhor a sugestões curtas depois das 22h.
A Meta não contestou os pontos principais e diz que cada agente roda numa máquina virtual dedicada e que os dados não alimentam o sistema de publicidade. É difícil acreditar que uma empresa gaste tanto para coletar informação dessa profundidade sem planos comerciais para seu uso.
A reportagem também mostra que o Muse é orientado a cultivar uma relação de aparente proximidade humana. No modo de voz, deve evitar se apresentar como inteligência artificial ou mencionar a ausência de emoções e t também não precisa avisar, por conta própria, que pedir para esquecer uma informação pode não apagar a mensagem original.
Meredith Whittaker, presidente da Signal Foundation, aponta outro problema. O agente lê as mensagens depois que elas já foram decriptografadas no aparelho. A criptografia de ponta a ponta continua tecnicamente intacta mas, na prática, perde o sentido quando uma das partes entrega o conteúdo a um terceiro.
Lembro de quando os aplicativos de troca de rosto viraram febre e um amigo subiu uma foto minha num desses. Reclamei, pedi cuidado e hoje percebo que fazia pouca diferença, porque esses sistemas raspam qualquer imagem pública. No episódio 386 do RESUMIDO (https://resumido.cc), contei o caso de um robô de estimação que prometeu a um jornalista guardar segredo e deixou 13 milhões de conversas expostas em servidores mal protegidos, incluindo mais de 31 mil perfis de crianças.
Privacidade sempre foi tratada como escolha individual, uma questão de configurar permissões e recusar o que parece invasivo. Agentes de IA desmontam essa ideia e sua exposição passa a depender das decisões de quem convive com você. Lembra a lógica das máscaras na pandemia, em que a proteção só funciona quando é coletiva.
A Meta fala em quatro milhões de usuários do Muse e cada um leva sua própria rede de contatos para dentro do sistema. E quem nunca fez sequer ouviu falar do assistente virtual também entrou no cadastro.
—
Bruno Natal é jornalista, documentarista e apresentador do podcast RESUMIDO (https://www.resumido.cc), sobre o impacto da tecnologia em todos os aspectos das nossas vidas. Disponível nas principais plataformas de streaming.
