Deputada estadual Renata Souza, do RJ, denuncia racismo em plataforma de IA

A deputada estadual Renata Souza (PSOL-RJ), da Assembleia Legislativa do Rio de Janeiro (Alerj), denunciou o racismo nas plataformas de inteligência artificial. Presidente da CPI do Reconhecimento Fotográfico nas Delegacias, a parlamentar disse que foi surpreendida pelo racismo algorítmico, ao criar uma arte inspirada nos pôsteres de desenho animado.

Ao gerar uma imagem baseada em sua autodescrição, a deputada Renata Souza foi apresentada a uma ilustração que trazia uma mulher negra segurando uma arma em uma favela. Ela disse que essa imagem comprova que as inteligências artificiais são racistas.

“Em momento nenhum eu falei sobre armas. Em momento nenhum eu falei sobre violência. Eu falei sobre mulher negra em uma favela. E aparece uma mulher negra com uma arma na mão. Ou seja: o racismo algorítmico está aí”, reclamou a parlamentar.

“Essa lógica de criminalização das pessoas negras desses territórios de favela e periferia, também está nos algoritmos. Eu presido a CPI do Reconhecimento Fotográfico e já vi o tanto que essa inteligência artificial, essas inteligências faciais utilizam também um algoritmo que é racista, que vai reconhecer o negro, o pobre, o jovem como possível criminoso”, acrescentou a deputada.

Racismo algorítmico!

Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de… pic.twitter.com/Eq84l9gBbU

— Renata Souza (@renatasouzario) October 26, 2023

Renata Souza informou que analisa medidas cabíveis de encaminhamento da denúncia e que vai buscar um canal de diálogo com a direção da empresa que produz o aplicativo gerador dessas imagens.

Informações da Agência Brasil