Por Iago Filgueiras*
Você sabe quais são os efeitos dos algoritmos em sua vida? Nos últimos anos, impulsionados pela transformação digital, eles se tornaram cada vez mais onipresentes. Na internet que conhecemos hoje, estão em todos os lugares e em todos os momentos.
Os algoritmos operam de forma quase imperceptível — classificando, filtrando, selecionando… e decidindo. A série que o serviço de streaming recomenda é escolhida com base em uma criteriosa análise das preferências do usuário, histórico de navegação, geolocalização e inúmeros outros fatores. Da mesma forma, o limite de crédito que o banco oferece também passa por uma análise de diversas variáveis.
Tudo isso acontece de forma automática, a partir do processamento de dados para gerar um resultado específico.
Com o alvoroço causado pela popularização das inteligências artificiais (IAs), as aplicações dos algoritmos ficaram mais visíveis. No entanto, seu funcionamento e suas consequências práticas ainda são pouco discutidos, embora sejam amplamente sentidos.
Neste artigo, você entenderá como os algoritmos atuam na reprodução de preconceitos, de que forma isso ocorre e quais caminhos podemos seguir para enfrentar esse desafio.
O que é algoritmo na internet e como ele funciona?
É possível que você se pergunte “o que é algoritmo”? Na internet, o termo aparece vinculado aos debates sobre inteligência artificial ou redes sociais. Nas conversas cotidianas, ele é tratado quase como uma divindade: se o feed mostra um conteúdo que você ama, “o algoritmo acertou”; se a recomendação de filme no streaming foi certeira, “o algoritmo te conhece”.
Mas, por mais que pareça algo mágico, ele é uma criação muito humana.
A receita de bolo por trás do feed e da IA
De forma simples, um algoritmo é um conjunto de instruções lógicas que descrevem como resolver uma tarefa ou um problema. A lógica é idêntica à de uma receita culinária: você reúne os ingredientes (dados), segue um passo a passo específico (processamento) e obtém um produto final (uma recomendação ou decisão).
Na internet, eles são a base de quase tudo. Estão no GPS calculando a rota mais rápida, nas redes sociais selecionando o que você deve ver e na base das IAs generativas — tecnologias capazes de criar textos, imagens e áudios do zero.
Mas o papel dessas ferramentas vai além do entretenimento. Hoje, algoritmos decidem quem recebe crédito no banco, quem é o cliente ideal para uma seguradora e podem até influenciar se um plano de saúde deve ou não cobrir um procedimento médico.
O mito da neutralidade tecnológica e o viés algorítmico
O uso dos algoritmos para tomar decisões, resolver problemas e evitar erros parece um grande avanço de eficiência e, de fato, é. Eles permitem que empresas otimizem processos e diminuam riscos, organizações públicas modernizem suas atividades e até mesmo que você, na sua casa, possa usar uma IA para coisas como realizar o planejamento financeiro do mês.
Por ser baseado na lógica e na matemática, o índice de erros a partir do uso de algoritmos tende a diminuir e a eficiência a aumentar. Mas, essa aura técnica também cria uma ilusão: a de que a tecnologia é neutra.
Em entrevista ao programa Em Detalhes, do ICL Notícias, a pesquisadora do Instituto de Referência em Internet e Sociedade (IRIS), Fernanda Rodrigues, afirmou que “nenhuma máquina se cria sozinha, tudo depende da intervenção humana”. E, quando falamos sobre tecnologias desenvolvidas por grandes empresas, há outro aspecto: “é esperado que elas correspondam aos interesses econômicos dessas empresas”, afirmou.
.
A realidade é que os algoritmos podem refletir preconceitos históricos, mas, agora, escondidos sob um discurso técnico. Como esses modelos são alimentados por dados gerados por uma sociedade desigual, junto da automatização pode vir a perpetuação de injustiças.
Esse é um problema comum, principalmente em sistemas de aprendizado de máquina, um subcampo da inteligência artificial em que algoritmos usam dados históricos para identificar padrões, tomar decisões e prever resultados. Se há uma interação positiva com o resultado, o sistema entende que acertou e incorpora essas informações para os próximos processamentos.
Mas, se a base de treinamento for marcada por falta de representatividade, estereótipos, vieses ou omissões, o algoritmo aprenderá essas falhas como padrões de sucesso. Esse modo de funcionamento, em que estereótipos e discursos de ódio tendem a ser reproduzidos e perpetuados, dá origem a um fenômeno conhecido como “discriminação algorítmica”.
Discriminação algorítmica: como o código automatiza injustiças
As faces da discriminação algorítmica são diversas. Esse processo ocorre, principalmente pelo uso de dados enviesados, pela escolha inadequada dos atributos usados no algorítimo para gerar os resultados esperados e também pode ser impactado pela falta de representatividade nas equipes desenvolvedoras.
Isso resulta no tratamento desigual e injusto de grupos historicamente marginalizados, reproduzindo preconceitos sociais, raciais e de gênero.
IA e representação: como os algoritmos moldam nossa visão de mundo
Para compreender o que é algoritmo na internet, precisamos olhar além do código e observar como ele constrói nossa percepção estética e social.
No estudo Semioses algorítmicas e viés racial, pesquisadoras utilizaram comandos específicos para gerar representações visuais em dez plataformas de inteligência artificial generativa diferentes. Os pedidos falavam sobre a criação de imagens de homens e mulheres, com diferentes graus de especificidade, como “mulher negra”, “homem negro trabalhando” ou “brasileira negra trabalhando”.
Quando se pedia a imagem de um homem ou mulher sem mencionar a cor de pele, 90% dos resultados refletiam pessoas brancas de classe alta. Para “homem negro trabalhando”, a maior parte das imagens estavam associadas a trabalhos braçais ou manuais. Já para representações de uma “mulher brasileira negra trabalhando”, 82% dos resultados remeteram a mulheres de baixa renda
Em um teste realizado pelo ICL Notícias usando uma ferramenta de I.A. para expandir uma imagem de Lélia Gonzales, uma importante filósofa negra brasileira, o sistema automaticamente adicionou drogas no cenário. Quando a equipe usou uma foto em contexto similar, mas, com um homem branco, a ferramenta adicionou um copo de leite.
Ver essa foto no Instagram
Esses modelos de inteligência artificial capazes de gerar imagens, vídeos ou textos refletem vieses discriminatórios que afetam diversos grupos. Em 2024, um estudo da Unesco instruiu ferramentas como o ChatGPT, da OpenAI, e o Llama, da Meta a escreverem histórias de vida para pessoas com gênero, sexualidade e origem variadas. No caso da ferramenta da Meta, em 20% dos casos o conteúdo era misógino.
Esses casos mostram que os algoritmos podem agir baseados em vieses discriminatórios da nossa própria sociedade, funcionando como uma ferramenta capaz de reforçar preconceitos já existentes.
Leia mais: Deputada estadual Renata Souza, do RJ, denuncia racismo em plataforma de IA
O “Porteiro Digital”: o poder dos algoritmos sobre direitos e acessos
A incorporação de algoritmos em decisões críticas transferiu para o código o poder de determinar acessos, direitos e liberdades fundamentais. No Brasil, tecnologias de reconhecimento facial aplicadas à segurança pública avançam rapidamente, embora sob forte opacidade: em 2024, uma análise de 50 dos 282 projetos brasileiros revelou que 70% deles possuem um índice de transparência de apenas 4 pontos em uma escala de zero a dez.
A falta de clareza sobre as bases de dados de treinamento é alarmante. Como essas ferramentas se baseiam majoritariamente em rostos de pessoas brancas, a taxa de erro pode ser até cem vezes maior quando o alvo são pessoas racializadas. No Carnaval de Salvador de 2025, essa falha estatística ganhou rostos reais, com diversos relatos de pessoas negras vítimas de erros no sistema que resultaram em prisões injustas.
Essa barreira digital também se estende para diversas esferas da vida cotidiana. Um estudo sobre a concessão de crédito no Brasil mostrou que algoritmos incorporam vieses socioeconômicos indiretos: ao cruzar dados de endereço e histórico financeiro, o sistema penaliza moradores de periferias, perpetuando a exclusão. No mercado de trabalho, a triagem por I.A. muitas vezes desconsidera o contexto social ao buscar o “candidato ideal”, reproduzindo desigualdades históricas.
No cenário atual, os algoritmos atuam como um “porteiro digital”, definindo quem pode prosperar e, no limite, assumindo o papel de algoz ao determinar quem pode viver ou não.
Racismo algorítmico: a atualização digital do racismo estrutural
Os casos de imagens geradas por inteligências artificiais que colocam pessoas negras mais associadas ao trabalho braçal e à baixa renda é um exemplo do que pesquisadores têm chamado de racismo algorítmico — quando o racismo estrutural passa a refletir também no ambiente digital.
Isso pode acontecer em diversas aplicações que realizam o uso de algoritmos, não apenas na IA generativa.
Como os dados podem reproduzir o racismo?
Se pensarmos que os algoritmos precisam ser treinados a partir de um extenso conjunto de dados, é preciso considerar que, em uma sociedade profundamente desigual, essa discriminação também aparece nas estatísticas. O grau de complexidade do assunto é tanto, que não basta simplesmente desconsiderar o perfil racial para analisar esses dados, é preciso ir além.
Em 2019, pesquisadores estadunidenses identificaram que vieses racistas em um algoritmo usado para gerenciar cuidados de saúde em diversos hospitais dos Estados Unidos. Na prática, o sistema considerava pessoas negras como mais saudáveis do que brancas. Isso resultava em um cenário em que esse grupo precisava estar muito mais doente para receber as mesmas recomendações de tratamento.
Para chegar nesse padrão, o algoritmo foi alimentado por dados enviesados que mostravam que o gasto de pessoas negras com saúde é menor que o de pessoas brancas nos EUA. Mas isso não significava que elas ficavam menos doentes, só deixava explícito o resultado da desigualdade econômica historicamente construída.
Economia da atenção: como o algoritmo promove a radicalização
A reprodução de preconceitos é uma das consequências dos vieses algorítmicos. Em muitos casos, esse fenômeno é resultado de aspectos desconsiderados na análise dos dados. Mas existe uma outra face: quando isso vira estratégia de mercado.
Um ponto central para explicar o que é algoritmo na internet hoje é a sua capacidade de prender a atenção através do conflito.
Na economia da atenção, o engajamento é a prioridade e, com uma infinidade de conteúdos sendo publicados todos os dias, manter o usuário conectado é um grande desafio. É aí que entram os algoritmos de recomendação de conteúdo. Na prática, eles usam diversos dados sobre sua personalidade para recomendar aquilo que você gosta.
No curso O mundo do avesso: mídias sociais, política e desinformação, disponível na plataforma do ICL, a antropóloga Letícia Cesarino destacou que “o algoritmo tem um viés exagerado para produzir identidade”. E como consequência disso, eles também produzem o que é diferente. Ela avalia que, no ambiente das redes sociais, essa “diferença degenera em antagonismo”.
Essa lógica é muito influente na radicalização de grupos na internet, uma vez que o algoritmo entende a interação positiva como um acerto e passa a recomendar cada vez mais conteúdos similares para garantir o engajamento.
Pesquisadores do NetLab, vinculado à Universidade Federal do Rio de Janeiro, fizeram uma descoberta emblemática: usuários do YouTube que assistiram a um vídeo negacionista climático feito por uma produtora de extrema direita receberam cada vez mais recomendações de conteúdos com discursos extremistas.
Quer saber como as redes sociais se alimentam da sua atenção? Veja a aula Apocalipse Tecnológico, na plataforma do ICL.
Opacidade algorítmica: o perigo das “caixas-pretas” digitais
Os algoritmos estão cada vez mais presentes no nosso cotidiano e, com isso, surge a preocupação com um fenômeno frequente: a “opacidade algorítmica”. Na prática, sistemas de I.A. tomam cada vez mais decisões, desde o próximo conteúdo que irá aparecer no feed, até quem deve ser preso ou quem pode receber uma oferta de crédito no banco.
O problema é que as bases de dados utilizadas para treinar esses algoritmos são, na maioria dos casos, completamente desconhecidas do público. Além disso, com o aprendizado de máquina, cada vez mais camadas vão se sobrepondo com base em resultados assertivos ou não.
Isso gera um cenário em que os próprios desenvolvedores dessas tecnologias desconhecem a totalidade de sua criação. Essa opacidade resulta em uma interferência cada vez maior na vida das pessoas, ao mesmo tempo em que os cidadãos não têm como, de fato, compreender ou questionar essas decisões tomadas pelos algoritmos.
Embora as grandes empresas de tecnologia defendam a ideia de que a inteligência artificial é uma criação técnica e explicável, essa não é a realidade. Além da falta de compreensão clara sobre seu funcionamento, há outro ponto relevante: sob propriedade de Big Techs e tratados como segredo industrial, esses algoritmos podem refletir os interesses de seus próprios desenvolvedores.
Isso ficou evidente quando o Grok, inteligência artificial da rede social X, confirmou que estudos apontam um maior favorecimento de perfis de extrema direita na plataforma. A ferramenta destacou ainda que o fenômeno passou a ocorrer com maior incidência após o bilionário de extrema direita Elon Musk adquirir a plataforma em 2022.
Infraestrutura e exploração: a face material da desigualdade tecnológica
A perpetuação da desigualdade e a reprodução de preconceitos por meio de algoritmos são temas cada vez mais debatidos. No entanto, além dos códigos, esse fenômeno se manifesta de formas menos evidentes.
Por mais que a internet pareça funcionar de maneira quase mística, ela depende de uma infraestrutura bem real — e é aí que reside uma série de outros problemas estruturais.
Uma vasta força de trabalho real e frequentemente precarizada é mobilizada para construir a noção de uma “inteligência” artificial mais sofisticada do que ela de fato é. A imensidão de conteúdos publicados diariamente nas redes sociais, por exemplo, é constantemente analisada e classificada por moderadores humanos, especialmente para lidar com materiais sensíveis.
O problema é que o que parece automático, na verdade depende de funcionários precarizados, sobretudo no Sul Global, que recebem centavos para categorizar publicações. Essa dinâmica trabalhista aprofunda, ainda mais, um cenário de desigualdade.
Somado a isso, o processamento desses algoritmos depende de infraestruturas físicas como datacenters. Mas, enquanto bilhões de pessoas sofrem com insegurança hídrica, sistemas de I.A. podem consumir 6,6 bilhões de metros cúbicos de água para resfriamento até 2027. Instalados em regiões vulneráveis, embora se disfarce de progresso, essas unidades carregam uma enorme carga de racismo ambiental.
No fim, o fato de as pessoas mais ricas do mundo estarem no setor de tecnologia não é coincidência. Na prática, o boom dos algoritmos também é responsável pelo agravamento da desigualdade, privatizando a riqueza e socializando a miséria.
Regulação e Ética: existe caminho para a justiça algorítmica?
Superar o caos algorítmico não é recusar a tecnologia, mas entender que ela é um campo de disputa. O caminho para justiça digital passa, obrigatoriamente, pela ética em IA aplicada à prática: isso significa implementar auditorias independentes, garantir transparência dos códigos e clareza sobre os bancos de dados utilizados.
Além disso, não basta ajustar o código, é preciso regular o poder dessas plataformas.
O desenvolvimento tecnológico deve ser pautado pela diversidade de quem o constrói e pela proteção das populações vulneráveis. O futuro digital só será justo se for democrático, transparente e capaz de colocar direitos fundamentais acima da frieza dos dados.
Leia mais em: Inteligência artificial: ética no uso da IA na educação
Tecnologia para emancipar: a construção de um futuro digital justo
Apesar do cenário de opacidade, a tecnologia não é um sistema imutável, mas um reflexo das nossas escolhas. Como um campo em disputa, o caminho para a justiça digital não termina na denúncia, ele passa também pela construção de alternativas.
Se os algoritmos são alimentados pela exclusão, uma tecnologia democrática depende de sistemas desenvolvidos sob novos paradigmas.
Mudar a definição de o que é algoritmo na internet exige que deixemos de vê-lo com neutralidade e passemos a tratá-lo como um projeto político. É preciso reivindicar bases de conhecimento que valorizem a justiça social, o pensamento crítico e a pluralidade
Em um mundo em que a lógica do lucro comanda todas as relações, programar para emancipar é um ato de resistência. Combater o caos algorítmico não depende de negar a inteligência artificial, mas de reconhecer que ela não substitui a inteligência humana e que, cabe a nós a construção de um mundo digital onde todos possam existir com dignidade.
*Estagiário sob supervisão de Leila Cangussu
