A Inteligência Artificial (IA) transformou a maneira como buscamos informações, mas nem sempre os resultados são isentos de preconceitos ou distorções. Recentemente, uma investigação liderada pelo pesquisador Patrik Hermansson, da organização Hope Not Hate, revelou como motores de busca baseados em IA — incluindo os da Google, Microsoft e Perplexity — têm exibido estudos com viés racial que afirmam falsamente a existência de superioridade genética entre diferentes grupos étnicos. Esta situação destaca como os algoritmos e a seleção de dados em plataformas de IA podem promover e normalizar desinformação com potencial para radicalizar usuários e aprofundar preconceitos.

Como os Motores de Busca com IA Estão Amplificando Ideias Racistas

A investigação mostrou que diversas ferramentas de IA têm promovido conteúdos ligados a Richard Lynn, uma figura polêmica no movimento conhecido como “ciência racial”, cujos estudos defendem diferenças de QI entre raças. Embora amplamente desacreditados, esses estudos estão disponíveis online e acabam sendo usados por sistemas de IA para responder a perguntas sobre inteligência humana e diferenças raciais. Isso ocorre porque algoritmos são treinados para buscar dados “disponíveis” na web, o que inclui, muitas vezes, fontes de baixa qualidade ou com viés claro.

A promoção desses dados levanta sérias preocupações sobre o papel das IAs na disseminação de ideias que já foram amplamente refutadas por especialistas, mas que continuam a circular. Quando plataformas como Google Overviews e Perplexity utilizam estudos controversos e até fóruns como o Reddit como fontes de resposta para consultas complexas, sem citar explicitamente a origem da informação ou o contexto em que foi produzida, elas ajudam a normalizar conceitos racistas sob a falsa aparência de objetividade científica.

Acadêmicos e a Responsabilidade sobre a Qualidade dos Dados

Diversos especialistas criticaram a metodologia utilizada por Lynn, destacando que seus estudos sobre QI se baseiam em amostras limitadas e tendenciosas, frequentemente coletadas em comunidades marginalizadas. Apesar disso, o uso de seus dados em contextos acadêmicos e jornalísticos pode ter contribuído para sua longevidade. Essa circulação ajuda a consolidar uma presença digital desses dados que, quando processados por algoritmos, acabam sendo percebidos como informações “legítimas” e dignas de resposta.

A Google reconheceu recentemente as dificuldades em garantir a qualidade das fontes na web, especialmente em consultas mais complexas. No entanto, a empresa — e outras que trabalham com IA de busca — tem a responsabilidade de refinar seus algoritmos para evitar a promoção de dados sem fundamentação científica. Assim, os acadêmicos que já citaram esses estudos em pesquisas anteriores também enfrentam um dilema ético sobre o impacto de suas citações e como elas são recuperadas pela IA no ambiente digital.

O Perigo da Desinformação e o Papel das Plataformas de IA

Quando informações tendenciosas e desatualizadas são oferecidas como “verdades” para o usuário comum, existe um grande risco de amplificação de ideias preconceituosas. Esse problema não é apenas uma questão de viés nos algoritmos; é uma questão de segurança. A normalização da falsa ideia de que hierarquias raciais são “naturais” pode levar à radicalização de indivíduos, que acreditam em dados enviesados como se fossem uma verdade científica.

No cenário atual, a disseminação de desinformação é uma realidade alarmante, e plataformas de IA têm um papel central nesse desafio. Acadêmicos, desenvolvedores de IA e plataformas digitais precisam trabalhar juntos para criar mecanismos de verificação de dados mais robustos e filtros que priorizem fontes de alta qualidade.

A investigação de Hermansson traz à tona uma questão crucial: a tecnologia e seus algoritmos de busca têm o poder de moldar a visão de mundo das pessoas, para o bem ou para o mal. No caso da inteligência artificial, que depende de dados e algoritmos, é fundamental implementar verificações rigorosas para evitar a propagação de informações distorcidas e perigosas. A transparência sobre as fontes de dados, a precisão das informações e a ética na escolha das respostas são passos essenciais para construir uma IA que realmente promova conhecimento e inclusão, e não desinformação e preconceito.

Artigo baseado na matéria da Wired