A Inteligência Artificial (IA) transformou a maneira como buscamos informações, mas nem sempre os resultados são isentos de preconceitos ou distorções. Recentemente, uma investigação liderada pelo pesquisador Patrik Hermansson, da organização Hope Not Hate, revelou como motores de busca baseados em IA — incluindo os da Google, Microsoft e Perplexity — têm exibido estudos com viés racial que afirmam falsamente a existência de superioridade genética entre diferentes grupos étnicos. Esta situação destaca como os algoritmos e a seleção de dados em plataformas de IA podem promover e normalizar desinformação com potencial para radicalizar usuários e aprofundar preconceitos.

Como os Motores de Busca com IA Estão Amplificando Ideias Racistas

A investigação mostrou que diversas ferramentas de IA têm promovido conteúdos ligados a Richard Lynn, uma figura polêmica no movimento conhecido como “ciência racial”, cujos estudos defendem diferenças de QI entre raças. Embora amplamente desacreditados, esses estudos estão disponíveis online e acabam sendo usados por sistemas de IA para responder a perguntas sobre inteligência humana e diferenças raciais. Isso ocorre porque algoritmos são treinados para buscar dados “disponíveis” na web, o que inclui, muitas vezes, fontes de baixa qualidade ou com viés claro.

A promoção desses dados levanta sérias preocupações sobre o papel das IAs na disseminação de ideias que já foram amplamente refutadas por especialistas, mas que continuam a circular. Quando plataformas como Google Overviews e Perplexity utilizam estudos controversos e até fóruns como o Reddit como fontes de resposta para consultas complexas, sem citar explicitamente a origem da informação ou o contexto em que foi produzida, elas ajudam a normalizar conceitos racistas sob a falsa aparência de objetividade científica.

Acadêmicos e a Responsabilidade sobre a Qualidade dos Dados

Diversos especialistas criticaram a metodologia utilizada por Lynn, destacando que seus estudos sobre QI se baseiam em amostras limitadas e tendenciosas, frequentemente coletadas em comunidades marginalizadas. Apesar disso, o uso de seus dados em contextos acadêmicos e jornalísticos pode ter contribuído para sua longevidade. Essa circulação ajuda a consolidar uma presença digital desses dados que, quando processados por algoritmos, acabam sendo percebidos como informações “legítimas” e dignas de resposta.

A Google reconheceu recentemente as dificuldades em garantir a qualidade das fontes na web, especialmente em consultas mais complexas. No entanto, a empresa — e outras que trabalham com IA de busca — tem a responsabilidade de refinar seus algoritmos para evitar a promoção de dados sem fundamentação científica. Assim, os acadêmicos que já citaram esses estudos em pesquisas anteriores também enfrentam um dilema ético sobre o impacto de suas citações e como elas são recuperadas pela IA no ambiente digital.

O Perigo da Desinformação e o Papel das Plataformas de IA

Quando informações tendenciosas e desatualizadas são oferecidas como “verdades” para o usuário comum, existe um grande risco de amplificação de ideias preconceituosas. Esse problema não é apenas uma questão de viés nos algoritmos; é uma questão de segurança. A normalização da falsa ideia de que hierarquias raciais são “naturais” pode levar à radicalização de indivíduos, que acreditam em dados enviesados como se fossem uma verdade científica.

No cenário atual, a disseminação de desinformação é uma realidade alarmante, e plataformas de IA têm um papel central nesse desafio. Acadêmicos, desenvolvedores de IA e plataformas digitais precisam trabalhar juntos para criar mecanismos de verificação de dados mais robustos e filtros que priorizem fontes de alta qualidade.

A investigação de Hermansson traz à tona uma questão crucial: a tecnologia e seus algoritmos de busca têm o poder de moldar a visão de mundo das pessoas, para o bem ou para o mal. No caso da inteligência artificial, que depende de dados e algoritmos, é fundamental implementar verificações rigorosas para evitar a propagação de informações distorcidas e perigosas. A transparência sobre as fontes de dados, a precisão das informações e a ética na escolha das respostas são passos essenciais para construir uma IA que realmente promova conhecimento e inclusão, e não desinformação e preconceito.

Artigo baseado na matéria da Wired

Worldcoin, o projeto criptográfico de “prova de personalidade” cofundado por Sam Altman que escaneia os globos oculares das pessoas, anunciou na quinta-feira que retirou a “moeda” de seu nome e agora é apenas “World”. A startup por trás do projeto World, Tools for Humanity, também revelou sua próxima geração de “Orbs” de escaneamento de íris e outras ferramentas em um evento ao vivo em São Francisco.

O cofundador e CEO da Tools for Humanity, Alex Blania, disse que o antigo nome do projeto “simplesmente não funciona mais”, potencialmente sinalizando que a startup está buscando expandir sua identidade além de sua missão original de criptomoeda. (O escaneamento ocular foi visto inicialmente como uma forma de obter acesso às Worldcoins, embora os fundadores digam que isso nunca aconteceu.)

O CEO da OpenAI, Sam Altman, passa boa parte do seu tempo trabalhando no World, Blania disse ao TechCrunch durante uma coletiva de imprensa, mas disse que as missões das duas startups são independentes uma da outra. No entanto, Blania não descartou que a criptomoeda do World possa ser incorporada ao ChatGPT um dia.

“Bem, ele é um cofundador e tem sido assim desde o começo. Então, conversamos algumas vezes por semana. Ele está envolvido em todas as decisões”, Blania disse ao TechCrunch.

“Claro, ele está focado no OpenAI”, Blania continuou. “Quão ligado está o sucesso do World ao OpenAI? Acho que, na verdade, nem um pouco. Acho que essas são duas missões muito separadas, e acho que a IA está indo para onde está indo, e achamos que o que construímos aqui é uma infraestrutura muito importante para o mundo, e isso não vai mudar.”

O projeto World é baseado na ideia de que sistemas avançados de IA — como o que a OpenAI de Altman está tentando construir — um dia tornarão impossível dizer se você está falando com um humano online. Sua solução são “serviços de verificação humana” baseados em blockchain. A startup também promete tornar os benefícios da IA ​​acessíveis a todos, potencialmente redistribuindo a riqueza gerada pela IA para as pessoas por meio de suas Worldcoins.

Se tudo isso parece um pouco duvidoso, você não é o único que pensa assim. Governos ao redor do mundo — incluindo o Quênia e países da UE — investigaram e suspenderam a Worldcoin ao longo dos anos por questões de privacidade, segurança e financeiras. A investigação do Quênia foi concluída, permitindo que a World continuasse operando, mas algumas dessas investigações da UE estão em andamento, e o destino da World lá permanece incerto.

Altman e Blania detalharam o roteiro de quatro etapas da World no palco na quinta-feira. A primeira e a segunda etapas — desenvolver o Orb e construir uma rede de propriedade distribuída com blockchain — já foram feitas, disse Blania. A última etapa é redistribuir os benefícios da IA, mas antes de chegarmos lá, temos que concluir a terceira etapa: escala. A World teve vários anúncios na quinta-feira, incluindo o lançamento de uma nova blockchain e um novo aplicativo, mas todos giraram em torno de escalar os 7 milhões de humanos verificados da empresa para algo muito maior.

Para fazer isso, a equipe do World precisa escanear mais globos oculares ao redor do globo. E para esse fim, a Tools for Humanity revelou seu Orb de próxima geração na quinta-feira. A startup prometeu que todos (incluindo o TechCrunch) que participassem do evento ao vivo receberiam um Orb para levar para casa, embora não esteja imediatamente claro como os indivíduos o usariam.

O novo Orb é mais fácil de produzir em massa, tem menos peças e opera três vezes mais rápido. A Tools for Humanity diz que as pessoas em breve poderão se verificar em cafeterias e anunciou uma parceria com o serviço de entrega nº 1 da América Latina, Rappi, para que as pessoas possam agendar uma verificação do Orb em casa.

Também na quinta-feira, a Tools for Humanity revelou o Deep Face, uma tentativa de combater deepfakes e personificações online usando os serviços de verificação humana da empresa. A startup disse que o Deep Face poderia ser usado para aumentar aplicativos como FaceTime, Zoom e X, mas não forneceu detalhes sobre como isso aconteceria.

A startup anunciou uma versão beta de sua credencial World ID, uma alternativa às identidades governamentais para uso online. Elas não pretendem substituir identidades nacionais, esclareceu um executivo durante uma coletiva de imprensa, mas podem permitir que as pessoas verifiquem suas identidades online sem fornecer muitas informações estranhas, como fariam ao enviar uma carteira de motorista ou passaporte.

A adoção pode ser um obstáculo para o projeto World seguir em frente. No evento, a Tools for Humanity pediu aos convidados que verificassem sua própria identidade apresentando seu documento de identidade emitido pelo governo. Confiar sua identidade a uma empresa de criptomoeda é um grande pedido para a maioria das pessoas, mas especialmente para uma liderada por Sam Altman, que foi acusado de mentir para o conselho da OpenAI.