Como algoritmos personalizados enganam seu cérebro e levam a respostas erradas
Os sistemas de recomendação personalizada que organizam conteúdo em plataformas como o YouTube podem interferir na forma como as pessoas aprendem, de acordo com uma nova pesquisa. O estudo revelou que, quando um algoritmo decidia quais informações apareciam durante uma tarefa de aprendizagem, os participantes sem conhecimento prévio sobre o tópico tendiam a se concentrar apenas em uma pequena parte do que lhes era mostrado.
Como eles exploravam menos do material disponível, esses participantes frequentemente respondiam incorretamente às perguntas em testes posteriores. Apesar de estarem errados, demonstraram alta confiança em suas respostas.
Esses resultados levantam preocupações, disse Giwon Bahg, que conduziu o trabalho como parte de sua dissertação de doutorado em psicologia na Universidade Estadual de Ohio.
Os Algoritmos Podem Criar Viés Mesmo Sem Conhecimento Prévio
Grande parte da pesquisa existente sobre algoritmos personalizados analisa como eles influenciam opiniões sobre política ou questões sociais que as pessoas já conhecem, pelo menos, algo.
“Mas nosso estudo mostra que, mesmo quando você não sabe nada sobre um tópico, esses algoritmos podem começar a criar viés imediatamente e levar a uma visão distorcida da realidade”, disse Bahg, agora pesquisador pós-doutoral na Universidade Estadual da Pensilvânia.
Os achados foram publicados no Journal of Experimental Psychology: General.
Brandon Turner, co-autor do estudo e professor de psicologia na Ohio State, afirmou que os resultados indicam que as pessoas podem rapidamente usar a informação limitada fornecida pelos algoritmos para tirar conclusões amplas, muitas vezes infundadas.
“As pessoas perdem informações quando seguem um algoritmo, mas elas acreditam que o que sabem se generaliza para outras características e partes do ambiente que nunca vivenciaram”, disse Turner.
Um Exemplo de Recomendação de Filmes
Para ilustrar como esse viés pode surgir, os pesquisadores descreveram um cenário simples: uma pessoa que nunca assistiu a filmes de um determinado país decide tentar alguns. Um serviço de streaming on-demand oferece recomendações.
O espectador seleciona um thriller de ação porque aparece no topo da lista. O algoritmo então promove mais thrillers de ação, que o espectador continua a escolher.
“Se o objetivo dessa pessoa, seja explícito ou implícito, era entender o panorama geral dos filmes desse país, a recomendação algorítmica acaba prejudicando seriamente a compreensão”, escreveram os autores.
Ao ver apenas um gênero, a pessoa pode ignorar filmes excelentes em outras categorias. Eles também podem formar suposições imprecisas e excessivamente amplas sobre a cultura ou sociedade representada nesses filmes, observaram os autores.
Testando os Efeitos Algorítmicos com Criaturas Fictícias
Bahg e sua equipe de pesquisa exploraram essa ideia experimentalmente com 346 participantes online. Para garantir que ninguém tivesse conhecimento prévio, os pesquisadores usaram uma tarefa de aprendizagem completamente ficcional.
Os participantes estudaram vários tipos de aliens semelhantes a cristais, cada um definido por seis características que variavam entre categorias. Por exemplo, uma parte quadrada do alienígena pode aparecer de um preto escuro em alguns tipos e cinza pálido em outros.
O objetivo era aprender a identificar cada tipo de alienígena sem saber quantos tipos existiam.
Como o Algoritmo Guiou a Aprendizagem
No experimento, as características dos aliens estavam ocultas atrás de caixas cinzas. Em uma condição, os participantes eram obrigados a clicar em todas as características para ver um conjunto completo de informações para cada alienígena.
Em outra condição, os participantes escolhiam quais características examinar e um algoritmo de personalização selecionava quais itens eles seriam mais propensos a amostrar com frequência. Esse algoritmo os direcionava para analisar repetidamente as mesmas características ao longo do tempo. Eles podiam still olhar para qualquer característica que desejassem, mas também podiam pular outras inteiramente.
Os resultados mostraram que aqueles guiados pelo algoritmo personalizado visualizaram menos características no geral e o fizeram de maneira padronizada e seletiva. Quando foram testados posteriormente em novos exemplos de aliens que nunca haviam visto antes, frequentemente os classificavam incorretamente. Mesmo assim, os participantes permaneciam confiantes em suas respostas.
“Eles estavam até mais confiantes quando estavam realmente incorretos em suas escolhas do que quando estavam corretos, o que é preocupante, pois tinham menos conhecimento”, disse Bahg.
Implicações para Crianças e Aprendizagem Cotidiana
Turner ressaltou que essas descobertas têm um significado real no mundo.
“Se você tem uma criança pequena tentando realmente aprender sobre o mundo, e ela está interagindo com algoritmos online que priorizam fazer os usuários consumir mais conteúdo, o que vai acontecer?” disse Turner.
“Consumir conteúdo semelhante geralmente não está alinhado com aprender. Isso pode causar problemas para os usuários e, em última análise, para a sociedade.”
Vladimir Sloutsky, professor de psicologia na Ohio State, também foi co-autor.
