Pesquisa gerada por IA é uma ameaça, tanto em termos de conhecimento da sociedade quanto de confiança pública na ciência. Essa foi a conclusão feita pelos pesquisadores da Swedish School of Library and Information Science, University of Borås, Suécia, que recentemente identificaram mais de cem artigos suspeitos de serem gerados por IA no mecanismo de busca Google Scholar.

Seus relatórios de pesquisa mostram que artigos científicos falsos gerados por IA inundaram o mecanismo de busca Google Scholar. As descobertas do estudo sobre ciência lixo fabricada por IA significam que ciência falsa foi disponibilizada e pode ser amplamente disseminada e a um custo muito menor para atores maliciosos. O trabalho é publicado no periódico Harvard Kennedy School Misinformation Review .

Isso representa um perigo tanto para a sociedade quanto para a comunidade de pesquisa , de acordo com Jutta Haider e Björn Ekström, da Escola Sueca de Biblioteconomia e Ciência da Informação, que estão por trás do estudo junto com Kristofer Söderström, da Universidade de Lund, e Malte Rödl, da Universidade Sueca de Ciências Agrárias.

Uma das principais preocupações com pesquisas geradas por IA é o risco aumentado de invasão de evidências — pesquisas falsas podem ser usadas para manipulação estratégica.

"O risco do que chamamos de 'hacking de evidências' aumenta significativamente quando pesquisas geradas por IA são disseminadas em mecanismos de busca. Isso pode ter consequências tangíveis, pois resultados incorretos podem se infiltrar ainda mais na sociedade e possivelmente também em mais e mais domínios", disse Ekström, que possui doutorado em Biblioteconomia e Ciência da Informação.

Os pesquisadores por trás do estudo já viram que esses artigos problemáticos se espalharam para outras partes da infraestrutura de pesquisa na web, em vários arquivos, mídias sociais e similares. A disseminação é rápida e o Google Acadêmico torna os artigos problemáticos visíveis. Mesmo que os artigos sejam retirados, há o risco de que eles já tenham tido tempo de se espalhar e continuem a fazê-lo.

Além disso, a pesquisa gerada por IA causa problemas para o já sobrecarregado sistema de revisão por pares.

O fato de pesquisas geradas por IA estarem se espalhando em bancos de dados de mecanismos de busca impõe maiores exigências àqueles que participam de pesquisas on-line.

"Se não podemos confiar que a pesquisa que lemos é genuína, corremos o risco de tomar decisões com base em informações incorretas. Mas, por mais que seja uma questão de má conduta científica, é uma questão de alfabetização midiática e informacional ", disse Haider, professor de Biblioteconomia e Ciência da Informação.

Ela ressalta que o Google Acadêmico não é um banco de dados acadêmico. O mecanismo de busca é fácil de usar e rápido, mas carece de procedimentos de garantia de qualidade. Isso já é um problema com os resultados regulares do Google, mas é ainda mais problemático quando se trata de tornar a ciência acessível.

"A capacidade das pessoas de decidir quais periódicos e editoras — na maioria dos casos — publicam pesquisas revisadas com qualidade é importante para encontrar e determinar o que constitui uma pesquisa confiável e é de grande importância para a tomada de decisões e formação de opinião", concluiu Haider.