O feedback desempenha um papel crucial no aprendizado, ajudando os indivíduos a entender e melhorar seu desempenho, mas populações estudantis globalmente grandes e diversificadas muitas vezes significam que fornecer observações oportunas e personalizadas pode ser um desafio.

Avanços recentes em inteligência artificial generativa oferecem uma solução para esses desafios, mas a maioria dos estudos existentes tem como alvo principal aspectos tecnológicos, como precisão do modelo, e muitas vezes ignoram os aspectos socioemocionais da aceitação da IA.

Agora, pesquisadores que trabalham no Laboratório de Aprendizado de Máquina para Educação (ML4ED), parte da Escola de Ciências da Computação e Comunicação (IC) da EPFL, investigaram como a identidade do provedor de feedback afeta a percepção dos alunos.

O trabalho deles é publicado como uma pré-impressão.

Em seu artigo intitulado "IA ou humano? Avaliando percepções de feedback de alunos no ensino superior", apresentado na Conferência Europeia de 2024 sobre aprendizagem aprimorada por tecnologia, os pesquisadores descrevem como mais de 450 alunos da EPFL em diversos programas e níveis acadêmicos avaliaram o feedback personalizado em ambientes educacionais autênticos antes e depois da divulgação se era de um humano ou gerado por IA.

"Nossa pesquisa descobriu que antes que os alunos identifiquem se um humano ou IA está dando feedback, eles não percebem uma diferença na qualidade ou na simpatia. Depois que eles descobrem que era a IA dando o feedback, eles ou diminuem a pontuação da IA ou aumentam a pontuação do humano, o que nos diz que eles não confiam na IA", explicou a Professora Tanja Käser, Chefe do Laboratório ML4ED.

Os participantes do estudo também foram solicitados a adivinhar o provedor de feedback corretamente. No total, 274 dos 457 participantes adivinharam corretamente qual feedback era humano e qual era gerado por IA. Os pesquisadores descobriram que nem a idade nem o gênero impactaram significativamente as respostas corretas, mas o tipo de tarefa do curso sim. Os alunos identificaram o feedback como gerado por IA mais facilmente em projetos envolvendo codificação do que em tarefas curtas de prova lógica.

Os pesquisadores acreditam que uma das principais questões decorrentes do estudo é como a percepção de confiança na IA como fornecedora de feedback pode afetar a implementação real do feedback da IA na sala de aula.

"Isso tem implicações importantes no aprendizado. Um bom feedback dirá o que você fez bem, o que não fez e as ações futuras que você pode tomar. Se você estiver menos preparado para levar em conta o feedback que recebe porque ele é da IA e você não confia nele, é menos provável que você melhore seu aprendizado à medida que as salas de aula integram mais desses modelos", disse Tanya Nazaretsky, pesquisadora de pós-doutorado no ML4ED Lab e autora principal do artigo.

Cada vez mais, fica claro que a IA pode ser muito útil na educação para dar suporte ao aprendizado, e há uma alta prontidão para aceitá-la. No entanto, há obstáculos percebidos em torno da falta de transparência e responsabilidade, violações de privacidade e fontes de dados de treinamento.

"Uma preocupação importante era a capacidade da IA de entender o contexto real de aprendizagem fora de seus limites. Muitos alunos fizeram o comentário 'a IA não me conhece como pessoa, a IA só vê o que está no sistema, mas há outros fatores que são importantes para o processo de aprendizagem e a IA não consegue vê-los.' Apesar da prontidão para aceitar a IA, há uma real falta de confiança e isso dificulta sua adoção na prática", continuou Nazaretsky.

Käser diz que, em retrospectiva, a forte preferência pelo feedback humano em vez da IA foi inesperada, mas demonstra que muito mais pesquisas são necessárias sobre a aceitação e integração da IA em ambientes de aprendizagem.

"Vamos supor que a IA fosse perfeita; ainda precisamos mostrar como ela pode ser adaptada e perfeitamente integrada aos currículos e ao ensino. Uma descoberta importante deste artigo é que nunca devemos esquecer o elemento humano."