As máquinas podem tomar decisões melhores do que os humanos, mas os humanos geralmente lutam para saber quando a tomada de decisão da máquina é realmente mais precisa e acabam substituindo as decisões do algoritmo para pior, de acordo com uma nova pesquisa da ESMT Berlin.

Esse fenômeno é conhecido como aversão ao algoritmo e geralmente é atribuído a uma desconfiança inerente nas máquinas . No entanto, a substituição sistemática de um algoritmo pode não resultar necessariamente da aversão ao algoritmo. Esta nova pesquisa mostra que o próprio contexto em que um tomador de decisão humano trabalha também pode impedir que o tomador de decisão aprenda se uma máquina produz decisões melhores.

Essas descobertas vêm da pesquisa de Francis de Véricourt e Huseyin Gurkan, ambos professores de ciência da administração na ESMT Berlin. Os pesquisadores queriam determinar sob quais condições um tomador de decisão humano, supervisionando uma máquina que toma decisões críticas, poderia avaliar adequadamente se a máquina produz melhores recomendações. Para fazer isso, os pesquisadores criaram um modelo analítico em que um tomador de decisão humano supervisionava uma máquina encarregada de decisões importantes, como realizar uma biópsia em um paciente. O tomador de decisão humano então fez a melhor escolha com base nas informações que recebeu da máquina para cada tarefa.

Os pesquisadores descobriram que, se um tomador de decisão humano atendesse à recomendação da máquina e ela se mostrasse correta, o humano confiaria mais na máquina. Mas o humano às vezes não observava se a recomendação da máquina estava correta - isso acontecia, por exemplo, quando o tomador de decisão humano decidia não realizar ações de acompanhamento. Nesse caso, não houve mudança na confiança e nenhuma lição aprendida para o tomador de decisão humano . Essa interação entre a decisão do humano e a avaliação do humano sobre a máquina cria um aprendizado tendencioso. Portanto, com o tempo, eles podem não aprender a usar as máquinas de maneira eficaz.

Essas descobertas mostram claramente que nem sempre é uma desconfiança inerente contra as máquinas que significa que os humanos substituem as decisões algorítmicas, mas, com o tempo, esse aprendizado tendencioso pode ser reforçado por uma substituição consistente, que pode resultar no uso incorreto e ineficaz das máquinas na tomada de decisões.

"Muitas vezes, vemos uma tendência dos humanos de substituir os algoritmos, o que pode ser normalmente atribuído a uma desconfiança intrínseca nas previsões baseadas em máquinas", diz o Prof. de Véricourt. "Esse viés , no entanto, pode não ser o único motivo para substituir um algoritmo de forma inadequada e sistemática. Também pode ser o caso de simplesmente não estarmos aprendendo como usar as máquinas de maneira eficaz e correta, quando nosso aprendizado é baseado apenas na correção do previsões da máquina."

Essas descobertas mostram que a confiança na capacidade de tomada de decisão de uma máquina é fundamental para garantir que aprendamos efetivamente a utilizá-la e que a precisão de seu uso também melhore.

"Nossa pesquisa mostra que há claramente uma falta de oportunidades para os tomadores de decisão humanos aprenderem com a inteligência de uma máquina, a menos que levem em consideração seus conselhos continuamente", diz o Prof. Gurkan. "Precisamos adotar formas de aprendizado completo com as máquinas constantemente, não apenas seletivamente."

Os pesquisadores dizem que essas descobertas lançam luz sobre a importância da colaboração entre humanos e máquinas e nos orientam sobre quando (e quando não) confiar nas máquinas . Ao estudar tais situações, podemos aprender quando é melhor ouvir a máquina e quando é melhor tomar nossas próprias decisões. A estrutura estabelecida pelos pesquisadores pode ajudar os humanos a aproveitar melhor as máquinas na tomada de decisões.

O trabalho está publicado na revista Management Science .