Em meio aos benefícios que a tomada de decisão algorítmica e a inteligência artificial oferecem — incluindo a revolução na velocidade, eficiência e capacidade preditiva em uma ampla gama de campos — Manish Raghavan está trabalhando para mitigar os riscos associados, ao mesmo tempo em que busca oportunidades para aplicar as tecnologias para ajudar com preocupações sociais preexistentes.

“No final das contas, quero que minha pesquisa impulsione soluções melhores para problemas sociais de longa data”, diz Raghavan, Drew Houston Career Development Professor na Sloan School of Management do MIT e no Departamento de Engenharia Elétrica e Ciência da Computação, além de pesquisador principal no Laboratory for Information and Decision Systems (LIDS).

Um bom exemplo da intenção de Raghavan pode ser encontrado em sua exploração do uso de IA na contratação.

Raghavan diz: “É difícil argumentar que as práticas de contratação historicamente foram particularmente boas ou dignas de preservação, e as ferramentas que aprendem com dados históricos herdam todos os preconceitos e erros que os humanos cometeram no passado”.

Aqui, no entanto, Raghavan cita uma oportunidade potencial.

“Sempre foi difícil medir a discriminação”, ele diz, acrescentando: “Sistemas baseados em IA são às vezes mais fáceis de observar e medir do que humanos, e um objetivo do meu trabalho é entender como podemos aproveitar essa visibilidade aprimorada para criar novas maneiras de descobrir quando os sistemas estão se comportando mal”.

Crescendo na área da Baía de São Francisco com pais que têm diplomas em ciência da computação, Raghavan diz que originalmente queria ser médico. Pouco antes de começar a faculdade, porém, seu amor por matemática e computação o chamou para seguir o exemplo da família na ciência da computação. Depois de passar um verão como aluno de graduação fazendo pesquisas na Universidade Cornell com Jon Kleinberg, professor de ciência da computação e ciência da informação, ele decidiu que queria obter seu doutorado lá, escrevendo sua tese sobre “Os impactos sociais da tomada de decisão algorítmica”.

Raghavan ganhou prêmios por seu trabalho, incluindo um prêmio do Programa de Bolsas de Pesquisa de Pós-Graduação da National Science Foundation, uma Bolsa de Doutorado em Pesquisa da Microsoft e o Prêmio de Dissertação de Doutorado do Departamento de Ciência da Computação da Universidade Cornell.

Em 2022, ele se juntou ao corpo docente do MIT.

Talvez remetendo ao seu interesse inicial pela medicina, Raghavan pesquisou se as determinações de uma ferramenta de triagem algorítmica altamente precisa usada na triagem de pacientes com sangramento gastrointestinal, conhecida como Glasgow-Blatchford Score (GBS), são melhoradas com aconselhamento complementar de médicos especialistas.

“O GBS é quase tão bom quanto o dos humanos em média, mas isso não significa que não haja pacientes individuais, ou pequenos grupos de pacientes, onde o GBS está errado e os médicos provavelmente estão certos”, ele diz. “Nossa esperança é que possamos identificar esses pacientes com antecedência para que o feedback dos médicos seja particularmente valioso lá.”

Raghavan também trabalhou em como as plataformas online afetam seus usuários, considerando como os algoritmos de mídia social observam o conteúdo que um usuário escolhe e então mostram a eles mais do mesmo tipo de conteúdo. A dificuldade, diz Raghavan, é que os usuários podem estar escolhendo o que veem da mesma forma que eles podem pegar um saco de batatas fritas, que são deliciosas, mas não tão nutritivas. A experiência pode ser satisfatória no momento, mas pode deixar o usuário se sentindo um pouco enjoado.

Raghavan e seus colegas desenvolveram um modelo de como um usuário com desejos conflitantes — por gratificação imediata versus um desejo de satisfação de longo prazo — interage com uma plataforma. O modelo demonstra como o design de uma plataforma pode ser alterado para encorajar uma experiência mais completa. O modelo ganhou o Exemplary Applied Modeling Track Paper Award na Association for Computing Machinery Conference on Economics and Computation de 2022.

“A satisfação a longo prazo é importante, mesmo que tudo o que você se importe sejam os interesses de uma empresa”, diz Raghavan. “Se pudermos começar a construir evidências de que os interesses corporativos e dos usuários estão mais alinhados, minha esperança é que possamos pressionar por plataformas mais saudáveis sem precisar resolver conflitos de interesse entre usuários e plataformas. Claro, isso é idealista. Mas minha sensação é que pessoas suficientes nessas empresas acreditam que há espaço para deixar todos mais felizes, e elas simplesmente não têm as ferramentas conceituais e técnicas para fazer isso acontecer.”

Em relação ao seu processo de criar ideias para tais ferramentas e conceitos sobre como aplicar melhor técnicas computacionais, Raghavan diz que suas melhores ideias vêm a ele quando ele está pensando sobre um problema de vez em quando por um tempo. Ele aconselharia seus alunos, ele diz, a seguir seu exemplo de deixar um problema muito difícil de lado por um dia e então retornar a ele.

“As coisas geralmente melhoram no dia seguinte”, diz ele.

Quando não está resolvendo um problema ou ensinando, Raghavan pode ser encontrado ao ar livre em um campo de futebol, como treinador do Harvard Men's Soccer Club, uma posição que ele preza muito.

“Não posso procrastinar se sei que terei que passar a noite no campo, e isso me dá algo para esperar no final do dia”, ele diz. “Tento ter coisas na minha agenda que pareçam pelo menos tão importantes para mim quanto o trabalho para colocar esses desafios e contratempos em contexto.”

Enquanto Raghavan considera como aplicar tecnologias computacionais para melhor servir ao nosso mundo, ele diz que acha que a coisa mais empolgante acontecendo em seu campo é a ideia de que a IA abrirá novos insights sobre “humanos e a sociedade humana”.

“Espero”, ele diz, “que possamos usá-lo para nos entendermos melhor”.