Durante uma reunião da turma 6.C40/24.C40 (Ética da Computação), o professor  Armando Solar-Lezama faz a mesma pergunta impossível aos seus alunos que ele frequentemente se faz na pesquisa que lidera com o Grupo de Programação Assistida por Computador no MIT:

"Como podemos garantir que uma máquina faça o que queremos e somente o que queremos?"

Neste momento, o que alguns consideram a era de ouro da IA generativa, isso pode parecer uma nova questão urgente. Mas Solar-Lezama, o Distinguished Professor of Computing no MIT, é rápido em apontar que essa luta é tão antiga quanto a própria humanidade.

Ele começa a recontar o mito grego do Rei Midas, o monarca a quem foi concedido o poder divino de transformar qualquer coisa que tocasse em ouro maciço. Previsivelmente, o desejo saiu pela culatra quando Midas acidentalmente transformou todos que amava em pedra dourada.

"Tenha cuidado com o que você pede, porque pode ser concedido de maneiras que você não espera", ele diz, alertando seus alunos, muitos deles aspirantes a matemáticos e programadores.

Vasculhando os arquivos do MIT para compartilhar slides de fotografias granuladas em preto e branco, ele narra a história da programação. Ouvimos sobre a máquina Pigmalião dos anos 1970, que exigia dicas incrivelmente detalhadas, até o software de computador do final dos anos 90, que levou anos de equipes de engenheiros e um documento de 800 páginas para programar.

Embora notáveis em sua época, esses processos demoravam muito para chegar aos usuários. Eles não deixavam espaço para descoberta espontânea, brincadeira e inovação.

Solar-Lezama fala sobre os riscos de construir máquinas modernas que nem sempre respeitam as instruções ou linhas vermelhas do programador e que são igualmente capazes de causar danos e salvar vidas.

Titus Roesler, um veterano com especialização em engenharia elétrica, concorda conscientemente. Roesler está escrevendo seu trabalho final sobre a ética dos veículos autônomos e ponderando quem é moralmente responsável quando alguém hipoteticamente atropela e mata um pedestre. Seu argumento questiona suposições subjacentes por trás dos avanços técnicos e considera vários pontos de vista válidos. Ele se apoia na teoria filosófica do utilitarismo. Roesler explica: "Aproximadamente, de acordo com o utilitarismo, a coisa moral a fazer traz o maior bem para o maior número de pessoas."

O filósofo do MIT  Brad Skow , com quem Solar-Lezama desenvolveu e está ensinando o curso em equipe, se inclina para frente e toma notas.

Ética da Computação, oferecida pela primeira vez no outono de 2024, foi criada por meio do  Common Ground for Computing Education , uma iniciativa do MIT Schwarzman College of Computing que reúne vários departamentos para desenvolver e ensinar novos cursos e lançar novos programas que combinam computação com outras disciplinas.

Os instrutores alternam dias de aula. Skow, o Professor de Filosofia Laurance S. Rockefeller, traz a lente de sua disciplina para examinar as implicações mais amplas das questões éticas de hoje, enquanto Solar-Lezama, que também é diretor associado e diretor de operações do Laboratório de Ciência da Computação e Inteligência Artificial do MIT, oferece perspectiva por meio de sua.

Skow e Solar-Lezama assistem às aulas um do outro e ajustam suas sessões de aula de acompanhamento em resposta. A introdução do elemento de aprender um com o outro em tempo real tornou as conversas em sala de aula mais dinâmicas e responsivas. Uma recitação para dividir o tópico da semana com alunos de pós-graduação em filosofia ou ciência da computação e uma discussão animada combinam o conteúdo do curso.

"Um estranho pode pensar que esta será uma aula que garantirá que esses novos programadores de computador enviados ao mundo pelo MIT sempre façam a coisa certa", diz Skow. No entanto, a aula é intencionalmente projetada para ensinar aos alunos um conjunto de habilidades diferente.

Determinado a criar um curso impactante de um semestre que fizesse mais do que dar palestras aos alunos sobre o certo ou errado, o professor de filosofia Caspar Hare concebeu a ideia para a Ética da Computação em sua função como reitor associado das  Responsabilidades Sociais e Éticas da Computação. Hare recrutou Skow e Solar-Lezama como instrutores principais, pois sabia que eles poderiam fazer algo mais profundo do que isso.

"Pensar profundamente sobre as questões que surgem nesta aula requer tanto perícia técnica quanto filosófica. Não há outras aulas no MIT que coloquem ambas lado a lado", diz Skow.

Foi exatamente isso que atraiu o veterano Alek Westover a se matricular. O aluno com dupla especialização em matemática e ciência da computação explica: "Muitas pessoas estão falando sobre como será a trajetória da IA em cinco anos. Achei que era importante fazer uma aula que me ajudasse a pensar mais sobre isso."

Westover diz que é atraído pela filosofia por causa de um interesse em ética e um desejo de distinguir o certo do errado. Nas aulas de matemática, ele aprendeu a escrever uma declaração de problema e receber clareza instantânea sobre se ele o resolveu com sucesso ou não. No entanto, em Ethics of Computing, ele aprendeu como fazer argumentos escritos para "questões filosóficas complicadas" que podem não ter uma única resposta correta.

Por exemplo, "Um problema com o qual poderíamos nos preocupar é: o que acontece se construirmos agentes de IA poderosos que podem fazer qualquer trabalho que um humano pode fazer?" Westover pergunta. "Se estamos interagindo com essas IAs nesse grau, deveríamos pagar a elas um salário? O quanto deveríamos nos importar com o que elas querem?"

Não há uma resposta fácil, e Westover presume que encontrará muitos outros dilemas no local de trabalho no futuro.

O semestre começou com um mergulho profundo no risco da IA, ou a noção de "se a IA representa um risco existencial para a humanidade", desvendando o livre-arbítrio, a ciência de como nossos cérebros tomam decisões sob incerteza e debates sobre as responsabilidades de longo prazo e regulamentação da IA. Uma segunda unidade, mais longa, focou em "a internet, a World Wide Web e o impacto social das decisões técnicas". O fim do termo analisa privacidade, preconceito e liberdade de expressão.

Um tópico da aula foi dedicado à pergunta provocativa: "Então, a internet está destruindo o mundo?"

A veterana Caitlin Ogoe está se formando no Curso 6-9 (Computação e Cognição). Estar em um ambiente onde ela pode examinar esses tipos de questões é precisamente o motivo pelo qual a autointitulada "cética da tecnologia" se matriculou no curso.

Crescendo com uma mãe com deficiência auditiva e uma irmã mais nova com deficiência de desenvolvimento, Ogoe se tornou o membro padrão da família cuja função era ligar para provedores para obter suporte técnico ou programar iPhones. Ela alavancou suas habilidades em um emprego de meio período consertando celulares, o que abriu caminho para que ela desenvolvesse um profundo interesse em computação e um caminho para o MIT. No entanto, uma prestigiosa bolsa de estudos de verão em seu primeiro ano a fez questionar a ética por trás de como os consumidores eram impactados pela tecnologia que ela estava ajudando a programar. 

"Tudo o que fiz com tecnologia é da perspectiva das pessoas, educação e conexão pessoal", diz Ogoe. "Este é um nicho que eu amo. Fazer aulas de humanidades sobre política pública, tecnologia e cultura é uma das minhas grandes paixões, mas este é o primeiro curso que faço que também envolve um professor de filosofia."

Na semana seguinte, Skow dá uma palestra sobre o papel do preconceito na IA, e Ogoe, que entrará no mercado de trabalho no ano que vem, mas planeja cursar direito para se concentrar na regulamentação de questões relacionadas, levanta a mão para fazer perguntas ou compartilhar contrapontos quatro vezes.

Skow se aprofunda no exame do COMPAS, um controverso software de IA que usa um algoritmo para prever a probabilidade de que pessoas acusadas de crimes reincidam. De acordo com um  artigo da ProPublica de 2018 , o COMPAS provavelmente sinalizaria réus negros como futuros criminosos e daria falsos positivos duas vezes mais do que para réus brancos.

A sessão de aula é dedicada a determinar se o artigo justifica a conclusão de que o sistema COMPAS é tendencioso e deve ser descontinuado. Para fazer isso, Skow introduz duas teorias diferentes sobre justiça:

"Justiça substantiva é a ideia de que um resultado específico pode ser justo ou injusto", ele explica. "Justiça processual é sobre se o procedimento pelo qual um resultado é produzido é justo." Uma variedade de critérios conflitantes de justiça são então introduzidos, e a classe discute quais eram plausíveis, e quais conclusões eles justificavam sobre o sistema COMPAS.

Mais tarde, os dois professores sobem até o escritório de Solar-Lezama para conversar sobre como o exercício tinha ocorrido naquele dia.

"Quem sabe?", diz Solar-Lezama. "Talvez daqui a cinco anos, todos vão rir de como as pessoas estavam preocupadas com o risco existencial da IA. Mas um dos temas que vejo percorrendo esta aula é aprender a abordar esses debates além do discurso da mídia e chegar ao fundo do pensamento rigoroso sobre essas questões."