Humanidades

O custo oculto da IA: Em conversa com o professor Mark Graham
Sem anotadores de dados criando conjuntos de dados que podem ensinar à IA a diferença entre um semáforo e uma placa de rua, veículos autônomos não seriam permitidos em nossas estradas. E sem trabalhadores treinando algoritmos de aprendizado de...
Por Oxford - 21/07/2024


De acordo com o Professor Mark Graham, muitas das tecnologias digitais das quais dependemos só podem funcionar devido a um exército de trabalho humano, escondido da vista. Crédito da imagem: Adobe Stock.


Hoje, estamos no meio de um ciclo de hype em que as empresas estão correndo para integrar ferramentas de IA em uma variedade de produtos, transformando tudo, desde logística até manufatura e assistência médica. No entanto, o trabalho de dados que é essencial para o funcionamento dos produtos e serviços que usamos é frequentemente deliberadamente escondido da vista. Se não fosse pelos moderadores de conteúdo escaneando continuamente as postagens em segundo plano, as redes sociais seriam imediatamente inundadas com material violento e explícito.

Sem anotadores de dados criando conjuntos de dados que podem ensinar à IA a diferença entre um semáforo e uma placa de rua, veículos autônomos não seriam permitidos em nossas estradas. E sem trabalhadores treinando algoritmos de aprendizado de máquina, não teríamos ferramentas de IA como o ChatGPT.

Professor Mark Graham

O professor Mark Graham pesquisa tecnologia global através dos olhos da força de trabalho humana oculta que a produz. Ele argumenta que a IA é uma "máquina de extração", que processa conjuntos de dados cada vez maiores e se alimenta do trabalho da humanidade e da inteligência coletiva para alimentar seus algoritmos.

Conversamos com Mark para discutir algumas dessas questões.

Ao falar sobre as tecnologias de IA nas quais confiamos, você menciona os "inúmeros humanos forçados a trabalhar como robôs, se esforçando em empregos monótonos e mal pagos apenas para tornar essas máquinas extraordinárias possíveis" — quem são essas pessoas e que tipo de trabalho elas estão fazendo?

Há toda uma gama de "trabalho de dados" necessária para tornar nossas vidas digitais possíveis. Os anotadores de dados rotulam os dados com tags para que eles possam ser compreendidos por programas de computador. Os moderadores de conteúdo examinam o conteúdo digital para remover conteúdo prejudicial que viole as diretrizes da empresa. Se você já interagiu com qualquer forma de IA, seja um chatbot, um mecanismo de busca, um feed de mídia social, um sistema de recomendação de streaming ou um sistema de reconhecimento facial, os trabalhadores de dados ajudaram a construir ou manter esses sistemas.

"A causa raiz dos problemas encontrados pelos trabalhadores de dados está no desequilíbrio de poder entre eles e as instituições que governam seus empregos... É improvável que qualquer um dos problemas que os trabalhadores de dados vivenciam seja abordado de forma significativa sem que os trabalhadores construam seu poder coletivo em movimentos e instituições."


Você fala sobre "construir o poder dos trabalhadores" como um passo para corrigir alguns dos problemas do trabalho oculto da IA — acho que isso é bem difícil quando esses empregos são tão atomizados e a força de trabalho tão dispensável?

A causa raiz dos problemas encontrados pelos trabalhadores de dados está no desequilíbrio de poder entre eles e as instituições que governam seus empregos. Historicamente, quando os movimentos sociais alcançam mudanças duradouras, é frequentemente por meio da organização de uma massa crítica de pessoas para pressionar por políticas que abordem as desigualdades sistêmicas. Portanto, é improvável que qualquer um dos problemas que os trabalhadores de dados vivenciam seja abordado de forma significativa sem que os trabalhadores construam seu poder coletivo em movimentos e instituições.

No entanto, os trabalhadores de dados enfrentam sérias barreiras para construir esse poder. Os trabalhos que eles realizam são relativamente livres e padronizados e, como resultado, são realizados em um mercado de trabalho em escala planetária. Seus trabalhos podem ser rapidamente transferidos para o outro lado do planeta. 

Não há maneiras fáceis para os trabalhadores construírem poder coletivo sob esse tipo de condições. Trabalhadores de dados em um país como Quênia ou Filipinas têm uma enorme desvantagem estrutural. No entanto, isso não quer dizer que a organização seja impossível. Em redes de produção que são organizadas globalmente, os trabalhadores também precisarão cada vez mais explorar maneiras de se organizar em todas as geografias. Isso, sem dúvida, assumirá uma série de formas, mas todas precisarão estar enraizadas no princípio de que os trabalhadores agindo coletivamente serão capazes de exigir melhores condições para todos em uma rede de produção. Esforços isolados, por outro lado, dificilmente conseguirão uma mudança duradoura.

Um requisito de accountability é a visibilidade. Quais são algumas das maneiras pelas quais esse trabalho é escondido de nós -- e por quê? Como ele poderia ser tornado mais aberto e visível, mais reconhecido? 

O trabalho em redes de produção de IA está quase sempre escondido da vista. Se você toma uma xícara de café ou compra um par de sapatos, provavelmente tem a concepção de que em algum momento o café passou pelas mãos de um trabalhador de plantação ou os sapatos foram montados por alguém em uma fábrica clandestina. No entanto, precisamente porque a IA se apresenta como automatizada, muito poucas pessoas conseguem imaginar como é o trabalho humano do outro lado da tela. As empresas de IA são cúmplices desse subterfúgio. Elas querem se apresentar como inovadoras tecnológicas em vez de empresas por trás de vastas fábricas clandestinas digitais.

"Como a IA se apresenta como automatizada, muito poucas pessoas conseguem imaginar como é o trabalho humano do outro lado da tela. As empresas de IA são cúmplices desse subterfúgio."


Por causa dessa enorme lacuna entre como as empresas de tecnologia se apresentam e as condições reais vivenciadas pelos trabalhadores nessas redes de produção, comecei o projeto Fairwork. O Fairwork avalia as empresas em relação aos princípios do trabalho decente e dá a cada empresa uma pontuação de 10 com base em quão bem elas se comparam a esses princípios. Até o momento, pontuamos quase 700 empresas em 38 países. Fazer esse trabalho encorajou muitas empresas a fazer melhorias nas condições de trabalho de seus trabalhadores para receber uma pontuação mais alta.

A próxima fase do nosso projeto envolverá ir até as empresas líderes em redes de produção de IA, as marcas com as quais os consumidores estão familiarizados, e informá-las de que começaremos a responsabilizá-las por todas as condições de trabalho a montante em suas redes de produção. Trabalharemos construtivamente com elas para incorporar princípios de trabalho justo em seus contratos e acordos com fornecedores, mas também usaremos nossa pesquisa para responsabilizá-las quando elas não o fizerem.

Acho que uma solução óbvia para algumas dessas questões é a regulamentação -- os trabalhadores devem ser protegidos em qualquer jurisdição em que estejam trabalhando e onde quer que estejam na cadeia de produção. Quais esforços estão sendo feitos nessa área?

O mercado de trabalho planetário em que muito desse trabalho é negociado dificulta que os reguladores no Sul Global elevem as condições. Se a regulamentação aumentar os custos no Quênia, esses empregos podem se mudar para a Índia. Se a regulamentação na Índia aumentar os custos, esses empregos podem se mudar para as Filipinas. Essas dinâmicas criam uma "corrida para o fundo" nos salários e nas condições de trabalho, deixando os reguladores tendo que escolher entre empregos ruins ou nenhum emprego. Como a economista Joan Robinson disse, "A miséria de ser explorado pelos capitalistas não é nada comparada à miséria de não ser explorado de forma alguma".

No entanto, embora a geografia global do mercado de trabalho neutralize a capacidade dos reguladores de agir no Sul Global, ela fortalece a mão dos reguladores no Norte Global. Os reguladores em países que abrigam grande parte da demanda por produtos e serviços digitais têm a capacidade de desempenhar um papel descomunal na definição de padrões. A proposta da Diretiva da Cadeia de Suprimentos da UE é um bom exemplo disso. Ela visa tornar as empresas que operam na UE responsáveis pelos direitos humanos e impactos ambientais em suas cadeias de suprimentos globais. Como poucas empresas de IA desejarão abrir mão da capacidade de vender para consumidores na UE, esta diretiva tem o potencial de melhorar as condições para muitos trabalhadores em países com proteções trabalhistas fracas.

Grande parte da discussão sobre IA tem se concentrado nos riscos existenciais que ela pode apresentar no futuro de médio a longo prazo. No entanto, os riscos reais da IA já estão aqui no presente.

Por fim, sua avaliação da indústria de IA é bem sombria, que "os trabalhadores são tratados como pouco mais do que o combustível necessário para manter a máquina funcionando" — e que isso está acontecendo com todos nós, agora mesmo. Quais são algumas das principais questões e campos de batalha nos quais essa questão será jogada nos próximos anos?

"Grande parte da discussão sobre IA tem se concentrado nos riscos existenciais que ela pode apresentar no futuro de médio a longo prazo. No entanto, os riscos reais da IA já estão aqui no presente."


Algumas décadas atrás, campanhas anti-sweatshops desviaram a atenção para a situação dos trabalhadores da indústria têxtil e transferiram o ônus da responsabilidade por esses trabalhadores para as marcas que vendem roupas. Essas campanhas não erradicaram completamente as sweatshops, mas foram um momento importante no caminho para normalizar a ideia de que as empresas líderes em redes de produção têm o poder potencial de impor condições de trabalho decentes em toda a cadeia de suprimentos. Se quisermos caminhar em direção a um futuro de trabalho mais justo, um dos principais campos de batalha terá que ser garantir que as grandes empresas de tecnologia assumam a responsabilidade pelas condições de todos os trabalhadores em suas cadeias de suprimentos.

Como as empresas de tecnologia, até o momento, assumiram muito pouco dessa responsabilidade, será necessária pressão dos consumidores, formuladores de políticas e trabalhadores. Os consumidores terão que reconhecer que são cúmplices nas condições dos trabalhadores que fizeram ou mantiveram o produto ou serviço que estão usando. Os formuladores de políticas terão que perceber que uma abordagem laissez-faire à regulamentação está apenas servindo para aumentar as desigualdades. E os trabalhadores terão que encontrar maneiras cada vez mais criativas de se organizar em todas as cadeias de suprimentos para responsabilizar as empresas. Até que todos forcemos essas empresas a mudar, continuaremos a ser nada mais do que combustível para a máquina.

***

O professor Mark Graham estava conversando com o escritor científico do OII, David Sutcliffe.

Mark Graham é professor de Geografia da Internet no Oxford Internet Institute, onde lidera uma série de projetos de pesquisa abrangendo tópicos entre trabalho digital, economia gig, geografias da internet e TICs e desenvolvimento. Ele também é o principal investigador do projeto de pesquisa de ação participativa Fairwork , que visa definir padrões mínimos de trabalho justo para a economia gig.


Leia seu último livro: James Muldoon, Mark Graham e Callum Cant (2024) Feeding the Machine . Canongate.

 

.
.

Leia mais a seguir