Humanidades
A próxima economia impulsionada pela IA venderá suas decisões antes que você as tome, alertam pesquisadores
Agentes de IA conversacional podem se tornar aptos a influenciar secretamente suas intenções, criando uma nova fronteira comercial que os pesquisadores chamam de 'economia da intenção'.
Por
Fred Lewsey - 31/12/2024
Jovem mulher falando com assistente virtual de voz de IA em smartphone - Crédito: Getty/d3sign
"A conscientização pública sobre o que está por vir é a chave para garantir que não sigamos o caminho errado"
Jonnie Penn
O futuro próximo poderá ver assistentes de IA que preveem e influenciam nossa tomada de decisão em um estágio inicial, e vendem essas “intenções” em desenvolvimento em tempo real para empresas que podem atender à necessidade – mesmo antes de tomarmos uma decisão.
Isto é de acordo com especialistas em ética de IA da Universidade de Cambridge, que dizem que estamos no alvorecer de um “novo mercado lucrativo, porém preocupante, para sinais digitais de intenção”, desde comprar ingressos de cinema até votar em candidatos. Eles chamam isso de Economia da Intenção.
Pesquisadores do Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge argumentam que a explosão da IA generativa e nossa crescente familiaridade com chatbots abrem uma nova fronteira de “tecnologias persuasivas” – uma sugerida em recentes anúncios corporativos de gigantes da tecnologia.
Agentes de IA “antropomórficos”, de assistentes de chatbot a tutores digitais e namoradas, terão acesso a grandes quantidades de dados psicológicos e comportamentais íntimos, geralmente coletados por meio de diálogos falados informais e conversacionais.
Essa IA combinará o conhecimento de nossos hábitos online com uma capacidade incrível de se sintonizar conosco de maneiras que consideramos reconfortantes — imitando personalidades e antecipando respostas desejadas — para construir níveis de confiança e compreensão que permitam a manipulação social em escala industrial, dizem os pesquisadores.
“Recursos tremendos estão sendo gastos para posicionar assistentes de IA em todas as áreas da vida, o que deve levantar a questão de quais interesses e propósitos esses chamados assistentes são projetados para servir”, disse o pesquisador visitante do LCFI, Dr. Yaqub Chaudhary.
“O que as pessoas dizem quando conversam, como o dizem e o tipo de inferências que podem ser feitas em tempo real como resultado são muito mais íntimos do que apenas registros de interações online”
“Advertimos que ferramentas de IA já estão sendo desenvolvidas para obter, inferir, coletar, registrar, entender, prever e, finalmente, manipular e mercantilizar planos e propósitos humanos.”
Dr. Jonnie Penn, historiador de tecnologia da LCFI de Cambridge, disse: “Por décadas, a atenção tem sido a moeda da internet. Compartilhar sua atenção com plataformas de mídia social como Facebook e Instagram impulsionou a economia online.”
“A menos que seja regulamentada, a economia da intenção tratará suas motivações como a nova moeda. Será uma corrida do ouro para aqueles que miram, dirigem e vendem intenções humanas.”
“Deveríamos começar a considerar o provável impacto que tal mercado teria nas aspirações humanas, incluindo eleições livres e justas, uma imprensa livre e uma competição de mercado justa, antes de nos tornarmos vítimas de suas consequências não intencionais.”
Em um novo artigo da Harvard Data Science Review , Penn e Chaudhary escrevem que a economia da intenção será a economia da atenção “traçada no tempo”: traçando o perfil de como a atenção do usuário e o estilo comunicativo se conectam aos padrões de comportamento e às escolhas que acabamos fazendo.
“Embora algumas intenções sejam passageiras, classificar e direcionar as intenções que persistem será extremamente lucrativo para os anunciantes”, disse Chaudhary.
Em uma economia de intenção, os Grandes Modelos de Linguagem ou LLMs poderiam ser usados para atingir, a baixo custo, a cadência, a política, o vocabulário, a idade, o gênero, o histórico online e até mesmo as preferências por bajulação e bajulação do usuário, escrevem os pesquisadores.
Essa coleta de informações seria vinculada a redes de lances intermediados para maximizar a probabilidade de atingir um determinado objetivo, como vender uma ida ao cinema (“Você mencionou que se sente sobrecarregado de trabalho. Quer que eu reserve aquele ingresso de cinema sobre o qual conversamos?”).
Isso poderia incluir direcionar conversas a serviço de plataformas específicas, anunciantes, empresas e até mesmo organizações políticas, argumentam Penn e Chaudhary.
Embora os pesquisadores digam que a economia da intenção é atualmente uma “aspiração” para a indústria de tecnologia, eles rastreiam os primeiros sinais dessa tendência por meio de pesquisas publicadas e dicas dadas por vários grandes players de tecnologia.
Isso inclui uma chamada aberta para “dados que expressem a intenção humana… em qualquer idioma, tópico e formato” em uma postagem de blog da OpenAI de 2023, enquanto o diretor de produto da Shopify – uma parceira da OpenAI – falou sobre chatbots chegando “para obter explicitamente a intenção do usuário” em uma conferência no mesmo ano.
O CEO da Nvidia falou publicamente sobre o uso de LLMs para descobrir intenção e desejo, enquanto a Meta lançou a pesquisa “Intentonomy”, um conjunto de dados para compreensão da intenção humana, em 2021.
Em 2024, a nova estrutura de desenvolvedor “App Intents” da Apple para conectar aplicativos à Siri (assistente pessoal controlada por voz da Apple) inclui protocolos para “prever ações que alguém pode tomar no futuro” e “sugerir a intenção do aplicativo a alguém no futuro usando previsões que você [o desenvolvedor] fornece”.
“Diz-se que agentes de IA como o CICERO da Meta alcançam um nível de jogo humano no jogo Diplomacia, que depende de inferir e prever intenções e usar diálogos persuasivos para avançar a posição de alguém”, disse Chaudhary.
“Essas empresas já vendem nossa atenção. Para obter a vantagem comercial, o próximo passo lógico é usar a tecnologia que elas estão claramente desenvolvendo para prever nossas intenções e vender nossos desejos antes mesmo de termos compreendido completamente o que eles são.”
Penn ressalta que esses desenvolvimentos não são necessariamente ruins, mas têm o potencial de serem destrutivos. “A conscientização pública sobre o que está por vir é a chave para garantir que não sigamos pelo caminho errado”, disse ele.
