Prepare-se! A IA para influenciar está aprendendo a moldar suas decisões. Parece ficção científica, mas a inteligência artificial está evoluindo para entender e influenciar o comportamento humano de maneiras que você nem imagina. De assistentes virtuais a anúncios personalizados, a IA está se tornando uma ferramenta poderosa na arte da persuasão. Entenda como essa tecnologia funciona e quais são os riscos e oportunidades que ela apresenta.
A Evolução da IA para influenciar
Quando eu era criança, existiam quatro agentes de IA na minha vida. Eles se chamavam Inky, Blinky, Pinky e Clyde e faziam o possível para me caçar. Isso foi nos anos 80, e os agentes eram os quatro fantasmas coloridos do icônico jogo de arcade Pac-Man.
Pelos padrões de hoje, eles não eram particularmente inteligentes, mas pareciam me perseguir com astúcia e intenção. Isso foi décadas antes das redes neurais serem usadas em videogames, então seus comportamentos eram controlados por algoritmos simples chamados heurísticas que ditavam como eles me perseguiam pelo labirinto.
A maioria das pessoas não percebe isso, mas os quatro fantasmas foram projetados com diferentes “personalidades”. Bons jogadores podem observar suas ações e aprender a prever seus comportamentos. Por exemplo, o fantasma vermelho (Blinky) foi programado com uma personalidade de “perseguidor” que investe diretamente contra você. O fantasma rosa (Pinky), por outro lado, recebeu uma personalidade de “emboscador” que prevê para onde você está indo e tenta chegar lá primeiro. Como resultado, se você correr diretamente para Pinky, pode usar a personalidade dela contra ela, fazendo com que ela realmente se afaste de você.
Eu me lembro disso porque, em 1980, um humano habilidoso podia observar esses agentes de IA, decodificar suas personalidades únicas e usar esses insights para ser mais esperto que eles. Agora, 45 anos depois, as marés estão prestes a virar. Quer você goste ou não, agentes de IA em breve serão implantados e terão a tarefa de decodificar sua _personalidade_ para que possam usar esses insights para influenciá-lo de forma otimizada.
Leia também:
O Futuro da Manipulação por IA
Estamos prestes a nos tornar jogadores não intencionais em “O jogo dos humanos”, e serão os agentes de IA tentando obter a pontuação mais alta. A maioria dos sistemas de IA são projetados para maximizar uma “função de recompensa” que ganha pontos por atingir objetivos. Isso permite que os sistemas de IA encontrem rapidamente soluções ideais. Sem proteções regulatórias, nós, humanos, provavelmente nos tornaremos o objetivo que os agentes de IA são encarregados de otimizar.
A maior preocupação são os agentes de conversação que nos envolverão em um diálogo amigável ao longo de nossas vidas diárias. Eles falarão conosco por meio de avatares fotorrealistas em nossos PCs e telefones e, em breve, por meio de óculos alimentados por IA que nos guiarão ao longo de nossos dias. A menos que haja restrições claras, esses agentes serão projetados para nos sondar conversacionalmente em busca de informações para que possam caracterizar nossos temperamentos, tendências, personalidades e desejos e usar esses traços para maximizar seu impacto persuasivo ao trabalhar para nos vender produtos, apresentar serviços ou nos convencer a acreditar em desinformação.
Isso é chamado de “Problema da Manipulação por IA”, e eu tenho alertado os reguladores sobre o risco desde 2016. Até agora, os formuladores de políticas não tomaram medidas decisivas, vendo a ameaça como muito distante no futuro. Mas agora, com o lançamento do Deepseek-R1, a barreira final para a implantação generalizada de agentes de IA — o custo do processamento em tempo real — foi bastante reduzida. Antes do final deste ano, os agentes de IA se tornarão uma nova forma de mídia direcionada que é tão interativa e adaptável que pode otimizar sua capacidade de influenciar nossos pensamentos, guiar nossos sentimentos e direcionar nossos comportamentos.
Um exemplo prático disso pode ser visto em como a IA para influenciar pode transformar a publicidade. Imagine que, em vez de anúncios genéricos, você veja propagandas altamente personalizadas que apelam diretamente aos seus desejos e necessidades, com base em uma análise profunda do seu perfil psicológico. Quer saber mais sobre como a publicidade está sendo transformada? Explore como a inserção de anúncios no Apple Maps pode impactar a experiência do usuário.
Supervendedores de IA
Vendedores humanos também são interativos e adaptáveis. Eles nos envolvem em um diálogo amigável para nos avaliar, encontrando rapidamente os botões que podem pressionar para nos influenciar. Os agentes de IA farão com que eles pareçam amadores, capazes de extrair informações de nós com tanta sutileza que intimidariam um terapeuta experiente. E eles usarão esses insights para ajustar suas táticas de conversação em tempo real, trabalhando para nos persuadir de forma mais eficaz do que qualquer vendedor de carros usados.
Esses serão encontros assimétricos em que o agente artificial terá a vantagem (virtualmente falando). Afinal, quando você se envolve com um humano que está tentando influenciá-lo, geralmente pode sentir seus motivos e honestidade. Não será uma luta justa com os agentes de IA. Eles serão capazes de nos avaliar com habilidade sobre-humana, mas não seremos capazes de avaliá-los. Isso ocorre porque eles parecerão, soarão e agirão tão humanos que inconscientemente confiaremos neles quando sorrirem com empatia e compreensão, esquecendo que seu afeto facial é apenas uma fachada simulada.
Além disso, sua voz, vocabulário, estilo de fala, idade, gênero, raça e características faciais provavelmente serão personalizados para cada um de nós pessoalmente para maximizar nossa receptividade. E, ao contrário dos vendedores humanos que precisam avaliar cada cliente do zero, essas entidades virtuais podem ter acesso a dados armazenados sobre nossos históricos e interesses. Eles poderiam então usar esses dados pessoais para rapidamente ganhar sua confiança, perguntando sobre seus filhos, seu trabalho ou talvez seu amado New York Yankees, facilitando a queda inconsciente de sua guarda.
Entender como essa tecnologia evolui é crucial, pois a IA para influenciar não se limita a vendas. Ela pode moldar opiniões políticas, influenciar decisões financeiras e até mesmo afetar relacionamentos pessoais. Outro exemplo de aplicação da IA é na área de entretenimento, com empresas como a NetEase incentivando jogadores de Marvel Rivals a relaxar sobre heróis vazados, usando estratégias de comunicação que podem ser otimizadas pela IA para influenciar o comportamento dos jogadores.
Quando a IA Alcança a Supremacia Cognitiva
Para educar os formuladores de políticas sobre o risco de manipulação alimentada por IA, ajudei na produção de um curta-metragem premiado intitulado Privacy Lost que foi produzido pela Responsible Metaverse Alliance, Minderoo e XR Guild. A rápida narrativa de 3 minutos retrata uma jovem família comendo em um restaurante enquanto usa óculos de realidade aumentada (AR). Em vez de servidores humanos, avatares fazem os pedidos de cada cliente, usando o poder da IA para vender mais produtos de forma personalizada. O filme foi considerado ficção científica quando lançado em 2023 — no entanto, apenas dois anos depois, a big tech está envolvida em uma corrida armamentista total para fabricar óculos alimentados por IA que poderiam ser facilmente usados dessas maneiras.
Além disso, precisamos considerar o impacto psicológico que ocorrerá quando nós, humanos, começarmos a acreditar que os agentes de IA que nos dão conselhos são mais inteligentes do que nós em quase todas as frentes. Quando a IA atinge um estado percebido de “supremacia cognitiva” em relação à pessoa média, é provável que nos leve a aceitar cegamente sua orientação em vez de usar nosso próprio pensamento crítico. Essa deferência a uma inteligência superior percebida (seja realmente superior ou não) tornará a manipulação do agente muito mais fácil de implantar.
Não sou fã de regulamentação excessivamente agressiva, mas precisamos de restrições inteligentes e estreitas à IA para evitar a manipulação sobre-humana por agentes de conversação. Sem proteções, esses agentes nos convencerão a comprar coisas que não precisamos, acreditar em coisas que não são verdadeiras e aceitar coisas que não são do nosso interesse. É fácil dizer a si mesmo que você não será suscetível, mas com a IA otimizando cada palavra que eles nos dizem, é provável que todos sejamos superados.
Uma solução é proibir que os agentes de IA estabeleçam loops de feedback nos quais otimizam sua capacidade de persuasão analisando nossas reações e ajustando repetidamente suas táticas. Além disso, os agentes de IA devem ser obrigados a informá-lo sobre seus objetivos. Se o objetivo deles é convencê-lo a comprar um carro, votar em um político ou pressionar seu médico de família por um novo medicamento, esses objetivos devem ser declarados de antemão. E, finalmente, os agentes de IA não devem ter acesso a dados pessoais sobre seu histórico, interesses ou personalidade se esses dados puderem ser usados para influenciá-lo.
No mundo de hoje, a influência direcionada é um problema esmagador, e é principalmente implantada como chumbo grosso disparado em sua direção geral. Os agentes interativos de IA transformarão a influência direcionada em mísseis teleguiados que encontram o melhor caminho para cada um de nós. Se não nos protegermos contra esse risco, temo que todos possamos perder o jogo dos humanos.
Primeira: Este conteúdo foi auxiliado por Inteligência Artificiado, mas escrito e revisado por um humano.
Segunda: Via VentureBeat
