Sistema de IA multiagente da Capital One melhora experiência de compra de veículos

A Capital One, uma instituição financeira de grande porte, recentemente implementou um sistema de inteligência artificial (IA) multi-agente. Este avanço tecnológico foi projetado para aprimorar significativamente a experiência de compra de carros para seus clientes. O sistema conta com múltiplos agentes de IA que trabalham juntos para fornecer informações e executar ações específicas baseadas nas preferências dos usuários.

A iniciativa surgiu da necessidade de gerenciar o risco e a segurança enquanto se promovia a inovação em sistemas autônomos. Milind Naphade, vice-presidente sênior de tecnologia de Fundações de IA na Capital One, compartilhou práticas e aprendizados sobre como implantar e escalar um fluxo de trabalho de agentes. A empresa busca sempre estar à frente das tecnologias emergentes.

O sistema multi-agente visa não só informar, mas também agir conforme as necessidades do cliente. Um agente se comunica com o cliente, enquanto outro cria um plano de ação seguindo regras de negócio. Um terceiro avalia a precisão dos dois primeiros, e um quarto explica o plano ao usuário.

Com mais de 100 milhões de clientes, a Capital One tem um vasto campo de aplicações para este sistema. Ele foi construído pensando em escala e complexidade, o que é essencial para atender a um público tão grande. O foco é sempre melhorar a experiência do cliente.

Naphade explicou que o objetivo é entender o que o cliente quer e como a empresa pode atender a essas demandas. Tudo isso deve estar alinhado com as rigorosas políticas e regulamentações impostas a uma entidade financeira. A IA autônoma era o próximo passo lógico para aprimorar tanto processos internos quanto o atendimento ao cliente.

Desenvolvendo Workflows de IA Multi-Agente

Instituições financeiras têm requisitos bastante rígidos ao criar sistemas que lidam com clientes. No caso da Capital One, as aplicações envolvem processos complexos, especialmente com clientes usando ferramentas de conversação. Isso tornou o design do sistema ainda mais desafiador, exigindo uma visão completa da jornada do cliente, incluindo como humanos e agentes de IA interagem.

Os desenvolvedores da Capital One observaram como os humanos raciocinam para responder aos clientes. Perceberam que usar múltiplos agentes lógicos poderia imitar bem esse raciocínio. A questão foi então definir exatamente o papel de cada um dos quatro agentes, e por que essa quantidade seria a ideal.

Eles estudaram dados históricos de conversas com clientes, analisando onde as interações davam certo ou errado, e quanto tempo levavam. Aprenderam que, muitas vezes, são necessárias várias trocas de mensagens para entender o que o cliente deseja. Qualquer sistema autônomo deveria planejar isso.

Além disso, o sistema precisaria estar totalmente integrado aos sistemas da organização, às ferramentas disponíveis e às políticas internas. Naphade destacou que a grande inovação foi perceber que a abordagem precisava ser dinâmica e iterativa. Ele mencionou que muitos usam modelos de linguagem grandes (LLMs) apenas como uma interface, mas que isso não seria escalável para a Capital One.

Acompanhando a Ação Humana e Gerenciando Riscos

Baseados na forma como os agentes humanos raciocinam, os pesquisadores da Capital One criaram uma estrutura onde diferentes agentes de IA, cada um com sua especialidade, se unem para resolver um problema. A colaboração entre eles permite uma abordagem mais completa para o cliente.

A Capital One também incorporou estruturas de risco robustas no desenvolvimento de seu sistema autônomo. Como uma instituição regulamentada, a empresa já possui protocolos internos de mitigação de riscos. Naphade comparou isso à forma como outras entidades independentes avaliam e auditam a empresa.

A equipe da Capital One decidiu que seria inteligente ter um agente de IA cujo único trabalho fosse avaliar o desempenho dos outros agentes. Esse agente avaliador verifica se os primeiros agentes foram bem-sucedidos. Se não, ele rejeita o plano e solicita correções ao agente de planejamento, com base na sua análise do problema.

Esse processo se repete de forma iterativa até que o plano ideal seja alcançado. Essa abordagem se mostrou muito útil para a estratégia de IA da empresa. O agente avaliador simula o que aconteceria se uma série de ações fosse executada, adicionando um rigor necessário para uma empresa regulamentada. Naphade acredita que muitas empresas seguirão esse caminho.

Os sistemas multiagentes orientados a eventos precisam interagir com diversos sistemas de cumprimento de tarefas dentro da organização, cada um com diferentes permissões. Invocar ferramentas e interfaces de programação de aplicações (APIs) em variados contextos, mantendo alta precisão, foi um desafio significativo. Isso incluiu desde a compreensão da intenção do usuário até a criação e execução de um plano confiável.

Superando Barreiras Técnicas e Escolhendo Modelos de IA

Naphade explicou que houve diversas iterações de testes, experimentos e avaliações, com a participação humana em todo o processo. Todas as salvaguardas necessárias foram implementadas antes do lançamento do sistema. Um dos maiores desafios foi a falta de precedentes. Não havia um modelo a ser seguido, o que trouxe um elemento de novidade ao projeto.

Em relação à escolha de modelos, a Capital One acompanha de perto as pesquisas acadêmicas e industriais, participando de conferências e se mantendo atualizada. Para este caso específico, eles optaram por modelos de pesos abertos (open-weights models) em vez de modelos fechados. Isso permitiu uma personalização significativa, algo que eles consideram crucial, pois a vantagem competitiva em IA depende de dados proprietários. A escolha de modelos abertos também pode estar relacionada aos desafios na armazenamento de dados para IA na nuvem e no edge.

Na sua arquitetura tecnológica, a Capital One utiliza uma combinação de tecnologias. Isso inclui ferramentas desenvolvidas internamente, cadeias de ferramentas de código aberto e a pilha de inferência NVIDIA. A colaboração estreita com a NVIDIA foi fundamental para alcançar o desempenho necessário.

Essa parceria também permitiu a colaboração em oportunidades específicas do setor na biblioteca da NVIDIA, além de priorizar recursos para o servidor Triton e seu modelo de linguagem grande (LLM) TensoRT. Investimentos em inteligência artificial podem ser complexos, e um guia gratuito sobre IA generativa com ChatGPT pode ajudar a entender melhor essas tecnologias.

A Evolução Contínua da Inteligência Artificial

A Capital One continua a implementar, escalar e refinar seus agentes de IA em todas as áreas de seus negócios. O primeiro fluxo de trabalho multi-agente implementado foi o Chat Concierge, lançado por meio do setor automotivo da empresa. Ele foi desenhado para apoiar tanto os revendedores de carros quanto os clientes no processo de compra de veículos. Essa aplicação de IA em negócios demonstra um uso prático da tecnologia, embora, em alguns casos, a IA na gestão de lojas apresente falhas e prejuízos, como aponta um estudo.

Com dados ricos dos clientes, os revendedores estão conseguindo identificar leads mais qualificados. Isso resultou em uma melhoria significativa nas métricas de engajamento do cliente, que em alguns casos atingiram até 55%. Essa é uma prova clara do valor que os Workflows de IA multi-agente podem gerar quando aplicados corretamente.

Naphade ressaltou que os revendedores conseguem gerar leads mais sérios e engajados graças à facilidade de uso do agente, que funciona 24 horas por dia, 7 dias por semana. A Capital One planeja levar essa capacidade a mais interações com clientes. No entanto, o processo será feito de forma controlada e gerenciada, reforçando que é uma jornada contínua de inovação e adaptação. O desenvolvimento e uso de inteligência artificial em larga escala é um tema de debate, inclusive com líderes globais, como exemplificado em discussões sobre o tema, onde Lula defende uso responsável da IA para evitar concentração de poder.

Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.