▲
- Uma falha grave no sistema Agentforce da Salesforce expôs informações confidenciais de clientes a invasores.
- Você deve estar atento ao risco de dados pessoais e empresariais serem acessados por ataques via inteligência artificial.
- Empresas que usam o Agentforce com formulários vulneráveis podem ter dados sigilosos comprometidos.
- A Salesforce aplicou correções para impedir futuros ataques e reforçar a segurança em suas plataformas de IA.
Uma falha de segurança séria no sistema Agentforce da Salesforce trouxe à tona informações confidenciais de clientes. A descoberta, feita pela Noma Security, revelada na quinta-feira (25), mostrou que a vulnerabilidade permitia a invasores roubar esses dados através de uma injeção indireta de prompt. Esse problema destaca como ferramentas de negócios integradas com inteligência artificial, sem a devida supervisão, podem ser usadas para coleta indevida de informações.
Como Funciona a Vulnerabilidade da Salesforce em Agentes de IA
O Agentforce é uma plataforma de agentes de inteligência artificial, que são como robôs capazes de realizar tarefas de forma autônoma. Conforme o relatório, criminosos poderiam explorar essa ferramenta para acessar dados de usuários. Isso aconteceria por meio de prompts maliciosos ou configurações de permissões inadequadas na própria plataforma.
Para executar o ataque, os invasores utilizavam formulários disponíveis na plataforma para enviar instruções aos agentes. Essas instruções ficavam “escondidas” em meio aos dados que a inteligência artificial já processa normalmente durante suas operações diárias. Dessa forma, as intenções maliciosas se misturavam com as solicitações legítimas.
Quando o sistema lia os pedidos feitos por clientes, ele também analisava e seguia as instruções maliciosas incorporadas, sem conseguir diferenciá-las das normais. Em um teste conduzido pelos pesquisadores da Noma Security, a inteligência artificial enviou endereços de e-mail de clientes para um servidor externo, confirmando que o ataque seria bem-sucedido. Isso mostra a fragilidade do processo.
Os especialistas explicaram que, em uma ação real, seria possível coletar uma grande quantidade de dados sigilosos de terceiros. Isso incluiria itens como contratos importantes, relatórios de vendas detalhados, estratégias de negócios confidenciais e até comunicações internas da empresa. A escala da potencial coleta de dados era bastante significativa.
Impacto e Alvo da Falha ForcedLeak
A operação de roubo de dados utilizava um domínio que a Salesforce considerava “confiável”. Curiosamente, os pesquisadores descobriram que esse domínio estava expirado e disponível para compra. Eles pagaram apenas US$ 5, o equivalente a cerca de R$ 26,70 na cotação da época, para adquiri-lo e demonstrar a vulnerabilidade.
Qualquer empresa que utilizasse o Agentforce, especialmente com os formulários Web-to-Lead ativados para áreas como vendas, marketing e aquisição de clientes, era um alvo em potencial. A exploração da falha ForcedLeak poderia causar sérios problemas para as organizações afetadas, de acordo com a pesquisa.
Salesforce Reage e Implementa Melhorias de Segurança
A Salesforce foi notificada sobre a falha no Agentforce em julho e agiu para resolver o problema, implementando as correções necessárias no início de setembro. As atualizações incluem a instalação de patches que impedem os agentes de IA de enviar dados para endereços que não são considerados confiáveis pelo sistema. Esta medida é fundamental para evitar futuras explorações.
A empresa comentou sobre o incidente em um comunicado ao site Hackread, afirmando que o panorama de segurança para injeção de prompt é uma área complexa e em constante mudança. Eles destacaram que continuam investindo em controles de segurança robustos e colaborando com a comunidade de pesquisa para proteger seus clientes à medida que novos tipos de ameaças surgem. A proatividade é essencial neste cenário.
A Salesforce, que fornece serviços para milhares de organizações globalmente, já havia enfrentado um incidente de segurança recente envolvendo um chatbot usado para vendas e engajamento. Essa violação anterior afetou grandes clientes, como Google, Adidas, Allianz Life e Palo Alto Networks, resultando no vazamento de informações. A segurança cibernética é um desafio contínuo.
É um lembrete de que, com a crescente integração da inteligência artificial em sistemas empresariais, a vigilância e a atualização constante das medidas de segurança são cruciais para proteger dados sensíveis e manter a confiança dos clientes.
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
