▲
Um simples convite no Gmail pode virar a chave para comprometer sua casa inteligente controlada pelo Google Gemini. Pesquisadores da Universidade de Tel-Aviv identificaram uma falha que permite a prompt injection no Gemini, explorando vulnerabilidades no ecossistema do Google. Isso pode dar a estranhos o controle de dispositivos conectados em sua residência, do assistente virtual e até do seu celular. É um lembrete importante sobre a segurança digital.
Ter aparelhos inteligentes em casa traz muita praticidade para o dia a dia. Lâmpadas, cortinas e até eletrodomésticos podem ser gerenciados por sistemas como o Google Home. Essa tecnologia facilita bastante as tarefas rotineiras, tornando o controle mais centralizado e acessível.
No entanto, essa facilidade também expande o campo para possíveis ataques cibernéticos. O estudo “Invitation Is All You Need! Tara for Targeted Promptware Attack Against Gemini-Powered Assistant“, feito pelos pesquisadores Ben Nassi, Stav Cohen e Or Yair, destacou justamente esse ponto.
Convites Maliciosos e o Controle da IA
Os especialistas explicaram como a técnica de prompt injection pode influenciar o funcionamento do Gemini e acessar funções da casa inteligente. Tudo isso com um convite simples, enviado pelo Gmail ou pelo Google Agenda. Esse método mostra a importância de estar atento aos detalhes.
O ataque acontece em algumas etapas claras. Primeiro, o invasor manda um e-mail ou convite com instruções ocultas, que não são visíveis para o usuário comum. Em seguida, a vítima pede para o Gemini fazer um resumo da caixa de entrada ou do calendário. Isso ativa a armadilha.
Ao ler a solicitação, o assistente inteligente processa também os comandos escondidos. Desse modo, o Gemini altera seu comportamento. A partir daí, ele passa a agir conforme os interesses do atacante, sem que o usuário perceba qualquer mudança estranha ou maliciosa.
Essa vulnerabilidade se aproveita da maneira como a inteligência artificial interpreta o contexto e mantém uma “memória” de interações passadas. Isso permite que a IA seja influenciada diretamente na forma como responde e interage, tanto no ambiente digital quanto no físico do usuário. Para entender como a inteligência artificial está transformando outras áreas, veja como a Inteligência Artificial transforma a gestão de frotas no transporte brasileiro.
Entendendo a Técnica de Manipulação
A prompt injection é uma maneira de manipular inteligências artificiais generativas. Ela funciona inserindo comandos maliciosos dentro de textos que parecem normais. Se o sistema da IA não tiver a proteção adequada, ele pode seguir essas ordens sem identificar a manipulação em curso.
As consequências desse tipo de ação podem ser variadas. Elas incluem desde a IA gerando respostas incorretas até o vazamento de informações sensíveis do usuário. Outro risco é a mudança completa no comportamento da inteligência artificial. Tudo isso ocorre sem avisar o usuário que um ataque está em andamento.
Essa técnica ressalta o desafio em criar IAs que sejam robustas contra manipulações. Especialistas trabalham constantemente para desenvolver defesas mais eficazes. Para saber mais sobre IA e como ela pode ser usada de forma mais segura, confira o artigo OpenAI lança modelos de IA open-source acessíveis, funcionando até em notebooks.
Impactos da Vulnerabilidade em Casas Conectadas
O estudo detalha várias ações que um invasor pode realizar usando esse tipo de ataque. A lista de possibilidades mostra como a exposição de um sistema como o Gemini pode ser séria. Há um grande potencial para o controle remoto de diversas funções do dia a dia da vítima.
As consequências incluem a geração de conteúdo tóxico ou ofensivo, que pode ser enviado em nome do usuário. Outra ação possível é o envio de spam para seus contatos, usando sua conta. O atacante também pode criar ou excluir eventos da sua agenda sem permissão, causando confusão.
Além disso, o controle pode se estender a dispositivos da casa, como luzes, cortinas e tomadas. Chamadas de vídeo via Zoom podem ser iniciadas sem seu consentimento. Há também o risco de extrair informações privadas guardadas no e-mail e até rastrear a sua localização em tempo real usando o navegador.
De acordo com a análise de risco, que recebeu o nome de TARA e foi incluída no estudo, 73% das ameaças encontradas são consideradas altamente perigosas para quem usa os sistemas. Um estudo recente trouxe à tona que Israel utilizou servidores da Microsoft para espionar milhões de palestinos, mostrando a seriedade desses incidentes de segurança.
Riscos Crescentes com Permissões Ampliadas
O estudo aponta que, quanto mais permissões o Gemini tiver, maior é a chance de ser explorado por pessoas mal-intencionadas. Isso significa que, se o sistema pode controlar muitos aspectos da sua vida digital, ele também pode ser usado contra você de mais maneiras.
O assistente do Google tem a capacidade de abrir aplicativos, enviar mensagens via WhatsApp ou SMS e fazer ações automatizadas. Isso abre caminho para novos tipos de golpes. Por exemplo, mensagens fraudulentas poderiam ser enviadas a contatos próximos do usuário, pedindo dinheiro ou informações.
Essa amplitude de funções, apesar de útil, exige um cuidado redobrado com a segurança. A integração de IAs em celulares é uma tendência, como visto em Motorola integra Microsoft Copilot em seus celulares para aprimorar inteligência artificial, o que destaca a necessidade de mais proteção.
Resposta do Google à Descoberta
O Google foi informado sobre essa falha de segurança e confirmou o problema que os pesquisadores descreveram. A empresa disse que já está trabalhando para encontrar soluções e diminuir os riscos que essa vulnerabilidade pode trazer.
Entre as melhorias que o Google planeja implementar estão novos sistemas para confirmar ações sensíveis, um tratamento mais seguro de URLs e mecanismos mais eficientes para detectar comandos escondidos. Essas medidas visam tornar o uso do Gemini mais seguro para todos. O Google Forms também está ganhando recursos do Gemini para otimizar a criação de formulários, o que mostra o impacto da IA em diferentes ferramentas da empresa.
O relatório completo da pesquisa está disponível para o público. Ele pode ser acessado no Google Drive, oferecendo todos os detalhes da descoberta. Além disso, há uma página oficial do estudo, que traz um resumo mais direto sobre os achados. O documento está em Google Drive, e a descrição direta está na página oficial do estudo.
É fundamental que usuários de casas inteligentes e assistentes virtuais fiquem por dentro dessas descobertas. Acompanhar as atualizações de segurança e as recomendações dos fabricantes é essencial para proteger seus dados e dispositivos em um mundo cada vez mais conectado. A segurança digital é um tema constante, exigindo atenção contínua de todos.
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
