Como ataques de IA generativa exploram falhas de segurança em horários críticos

Em um domingo, às 2:13 da manhã, as piores previsões das equipes de SOC estão prestes a se concretizar. Ataques em grande escala aproveitam brechas de segurança, expondo dados confidenciais e sobrecarregando os sistemas de detecção. A Ataques de gen AI estão evoluindo, tornando essencial que as empresas fortaleçam suas defesas e obtenham o máximo de seus sistemas de segurança.

Equipes de ataque do outro lado do planeta estão lançando um ataque em grande escala na infraestrutura da empresa. Devido a vários endpoints não corrigidos que não recebem uma atualização desde 2022, eles romperam seu perímetro em menos de um minuto.

Atacantes com as habilidades de uma equipe de estado-nação estão atrás do Active Directory para bloquear toda a rede, criando novos privilégios de nível de administrador que impedirão qualquer tentativa de desligá-los. Enquanto isso, outros membros da equipe de ataque estão liberando legiões de bots projetados para coletar gigabytes de dados financeiros, de funcionários e clientes por meio de uma API que nunca foi desativada após o último grande lançamento do produto.

Na SOC, os alertas começam a iluminar os consoles como o mais recente Grand Theft Auto em um Nintendo Switch. Os analistas da SOC estão sendo alertados em seus telefones celulares, tentando dormir após mais uma semana de seis dias durante a qual muitos registraram quase 70 horas.

O CISO recebe uma ligação por volta das 2h35 da manhã do provedor de MDR da empresa dizendo que há uma violação em grande escala. “Não é nossa equipe de contabilidade descontente, é? O cara que tentou um “Office Space” não está fazendo de novo, está?” o CISO pergunta meio acordado. O líder da equipe de MDR diz que não, isso está vindo da Ásia, e é grande.

A tempestade que se aproxima na segurança cibernética: gen AI, ameaças internas e aumento do burnout do CISO

A Generative AI está criando uma diáspora digital de técnicas, tecnologias e tradecraft que todos, desde atacantes desonestos até exércitos cibernéticos de estado-nação treinados na arte da guerra cibernética, estão adotando. As ameaças internas também estão crescendo, aceleradas pela insegurança no emprego e pela crescente inflação. Todos esses desafios e mais recaem sobre os ombros do CISO, e não é de admirar que mais estejam lidando com o burnout.

A ascensão meteórica da IA para uso legítimo e para fins de ataque está no centro de tudo. Obter o benefício mais significativo da IA para melhorar a segurança cibernética, reduzindo o risco, é o que os conselhos de administração estão pressionando os CISOs a alcançar.

Essa não é uma tarefa fácil, pois a segurança da IA está evoluindo muito rapidamente. No mais recente Dataview da Gartner sobre gerenciamento de risco e segurança, a empresa de análise abordou como os líderes estão respondendo à gen AI. Eles descobriram que 56% das organizações já estão implantando soluções de gen AI, mas 40% dos líderes de segurança admitem lacunas significativas em sua capacidade de gerenciar efetivamente os riscos de IA.

A Gen AI está sendo mais implementada na segurança da infraestrutura, onde 18% das empresas estão totalmente operacionais e 27% estão ativamente implementando sistemas baseados em gen AI hoje. Em segundo lugar, estão as operações de segurança, onde 17% das empresas têm sistemas baseados em gen AI totalmente em uso. A segurança de dados é o terceiro caso de uso mais popular, com 15% das empresas usando sistemas baseados em gen AI para proteger sistemas de armazenamento de dados em nuvem, híbridos e on-premise e data lakes.

Ameaças internas exigem uma resposta prioritária da gen AI

A Gen AI reorganizou completamente o cenário de ameaças internas de todas as empresas atualmente, tornando as ameaças internas mais autônomas, insidiosas e desafiadoras de identificar. A Shadow AI é o vetor de ameaça que nenhum CISO imaginava que existiria há cinco anos, e agora é uma das superfícies de ameaça mais porosas.

“Eu vejo isso toda semana”, Vineet Arora, CTO da WinWire, disse recentemente ao VentureBeat. “Os departamentos aderem a soluções de IA não sancionadas porque os benefícios imediatos são muito tentadores para serem ignorados.” Arora é rápido em apontar que os funcionários não são intencionalmente maliciosos. “É crucial que as organizações definam estratégias com segurança robusta, permitindo que os funcionários usem as tecnologias de IA de forma eficaz”, explica Arora. “As proibições totais geralmente levam o uso de IA para a clandestinidade, o que apenas amplia os riscos.”

“Vemos 50 novos aplicativos de IA por dia e já catalogamos mais de 12.000″, disse Itamar Golan, CEO e cofundador da Prompt Security, durante uma entrevista recente ao VentureBeat. “Cerca de 40% deles são padronizados para treinamento em quaisquer dados que você fornecer, o que significa que sua propriedade intelectual pode se tornar parte de seus modelos.”

Os modelos de detecção tradicionais baseados em regras não são mais suficientes. As principais equipes de segurança estão mudando para análises comportamentais orientadas por gen AI que estabelecem linhas de base dinâmicas das atividades dos funcionários que podem identificar anomalias em tempo real e conter riscos e ameaças potenciais.

Fornecedores, incluindo Prompt Security, Proofpoint Insider Threat Management e Varonis, estão inovando rapidamente com mecanismos de detecção de última geração alimentados por IA que correlacionam telemetria de arquivo, nuvem, endpoint e identidade em tempo real. Microsoft Purview Insider Risk Management também está incorporando modelos de IA de última geração para identificar autonomamente comportamentos de alto risco em forças de trabalho híbridas.

Em um cenário onde a Ataques de gen AI estão se tornando cada vez mais sofisticados, é crucial que as empresas se mantenham atualizadas e busquem soluções de segurança inovadoras. Ferramentas como o Microsoft Edge estão constantemente recebendo melhorias, como a correção de problemas no corretor ortográfico, que ajudam a manter a segurança e a eficiência no ambiente de trabalho.

As equipes de SOC estão em uma corrida contra o tempo, especialmente se seus sistemas não estiverem integrados uns aos outros e os mais de 10.000 alertas por dia que eles geram não estiverem sincronizados. Um ataque do outro lado do planeta às 2h13 da manhã será um desafio para conter com os sistemas legados. Com os adversários sendo implacáveis em seu ajuste fino do tradecraft com gen AI, mais empresas precisam intensificar e ser mais inteligentes sobre como obter mais valor de seus sistemas existentes.

Incentive os fornecedores de segurança cibernética a fornecer o valor máximo dos sistemas já instalados no SOC. Acerte a integração e evite ter que girar as cadeiras pelo chão do SOC para verificar a integridade do alerta de um sistema para o outro. Saiba que uma intrusão não é um alarme falso. Os invasores estão mostrando uma capacidade notável de se reinventar em tempo real. É hora de mais SOCs e as empresas que dependem deles fazerem o mesmo.

Este conteúdo foi auxiliado por Inteligência Artificiado, mas escrito e revisado por um humano.

Via VentureBeat

André Luiz

André atua como jornalista de tecnologia desde 2009 quando fundou o Tekimobile. Também trabalhou na implantação do portal Tudocelular.com no Brasil e já escreveu para outros portais como AndroidPIT e Techtudo. É formado em eletrônica e automação, trabalhando com tecnologia há 26 anos.