A Cisco anunciou a Cisco AI Defense, solução para proteger modelos de inteligência artificial (IA) usados no desenvolvimento de aplicações. O objetivo é garantir que as empresas criem aplicações de IA com segurança, mitigando os riscos associados à rápida evolução dessa tecnologia.
Cisco AI Defense: Segurança para o Futuro da IA
Chuck Robbins, CEO da Cisco, destacou que os desafios de segurança da IA são semelhantes aos enfrentados com a nuvem, mas com uma melhor percepção dos riscos. As empresas estão cientes da necessidade de se protegerem e evitarem ficar atrás dos concorrentes na corrida pela IA. A solução visa proteger contra novas classes de riscos decorrentes da imprevisibilidade inerente a modelos de IA.
Jeetu Patel, vice-presidente executivo e diretor de produtos da Cisco, explicou que a Cisco AI Defense é aplicável a qualquer modelo de IA, em qualquer agente e nuvem. A solução protege contra ataques de prompt que causam “alucinações” nos modelos, comprometendo sua confiabilidade e segurança contra o roubo de dados privados.
A Cisco AI Defense também inclui processos de validação constante dos modelos para garantir o seu comportamento esperado. Patel enfatizou a importância de não sacrificar segurança em prol da velocidade, um ponto crucial no desenvolvimento de aplicações de IA. As proteções oferecidas são similares às dos data centers e AI Fabrics da Cisco.
Proteção de Aplicações e Acesso de Funcionários
Além da segurança do modelo em si, a Cisco AI Defense protege o acesso de funcionários às aplicações de produtividade dentro das empresas. Isso permite que as empresas monitorem o uso de ferramentas como o ChatGPT, implementando políticas e controles de acesso configuráveis.
Leia também:
A Cisco utiliza guardrails, ou seja, barreiras de segurança para controlar o acesso e o uso de ferramentas de IA. O monitoramento garante o uso adequado dessas ferramentas, permitindo que as organizações supervisionem e gerenciem o acesso dos funcionários, implementando políticas e controles de acesso de maneira eficiente. A integração de funções de segurança robustas é vital para qualquer sistema de IA.
A previsão é que a Cisco AI Defense chegue ao mercado em março. Isso demonstra um compromisso em atender à demanda por soluções de segurança em um cenário cada vez mais dependente de aplicações de IA.
Este conteúdo foi auxiliado por Inteligência Artificial, mas escrito e revisado por um humano.
Via Mobile Time
