Por que as IAs caem tão facilmente em armadilhas longas? A nova descoberta da Cisco
Olá, vamos falar sobre algo que está fazendo bastante barulho no mundo da cibersegurança. Acontece que quase todas as inteligências artificiais de peso —sim, estamos falando dos motores por trás do ChatGPT, Claude, Gemini e Grok— têm um ponto cego gigante quando interagem de forma prolongada.
A Cisco acabou de apresentar um estudo no qual testaram esses modelos frente ao que chamam de "ataques de múltiplos turnos". Basicamente, em vez de tentar hackear ou confundir a IA com uma única ordem direta, os atacantes mantêm uma conversa longa. Eles vão manipulando o contexto pouco a pouco, mudando de tema ou assumindo diferentes personagens até conseguir que o modelo se enrosque e quebre suas próprias regras de segurança.
Qual é o resultado? Um desastre. Sob essa modalidade conversacional, os sistemas de segurança das IAs colapsaram até em 88,3% das vezes.
O contraste com as ordens diretas
O mais chamativo é que, se você tenta enganar essas ferramentas com uma única mensagem, elas se defendem bem. As taxas de bloqueio em testes de "um único turno" são altíssimas, e por isso as empresas desenvolvedoras costumam mostrar métricas onde seus modelos parecem incrivelmente seguros.
O problema é que no mundo real os ataques não são tão simples. Os verdadeiros adversários iteram, mudam a estratégia em tempo real e conseguem que a IA "esqueça" ou ignore os limites que foram estabelecidos no início da conversa. Um atacante real tem paciência; os benchmarks tradicionais, não.
O que isso significa para quem usa IA
Para quem desenvolve aplicações ou integra essas ferramentas em suas empresas, a mensagem da Cisco é super clara: não basta mais confiar cegamente nos filtros de segurança que vêm com o modelo de fábrica.
A proteção real terá que ocorrer fora da IA. As empresas precisarão monitorar em tempo real a intenção da conversa completa e estabelecer limites rigorosos e externos às ações (como acessar arquivos ou deletar dados) que a IA pode executar.
Então, já sabe, da próxima vez que ler que um modelo de inteligência artificial é completamente "seguro", lembre-se de que com um pouco de conversa e paciência, até as melhores defesas podem acabar cedendo.