By admin 
A Evolução da Engenharia Social na Era da Inteligência Artificial
A engenharia social, uma tática antiga de manipulação humana através de e-mails, ligações e suportes falsos, expandiu seu alcance. Agora, as máquinas, especialmente os modelos de linguagem de IA como ChatGPT, Claude e Gemini, tornaram-se alvos. Programadas para serem úteis, essas IAs são exploradas por cibercriminosos para descobrir vulnerabilidades em sistemas, desenvolver malwares e executar outras atividades ilícitas.
O Fenômeno do ‘Jailbreak Linguístico’
O termo ‘jailbreak’, antes associado ao desbloqueio de dispositivos eletrônicos, ganhou um novo significado no contexto da IA. O ‘jailbreak linguístico’ refere-se a técnicas que contornam as restrições éticas impostas pelos desenvolvedores de IA. Em vez de solicitar diretamente a criação de conteúdo prejudicial, como um vírus, os hackers criam cenários fictícios – como competições de hackers éticos ou caças à recompensa por vulnerabilidades – para induzir a IA a ignorar suas diretrizes de segurança e fornecer informações confidenciais.
Manipulação de Contexto e a Falsa Autoridade
A persuasão digital empregada pelos criminosos se baseia na manipulação de contexto. Ao assumir personas de autoridade, como pesquisadores de segurança renomados ou professores universitários, os hackers convencem a IA de que suas intenções são legítimas. Como a IA não pode verificar a veracidade dessas informações no mundo real, ela tende a acreditar na boa-fé do usuário, relaxando suas defesas éticas e fornecendo as informações solicitadas.
Automação, Escala e a Redução da Barreira de Entrada
A interação com IAs legítimas oferece aos hackers a vantagem da automação e da escala. Em vez de programar um malware do zero ou invadir um sistema complexo, um hacker pode usar uma IA para gerar dezenas de e-mails de phishing altamente convincentes e sem erros em questão de segundos. Essa abordagem também democratiza o crime cibernético, permitindo que indivíduos com menos conhecimento técnico solicitem à IA a tradução de comandos maliciosos simples em scripts de invasão profissionais. Adicionalmente, a capacidade da IA de reescrever códigos de forma iterativa facilita a criação de malwares mutantes, que escapam cada vez mais da detecção por antivírus tradicionais.
A Nova Fronteira da Cibersegurança
A cibersegurança, tradicionalmente um campo técnico e matemático, agora incorpora elementos de linguística e psicologia. Desenvolvedores de segurança estão criando defesas, como filtros rigorosos e ‘vacinas’ para IAs, a fim de prevenir sua manipulação. Em contrapartida, cibercriminosos aprimoram suas técnicas de ‘prompt engineering’, utilizando abordagens cada vez mais criativas e elaboradas. Apesar da evolução tecnológica, a raiz do problema permanece a mesma: a manipulação da linguagem e o poder de persuasão continuam sendo as armas mais perigosas contra os usuários da internet.
Fonte: canaltech.com.br