Segurança cibernética: IA generativa, ferramenta valiosa ou uma ameaça?

*Guilherme Bacellar é especialista e pesquisador de cibersegurança e fraudes da Unico

Mesmo diante de uma incansável caça de especialistas de segurança cibernética contra hackers e golpistas nos últimos anos, as ameaças nas redes seguem em crescimento contínuo. O recente relatório de segurança cibernética do Google Cloud revela que a IA generativa e os grandes modelos de linguagem (LLMs) serão utilizados em vários ataques cibernéticos nos próximos anos, como phishing, SMS e outras táticas de engenharia social, com o objetivo de fazer com que conteúdos e materiais, como voz e vídeo, pareçam mais legítimos.

Com o uso crescente da IA generativa e sua democratização com a chegada de interfaces como ChatGPT, Bard e Midjourney, os ataques cibernéticos estão ficando muito mais inteligentes. A tecnologia tem a capacidade de imitar a linguagem natural das pessoas e, por isso, confunde ainda mais a detecção de sinais tradicionais de phishing, como erros ortográficos e gramaticais. Já os hackers e invasores estão se aprimorando e podem alterar o conteúdo legítimo usando LLMs, mantendo o estilo de escrita original e se aprimorando de um contexto cultural.

Uma vez que a IA generativa aprende o estilo de escrita de uma pessoa ou cargo e transcreve um texto genérico (por exemplo, um lembrete de fatura ou um aviso para os funcionários solicitando a resposta a alguma pesquisa da empresa) com o tom, fluxo e vocabulário próximos do estilo de escrita daquela empresa ou pessoa, ela pode também ser explorada por cibercriminosos para chamar a atenção e atrair o foco das vítimas para os seus próprios objetivos.

Ou seja, os hackers podem usar a velocidade e a automação com que a IA generativa funciona, para identificar vulnerabilidades com mais rapidez, desenvolvendo malwares com maiores capacidades e menor tempo, criando e-mails de phishing e falsificação digital ainda mais assertivos.

E à medida que as capacidades das IAs generativas se expandem, a segurança se torna uma questão prioritária. Alguns estudos de anos atrás já haviam mostrado a preocupação de lideranças empresariais e CISOs com os ataques cibernéticos baseados em IA. De acordo com um relatório da Forrester Research de 2019, 80% dos tomadores de decisão em segurança cibernética esperavam que a IA aumentasse a escala e a velocidade dos ataques e 66% esperavam que a IA conduzisse ataques que nenhum ser humano poderia conceber.