A utilização da IA generativa para fins maliciosos está a crescer significativamente. Em colaboração com a OpenAI, a Microsoft detetou e interrompeu tentativas de adversários russos, norte-coreanos, iranianos e chineses, que tentavam utilizar grandes modelos de linguagem (LLM), como o ChatGPT, para informar, melhorar e aperfeiçoar os seus ciberataques. A tecnológica adianta que usa cada vez mais as ferramentas de IA para melhorar as suas medidas de segurança e desbloquear novas formas de proteção contra as ciberameaças.
Na 6ª edição do seu relatório de cibersegurança, o Cyber Signals, a Microsoft faz uma análise à ascensão da utilização da Inteligência Artificial (IA) generativa pelos cibercriminosos e de como está a utilizar esta mesma ferramenta para as combater. A big tech realiza mais de 2,5 mil milhões deteções em cloud e orientadas para a IA, por forma a proteger os seus clientes.
Durante este processo, a tecnológica concluiu que as ferramentas tradicionais de proteção já não acompanham o ritmo das ameaças colocadas pelos cibercriminosos. Refere que, apesar do potencial para capacitar as organizações para derrotar os ciberataques e impulsionar a inovação e a eficiência na deteção de ameaças - na procura e na resposta a incidentes, os adversários podem utilizar a IA como parte dos seus exploits.
Na sua deteção da utilização da IA generativa para fins maliciosos, destaca exemplos como o Forest Blizzard, um agente altamente eficaz dos serviços secretos militares russos ligados ao Estado-Maior General das Forças Armadas da Rússia. Ou a GRU Unidade 26165, Emerald Sleet, um ator de ameaças norte-coreano que se fez passar por instituições académicas e ONGs para levar as vítimas a comentar políticas externas relacionadas com a Coreia do Norte. Ou o, Crimson Sandstorm, um ator de ameaças iraniano com possível ligação ao Corpo dos Guardas da Revolução Islâmica, Charcoal Typhoon, um ator de ameaças ligado à China que monitoriza indivíduos em todo o mundo que se opõem às políticas chinesas, até ao Salmon Typhoon, outro grupo apoiado pela China que tem estado a avaliar a eficácia da utilização de LLMs para obter informações sobre temas potencialmente sensíveis, indivíduos de alto cargo, geopolítica regional, influência dos EUA e assuntos internos.
Além de expor estes movimentos iniciais utilizados pelos atores de ameaças em torno da IA, este relatório destaca como a Microsoft está a bloquear a sua atividade para proteger as plataformas de IA e os utilizadores. Desde a deteção de ameaças com IA para monitorizar alterações na forma como os recursos ou o tráfego na rede são utilizados, à análise comportamental para detetar comportamentos anómalos, aos modelos de machine learning (ML) para detetar inícios de sessão de risco e malware e modelos Zero Trust em que cada pedido de acesso tem de ser totalmente autenticado, autorizado e encriptado, até à verificação do dispositivo antes deste se poder ligar a uma rede empresarial.
Esta adoção da IA nas práticas de cibersegurança traz efetivamente benefícios tangíveis. Um estudo recente do Microsoft Copilot Security mostrou um aumento da velocidade (26%) e precisão (44%) dos analistas de segurança, independentemente do seu nível de especialização, em tarefas comuns como a identificação de scripts utilizados por atacantes, a criação de relatórios de incidentes e a identificação de passos de correção adequados. Sendo que 90% afirma que quer utilizar o Copilot na próxima vez que tiver de fazer a mesma tarefa.
Com a consolidação da IA, é necessário reconhecer esta natureza dupla da tecnologia: traz novas capacidades, bem como novos riscos. Para dar resposta a estes riscos, a Microsoft recomenda à utilização de políticas de acesso condicional para reforçar a postura de segurança, formar os colaboradores sobre táticas de engenharia social - e-mails de phishing, vishing e smishing - e a garantir que os dados permanecem privados e controlados end to end. Adicionalmente, sugere, ainda, a tirar partido de ferramentas de segurança de IA generativa, como o Microsoft Copilot for Security, e adotar a autenticação multifator para todos os utilizadores, especialmente para funções de administrador, uma vez que reduz o risco de aquisição de contas em mais de 99%.
