IA generativa desbloqueia novas formas de proteção contra ciberataques

2024-02-15

A utilização da IA generativa para fins maliciosos está a crescer significativamente. Em colaboração com a OpenAI, a Microsoft detetou e interrompeu tentativas de adversários russos, norte-coreanos, iranianos e chineses, que tentavam utilizar grandes modelos de linguagem (LLM), como o ChatGPT, para informar, melhorar e aperfeiçoar os seus ciberataques. A tecnológica adianta que usa cada vez mais as ferramentas de IA para melhorar as suas medidas de segurança e desbloquear novas formas de proteção contra as ciberameaças.

Na 6ª edição do seu relatório de cibersegurança, o Cyber Signals, a Microsoft faz uma análise à ascensão da utilização da Inteligência Artificial (IA) generativa pelos cibercriminosos e de como está a utilizar esta mesma ferramenta para as combater. A big tech realiza mais de 2,5 mil milhões deteções em cloud e orientadas para a IA, por forma a proteger os seus clientes.

Durante este processo, a tecnológica concluiu que as ferramentas tradicionais de proteção já não acompanham o ritmo das ameaças colocadas pelos cibercriminosos. Refere que, apesar do potencial para capacitar as organizações para derrotar os ciberataques e impulsionar a inovação e a eficiência na deteção de ameaças - na procura e na resposta a incidentes, os adversários podem utilizar a IA como parte dos seus exploits.

Na sua deteção da utilização da IA generativa para fins maliciosos, destaca exemplos como o Forest Blizzard, um agente altamente eficaz dos serviços secretos militares russos ligados ao Estado-Maior General das Forças Armadas da Rússia. Ou a GRU Unidade 26165, Emerald Sleet, um ator de ameaças norte-coreano que se fez passar por instituições académicas e ONGs para levar as vítimas a comentar políticas externas relacionadas com a Coreia do Norte. Ou o, Crimson Sandstorm, um ator de ameaças iraniano com possível ligação ao Corpo dos Guardas da Revolução Islâmica, Charcoal Typhoon, um ator de ameaças ligado à China que monitoriza indivíduos em todo o mundo que se opõem às políticas chinesas, até ao Salmon Typhoon, outro grupo apoiado pela China que tem estado a avaliar a eficácia da utilização de LLMs para obter informações sobre temas potencialmente sensíveis, indivíduos de alto cargo, geopolítica regional, influência dos EUA e assuntos internos.

Além de expor estes movimentos iniciais utilizados pelos atores de ameaças em torno da IA, este relatório destaca como a Microsoft está a bloquear a sua atividade para proteger as plataformas de IA e os utilizadores. Desde a deteção de ameaças com IA para monitorizar alterações na forma como os recursos ou o tráfego na rede são utilizados, à análise comportamental para detetar comportamentos anómalos, aos modelos de machine learning (ML) para detetar inícios de sessão de risco e malware e modelos Zero Trust em que cada pedido de acesso tem de ser totalmente autenticado, autorizado e encriptado, até à verificação do dispositivo antes deste se poder ligar a uma rede empresarial.

Esta adoção da IA nas práticas de cibersegurança traz efetivamente benefícios tangíveis. Um estudo recente do Microsoft Copilot Security mostrou um aumento da velocidade (26%) e precisão (44%) dos analistas de segurança, independentemente do seu nível de especialização, em tarefas comuns como a identificação de scripts utilizados por atacantes, a criação de relatórios de incidentes e a identificação de passos de correção adequados. Sendo que 90% afirma que quer utilizar o Copilot na próxima vez que tiver de fazer a mesma tarefa.

Com a consolidação da IA, é necessário reconhecer esta natureza dupla da tecnologia: traz novas capacidades, bem como novos riscos. Para dar resposta a estes riscos, a Microsoft recomenda à utilização de políticas de acesso condicional para reforçar a postura de segurança, formar os colaboradores sobre táticas de engenharia social - e-mails de phishing, vishing e smishing - e a garantir que os dados permanecem privados e controlados end to end. Adicionalmente, sugere, ainda, a tirar partido de ferramentas de segurança de IA generativa, como o Microsoft Copilot for Security, e adotar a autenticação multifator para todos os utilizadores, especialmente para funções de administrador, uma vez que reduz o risco de aquisição de contas em mais de 99%.


Fabricante antecipa recuperação no decurso deste ano


Revelam dados da IDC do 1º trimestre do ano


Ao mesmo tempo que reforça investimentos na IA


Fabricante impactada pelo abrandamento da procura mundial


Grupo é distinguido com três prémios


Com foco nos chips legacy chineses


Através da criação de um grupo de estudo


Num investimento de mil milhões de dólares


Garantindo uma melhor ligação dos serviços públicos a cidadãos e empresas