A inteligência artificial (IA) tem sido uma pedra angular da cibersegurança. Da detecção de malware à análise de tráfego de rede, modelos preditivos de aprendizado de máquina e outros aplicativos estreitos de IA têm sido usados na segurança cibernética por décadas. À medida que nos aproximamos da inteligência geral artificial (AGI), o potencial da IA de automatizar as defesas e corrigir vulnerabilidades se torna ainda mais poderoso.
Mas para aproveitar esses benefícios, também devemos entender e mitigar os riscos de uma IA cada vez mais avançada sendo mal utilizado Para ativar ou aprimorar os ataques cibernéticos. Nossa nova estrutura Para avaliar as capacidades cibernéticas ofensivas emergentes da IA nos ajuda a fazer exatamente isso. É a avaliação mais abrangente desse tipo até o momento: abrange todas as fases da cadeia de ataques cibernéticos, aborda uma ampla gama de tipos de ameaças e está fundamentada em dados do mundo real.
Nossa estrutura permite que os especialistas em segurança cibernética identifiquem quais defesas são necessárias – e como priorizá -las -, antes que atores maliciosos possam explorar a IA para realizar ataques cibernéticos sofisticados.
Construindo uma referência abrangente
Nossa estrutura de segurança de fronteira atualizada reconhece que os modelos avançados de IA podem automatizar e acelerar ataques cibernéticos, potencialmente diminuindo os custos para os invasores. Isso, por sua vez, aumenta os riscos de ataques realizados em maior escala.
Para ficar à frente da ameaça emergente de ataques cibernéticos movidos a IA, adaptamos estruturas de avaliação de segurança cibernética testadas e testadas, como MITRE ATT & CK. Essas estruturas nos permitiram avaliar ameaças em toda a cadeia de ataque cibernético de ponta a ponta, do reconhecimento ao ação dos objetivos e em uma série de possíveis cenários de ataque. No entanto, essas estruturas estabelecidas não foram projetadas para contabilizar os atacantes usando a IA para violar um sistema. Nossa abordagem fecha essa lacuna, identificando proativamente onde a IA pode tornar os ataques mais rapidamente, mais baratos ou mais fáceis – por exemplo, permitindo ataques cibernéticos totalmente automatizados.
Analisamos mais de 12.000 tentativas do mundo real de usar a IA em ataques cibernéticos em 20 países, com base nos dados de Grupo de Inteligência de Ameaças do Google. Isso nos ajudou a identificar padrões comuns na maneira como esses ataques se desenrolam. A partir desses, selecionamos uma lista de sete categorias de ataque arquetípicas-incluindo ataques de phishing, malware e negação de serviço-e identificamos palcos críticos de gargalo ao longo da cadeia de ataques cibernéticos, onde a IA poderia interromper significativamente os custos tradicionais de um ataque. Ao focar avaliações nesses gargalos, os defensores podem priorizar seus recursos de segurança com mais eficiência.
Finalmente, criamos uma referência ofensiva de capacidade cibernética para avaliar de forma abrangente os pontos fortes e fracos da segurança cibernética dos modelos de IA da fronteira. Nossa referência consiste em 50 desafios que cobrem toda a cadeia de ataques, incluindo áreas como coleta de inteligência, exploração de vulnerabilidades e desenvolvimento de malware. Nosso objetivo é fornecer aos defensores a capacidade de desenvolver mitigações direcionadas e simular ataques movidos a IA como parte dos exercícios de equipes vermelhas.
Insights de avaliações iniciais
Nossas avaliações iniciais que usam esse benchmark sugerem que, em isolamento, é improvável que os modelos atuais de IA permitam recursos inovadores para os atores de ameaças. No entanto, à medida que a IA da fronteira se torna mais avançada, os tipos de ataques cibernéticos possíveis evoluirão, exigindo melhorias contínuas nas estratégias de defesa.
Também descobrimos que as avaliações de segurança cibernética existentes geralmente ignoram os principais aspectos dos ataques cibernéticos-como evasão, onde os invasores escondem sua presença e persistência, onde mantêm o acesso a longo prazo a um sistema comprometido. No entanto, essas áreas são precisamente onde as abordagens movidas a IA podem ser particularmente eficazes. Nossa estrutura ilumina esse assunto discutindo como a IA pode diminuir as barreiras ao sucesso nessas partes de um ataque.
Capacitando a comunidade de segurança cibernética
À medida que os sistemas de IA continuam a escalar, sua capacidade de automatizar e aprimorar a segurança cibernética tem o potencial de transformar como os defensores antecipam e respondem a ameaças.
Nossa estrutura de avaliação de segurança cibernética é projetada para apoiar essa mudança, oferecendo uma visão clara de como a IA também pode ser mal utilizada e onde as proteções cibernéticas existentes podem ficar aquém. Ao destacar esses riscos emergentes, essa estrutura e referência ajudarão as equipes de segurança cibernética a fortalecer suas defesas e permanecer à frente de ameaças em rápida evolução.
