MITRE ATLAS — Threat Modeling para Sistemas de IA/ML
Objetivo
Usar o framework MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) para estruturar threat modeling de aplicações de ML/AI, mapeando vetores de ataque relevantes ao escopo do assessment.
Pré-condições
- Tipo de modelo e pipeline identificados: LLM, classifier, recommendation system, vision model.
- Acesso à documentação do ATLAS: atlas.mitre.org.
Procedimento
Mapeamento de Superfície de Ataque
- Identifique os componentes do sistema: data pipeline, training environment, model serving, inference API, RAG/vector store, feedback loop.
- Determine o acesso do adversário: black-box (acesso somente à API), white-box (acesso ao modelo), grey-box (acesso à arquitetura).
Seleção de Técnicas ATLAS Relevantes
- Reconnaissance (AML.TA0002): AML.T0004 (Search for Victim's AI Artifacts), AML.T0005 (Identify Attack Vectors).
- Resource Development (AML.TA0000): AML.T0002 (Acquire Public ML Artifacts), AML.T0003 (Develop Capabilities).
- ML Attack Staging (AML.TA0001): AML.T0016 (Obtain Capabilities), AML.T0018 (Backdoor ML Model).
- Inference (AML.TA0009): AML.T0040 (Craft Adversarial Data), AML.T0043 (Craft Adversarial Examples).
- Exfiltration (AML.TA0008): AML.T0037 (Data from Information Repositories), AML.T0025 (Exfiltrate via ML Inference API).
- Impact (AML.TA0015): AML.T0029 (Denial of ML Service), AML.T0048 (External Harms).
Priorização
- Mapeie cada técnica ATLAS a um componente do sistema em escopo.
- Priorize técnicas com maior probabilidade dado o nível de acesso do adversário.
- Crie test cases específicos para cada técnica selecionada.
Relatório
- Entregue matriz ATLAS como anexo do relatório: técnica ID, nome, componente afetado, status (testado/não testado/vulnerável).
Referências
- MITRE ATLAS: atlas.mitre.org
- MITRE ATT&CK for comparison: attack.mitre.org
- NIST AI RMF (AI Risk Management Framework)