CISO AI 安全评估
将任务委派给 ciso-ai-security 专业Agent,专注于AI/ML安全分析。
该技能的作用
- 每个AI系统的OWASP LLM Top 10威胁评估
- MITRE ATLAS对抗技术映射
- AI治理差距分析(NIST AI RMF / EU AI Act / ISO-42001)
- 生成AI红队计划
- 含风险评级的影子AI资产清单
必需的输入
对于每个待评估的AI系统:
- 名称 — 该系统的名称是什么?
- 类型 — llm | ml-model | agent-system | recommendation-engine
- 部署方式 — saas-api | self-hosted | cloud-managed | on-premise
- 数据类别 — 个人身份信息(PII)?金融数据?健康数据?机密知识产权?
- 是否面向互联网? — 是/否
- 是否使用外部模型? — OpenAI, Anthropic等?
- 是否具备代理能力? — 能否自主行动、调用工具、浏览网页?
- RAG? — 检索增强生成?
- 人类监督 — 全面 | 部分 | 无
- 监管范围 — GDPR, EU-AI-Act-High-Risk, HIPAA等?
执行模式
Agent(ciso-ai-security, "评估 [系统名称]:
type: [类型]
deployment: [部署方式]
dataClasses: [列表]
internetFacing: [布尔值]
usesExternalModels: [布尔值]
hasAgentCapabilities: [布尔值]
hasRAG: [布尔值]
humanOversight: [级别]
regulatoryScope: [列表]
输出:威胁发现、治理差距、红队计划、影子AI资产清单"
)
需标记的关键发现
- 面向互联网的系统上的提示注入 → 始终为 严重
- 含PII的敏感数据泄露 → 严重
- 无人类监督的过度代理 → 严重
- 无AI治理策略 → 高(EU AI Act合规风险)
- 浏览器扩展中的影子AI → 严重
输出结构
AI 安全评估: [系统名称]
威胁发现 (OWASP LLM Top 10)
[编号] | [威胁] | [严重性] | [证据] | [控制措施] | [监管影响]
AI 治理差距
[控制措施] | [状态] | [框架] | [优先级] | [补救措施]
红队计划
目标: [列表]
攻击类别:
[类别] — [技术] — [成功标准]
安全约束: [列表]
报告要求: [列表]
影子AI资产清单
[类别] | [风险] | [数据暴露] | [所需控制措施]