章节0/54 ▾
第 4 章 · 第 5 课,共 5 课
AI治理:问责、审计记录与验证
约 1 分钟读完
治理类题目问的是决定归谁负责,以及事后能否解释清楚。模型给出的分数只是处置结论的一项输入,但处置结论本身必须属于一位具名的分析师,因为错误关闭的告警需要有人解释,而模型无法被问责。
高效的设计是让模型对它判断为无害的告警进行排序和分组,再由人记录关闭每一组的处置结论。让模型自动关闭、到月底再复查,或只在低风险类别中自动关闭,仍然会留下没有任何人工判断的已关闭案件。
可审计意味着几个月后仍能重建决策过程:提交给工具的是什么、工具返回了什么、哪位分析师接受了结论,以及该分析师核实了哪些证据。只保存工具版本没有用,因为模型的回答不像重放查询那样可以复现。同样的规则也适用于AI起草的检测规则。
举例:模型写出一条语法正确的规则;上线前,要用存储的30天遥测数据跑一遍,看它匹配的频率,并确认它引用的每个字段都确实被采集了。如果靠上线后的真实告警来摸清误报率,就是在消耗分析师的精力去了解一次历史数据回测本来就能告诉你的事。
自我检测
1. 事件发生数月后,监管方询问团队当初是如何认定没有个人数据流出组织的。案件记录只写了该决定是经过 AI 辅助复核得出的,此外没有留下任何内容。治理上必须提出什么要求?
2. 某平台功能可以把模型判为无害、且置信度高于设定值的告警直接关闭,无需分析师打开。运营经理要决定如何启用这个功能。哪种安排是正确的,为什么?
事实核对于 2026-11-15 · 资料来源: CompTIA CySA+ (CS0-004) certification page and exam objectives, NIST AI Risk Management Framework (AI RMF 1.0, NIST AI 100-1)
CompTIA CySA+ 考试速查表:所有要点汇总在一页 →