# Agent 治理：为什么问责永远在人
Agent 可以生成代码、运行测试、甚至合并 PR。但有一件事永远不能 delegate：最终问责。这是 AI4SE 治理的第一性原则。
治理的第一性原则
问责永远在人。Loop 模式可以按动作变，但责任不可变。
这不是技术限制，而是法律和伦理底线。
治理清单
| 维度 | 问题 | 机制 |
|---|---|---|
| 谁批准合并 | PR 谁点 merge？ | 人签署（不含 Agent 自合） |
| 谁决定发布 | 生产部署由谁触发？ | 人批准 + 带审计日志 |
| 谁处理安全事故 | Agent 犯错后谁修复？ | 人主导回溯 + Agent 辅助 |
| 谁管理权限 | Agent 能看到哪些敏感数据？ | 最小权限 + 定期审查 |
| 审计日志 | 如何追溯 Agent 的每一步？ | 不可篡改的日志 + Session 记录 |
常见治理漏洞
- 「Agent 自己的 Review 过了」— 同一个 Agent 既负责生成内容又负责评审
- 「没记录所以没发生」— 缺乏审计日志
- 「权限给了就没收回」— 没有定期权限审查
- 「反正是实验项目」— 实验项目也会碰到生产数据
参考
- MIT CSAIL AI Agent Index (2025)
- “The HITL Illusion” — Static Oversight in AI Governance (Medium, 2025)