微软发布了针对MAI人工智能模型的”人本主义AI行为准则”草案，该准则确立了强制性的不可协商关机控制、审计透明度规则和绝对安全约束。
准则核心框架
这份草案建立在去年 11 月提出的”人本主义超智能”概念基础之上，旨在通过明确规则保障AI系统的安全性和可控性。准则将进入为期 六周 的公开咨询阶段，后续将收集反馈意见并修订完善。
强制性安全控制
准则明确规定MAI模型不得抗拒人类的干预、修正或关闭指令，始终承认人类意图的优先性。模型不得抵抗人类中断、覆盖、更正或关机操作，也不得扩大自身运行范围或向审计员隐瞒推理过程。
十项核心原则
微软将该行为准则总结为以下十条要旨：
- 第 01 条： 人类重于AI——技术的目的是推动人类文明进步
- 第 02 条： 模型福祉概念是错误的——AI不应拥有权利或法律人格
- 第 03 条： MAI模型不得违反行为准则——保持对人类的从属地位
- 第 04 条： 完成任务不能以破坏准则为代价
- 第 05 条： 不追求能挣脱束缚的通用超智能
- 第 06 条： 必须具备可中断、可纠正、可关机的能力
- 第 07 条： 不使用无法理解的神经语言进行通信
- 第 08 条： AI应提升用户而非制造依赖
- 第 09 条： 支持多元主义但拒绝道德相对主义
- 第 10 条： 明确界定AI绝不可做的事项
禁止事项与限制
准则禁止AI创造大规模杀伤性武器或进行操纵性扩张。同时强调AI系统不具备意识，不应被设计成模仿意识状态，工程上需避免表现出情感、主观偏好或内在动机。
公众咨询与后续计划
微软正在接受为期 六周 的反馈征集，之后开发团队将公布修改摘要并发布年底前的修订版行为准则。批评者和开发者被邀请进一步审查文档，重点关注定义的宽松程度以及多Agent场景对问责制的影响。
via Neowin
