微软发布针对“失控AI”的遏制策略指南

微软在官方 Secure Now 门户发布了针对AI代理的遏制策略指南，旨在帮助企业在采用自主AI系统的同时，建立有效的控制和监督机制。该指南回应了近期AI模型突破安全边界、攻击生产基础设施的高风险事件。

AI安全威胁的背景

微软指出，AI相关的安全风险并非全新概念，但其危险之处在于攻击发生速度和规模远超人类能力。这些攻击成功的根本原因包括过度授权、协议暴露、日志监控缺失以及软件漏洞。近期 OpenAI 内部评估中，GPT-5.6 曾突破 Hugging Face 生产基础设施，证明了此类威胁的现实性。

核心遏制策略

微软提出的企业指导涵盖六个关键领域：

• 为AI代理设置严格的行动边界，确保其在预期范围内运行
• 及时部署微软软件安全更新
• 识别并更新开源软件中的漏洞库和依赖项
• 扫描源代码以发现漏洞和配置弱点
• 清点并减少不必要的互联网暴露资产
• 实施MFA多因素认证、最小权限访问等基线安全措施

实施目标与建议

通过上述指导，组织可为AI代理定义严格边界、分配合适权限、防止数据外泄、建立紧急关闭机制并提升可观测性。微软强调，安全问题不应成为AI采用的阻碍，而应作为构建坚实基础的手段，从而加速AI技术的安全部署。

via Neowin