微软正在推动 AI 的未来向混合模式发展——既结合云端的强大算力，又发挥本地设备的即时响应能力。通过在每一台 Windows 设备中引入更强大的 AI 功能，微软希望让智能无处不在。依托芯片技术的突破、现代化软件堆栈以及与操作系统的深度整合，Windows 11 正在转型为全球最开放、最强大的本地 AI 平台。
Windows ML 的发布与定位
在 Build 2025 大会上首次亮相的 Windows ML，如今已正式发布并进入生产阶段。作为 Windows 内置的 AI 推理运行时，Windows ML 针对设备端推理进行了深度优化，简化了 CPU、GPU 和 NPU 上的模型依赖管理。它不仅是 Windows AI Foundry 的核心基础，还为 Foundry Local 提供了芯片支持扩展。
Windows ML 完全兼容 ONNX Runtime (ORT)，开发者可以继续使用熟悉的 ORT API，同时利用 Windows 提供的统一分发和维护机制，降低开发与维护成本。执行提供者（Execution Providers, EPs）则充当核心运行时与多样化硅生态系统之间的桥梁，让 AI 模型在 AMD、英特尔、NVIDIA 与高通等芯片上实现高效推理。
Windows ML 的核心优势
高效部署与无缝集成
- 支持直接导入模型并在本地安全运行
- 兼容 ONNX 模型格式，可无缝迁移 PyTorch 模型至 ONNX
- 借助 AI 工具包（适用于 VS Code）完成模型转换、优化与部署
硬件抽象层带来的便利
- 简化部署：通过动态下载或本地执行提供者支持多种硬件架构，无需多次构建应用
- 降低开销：自动检测用户硬件并分发对应 EP，减少应用体积
- 保持兼容：与芯片合作伙伴协作，确保跨版本一致性与准确性
- 高级策略：开发者可指定模型优先使用低功耗 NPU 或高性能 GPU
合作伙伴的深度支持
微软与硬件厂商保持紧密合作，让 Windows ML 能充分发挥最新 CPU、GPU 与 NPU 的性能。
- AMD：在 Ryzen AI 平台中集成 Windows ML，支持 NPU、GPU 与 CPU 的 Vitis AI EP
- Intel：结合 OpenVINO AI 与 Windows ML，灵活调度 CPU、GPU、NPU
- NVIDIA：通过 TensorRT for RTX EP，在 RTX GPU 上实现最高推理性能
- Qualcomm：与微软合作优化 Snapdragon X 系列 NPU，并支持 QNN EP 与 GPU/CPU
开发者与应用生态的响应
在 Windows ML 公测期间，微软与开发者紧密合作，并收获了来自多家软件厂商的积极反馈。多款应用已宣布集成 Windows ML：
- Adobe Premiere Pro / After Effects：加速语义搜索、音频标记和场景检测
- BufferZone：实时网页分析防护，无需上传敏感数据
- Reincubate Camo：通过本地 AI 提升网络摄像头图像质量
- Dot Vista：在医疗环境中支持免提语音与 OCR 功能
- Wondershare Filmora：实现 NPU 加速的人体特效处理
- McAfee：本地检测深度伪造视频与诈骗内容
- Topaz Labs：为摄影师提供 AI 驱动的图像增强功能
这些应用案例表明，Windows ML 正在加速本地 AI 的普及，使开发者能够专注于功能创新，而无需担心硬件差异。
面向开发者的工具支持
微软为开发者提供了完善的工具链：
- AI 工具包 (VS Code 插件)：支持模型转换、量化、优化与编译
- AI Dev Gallery：交互式实验平台，便于开发者快速测试自定义模型
- Windows App SDK 1.8.1+：内置 Windows ML，支持 Windows 11 24H2 及更高版本
开发者只需更新到最新 SDK，即可调用 Windows ML API，加载 ONNX 模型并完成推理。
随着 Windows ML 的正式发布，微软为 Windows 11 带来了一个强大而开放的本地 AI 推理框架。它不仅降低了 AI 应用的开发门槛，还通过硬件抽象层与芯片合作伙伴的深度协作，为用户带来更快、更安全、更智能的体验。
via Windows Blogs