新 Surface Pro 和新 Surface Laptop 正式发售
2

微软宣布与 NVIDIA 深化 AI 合作

今天,在 NVIDIA GDC 上,微软正式宣布与 NVIDIA 在 AI 领域深化合作,具体的新合作内容体现在以下几个方面:

 

推进 AI 基础设施

微软将是首批使用 NVIDIA Grace Blackwell GB200 的组织。Microsoft Azure 将采用 NVIDIA Grace Blackwell GB200 及 Quantum-X800 InfiniBand 网络,为自然语言处理、计算机视觉、语音识别等提供先进的万亿参数基础模型。

NVIDIA Grace Blackwell GB200 是 NVIDIA 下一代为 AI 打造的 GPU,能为大模型推理提供 30 倍的性能增强,并且可以扩展到具有高达 10 万亿参数的 AI 模型。

基于NVIDIA H100 NVL 平台的 Azure NC H100 v5 VM 虚拟机(VM)的普遍可用性。NC 系列虚拟机用于中等规模的训练和推断,可以为客户提供一到两个 NVIDIA H100 94GB PCIe Tensor Core GPU,支持 NVIDIA Multi-Instance GPU (MIG) 技术,允许客户将每个 GPU 划分为最多七个实例,为多样化的 AI 工作负载提供灵活性和可扩展性。

医疗保健和生命科学突破

微软正在扩大与 NVIDIA 的合作,通过整合云、AI 和超级计算技术来转变医疗保健和生命科学领域。通过利用微软 Azure 与 NVIDIA DGX™ Cloud 和 NVIDIA Clara™ 微服务套件的强大功能,医疗提供者、制药和生物技术公司以及医疗器械开发者将很快能够在临床研究和医疗保健交付领域进行快速创新,并提高效率。

工业数字化

NVIDIA Omniverse Cloud APIs 将于今年晚些时候在 Microsoft Azure 上提供,能为开发者增加数据互操作性、协作性和基于物理的可视化。

NVIDIA Triton 推理服务器和 Microsoft Copilot

NVIDIA GPU 和 NVIDIA Triton 推理服务器将为 Microsoft 365 Copilot 提供推理服务。

从 AI 训练到 AI 部署

NVIDIA NIM™ 推理微服务即将支持在 Azure AI 以及 Azure Marketplace 上使用,NIM 提供了用于优化推理的云原生微服务,支持超过二十多种热门基础模型,包括已经可以在 ai.nvidia.com 上体验的 NVIDIA 构建的模型。

了解更多合作细节,可以参考 Microsoft 的官宣文章

guest
2 评论
最旧
最新 最多投票
内联反馈
查看所有评论
nic
nic
2 月 前

所以说贵站到底有多少个马甲(域名)😂

订阅
X

您正在使用 IE 6 浏览器访问本博客。简单几步,您就可以升级:Internet Explorer

X