泡泡网新闻频道 PCPOP首页      /      新闻频道     /      动态    /    正文

由 Arm 驱动的 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力

  当前,一个令人振奋的趋势是,人工智能 (AI) 应用和功能正在各种边缘侧设备上快速扩展和普及。随着 AI 的不断发展和进步,对于 AI 研究员、数据科学家、开发者和学生而言,获取高性能算力以开发或运行新的模型(如语言模型、视觉模型或多模态模型)变得至关重要。鉴于 AI 创新的步伐空前加快,行业需要确保开发者在云端及边缘侧均能获得高性能算力,从而直接获得更多的新功能。

  为开发者实现唾手可得的突破性AI 性能

  在今年的国际消费类电子产品展览会 (CES) 上,NVIDIA创始人兼首席执行官黄仁勋在主题演讲中发布了个人 AI 超级计算机 NVIDIA Project DIGITS,朝着 “随处可开发和部署 AI” 的愿景又迈近了重要一步。基于 Linux 系统的 Project DIGITS 搭载了 Arm CPU 核心,使每位 AI 开发者都能拥有一套高性能的 AI 桌面系统。

1736853911714910.png

  图:由 Arm 驱动的 NVIDIA Project DIGITS 为数百万开发者带来高性能 AI 算力

  Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超级芯片,搭载 NVIDIA Grace CPU 、 NVIDIA Blackwell GPU、新一代 CUDA®core和第五代 TensorCores,通过 NVIDIA NVLink®-C2C 片间互连技术实现连接,并配有 128GB 的统一的高一致性内存。NVIDIA Grace CPU 搭载了先进的高性能 Arm Cortex-X 和 Cortex-A 技术,配置 10 个 Cortex-X925 和 10 个 Cortex-A725 CPU 核心。NVIDIA GB10 超级芯片能以 FP4 计算精度提供高达 1 PFLOPS (1,000 TFLOPs) 的 AI 性能,使开发者能对 AI 大模型进行原型设计、微调和推理,同时还能与云端或数据中心环境无缝对接,实现协同工作。

  Arm 计算平台的价值

  借助无处不在的 Arm 计算平台,新的 AI 模型和应用能更高效、更快速地在边缘侧运行。在消费级技术市场,不论是用于 Project DIGITS的先进 Arm CPU,或是集成在Arm 终端计算子系统 (CSS) 的一部分,Arm CPU 技术已成为市场中高性能边缘侧设备的核心驱动力。这些CPU技术经过精心优化,可在各种实际用例和工作负载中实现比较大的性能和效率。

  Arm 计算平台还兼具灵活性,可针对不同的 AI 应用场景使用不同的计算引擎。在 NVIDIA Project DIGITS 中,基于 Arm 架构的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相协作,使开发者能够将这些组件用于各种工作负载。这种异构计算策略对于最大化 AI 性能,同时管理内存利用率和功耗至关重要。

  NVIDIA SoC 产品副总裁 Ashish Karandikar 表示:“我们与 Arm 在 GB10 超级芯片的合作上,巧妙地结合了 NVIDIA 的 AI 专业知识与 Arm 可扩展的计算平台,实现了出众的性能和能效,将推动下一代 AI 创新。随着 Project DIGITS的推出,每位 AI 开发者和研究员都将能拥有一台功能强大的超级计算机。”

  释放软件创新的潜能

  对于开发者而言,拥有一个完全集成的软硬件 AI 平台至关重要。ProjectDIGITS使用开源 Linux 操作系统,用户可以访问资源丰富的 NVIDIA AI 软件库,包括 NVIDIA NGC 目录和NVIDIA 开发者门户网站中提供的软件开发套件、编排工具、框架和 AI 模型,以加快生成式 AI 的工作流程。

  Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在数据中心的合作,为数据中心和边缘侧设备环境提供一致的平台架构,使开发者能够无缝地使用同一套工具进行 AI 应用开发。此外,Arm 不断积极推动开源开发者社区的重要工作,旨在开发出适配的软件,加速AI 的全面部署。目前,全球已有超过2,000 万软件开发者在 Arm 计算平台上构建自己的应用程序,共同推动着一个快速创新、日益壮大的开源社区。

  赋予高性能 AI 算力的理想平台

  Arm 作为当前和未来 AI 领域应用最广泛的计算平台,自然而然地成为了 Project DIGITS 中 GB10 超级芯片的理想平台。Project DIGITS是一个功能强大的个人计算机桌面平台,能够运行高达 200B 参数的 AI 大模型,让原本的不可能变为可能。这种对 AI 生态系统的广泛影响力,为全球数百万开发者带来了灵活、高性能且高能效的 AI 功能。通过与 NVIDIA 及 Arm 强大的软件生态系统紧密的合作,我们翘首以待下一代极具创新的 AI 应用的问世。

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。
0人已赞

关注我们

泡泡网

手机扫码关注