2025 年 1 月 6 日,NVIDIA 推出了 NVIDIA® Project DIGITS,这是一款个人 AI 超级计算机,可让全球的 AI 研究人员、数据科学家和学生使用 NVIDIA Grace Blackwell 平台的强大功能。

NVIDIA Project DIGITS

Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell 超级芯片,提供千万亿次的 AI 计算性能,可用于原型设计、微调和运行大型 AI 模型。

通过 Project DIGITS,用户可以使用自己的桌面系统开发和运行模型推理,然后在加速云或数据中心基础设施上无缝部署模型。

2025-01-06-CES-2025-Nvidia-Project-DIGITS-AI-supercomputer-for-the-desktop25.jpg

NVIDIA 创始人兼首席执行官黄仁勋表示:“AI 将成为各行各业中每一种应用的主流。借助 Project DIGITS,Grace Blackwell 超级芯片将惠及数百万开发者。将 AI 超级计算机放在每一位数据科学家、AI 研究人员和学生的桌子上,将使他们能够参与并塑造 AI 时代。”

2b548cbb-64fb-4142-ae8a-e6d51241ac6f.jpg

GB10 超级芯片提供千万亿次高效的 AI 性能

GB10 超级芯片是基于 NVIDIA Grace Blackwell 架构的片上系统 (SoC),以 FP4 精度提供高达 1 千万亿次的 AI 性能。

GB10 采用NVIDIA Blackwell GPU,配备最新一代 CUDA® 核心和第五代Tensor 核心,通过NVLink® -C2C芯片到芯片互连连接到高性能 NVIDIA Grace™ CPU,其中包括 20 个采用 Arm 架构构建的节能核心。联发科是基于 Arm 的 SoC 设计的市场领导者,参与了 GB10 的设计,为其一流的能效、性能和连接性做出了贡献。这是 NVIDIA 和联发科首次在汽车领域以外的 SoC 上进行合作。

b24f2858-4d04-4029-846d-1767df304f0b.jpg

hpc-datasheet-grace-cpu-superchip-datasheet-2705400-3.jpg
via NVIDIA Grace CPU Superchip Datasheet

GB10 超级芯片使 Project DIGITS 仅使用标准电源插座即可提供强大的性能。每个 Project DIGITS 都具有 128GB 的​​低功耗DDR5X内存(LPDDR5X)和高达 4TB 的 NVMe 存储。借助这台超级计算机,开发人员可以运行多达 2000 亿个参数的大型语言模型,从而增强 AI 创新。此外,使用NVIDIA ConnectX®网络,两台 Project DIGITS AI 超级计算机可以连接起来,运行多达 4050 亿个参数(405B)的模型,参照物 Meta Llama 3.1 就有 4050 亿参数。

b736703d-3e4a-4fda-ad8a-411de0b5424d.jpg

Grace Blackwell AI 超级计算触手可及

Grace Blackwell 架构,企业和研究人员可以在运行基于 Linux 的 NVIDIA DGX OS 的本地 Project DIGITS 系统上对模型进行原型设计、微调和测试,然后将其无缝部署在NVIDIA DGX Cloud ™、加速云实例或数据中心基础架构上。

这使得开发人员能够在 Project DIGITS 上制作 AI 原型,然后使用相同的 Grace Blackwell 架构和NVIDIA AI Enterprise软件平台在云端或数据中心基础设施上进行扩展。

Project DIGITS 用户可以访问 NVIDIA AI 软件的广泛库进行实验和原型设计,包括 NVIDIA NGC 目录和 NVIDIA 开发者门户中提供的软件开发套件、编排工具、框架和模型。开发人员可以使用NVIDIA NeMo ™ 框架微调模型,使用NVIDIA RAPIDS ™ 库加速数据科学,并运行 PyTorch、Python 和 Jupyter 笔记本等常见框架。

为了构建代理式 AI 应用程序,用户还可以利用NVIDIA Blueprints和NVIDIA NIM ™ 微服务,这些微服务可通过 NVIDIA 开发者计划进行研究、开发和测试。当 AI 应用程序准备从实验转移到生产环境时,NVIDIA AI Enterprise 许可证可提供企业级安全性、支持和 NVIDIA AI 软件的产品版本。

NVIDIA Project DIGITS

可用性

Project DIGITS 将于 5 月由 NVIDIA 及其顶级合作伙伴发售,起价为 3,000 美元(如果用户觉得过于昂贵,可能应该选择云服务,或者在深度学习硬件指南寻找诸如Jetson Nano、Jetson Orin Nano等创客工具)。

project-digits.jpg

👍

本文由 cds 整理发布,参考 CC-BY-SA 3.0 协议共享,欢迎转载、引用或改编。
感谢您的支持,以共同推动STEM公益教育!

楼主残忍的关闭了评论