想要拥有自己的AI超级计算机?英伟达正在为你实现这一梦想。
在CES 2025展会上,英伟达宣布将于5月推出一款名为“Project Digits”的个人AI超级计算机。这款设备的核心是最新的GB10 Grace Blackwell超级芯片,其性能足以支持复杂的AI模型运算,同时体积小巧,仅需普通插座供电。要知道,以前这种性能的计算机需要更大的设备和更多的能耗。这台桌面级“迷你超算”能支持高达2000亿参数的AI模型,起售价仅为3000美元,外观上酷似一台Mac Mini。
英伟达CEO黄仁勋表示:“AI将普及到每个行业、每款应用中。有了Project Digits,Grace Blackwell超级芯片可以触达数百万开发者。这让每位数据科学家、AI研究员和学生都能在自己的桌面上操作一台AI超级计算机,从而在AI时代中发光发热。”
强大配置让AI开发更自由
每台Digits系统标配128GB统一内存(普通高端笔记本可能只有16GB或32GB),以及最高4TB NVMe存储空间。对于需求更高的用户,两台Digits系统可以联机使用,支持高达4050亿参数的模型运算(Meta最新的Llama 3.1模型参数就是4050亿)。
GB10芯片能提供高达1 petaflop的AI性能(每秒进行一千万亿次AI计算),支持FP4精度,兼具速度和效率。此外,这款设备还搭载英伟达最新一代CUDA核心、第五代Tensor Cores,并通过NVLink-C2C连接至包含20个高效Arm架构核心的Grace CPU。GB10芯片的开发还与联发科合作,进一步优化了其功耗表现和性能。
Digits系统运行基于Linux的英伟达DGX OS,并支持主流开发框架,包括PyTorch、Python和Jupyter notebooks。开发者可通过英伟达的NeMo框架对模型进行微调,或者利用RAPIDS库加速数据科学工作流程。更方便的是,用户不仅能在本地开发和测试AI模型,还能将这些模型无缝部署到云服务或数据中心中,保持Grace Blackwell架构和英伟达AI企业级软件平台的一致性。
面向开发者的全新AI工具
Digits用户还可享用英伟达的AI软件库,包括开发套件、编排工具和预训练模型,这些资源均可通过Nvidia NGC目录获取。对于开发者来说,这是一场技术盛宴。
值得一提的是,这并非英伟达首次推出此类便捷型设备。去年12月,英伟达就发布了一款售价249美元的Jetson Orin Nano Super,主要面向初创企业和AI爱好者,支持高达80亿参数的模型。Digits的推出显然是更高阶的进化版本,为专业开发者和学生提供了不可多得的机会。
对于想要在AI领域大展拳脚的人来说,Digits不仅是工具,更是一个走向未来的起点。