众目睽睽之下(并且有充分的理由 - 这些东西非常强大),该公司发布了一些最终可能成为更大新闻的东西:一台名为 Project Digits 的个人人工智能超级计算机(我们从现在起就将其称为 Digits,因为这更酷)。
Digits 是一款类似于 Mac mini 的微型个人电脑,几乎适合每张桌子。您将其连接到键盘和显示器,插入电源,然后就可以开始使用了。
但里面的东西让它非常特别。 Digits 由 Nvidia 的新型 GB10 Grace Blackwell Superchip 提供支持,可提供高达 1 petaflop 的 AI 性能,并且 Nvidia 与 MediaTek 合作,使该芯片更加节能,这意味着运行它需要从标准中获得的功率电源插座。
GB10 配备 128GB RAM 和高达 4TB 的 NVMe 存储。所有这些将使开发人员能够运行多达 2000 亿参数的大型语言模型 (LLM)。使用 Nvidia ConnectX 技术,他们还能够将两台 Digits 计算机配对,运行多达 4050 亿个参数的模型。
对于那些不从事人工智能应用程序开发业务的人来说,大多数内容可能没有什么意义。但例如,ChatGPT 3.5 有 1750 亿个参数(ChatGPT 4 要大得多,但我们不知道确切的数字),而 Meta 最强大的 LLM Llama 3 有 4050 亿个参数)。这意味着您可以在家运行非常非常强大的法学硕士,而不是依赖云基础设施。
可混搭光速
英伟达创始人兼首席执行官黄仁勋在一份书面声明中表示:“在每位数据科学家、人工智能研究人员和学生的办公桌上放置一台人工智能超级计算机,使他们能够参与并塑造人工智能时代。”
使用 Digits 的开发人员将能够访问 Nvidia 的 AI 软件库,包括 Nvidia NGC 目录和 Nviia 开发人员门户中提供的开发套件、编排工具、框架和模型。他们还可以访问 Nvidia NeMo 框架和 Nvidia RAPIDS 库。
这里最大的新闻也许是价格。数字版将于 5 月上市,起价 3,000 美元。这类资金应该可供大量小公司和研究人员使用,他们将用它来创建和测试人工智能应用程序。
如果这听起来仍然太贵,你可以尝试Nvidia 的 Jetson。这是一款去年 12 月推出的价值 249 美元的人工智能家用电脑,可以处理多达 80 亿个参数。
Mashable 已在 CES 2025 上现场亮相!本周我们将报道所有最疯狂和最重要的进展,所以请继续关注和我们一起。想要提交您代表的产品供我们团队在评选 CES 最佳产品时考虑吗?这是有关如何操作的更多信息。