眾目睽睽之下(並且有充分的理由- 這些東西非常強大),該公司發布了一些最終可能成為更大新聞的東西:一台名為Project Digits 的個人人工智慧超級電腦(我們從現在起就將其稱為Digits ,因為這更酷)。
Digits 是一款類似 Mac mini 的微型個人電腦,幾乎適合每張桌子。您將其連接到鍵盤和顯示器,插入電源,然後您就可以開始使用了。
但裡面的東西讓它非常特別。 Digits 由 Nvidia 的新型 GB10 Grace Blackwell Superchip 提供支援,可提供高達 1 petaflop 的 AI 性能,並且 Nvidia 與 MediaTek 合作,使該晶片更加節能,這意味著運行它需要從標準中獲得的功率電源插座。
GB10 配備 128GB RAM 和高達 4TB 的 NVMe 儲存。所有這些將使開發人員能夠運行多達 2000 億參數的大型語言模型 (LLM)。使用 Nvidia ConnectX 技術,他們還能夠將兩台 Digits 電腦配對,運行多達 4,050 億個參數的模型。
對於那些不從事人工智慧應用程式開發業務的人來說,大多數內容可能沒有什麼意義。但例如,ChatGPT 3.5 有 1750 億個參數(ChatGPT 4 要大得多,但我們不知道確切的數字),而 Meta 最強大的 LLM Llama 3 有 4050 億個參數)。這意味著您可以在家中運行非常非常強大的法學碩士,而不是依賴雲端基礎設施。
可混搭光速
英偉達創辦人兼執行長黃仁勳在一份書面聲明中表示:「在每位資料科學家、人工智慧研究人員和學生的辦公桌上放置一台人工智慧超級計算機,使他們能夠參與並塑造人工智慧時代。
使用 Digits 的開發人員將能夠存取 Nvidia 的 AI 軟體庫,包括 Nvidia NGC 目錄和 Nviia 開發人員入口網站中提供的開發套件、編排工具、框架和模型。他們還可以存取 Nvidia NeMo 框架和 Nvidia RAPIDS 庫。
這裡最大的新聞也許是價格。數位版將於 5 月上市,起價為 3,000 美元。這類資金應該可供大量小型公司和研究人員使用,他們將用它來創建和測試人工智慧應用程式。
如果這聽起來仍然太貴,你可以嘗試Nvidia 的 Jetson。這是一款去年 12 月推出的價值 249 美元的人工智慧家用電腦,可以處理多達 80 億個參數。
Mashable 已在 CES 2025 上現場亮相!本週我們將報導所有最瘋狂和最重要的進展,所以請繼續關注和我們一起。想要提交您代表的產品供我們團隊在評選 CES 最佳產品時考慮嗎?這是有關如何操作的更多信息。