NVIDIA 執行長黃仁勳在行銷產品可說是創意滿分,過去曾在廚房中戴起隔熱手套,打開烤箱拿出一個烤盤大的顯示卡,今年他又從烤箱中拿出新產品,體積小巧的新款生成式 AI 超級電腦。黃仁勳還笑稱說可能烤太久了,所以外型縮小,這款產品叫做「Jetson Orin Nano Super」。
Jetson Orin Nano Super 開發者套件僅手掌大小,價格也從 499 美元降至 249 美元(約新台幣 8,100 元),與前代產品相比,這款產品能將生成式 AI 推論效能提高 1.7 倍、運算效能提高 70%至 67 INT8 TOPS,記憶體頻寬加大 50% 至每秒 102 GB。黃仁勳指出,HGX 可以跑的大語言模型,Jetson Orin Nano Super 也同樣可以運作。
影片最後,黃仁勳還拿著最新產品對家中的 3 隻狗進行產品講解,畫面相當逗趣。
NVIDIA 指出,無論使用檢索增強生成技術來建立 LLM 聊天機器人、建立視覺 AI 代理,還是部署 AI 機器人,Jetson Orin Nano Super 都是理想的解決方案,這款產品也適合有興趣發展生成式AI、機器人或電腦視覺技能的人士使用。
Jetson 能執行 NVIDIA AI 軟體,包括用於機器人的 NVIDIA Isaac、用於視覺 AI 的 NVIDIA Metropolis,以及用於處理感應器資料的 NVIDIA Holoscan。使用 NVIDIA Omniverse Replicator 來產生合成資料,以及使用用於微調 NGC 目錄裡預先訓練好的 AI 模型的 NVIDIA TAO Toolkit可縮短開發時間。
Jetson 生態系合作夥伴提供額外的AI與系統軟體、開發者工具及開發專屬軟體,也能協助提供攝影機和其他感測器,以及載板和產品解決方案的設計服務。
(首圖來源:NVIDIA)