輝達推出 NVIDIA AI Foundry 為客戶建構客製化模型

GPU 大廠輝達 (NVIDIA) 推出 NVIDIA AI Foundry 和 NVIDIA NIM。客戶可用 Meta Llama 3.1 AI 模型，藉輝達軟體、運算硬體和專業知識，為特定領域客製化構建超級人工智慧 (AI) 模型。

NVIDIA AI Foundry 是由 NVIDIA DGX Cloud AI 平台支援，與世界領先公有雲共同設計，為企業提供大量計算資源，並可根據 AI 需求的變化輕鬆擴展。另外，NVIDIA AI Foundry 還包括 Nemotron 和 Edify 等輝達創建的 AI 模型、流行的開放式基礎模型、客製化模型 NVIDIA NeMo 軟體，以及 NVIDIA DGX Cloud 專用容量等。

客戶可用專有數據、Llama 3.1 405B 和輝達 Nemotron Reward 模型生成的合成數據，訓練超級 AI 模型。

藉 NVIDIA AI Foundry 輸出結果，可透過 NVIDIA NIM（推理微服務，包括定制模型、最佳化引擎和標準 API）部署到任何地方。NVIDIA NIM 是加速推理微服務，允許企業在雲端運算、資料中心、工作站和 PC 等任何地方的 NVIDIA GPU 運行 AI 模型。

使用產業標準 API，開發人員只需幾行代碼就能以 NIM 部署人工智慧模型。NIM 容器無縫整合 Kubernetes（K8s） 生態系統，高效協調和管理容器化人工智慧應用。目前醫療保健、金融服務、零售、運輸和電信等公司都開始用 NVIDIA NIM 微服務支援 Llama。首批使用 Llama 3.1 新版 NIM 微服務的企業有沙烏地阿拉伯國家石油公司、AT&T、Uber 和其他產業領導者。

(首圖來源：輝達)