輝達推生成式 AI 微服務，支援日本、台灣資料訓練

人工智慧（AI）晶片大廠輝達（NVIDIA）今天宣布推出 4 款全新 NVIDIA NIM 微服務，用於利用日本和台灣當地語言資料訓練的大型語言模型（LLM），讓開發人員更容易建置與部署高效能的生成式 AI 應用。

輝達發布新聞稿說明，NIM微服務支援社群常用的各種模型，並針對地區需求量身打造，可以按照當地語言和文化傳統，透過準確理解和改善的回應，強化與使用者的互動。

輝達指出，使用日文資料訓練出的Llama-3-Swallow-70B，以及用中文資料訓練出的Llama-3-Taiwan-70B，都屬於區域語言模型，可以更深入了解當地法律、法規和其他習俗。

台灣的長庚紀念醫院目前正在建置該院專屬的AI推論服務（AIIS），以集中管理醫院體系內的所有LLM應用。長庚醫院使用Llama 3-Taiwan 70B，提供患者能夠理解、更細膩的醫療語言，提高第一線醫護人員的工作效率。

代工廠和碩將採用Llama 3-Taiwan 70B NIM微服務，開發供內部及外部使用的應用。和碩已將這款微服務與旗下PEGAAi Agentic AI系統進行整合，以達到流程自動化，提升製造與營運效率。

此外，石化產品製造商長春集團、印刷電路板公司欣興電子、科技媒體公司科技報橘、線上合約服務公司律果科技，以及生成式AI新創APMIC，也正在使用Llama-3-Taiwan 70B NIM。

（作者：吳家豪；首圖來源：輝達）