聯發科技達哥來了!以繁體中文大型語言模型主攻生成式 AI 服務

作者 | 發布日期 2024 年 04 月 09 日 16:45 | 分類 AI 人工智慧 , 半導體 , 晶片 line share follow us in feedly line share
聯發科技達哥來了!以繁體中文大型語言模型主攻生成式 AI 服務


IC 設計大廠聯發科 9 日舉行生成式 AI 論壇,推出生成式 AI 服務平台「MediaTek DaVinci」,亦稱「聯發科技達哥」,並由聯發創新基地發表平台最新的強大繁體中文大型語言模型 MediaTek Research BreeXe(簡稱 MR BreeXe)。現場也邀請加入 MediaTek DaVinci 平台測試開發各類生成式 AI 服務應用的企業夥伴及高科技、金融等企業先進,齊聚一堂交流分享。

基於聯發科生成式 AI 服務框架(GAI Service Framework,GAISF)開發的 MediaTek DaVinci,最初是為集團內部打造具資料安全性、提高生產力的生成式 AI 工具,獲各部門廣泛使用,並發展成可供外部企業導入的生成式 AI 服務平台與豐富的生態系,目前已有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業,以及教育機構、新創公司等加入 MediaTek Davinci 生態系。MediaTek Davinci 提供一個高整合度、高擴展性的開放平台,讓開發者可為各行業開發客製化生成式 AI 擴充外掛、助理等應用;對企業來說,能夠在資料安全的環境下,善用平台的豐富工具提高生產力與競爭力。

MediaTek Davinci 支援各類大語言模型,含聯發創新基地最新繁體中文大語言模型「MR BreeXe」。MR BreeXe 以 Mixtral 8x7B 模型為基礎開發,繼承 Mixtral 多專家模型特有的節省運算資源、提升速度優勢,加上聯發創新基地的預訓練(pre-training),不但繁體中文測試(TMMLU+、MT Bench TW)超越 GPT-3.5,並對台灣常見地端應用特別最佳化,提升產業界使用生成式 AI 與檢索增強生成(RAG)體驗。MR BreeXe 於輝達(NVIDIA)Taipei -1 GPU 超級電腦 DGX H100 訓練,透過 MediaTek Davinci,支援全地端與部分地端的佈設場景,並可依需求多樣本學習(few-shot learning)甚至微調(fine-tuning)客製化。

聯發科人工智慧暨數據工程處協理葉家順表示,MediaTek DaVinci 解決許多企業在採用生成式 AI 的痛點,讓各行各業在確保資訊安全的環境下,可善用已有強大基礎的平台開發專屬的生成式 AI 應用。隨著更多企業與開發者加入 MediaTek Davinci 生態系,我們相信 MediaTek DaVinci 的能力將會持續爆發性成長,成為企業的得力助手。

聯發創新基地負責人許大山博士也指出,MediaTek Research BreeXe 繁體中文大型語言模型是聯發創新基地在大模型發展上最新的里程碑,提供優異語文理解能力和雲、地兩端的彈性,為現今繁體中文能力最強的語言模型, 加上與 MediaTek Davinci 的搭配,相信能更貼近在地需求,激發更多在地的生成式 AI 應用。

聯發科生成式 AI 論壇以發展與應用為重點,策略合作夥伴賽微科技說明 MediaTek Davinci 平台的導入與系統整合、API 媒合平台群鼎團隊談應用程式介面生態系整合、AI 智慧數據公司意藍資訊談即將在 MediaTek DaVinci 平台上架的 AI 輿情助理、群聯電子介紹其「aiDAPTIV+」服務方案如何賦能 AI 模型及伺服器廠商。

(首圖來源:聯發科)