全球首個「專為半導體設計」的開源 LLM：SemiKong 發表

SemiKong 是由 Aitomatic 及其「AI 聯盟」（AI Alliance）合作夥伴訓練而成的新型大型語言模型（LLM），為世界上第一個專為半導體業需求而設計的大型語言模型。該模型旨在成為半導體設計公司工作流程的一部分，充當數位專家，加速新晶片的研發和上市。

負責開發 SemiKong 的公司 Aitomatic 指出，半導體業迫切需要收集專家資訊，許多年邁的專家陸續退休加劇知識斷層，幾間公司正飽受專業知識嚴重不足之苦。針對產業需求量身打造的 LLM 可望成為新進工程師維持競爭力、快速獲得專業知識的可靠途徑。

基於 Meta 的 Llama 3.1 平台，SemiKong 最近推出 70B 參數版本。該模型由 Aitomatic 與新 AI 聯盟成員共同開發，包括 Meta、AMD 和 IBM 等企業。其中，Aitomatic 的 DXA 系統成為 SemiKong 部署的核心架構。

DXA（領域專家代理）將較小的 LLM 模型與 SemiKong 70B 的核心功能整合。透過對客戶公司技術庫及專家工程師提供的專案進行訓練，DXA 可根據公司需求進行調整。經過訓練的 DXA 能進一步整合到核心 SemiKong 部署中，自動執行開發任務，或充當工程師與員工間的互動界面。

在目前 70B 版本中，加上基於 SemiKong 的小型 DXA 使用，LLM 在半導體領域的應用價值已遠遠超越通用 AI 模型。SemiKong 宣稱，該模型可將新晶片設計的上市時間縮短 20%-30%，首次正確製造的分數提高 20%。此外，該模型能加速新進工程師的學習曲線高達 50%，這個說法也獲得 Meta 的支持。

SemiKong 是新「AI 聯盟」（AI Alliance）推出的首批合作成果之一，該聯盟於 2023 年 12 月成立，匯集 IBM、AMD 等科技巨頭及耶魯大學和東京大學等學術機構，目標是抗衡 NVIDIA 在人工智慧與科技產業的主導地位。