外媒報導，新創 CentML Inc. 致力提高人工智慧模型效能，宣布完成 2,700 萬美元融資。投資方由 Google 母公司 Alphabet Inc. 旗下 Gradient Ventures 新創基金領投，輝達、德勤創投公司 (Deloitte Ventures)、湯森路透創投公司 (Thomson Reuters Ventures) 和積極創投公司 (Radical Ventures ) 跟投。
CentML 由多倫多大學人工智慧研究人員 2022 年創立，主要開發開放原始碼工具 Hidet，提高人工智慧模型推理效能，降低運行成本。CentML 已開始進行第二個開放原始碼專案，專注加速人工智慧訓練。
CentML 表示，Hidet 是編譯器，或說允許開發人員將原始碼轉換為功能程式的工具，針對處理神經網路代碼最佳化。建構 AI 模型時，Hidet 可再最佳化，以幫助提高模型的推理效能。
因工具加速神經網路使用「算子融合」技術最佳化程式碼。算子是人工智慧模型組件，除了其他任務，還負責決定人工智慧模型的哪些人工神經元如何參與訂定計算任務。Hidet 可將多個運算子「融合」到單一程式碼元件，透過減少將資料在記憶體的移動需求提高效能。
CentML 強調，工具將編譯的 AI 打包到所謂 CUDA 核心。這些程式碼片段經過最佳化，可在 Nvidia 的 GPU 運行。CUDA 核心主要特點是分佈大量 GPU 核心，提高效能，且軟體可加速人工智慧模型，而不會降低準確性，或要求開發人員手動更改程式碼。先前計畫使 Meta Platform Inc. 開源 Llama 2 模型運行速度提高三倍。CentML 也指一些用戶已達成更大效能改進。
除了加速處理時間，人工智慧模型加速還可降低基礎設施成本。如果神經網路的效能提高一倍，它就可使用以前一半 GPU 以達和以前相同速度處理資料量，代表著企業必須為人工智慧訓練購買的晶片數量減少，因應市場供應不足問題。
除了 Hidet，CentML 還提供另一種名為 DeepView 的開放原始碼工具，允許開發人員監控人工智慧模型訓練，並找到加速過程的方法。DeepView 目的在最佳化使用 PyTorch 人工智慧開發框架建構的神經網路。
Nvidia CUDA 和編譯器軟體總監 Vinod Grover 表示，生成式人工智慧火紅為開發人員、研究人員和科學家創造新基礎，尋求利用加速運算達成一系列功能。CentML 致力以最有效的方式最佳化 GPU 人工智慧和語言訓練模型，有助這些人創造更快更輕鬆的體驗。
CentM L計劃將融資投資產品開發和研究計畫。目前有 30 名員工，將僱用更多員工支持發展。
(首圖來源：shutterstock)
科技新報粉絲團
加入好友
訂閱免費電子報
