Zettabyte 與 LiteOn 宣布展開研發合作，將共同評估一個名為 Ultra Edge Pod 的分散式邊緣人工智慧推論平台；該平台部署於行動通訊基地台或鄰近基地台的位置。
初步部署將包括一個專用的行動邊緣運算（MEC）人工智慧推論平台，部署於行動通訊基地台、鄰近基地台的設施，以及其他接近網路的基礎設施（邊緣人工智慧部署）。行動邊緣運算將把人工智慧推論工作負載拉近至使用者端，大幅降低延遲。行動邊緣運算平台也將有助尚未具備成熟資料中心基礎設施的國家，提升其市民及企業在數位化及人工智慧方面的準備程度。在是次合作下，LiteOn 將提供邊緣部署所需的電力、冷卻及實體基礎設施，而 Zettabyte 則負責提供完整的軟體層，涵蓋 GPU 排程、編排、可觀測性及遠距營運，透過結合各個行動通訊基地台的運算能力，實現行動邊緣運算。
此部署旨在展示緊密整合的基礎設施與軟體，如何在高度分散的環境中實現可靠、低成本及低延遲的人工智慧推論，包括鄰近電訊設施的部署地點，同時也考慮現實環境中的電力、散熱及營運限制。
預期的邊緣 AI 部署將支援低延遲、具位置感知的人工智慧推論工作負載，執行於更貼近行動使用者、無線接取網路及資料來源的環境，同時驗證在高度分散、受電力及空間限制的電訊場景下（包括由基地台公司及電訊服務供應商營運的場景），執行基於 GPU 的人工智慧運算的可行性。
Zettabyte 主席 Kenneth Tai 表示：「此部署讓雙方團隊能驗證一個實用且具可擴充性的邊緣人工智慧部署模式，並透過清晰劃分基礎設施與軟體責任，強調可重複性、韌性及營運效率。」
LiteOn 直流微電網副總裁兼主管 Jason Tsao 表示：「憑藉 LiteOn 在電力系統、散熱管理及實體基礎設施方面的經驗，公司可透過以部署為本、具紀律性的合作模式，支援新興邊緣人工智慧的應用場景。」
關於 Zettabyte
Zettabyte 是一家全球性的人工智慧基礎設施軟體供應商，專注於分散式及異構運算環境的 GPU 排程、編排及營運管理。
關於 LiteOn
Lite-On Technology Corp 是一家全球科技公司，專門提供電力系統、熱能管理及基礎設施解決方案，應用於電訊、工業及鄰近資料中心的部署場景。
（本文由 PR Newswire 授權轉載；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
