邊緣運算興起,新一波開發風潮可期

作者 | 發布日期 2018 年 08 月 15 日 14:03 | 分類 AI 人工智慧 , Microsoft , 網路 follow us in feedly

邊緣運算帶動新的市場商機和轉型,也讓市場對硬體有了新的需求,包括大量裝置如何管理、人工智慧的導入與安全防護如何實現等,但隨著開發過程難度上升,許多廠商開始著手升級開發工具的完整和便利性,讓開發者可以專注在自身業務的投入,造就新一波開發風潮。



邊緣運算改變既有架構,帶動新型開發需求

邊緣運算觸角已涵蓋各領域並得到落實,但由於架構從集中式轉為多節點的分散式,邊緣端(如終端和閘道器等)的自主性提升,使得底層的裝置管理將更複雜、網路技術融合也會更重要,而且安全防護機制需要更加謹慎,因此開發過程需要考量的內容越來越多元,自然增加開發過程的難度。

 

 邊緣運算基本架構(Source:拓墣產業研究院,2018/08)

對開發者來說,開發過程難度提升會影響產品與服務產出速度和效率,因此越來越多上游廠商積極改善開發工具的實用和便利性,協助開發者專注於自身創新業務開發,而非工具的學習。以下便分析上游 IP 廠商 ARM、晶片廠商 Intel 與雲端廠商微軟等在開發工具和平台的布局與進展。

ARM──從邊緣端進行全方面 IP 擴增

知名 IP 廠 ARM 從多方切入積極布局邊緣運算,於 2017~2018 年推出各式相關 IP,並協助開發者降低開發難度。除了三大晶片 IP 系列產品外,ARM 先前已推出 ARM Mbed 平台,包括 Mbed Cloud 和 Mbed OS 兩大部分,Mbed 主要是基於 ARM 架構,針對 IoT 服務發展的基礎建設框架,並搭配自家 Cortex-M 晶片進行市場推廣和建立生態系。Mbed Edge 主要是透過物聯網閘道器讓使用者能將 Mbed Cloud 裝置管理功能進一步拓展,如對裝置進行導入、控制與管理等。

Mbed Edge 有三大特點:1. 通訊協定轉譯:可將非 IP 協定的聯網裝置(如LoRa和Modbus)轉譯成 IP based,共同在 Mbed Cloud 進行管理;2. 閘道器管理:提高 IoT 閘道器的復原能力和降低停機時間,並新增強化如發送警報通知、程序、資源、診斷與介面管理;3. 實現邊緣運算:使用者可依需求將複雜程度不同的運算資源或演算規則置於閘道器中,就算與雲端斷線仍能獨立運作。

讓物聯網閘道器具備運算資源有兩大好處:1. 閘道器不必從雲端接收指令就能驅動簡單的應用,例如監控生產線的壓力值,一旦系統自動判定預設門檻便會自動關閉生產線,過程不再需要經過雲端;2. 可節省網路流量,藉由閘道器或終端自行決定是否要傳送資料或捨棄。

2018 年後 ARM 進一步針對 Mbed Cloud 進行翻新,廠商可利用新版 Mbed Cloud 實現更彈性的物聯網部署方式。雖然雲端已為多數廠商採用,但仍有廠商受限於安全和法律議題無法跟進,新版 Mbed Cloud 便是針對此現況,開始支援內部部署裝置管理,讓 Mbed Cloud 可支援多個公有、私有、混合雲與內部部署等環境,並讓受限裝置得以連網。由於廠商得以使用、管理並整合新設備和既有設備,新版 Mbed Cloud 亦有助邊緣運算的推動。

在邊緣運算布局上,ARM 也在 2018 年推出 Project Trillium 機器學習運算平台,以因應大量人工智慧應用導入終端裝置趨勢。終端裝置在符合大量運算需求同時,也要能維持同樣能源效率,該平台除了提供使用者高度彈性和擴充性,也將更多人工智慧應用帶進各類終端裝置。

在安全防護方面,ARM 推出 PSA 框架,與首款針對物理安全防竄改的處理器 ARM Cortex-M35P,搭配如 TrustZone、CryptoCell 與 CryptoIsland 等技術和 IP,讓終端裝置在面對網路、軟體與物理等多方面攻擊時,有更強防護能力。

從上述新產品和服務可以看出,ARM 從邊緣端的安全、運算與擴充彈性等各方面進行升級,積極實現 2035 年前達到全球 1 兆連網設備目標。而 2018 年 5 月中 ARM 也與南韓電力廠商 KEPCO 合作儀表系統升級,利用 Mbed Edge 讓 KEPCO 部署各類智慧閘道器,連結電網和公共事業服務,以及對各種家用電器進行資料即時分析,協助優化能源的消費狀況。

Intel──重視視覺於邊緣端的應用

做為全球最重要晶片廠商之一,Intel 積極布局物聯網、人工智慧與邊緣運算相關策略和產品線。從 CES 2018 開始,Intel 便推出許多邊緣運算相關展示,例如與多家廠商合作智慧家庭產品,包括京東新一代語音助理京東叮咚 PLAY,內含 Intel Atom 處理器,除了具備語音辨識能力外,亦可直接從裝置執行臉部辨識。

此外,Intel 也與宏碁、華碩、HP 與聯想等電腦品牌廠商合作,推出搭載 Amazon Alexa 語音助理的電腦產品。Intel 參與協助改善 Alexa 使用體驗,使其支援免手動操控的語音控制,並透過智慧音效技術強化音訊品質和語音喚醒功能,讓使用者可利用語音指令喚醒電腦。

CES 展後,Intel 接著以 2017 年推出的 Intel Xeon 可擴充平台為基礎,推出新型 Xeon D-2100 系列處理器,以將更多運算與智慧能力結合在消費者和商用裝置上(如手機、物聯網感測器與自駕車等),直接在網路邊界(邊緣端)蒐集資料,並於當下做出回饋。

該處理器將智慧功能內嵌於功耗更低的系統單晶片(SoC),支援各種過往因空間和功耗限制而無法導入智慧應用的邊緣環境,如此一來有機會將晶片尺寸縮小,並優化邊緣端硬體裝置的安全、網路、加速與功耗等,未來可因應 5G、網路虛擬化與串聯雲端資源等應用。

在邊緣運算相關範疇中,Intel 特別著重視覺應用技術,近期就購併了 Nervana、Movidius、MobilEye 與 Altera。在 COMPUTEX 2018 前,Intel 更特別針對機器視覺應用發表開放視覺推論和類神經網路最佳化工具套件 OpenVINO,協助開發者快速將邊緣裝置和物聯網裝置收集到的影像資料轉換成有價值資訊。

OpenVINO 可讓開發者結合搭配 CPU、GPU、FPGA 與 VPU 等硬體,並搭配套件中 3 組主要 API,分別是 Deep Learning Deployment Toolkit(深度學習部署工具)、OpenCV(開源電腦視覺及影像處理工具)與 OpenVX(電腦視覺 API 標準),再利用 Intel 旗下深度學習編譯器 nGraph 進行開發。該開發套件亦與市場間主流框架如 TensorFlow、MXNet 與 Caffe 等相容,讓開發者得以更多元工具進行開發。

目前該開發套件已與工業電腦廠商凌華(ADLINK)進行辨識條碼來達到追蹤產品目的,亦與神基(Getac)ALPR 系統進行自動擷取車牌影像功能,並與威聯通和威強電合作進行醫療影像收集,並利用影像強化 AI 推論能力,協助診治老年性黃斑部病變。

微軟──提升邊緣端開發便利與相容性

微軟近年積極發展邊緣運算,微軟執行長更於 2018 年開發者大會上表示,Intelligent Cloud 和 Intelligent Edge 時代已來臨,將大力投入 AI 技術、產品與服務開發,並以社會公益角度出發,除了之前啟動的「AI for Earth」計畫,另一個針對殘疾人士的「AI for Accessibility」5 年計畫也跟著開啟,預計將投入 2,500萬美元。

微軟最初以物聯網相關業務切入,推出 Azure IoT 套件,協助廠商進行 IoT 業務轉型,其中與邊緣運算較有關係的為 Azure IoT Hub 和 2017 年推出的 Azure IoT Edge。Azure IoT Hub 主要處理雲端和裝置間的溝通,包括通訊模式和協定支援、裝置安全性與裝置狀態監控;Azure IoT Edge 則是導入在 Azure IoT Hub 之前,主要是將雲端分析結果或自定義邏輯演算置入裝置中,讓裝置不再只是收集資料或資料管理的管道,而是可確實將 AI 應用落地的解決方案。

微軟對 Intelligent Edge 的認知在於,未來智慧裝置並不需時刻處於連網狀態,就能讓使用者觀看、傾聽、理解與進行預測,亦即智慧裝置需擁有更多運算和自處理的能力。

微軟也於 2018 年升級 Azure IoT Edge,若從開發端來看,首先是將 Azure IoT Edge 進行開源,讓客戶可自行修改 Edge 端應用,提高掌控度;第二為既有 Azure 認知服務中的 Custom Vision 服務,已得以部署至 Azure IoT Edge 中,讓無人機和工業設備等邊緣端裝置不需連網就能進行關鍵決策。預計未來微軟將會在 Azure IoT Edge 上開放更多認知服務。

第三便是容器化解決方案的簡化,微軟的 Azure Kubernetes Service(AKS)大幅整合開發工具、工作空間、DevOps 功能、網路與監控工具等功能,讓開發者可專注於編程而非工具的學習和轉換,也讓開發者能迅速上手 Kubernetes,且微軟預計也將讓 Azure IoT Edge 裝置支援 Kubernetes 服務,從微軟對 AKS 的重視,也可看出 Kubernetes 對開發者社群的重要性日增。

除了開發者方面,Microsoft也與其他廠商合作,例如與無人機大廠 DJI 共同推出針對 Windows 10 電腦創建的 SDK,以 Azure 做為雲端平台,拓展商用無人機與 SaaS 解決方案。該 SDK 有助於提升 Windows 10 相關無人機裝置,實現更佳的飛行控制和即時資料傳輸能力,同時兩方也將共同開發基於 Azure IoT Edge 和 Microsoft人工智慧的解決方案。

Microsoft亦與另一個晶片大廠高通(Qualcomm)共同打造執行於 Azure IoT Edge 的 Vision AI 開發套件,主要是為基於攝影鏡頭的物聯網解決方案提供關鍵軟硬體支援,開發者可透過 Azure Machine Learning Services、Qualcomm Vision Intelligence Platform 與 Qualcomm AI Engine 加速解決方案生成,這些攝影鏡頭也能於 Azure 平台上執行進階服務,例如機器學習、串流分析與認知服務,並載入於 Edge 端運行。

由上述Microsoft各項發展可知,從 Azure IoT Edge 進行業務擴展和生態圈佈建已是未來策略主軸,除了簡化與強化 Edge 端的開發過程和功能外,也會將既有的認知服務逐步與 Azure IoT Edge 結合,讓人工智慧得以在邊緣端落實,達到 Intelligent Edge 目標。

技術的開放和創新對Microsoft來說是現在進行式,也確實受到市場肯定,因此Microsoft持續積極建立生態圈和深化合作關係,2018 年也發起「Intelligent edge 合作夥伴社群」,希望透過認證等方式強化與合作夥伴的關係。

小結

AI 加速朝邊緣移動,視覺將是主要廣泛應用

隨著運算能力提升加上人工智慧導入,有助於邊緣端實現更多智慧化和自動化的應用,其中視覺應用將會成為邊緣運算主流之一,例如物件辨識、人臉辨識、行為辨識、即時偵錯與即時警示等都會開始應用於各場域中,涵蓋製造業、智慧城市、自駕車、智慧家庭與智慧零售等,將會成為邊緣運算興起的第一波主要亮點。

邊緣運算架構更趨複雜,開發工具講求便利與全面

由於邊緣運算不同於過往連上雲端時,需時時保持連網狀態,加上邊緣端的運算和執行能力提升,可以加入更多安全防護措施。但邊緣運算將雲端架構分層處理,在數據的篩選、傳遞、儲存與應用上差異極大,整體架構將更複雜,也因此有越來越多廠商致力於降低開發者在開發過程時遇到的困難,預計便利性高的開發工具將日漸增加。

(首圖來源:shutterstock)

延伸閱讀:

關鍵字: , , , ,