
台灣時間 11 月 19 日 Microsoft Ignite 2024 大會,微軟執行長納德拉(Satya Nadella)分享微軟將 AI 深度嵌入產品的策略。他的演說軸線始於最熱門應用 Copilot 功能升級開始,接著延伸說明,生成式 AI 如何進化成有自主行動的 AI 代理(AI Agent)。他也談到 AI 泡沫疑慮與企業投資人工智慧的回報。這可能才是企業界最想聽到的資訊,而軟體界領袖怎麼說?
每年Ignite大會都能見到微軟重新收攏一年來消息,重新組合包裝,最後提出新論述,讓人更清楚吸收。今年Ignite大會亦然,生產力軟體加入Copilot、既有服務介接Agent,雖然是10月前更新,但納德拉精湛架構與演說能力加持,讓人看到明確軌跡。
Copilot進化,互動更簡單
實際進入新品介紹以前,納德拉先勾勒出AI進步如何改變產品與服務的藍圖。他眼中增加資料與參數並提升算力、模型就能進步的縮放定律(scaling law),就是AI時代的摩爾定律。
過去幾週,人們激辯縮放定律是否遇到瓶頸,Google DeepMind研究者透過推理時增加運算量改變模型表現,希望增進推理能力、處理複雜任務,便是發掘替代方法解方之一。
納德拉沒有選邊站,而是強調縮放定律主要來自經驗觀察,並非牢不可破的物理定律。就開發應用與服務來說,樂見有更多研究者投入尋找新方向,他也感到樂觀,認為技術仍會向前行。
模型越進步,AI越可改變產品與服務,包含讓互動介面變得通用(universal)、提升推理與計畫能力、拉長記憶力與上下文能力。這幾項效益,使AI代理普及,也成為微軟鎖定的重要方向。
▲ AI Agent成為今年重要AI發展,也是微軟重點產品更新方向。(Source:影片截圖)
Copilot還能幫忙敲定會議,整合代辦事項
納德拉沒有直接討論AI Agent,先把目光放在扮演人類副駕駛的Copilot。延續以往更新,Copilot加入更多替使用者省時間的自動化功能,如取用日曆後,幫助使用者與同事敲定會議,還有自動整合代辦事項,或搜集團隊成員想法的Copilot Actions。
納德拉特別提到,他會利用Copilot Pages,把和Copilot的對談內容,一鍵產生會議簡報,接著分享給同事參考。這法恰好也是Google高階主管用NotebookLM做的事,同樣都是以AI為基底連結現實(grounding),並萃取對話知識,這是AI賦能工作者的經典案例。
對企業來說,投資AI可能有不錯預期收益,但初期成本不知要投入多少才能見到盡頭的光,不少公司躊躇不前。就評估AI泡沫來說,不少分析師會拿Copilot付費率當成重要觀察對象,因是現在AI產品營收的指標性案例。
▲ 納德拉沒有直接討論AI Agent,先把目光放在扮演人類副駕駛的Copilot。(Source:微軟)
企業投資AI如何評估回收?
企業額外添購Copilot服務,當然希望獲到回報,但能有多少效益?納德拉分享,他個人思考推廣採用Copilot價值時,會以不同階段區分。
第一階段,當然是希望更多人使用Copilot,例如評估組織有多少人使用Copilot,比例愈大愈能提高並彰顯Copilot價值。
第二階段,設法延伸Copilot影響力,如把Agent加入服務,就不只有個體性的生產效率提升,而是整個生態系都取得AI賦能。最後階段,是跳下來測量投資報酬率(ROI, return on investment),有多少工作流程改變?哪些成品可幫助人們?這些都是衡量投報率的方式。
微軟這次也推出新工具Copilot Analytics,衡量Copilot成效,如直接比對Copilot使用率(usage)高低,和業務客單與成功率。納德拉表示他知道企業客戶對投資能否收效的擔憂,「(衡量Copilot成效)是管理『變動』問題。」Copilot Analytics就是確認工作流程和生成內容是否真的改變。
▲ 納德拉將採用Copilot分成三階段,評估Copilot效果。(Source:影片截圖)
AI代理將普及,企業應用資料是重點
如果說納德拉眼裡,Copilot是「人工智慧使用者介面」(UI for AI),幫助人們輕易以對話取得、整理、生產資訊,Agent則更進一步,自動替人們分憂解勞。
集合幾個月以來更新,納德拉介紹數種AI Agent應用,如分享過的,SharePoint建置企業入口網站背後加上Agent,並串接外部工具,讓AI無需經過人,就能自動完成部分任務,如收到信後,觸發後續完整流程,人類只有檢核或有高度敏感階段才介入。
就Agent定義看,必備構成要素有自行分拆任務的規劃與推理能力、調用外部工具能力、有記憶力會反思等,因此有辦法採取行動。
就微軟公布的Agent來說,因為本就是企業端(enterprise)服務,早已定義出完整流程,因此規劃推理、調用外部工具、記憶力等都不是重點,能夠取得資料才是關鍵。
空有能力、沒有資料或者權限的AI代理,注定無法大展身手,而微軟Agent的強項,便是與第三方企業緊密合作,如Workday的人事管理、SAP的企業商務流程,得到個人化資料,自然有發揮空間。
Copilot讓人互動、Agent讓人放權,最後微軟還要讓兩者更加普及,提出Azure AI Foundry,讓開發者自行建置Copilot及Agent,不用等官方定義。微軟提供超過千種模型,加上評估功能,讓人選擇適合自家任務的模型;開發者也能補上私有資料,微調模型改善成效。
▲ Azure AI Foundry提供不同模型讓開發者實驗,並加入AI Agent、搜尋等服務,希望成為開發AI應用程式的平台。(Source:影片截圖)
硬體也沒漏,微軟推自家安全晶片和DPU
軟體層次大展拳腳以外,納德拉也沒漏掉硬體更新,除了高喊多時、企圖搶攻話語權的Copilot+ PC,他介紹新迷你主機Windows 365 Link,無論系統應用,全都雲端執行,主要為企業和教育事業用。
另外,雲端服務商自研晶片爭戰也在繼續。
微軟端出主打安全的晶片Azure Integrated HSM,重點放在強化金鑰管理與加密;還有微軟第一款客製化的資料處理單元(DPU)Azure Boost DPU。跳進AI堆疊底層開發晶片,「核心在將計算、儲存、網路、邊緣運算及晶片整合,實現所有工作負載的總持有成本(TCO)效能。」納德拉解釋。
從Copilot到Agent,再到放手讓開發者自行構建,微軟加緊腳步,提升AI賦能人類的速度。
(本文由 遠見雜誌 授權轉載;首圖來源:微軟)