
約莫 2024 年起,AWS(Amazon Web Services,亞馬遜雲端運算服務)注意到代理式 AI(Agentic AI)掀起新浪潮。它做到工作流程自動化,能夠處理單一目標、完成大量任務,AWS 軟硬體和服務將幫助客戶大力運用代理式 AI。
AWS 全球技術總監 Shaown Nandi 日前來台分享,他指出代理式 AI 系統能夠代替人們進行推理、規劃進而完成任務,比方說規劃旅行、管理企業應用程式、深入研究等等,可以反覆運算思考。這樣的 AI 不再只是回答問題,而是透過探索和改進來解決問題。
舉例來說,AI 常用於軟體開發,藉由代理式 AI 有助於創造整套程式。客服系統結合代理式 AI,可讓客服處理流程更加輕鬆。
代理式 AI 如何組成?首先,大型語言模型或基礎模型做為代理式 AI 的「大腦」,並且需要為代理式 AI 賦予一些「角色」和指示,例如工作內容和任務描述,還要有短期和長期的記憶,能夠存取相關資料和工具,才能反覆執行任務。
為此,AWS 提出一系列解決方案,包括 NVIDIA GPU 或自研晶片 AWS Graviton、AWS Trainium 在內的 AI 基礎設施,提供 API 以及建置 AI 應用程式所需功能的 Amazon Bedrock 平台,以及預先建構好的 AI 代理(AI Agent)。
AWS 亞太(台北)區域啟用
Shaown Nandi 觀察到,金融業和醫療業兩大產業正在採用代理式 AI。金融業了解數據資料、懂得資料規範,能充分利用代理式 AI。醫療業可將代理式 AI 用於新藥開發,輔助醫生獲得更多資訊和想法。另外如旅遊、零售的客服也在採用代理式 AI。
AWS 亞太(台北)區域上個月正式啟用,對於台灣企業導入 AI、甚至運用代理式 AI 有很大的幫助。現在開發者、新創團隊、企業及非營利組織都能選擇位於台灣的資料中心執行應用程式,為終端用戶提供服務。客戶資料留在這個區域內,以符合台灣法規要求,客戶也能視自身業務需求存於全球區域並加密保護。
自 AWS 亞太(台北)區域啟用後,迅速提供超過 80 項服務,接下來繼續讓更多服務上線。不只如此,由 3 個可用區域(Availability Zones)組成的 AWS 亞太(台北)區域,每個可用區域如電源、網路系統獨立並各自存在一座以上的資料中心,萬一某個可用區域無法正常運作,其他也能支援,使其具有韌性。
所有產業有著不同應用,都能用到生成式 AI、代理式 AI。AWS 從可靠性、安全性、合規性加以思考,提供一系列解決方案,幫助企業走出台灣,進軍不同市場。
(首圖為 AWS 全球技術總監 Shaown Nandi,來源:科技新報)