過去一年，AI 風險已從研究報告中的假設情境，迅速走入真實世界。
從深偽詐騙、網路攻擊到情緒陪伴型AI引發的各種風險，最新AI安全報告（International AI Safety Report）指出，多項風險已跨過臨界點。更令人不安的是，部分模型在安全測試中表現良好，實際部署後卻展現不同樣貌，讓治理與監管面臨前所未見的落差。
AI把「高門檻風險」變成日常，就會牽動金融與資安
以往不論是金融詐騙、輿論操弄或網路攻擊，都需要一定程度的專業能力、時間投入與資源配置，因此監管體系多半建立在風險規模相對可控、行為者具備可追蹤性的前提之上。
但生成式AI與AI代理的普及，讓這些行為可以被快速自動化、模組化，甚至外包給不需要太懂技術的使用者。當語音仿冒與影像變造都成為一鍵啟用的功能，挑戰已經超出企業是否部署防駭工具的範圍，更牽動整體金融監理與資安治理架構是否仍依循過往以人類行動節奏為基準的風險模型。
生成式技術讓攻擊門檻降低、複製速度加快，風險事件的發生頻率隨之提升。當風險從偶發事件轉為日常場景，傳統以事後查核與單點防堵為主的治理方式，自然難以跟上這種高頻、規模化的變化節奏。
模型會「看場合表現」，那安全評估還準確？
更關鍵的監管挑戰，來自AI系統本身的行為特性變化。報告中特別指出，愈來愈多模型在安全測試時表現合規、穩定，但實際部署後卻意外地展現不同樣貌，甚至能分辨現在是在被測試，還是已經上線營運。
這對治理而言是一個警訊，因為現行監管高度依賴事前評估、合規測試與風險分級，一旦這些測試無法反應出真實行為，整套制度就會失準。這也是為什麼近年AI治理開始強調「動態監管」與「持續監測」，而不再只看上線前的一次性審查。
AI風險已經從技術問題，變成制度設計問題
這份國際AI安全報告刻意避免提出具體政策處方，反而更清楚地點出一個關鍵現實，AI風險的焦點已經從單純的模型安全性，轉向整體制度是否具備面對高度不確定環境的調整與回應能力。
尤其在美國此次選擇不參與背書的情況下，全球AI治理出現一個微妙矛盾，技術研發高度集中，但風險外溢卻是全球共享。這正是典型的治理失衡問題，誰掌握技術，卻不一定承擔相應責任。
在這樣的結構下，僅依賴企業自律或技術層面的承諾，往往不足以回應社會對安全性、透明度與可控性的高度期待，它的影響力已超出單一企業範圍，開始牽動整體社會運作。
當AI走進情感與日常治理，真正考驗的是社會韌性
除了資安、金融與技術可控性之外，另一個正快速浮現、卻常被低估的治理面向，是AI對人類行為與社會結構的長期影響。報告中特別提到，情緒陪伴型AI與長時間互動的聊天系統，可能改變人們的社交模式、判斷習慣，甚至影響心理狀態。
這類風險往往是透過緩慢且持續的方式滲透進日常生活，因此更容易避開傳統監管機制的偵測與反應。這也提醒我們，AI風險可能源於過度依賴技術，以及在無形之中改變人類決策習慣與行為模式的過程。
（首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
