吹哨者指控 OpenAI 非法禁止員工警告 AI 風險

最近吹哨者向美國證券交易委員會（SEC）投訴：指控 OpenAI 非法禁止員工警告監管機構 AI 技術的潛在風險。

投訴稱OpenAI公布了嚴格的僱用、離職和保密協議，可能懲罰向聯邦監管機構提出疑慮的員工。之前OpenAI安全團隊成員被迫倉促完成GPT-4 Omni模型安全測試，以趕上5月發表日。有人擔心OpenAI只在乎速度和市場主導地位，而非完整的安全測試。

且OpenAI要求員工放棄聯邦舉報人補償權利，公司要求向當局披露訊息前必須獲得公司同意，員工被勸阻向聯邦政府報告違規行為。

OpenAI回應，否認安全流程走捷徑，但承認新模型發表時程對員工造成壓力，且公司舉報人政策有保護員工披露風險的權利。OpenAI稱已修改離職流程，移除不得詆毀公司的條款。

這些指控引發外界對AI公司公開呼籲監管的誠意及公司做法的質疑，有人擔心AI業自我監管的充分性，這些情況都突顯公司保密與AI開發透明度之間的矛盾。

吹哨者敦促SEC調查並對OpenAI和AI業類似舉動採取行動，確保AI從業者能自由向政府提出AI潛在風險和安全疑慮。

OpenAI對AI安全的公開立場與實際做法可能有不小差異，代表AI開發時透明度、監管和安全性等問題仍有不少路要走。

• OpenAI illegally stopped staff from sharing dangers, whistleblowers say
• Whistleblowers Say OpenAI Broke Promise to Rigorously Test AI for Danger Before Releasing
• OpenAI agreements blocked staff from revealing AI risks: Whistleblowers

（首圖來源：影片截圖）