美國時間 5 月 16 日，開發出 ChatGPT 的 OpenAI 執行長奧特曼（Sam Altman），和 IMB 的首席隱私與信任長蒙哥馬利（Christina Montgomery）、紐約大學教授暨創業家馬庫斯（Gary Marcus），共同出席了由參議院隱私科技與法律的立法小組召開的聽證會，作證的時間長達三小時。在這三小時中，除了維持一貫論調，呼籲政府部門應該監管人工智慧的發展以外，奧特曼還說了什麼？
AI操縱人心、影響行為，奧特曼擔心惡夢成真
對現場的參議員和線上收看的觀眾來說，這都是一場奇妙的聽證會。面對不同參議員或友善或強硬的詰問，奧特曼的答案始終沒有改變。在介紹OpenAI向大眾公布GPT-4模型之前，為確保其安全性所做的諸多努力後，奧特曼真誠地邀請政府部門監管，他主張政府部門的監管介入，能夠有效地緩解新技術帶來的風險，他甚至勾勒出一定的框架，讓不熟悉相關技術的參議員們可以參考。
參議院中民主黨黨鞭德賓（Dick Durbin）就說，這是歷史性的（historic）的聽證會，「我無法回想起，上次有大企業的代表，或者私部門的人懇求我們管制他們，」他說奧特曼的做法就像是呼喊著，在我們創新之前，停下我們的腳步吧。IBM的代表蒙哥馬利在聽證會上認為，政府不用成立新單位管制人工智慧，為什麼奧特曼的反應，和這些科技巨頭有這麼大的不同？
被問及他個人對於生成式AI的前景，有什麼可能想過的「惡夢」，奧特曼表示，他認為這類技術非常強大，如果不幸走偏了，那後果將一發不可收拾。後續回應參議員時，他列舉了不同的惡意用途，包含被用來操縱與說服，甚至是提供一對一互動式的虛假訊息，這些ChatGPT現階段能夠做到的事情，有可能影響人們行為與信念，若在選舉場景之中使用，危害甚大。
替參議員想好如何管制自己，奧特曼被邀請一起工作
討論管制時，共和黨籍的葛瑞姆（Lindsey Graham）回憶起立法者在社群媒體上犯的錯誤，他認為《通訊規範法》中第230條的安全港條款（Communications Decency Act Section 230）讓社群媒體得到免死金牌，只要立意良善、積極行事，就不用對用戶的言論負起責任。
葛瑞姆進一步說，技術是雙面刃，當有人想要建造核能發電廠，需要得到核能監管委員會的同意，AI似應比照辦理。他問奧特曼，你認同有一個專門的機構發放許可制度給人工智慧技術的相關企業嗎？
影響算力甚鉅的晶片，也需比照核能制定標準
針對提問，奧特曼先是強調，OpenAI並沒有引用安全港條款，因為ChatGPT並不適用這個框架，他很樂意和政府探索新的法律規範方式。至於許可制度與專責機構，奧特曼想得更遠。
他指出，以核能為例，國際上有國際能源總署（IEA）促進跨國合作、提出建議，他認為人工智慧領域之中，包含晶片的供應鏈、數量有限的GPU在內，美國有權力、也有能力制定國際標準。
美國政府有三件事情可以施行，首先是創立一個全新機構（agency）按照一定規範發放許可（licensing），若是不符規定則要收回許可；接著是具體制定安全標準，他也介紹了OpenAI內部會做的測試，例如系統是否會自我複製或是有資料滲透的情形；最後則是建立起第三方的檢核機制，避免企業違規。
或許是因為奧特曼的計畫太過完整，共和黨籍、和甘迺迪家族沒有關係的參議員甘迺迪 (John Kennedy)甚至問奧特曼，「你願意來執行你剛提的這些任務嗎？」對此，奧特曼的回答是，他很熱愛自己的工作。
近半年內沒有要開發GPT-5的計畫
除了討論管制以外，聽證會上也討論到先前馬斯克（Elon Musk）在內發起的停止開發先進AI系統的聯名信。奧特曼表示，他並不認同聯名信中的訴求，因為「停下時鐘」的意義不大，他更偏好OpenAI在訓練模型過程中展現的嚴謹，像是開發GPT-4時他們檢查了6個月才釋出。
另外，他也提到現在OpneAI在接下來的六個月之中，都沒有訓練第5代GPT（GPT-5）的打算。
為何各國政府都在討論監管？主要是人工智慧正以肉眼可見的方式，在我們的生活中展現它的影響。小至孩子因為以文算圖的工具，正在思考是否要學習繪畫，大到好萊塢編劇的罷工因為片商不願意明確規範AI的使用。在這場聽證會後，已可看出美國的重視，看到OpenAI也沒有要積極開發新模型，或許能夠讓人短時間安心了。
（本文由 遠見雜誌 授權轉載；首圖來源：達志影像）
科技新報粉絲團
加入好友
訂閱免費電子報
