大語言模型要憑證才能開發？至少 OpenAI 這樣建議監管者

有趣的一幕發生了。16 日上午，在美國國會針對人工智慧監管的聽證會開始時，參議員理察·布魯蒙索（Richard Blumenthal）「講」了一段宣言。他的聲音在大廳裡響起：「我們經常看到技術超過監管時會發生什麼。會加深對個人數據的無節制利用、虛假訊息的氾濫和社會不平等。」

然而鏡頭掃到他時，他的嘴並沒有動。直到最後他忍不住發出笑聲，才頗為得意地揭曉這段音頻是用語音程式根據他在參議院的演講資料生成，而文本，當然是他用OpenAI的ChatGPT編寫的。

所有人的目光都轉向了OpenAI的首席執行長Sam Altman （以下簡稱奧特曼）。此時他正坐在證人席上準備提供證詞，旁邊還有IBM的首席隱私和信任長Christina Montgomery。參議員布魯蒙索說，人工智慧能夠製作出如此逼真的音頻片段真是太神奇了，但潛在的應用可能是可怕的。

參議院司法小組委員會的喬希·霍利也在聽證會開始時警告說，生成式人工智慧「至少在規模上類似於網路的發明」。他說這可能是「人類歷史上」最重要的技術創新之一，但它可能會產生像原子彈一樣的嚴重後果。

AI的勢頭如此之猛，幾個月之內，它的誕生從「iPhone時刻」上升到了「原子彈時刻」，而背後最大的推手，奧特曼也在此時來到美國國會，接受議員們的質詢。

然而，和之前矽谷各巨頭因為用戶隱私和數據安全問題受到激烈批評不一樣，奧特曼這次顯然受到更友好的待遇。議員們基本上沒有批評OpenAI的做法，而是非常友善地徵求奧特曼和其他證人對ChatGPT等生成人工智慧的潛在監管的意見。奧特曼也出乎意料地配合，多次主動要求監管介入，甚至還主動提出了要求政府成立監管機構的想法，讓AI領域也開始「憑證入場」。

Sam Altman (co-founder of OpenAI and former president of Y Combinator) pic.twitter.com/sR4IBf9BfY

— Dripped Out Technology Brothers (@TechBroDrip) May 16, 2023

自我監管憑證入場

說奧特曼是科技公司高層裡最配合、甚至是最主動要求監管介入的絕不為過。他反覆強調，AI的強大，讓監管從現在起就非常重要，而且他很同意需要一個新的機制來處理AI的監管問題。他甚至有備而來地在這次聽證會上建議美國政府應該如何監管像OpenAI的公司，包括提出了三點計畫：

組建一個新的政府機構，負責為大型AI模型頒發許可證，如果有公司模型不符合政府標準，該機構可以撤銷該公司的許可證。
為AI模型創建一套安全標準，包括對其危險能力的評估。模型必須通過某些安全測試，例如它們是否可以「自我複製」和「隨意滲透」，即開始自主行動不受控制。
要求獨立專家對模型在各種指標上的表現進行獨立審計。

不過，對於當下開源界和企業界對AI模型最大的爭議之一──訓練數據是否應該透明化的問題，他卻沒有正面回答；也沒有對另外一些頗有爭議的問題提出回應，比如AI是否可以基於有版權的作品進行訓練，以及AI開發者該如何補償這些作品的創作者。

奧特曼這樣配合的態度，無疑讓議員們十分滿意。畢竟在此之前，幾乎沒有發生過網路科技業高層主動呼籲監管。甚至有參議員直接問奧特曼本人是否有資格來擔任AI監管機構的工作。當然奧爾特曼婉拒了這一邀請，他說他喜歡目前的工作，不過OpenAI可以提供一些不錯的候選人名單。

奧特曼之前曾表示，「需要一部針對人工智慧的新法律」。而這次，他也非常清楚地表明，230條款不是正確的監管人工智慧的框架。（美國《通信規範法案》第230條被視為網路科技行業的法律基石：如果用戶在網站上發布虛假、有害內容，網站無需對用戶發布的有害訊息承擔連帶責任）。

奧特曼還警告說，如果AI出錯了，那後果會非常嚴重。「對於一項非常新的技術，我們需要一個新的框架。「當然，我們這樣的公司對我們推出的工具負有很多責任，但用戶也一樣。」

不過網友也不全像議員們那樣買帳。有Twitter網友就諷刺說，奧特曼的實際想法其實是，「現在OpenAI領先了，政府快來管管我們的競爭者吧」，許多AI研究人員也認為這是一種反競爭行為，因為「憑證入場」對大公司有利，卻可能難倒小公司、研究人員和免費的開源替代方案。

OpenAI CEO Sam Altman on AI: “If this technology goes wrong, it can go quite wrong."

In other words, now that OpenAI is in the lead, Congress needs to regulate their competitors pic.twitter.com/LZ8XH9tVtF

— Genevieve Roch-Decter, CFA (@GRDecter) May 16, 2023

拒絕暫停開發AI

AI發展如此之快，但是奧特曼再一次在聽證會上公開拒絕了暫停人工智慧開發的呼籲。

有議員提到之前伊隆·馬斯克聯合眾多業內人士簽署的要求暫停比GPT-4更強的AI模型研發，暫停時間至少為6個月時，奧特曼也表示，這個呼籲的框架是錯誤的。

他說，審計、測試、安全標準這些才是重要的，而日期上的暫停毫無意義。「我們暫停6個月，然後呢？我們再暫停6個月？」他說，OpenAI應用在GPT-4上的標準是一個正確的方向，他們會繼續這麼做，而不是根據一個日期上的開發暫停。

但是，他也沒有否認，或許暫停開發會在未來的某一天到來。「我相信會有一天我們覺得不了解在開發的東西了，我們會需要確實暫停一下，但不是現在。」

壟斷與競爭

幾位參議員也對人工智慧市場的壟斷競爭敲響了警鐘，警告說少數科技公司可能會主導這些工具。

有參議員表示，他對AI「最大擔憂」之一是「這種大規模的模型技術集中在少數企業手上」。他以OpenAI與微軟的合作為例，表示「看到現在很少有公司控制和影響我們這麼多人的生活，而這些公司越來越大，越來越強大，這真的很可怕。」

奧特曼回應，他確實認為「能夠開發出大模型的企業數量相對較少」，但只有少數參與者可能會讓監管變得容易。

「你真正需要關注的人越少……那就有好處。但我認為需要有足夠的競爭，而且肯定一定會有。」他說。

無法承諾ChatGPT 無廣告

當有議員在詢問OpenAI是否會涉足廣告業務時，奧特曼也對這種可能性持開放態度。畢竟OpenAI燒錢的速度在那裡。之前有消息稱，ChatGPT每天的開銷就高達70萬美元，ChatGPT Plus每月20美元的訂閱費對此無疑是杯水車薪。2022年OpenAI的虧損大約翻了一倍，達到約5.4億美元。奧特曼甚至提過OpenAI可能會在未來幾年嘗試籌集多達1,000億美元的資金。

所以，對於廣告模式，儘管奧特曼說「真的很喜歡」擁有訂閱模式，但他沒辦法承諾「永遠不會有廣告」，而是暗示說，可能對於有些潛在客戶，廣告會是唯一能從他們身上獲得收入的辦法。

這也意味著，如果找不到其他賺錢辦法，免費版本的ChatGPT（GPT-3.5）最終還是有可能會迎來廣告。奧特曼的回答也表明，OpenAI至少沒有完全否定在ChatGPT免費版中投放廣告以從其免費用戶那裡賺錢的可能性。

不過，說到依靠投放廣告賺錢，誰會比Google和微軟更在行呢？微軟的Bing Chat已經開始出現廣告的痕跡，Google的Bard雖然目前還沒有廣告，但是誰都知道，這只是時間的問題。

而奧特曼也藉此次聽證會再一次重申，他在OpenAI沒有任何的股權，他做這些「只是因為我真的熱愛」。

（本文由品玩授權轉載；首圖來源：shutterstock）