成為全球最具價值新創，卻被紐約教育局列入黑名單──OpenAI 與 ChatGPT 的兩難

OpenAI 最新推出的對話大模型 ChatGPT 的爆紅帶來許多新應用的想像，卻也帶出 AI 倫理的問題，例如紐約市教育局認為這提供了新的作弊捷徑，宣布要將 ChatGPT 趕出校園。

雖說如此，OpenAI的進展仍沒有停下腳步，除了原有股東微軟要將ChatGPT整合到其作業系統Office 365以及搜尋引擎Bing當中；更傳出與創投Thrive Capital和Founders Fund洽談以公開收購的方式出售現有股份的消息，如果成真，此次交易將使OpenAI的估值來到290億美元，使其成為全球最有價值的美國新創公司之一。 ChatGPT

▲ ChatGPT超過100萬用戶的背後，同時帶給世人諸多想像及爭議。（Source：ChatGPT）

究竟這頭AI巨獸正面臨什麼樣的關卡？教育界反對OpenAI的聲浪又是從何而來？

紐約市教育局將ChatGPT逐出校園、研究人員隨之禁用

紐約市教育局率先開了反彈ChatGPT的第一槍，宣布紐約市公立學校全面禁止師生在校園網路及裝置上使用ChatGPT。紐約市教育局發言人Jenna Lyle表示：「雖然ChatGPT這類AI助理可以提供快速且簡單的答案，但它不能培養教育所強調的批判性思考和問題解決的能力。」無獨有偶，國際機器學習會議（ICML）也表明，除非生成的文本做為論文的實驗分析，否則禁止作者使用ChatGPT等人工智慧工具撰寫論文的立場。

總結外界對ChatGPT的質疑，大致有二：

1. 版權歸屬不易

由於ChatGPT所接受的公共數據培訓，通常是在未經原創作者同意的情況下蒐集，使得AI生成的文本究竟是屬於誰的，是提供數據的原創者、生成文本的機器還是下指令的使用者，依然是現行法規下尚未被規制的灰色地帶，版權歸屬的議題尚未有定論。

2. 回答不精準、複製社會刻板印象

ChatGPT是受「從人類反饋中強化學習」的機器學習技術所訓練而成，雖然可以模擬對話、回答問題，但卻難以掌控參考的資料庫從何而來，也就是說ChatGPT編寫的可能只是聽起來似是而非的答案，無法保證真實性，甚至有可能成為假新聞的幫兇。

再者，ChatGPT的技術也尚未純熟，只要稍加改寫問題，就會得到同一問題但截然不同的回答。OpenAI共同創辦人Sam Altman也在推特上表示：「ChatGPT仍有很多限制，並可能產生誤導，全然依賴它的回答是錯誤的。」另外赤裸裸地反映文化或性別偏見、複製並誤用社會刻板印象等原因也鼓動著反對的聲浪。

微軟看好OpenAI持續加碼，將推出推新版Bing搜尋引擎

值得注意的是，即便世人對ChatGPT引發的AI倫理辯論尚未停止，市場上對ChatGPT的反應卻依然熱絡，根據《華爾街日報》的報導，OpenAI正在洽談向Thrive Capital和Founders Fund出售價值3億美元的股票，若此次交易成交，OpenAI的估值可望成長至約290億美元。

而曾於2019年投資OpenAI 10億美元，近期可能再次投資100億美元的微軟，也傳出將把ChatGPT整合至旗下搜尋引擎Bing中的消息，雖然確切導入的時間未知，不過據科技媒體《The Information》的報導，具備AI對話能力的新版Bing搜尋引擎最快可能將在今年3月底前問世，讓人期待占據9%搜尋引擎流量的Bing，是否將步步蠶食占據83%流量的Google，翻寫搜尋引擎的新篇章。

▲ 曾於2019年投資OpenAI10億美元資金的微軟，傳出將把ChatGPT整合至旗下搜尋引擎Bing中的消息。（Source：Flickr/Schrift-Architekt.de CC BY 2.0）

OpenAI是否朝向它的最終目標──「做人類能做的一切事」邁進，同時謹守AI倫理的分際也值得關注。畢竟從OpenAI曾經為了確保旗下的人工智慧產品能與人類價值觀保持一致，而聘請社會科學家一舉，可以推知OpenAI對於AI倫理議題並非沒有意識。

若從技術中立理論（註）的角度切入思考AI倫理議題，也就是說，技術的好壞是基於使用者如何使用，是相對美好的想像，不論什麼樣的科技都難保有心人士的惡意操弄。雖然不能期待所有使用者積極自律的使用科技，甚至規則也難保誤用的發生，但在AI倫理更明確的落實之前，身為使用者現階段能做的，確實也只有在合理的範圍內享受技術的便利。

誠如ChatGPT針對教育界禁令一事所給出的回答：「重要的是要考慮在教育中使用ChatGPT的風險和好處，並在做出決定之前仔細權衡證據。傾聽教育工作者、學生和家長等利害關係人的觀點，以便做出明智和公平的決定。」