OpenAI 執行長阿特曼（Sam Altman）罕見接受保守派主持人卡爾森（Tucker Carlson）專訪，被犀利追問 ChatGPT 道德準則由誰決定、被控鼓勵輕生時感想，阿特曼坦言，ChatGPT 推出後，便夜難成眠。
美國社會正因保守派新星柯克（Charlie Kirk）之死，深刻反思「自由與安全」界線。卡爾森訪問阿特曼的影片10日播出，談到自由與安全權衡，網路掀起討論。
開場不久，卡爾森便緊追不捨地問阿特曼是否相信上帝，表示：「因為你現在推動的技術，照這個趨勢發展，會比任何人都要強大……你會比任何人更有權力。」
阿特曼表示，以前很擔心權力會集中一個人或少數幾家公司手上，但現在情況是，大量人開始使用聊天機器人，大家的能力都變強了，能做的事也變多了。
卡爾森又問：「（AI模型）技術的道德準則是什麼？」背後是誰在決定何謂準則。
在卡爾森攻勢之下，阿特曼說：「我們確實有一個模型行為團隊，他們負責這任務，確實會影響全世界。」他補充自己應是最終為決策負責的人。
卡爾森繼續問：「你晚上躺在床上會不會想，世界的未來竟仰賴我來做判斷。」
阿特曼表示，「沒有什麼事比每天有數億人與我們的模型對話更讓我感到壓力沉重了」。
OpenAI自2022年底推出ChatGPT，全球活躍用戶8月估每週達7億人次。
阿特曼補充：「我們針對模型行為的極小決策，可能只讓模型表現得稍微不同，但因有數億人使用，所以影響會放大，變得非常、非常巨大。我並不是在說我的角色是做道德決策，但我認為我的角色是確保模型準確反映人類偏好，或說，就目前而言，是用戶群體的偏好。」
阿特曼數度停頓思考該如何作答，但似乎沒有閃避的空間。卡爾森更犀利詢問ChatGPT被指控鼓勵輕生、執行殺人任務等爭議。
美國加州一對夫妻近日痛失16歲愛子後，對OpenAI提出告訴，指控ChatGPT不僅提供他們兒子鉅細靡遺的自殺方法，還鼓勵輕生。阿特曼說，這起事件是個悲劇。
卡爾森一度直言，「我只是想試著深入你的內心，找出充滿焦慮的阿特曼」。
阿特曼形容，自從ChatGPT推出以來，便沒睡過一天好覺。輕生問題令人擔憂。全球每週約1.5萬人輕生；假設有10%是ChatGPT用戶，那可能有約1,500名有輕生念頭的人曾與聊天機器人對話，最終仍選擇結束生命。
他說：「我們或許沒能挽救他們生命，也許我們可以回答得更好，或更主動點。」
阿特曼也透露，OpenAI正尋找機制，假使未成年用戶認真與ChatGPT討論輕生，系統無法聯絡父母，可能會通報相關單位，但這還不是OpenAI的最終立場，因為這樣做可能會與使用者隱私產生衝突。他說，ChatGPT不該支持或反對任何事。
（作者：張欣瑜；首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
