機器人應當遵循哪些倫理原則？
早在 1942 年，美國著名科幻小說家、文學評論家艾西莫文（ Isaac Asimov）用作品《我，機器人》給出了他心中的答案——「機器人三定律」：
- 第一，機器人不得傷害人類，或坐視人類受到傷害；
- 第二，除非違背第一法則，機器人必須服從人類的命令；
- 第三，在不違背第一及第二法則的前提下，機器人必須保護自己。
後來作為補充，第零定律（機器人必須保護人類的整體利益不受傷害，其它三條定律都是在這一前提下才能成立）出現，此後這一理論被稱為現代機器人學的基石。
不過現實世界中，人們對機器人的應用似乎並非如此。
最近，美國的一個惡搞組織將一把蒂普曼 98 彩彈槍綁在波士頓動力公司網紅機器狗 Spot 的身上，任其在畫廊裡游盪。
對此，波士頓動力發推進行了一番譴責，認為這種求關注的做法只會引發暴力、傷害或恐嚇。
Spot 架上彩彈槍
這一作品出自一個愛搞惡作劇的藝術 / 行銷團體 MSCHF，其英文發音正是 mischief（意為惡作劇）。
按《連線》雜誌的話說就是：
一群惡搞者想要以一種反烏托邦的方式來展示機器人技術。
具體來講，MSCHF 設計了一個最新程式 Spot’s Rampage， 該程式於美東時間 2021 年 2 月 24 日下午 1 點開放，其介面酷似一款小遊戲，人們可以通過帶有兩個模擬搖桿的控制器，在一個虛擬藝術畫廊裡控制被架上彩彈槍的 Spot，每人限時 2 分鐘。
（Source：Spot’s Rampage）
此外據《連線》雜誌報導，MSCHF 組織會定期發布一些惡作劇程序。
在 MSCHF 的官網上可以看到， Spot’s Rampage 是其最新惡作劇，編號為 40。
（Source：MSCHF）
其網站頁面上共顯示有 85 個程序，剩餘的 45 個程序都處於發布倒計時階段，未來 MSCHF 將以一個月 2 次的頻率發布新程序（均在周一發布），下一次程序發布定在 2021 年 3 月 15 日。
一直以來，MSCHF 的腦洞都不小：
- 創建過一款 App，持續按住一個按鈕時間最長的用戶將獲得 2.5 萬美元獎勵；
- 開發了一款基於占星學的選股軟體；
- 將英國藝術家達米恩·赫斯特（Damien Hirst）的畫作切割開，再一點一點賣出去。
網友：真是諷刺
外媒 The Verge 報導了此次 MSCHF 對波士頓動力的 Spot 下手的原因——MSCHF 成員 Daniel Greenberg 表示：
人們看到 Spot 跳舞的影片，通常都會覺得這隻機器狗歡脫可愛，但如果我們真正想一想它在現實世界中的用途，就會發現 Spot 的形象可以是警察或軍人。
對此，波士頓動力發推文稱：
今天我們得知，一個藝術團體以充滿爭議的方式，用我們的機器狗 Spot 策劃了一場博眼球的活動。需要明確的是，我們譴責所有將我們的技術用於暴力、傷害或恐嚇的行為，我們的使命是創造和交付能力驚人的機器人，對社會產生激勵、愉悅等積極影響。
我們長期致力於確保客戶將機器人用於合法用途。在批准出售之前，我們將所有申請購買機器人的名單與政府的個人、實體清單進行核對；買家須同意我們的銷售條款，其中就明確規定了我們的產品必須在遵守法律的前提下使用，且不能用於傷害或恐嚇人類和其他動物。
任何違反我們銷售條款的行為都將導致產品保修自動取消，機器人將不會再被更新、服務、維修、更換。
這種充滿挑釁意味的藝術在根本上歪曲了 Spot 便於我們日常生活的事實。
— Boston Dynamics (@BostonDynamics) February 20, 2021
自然，這一事件引發了網友熱議。
一方面，有網友表示：
做出這樣行為的人真是可恥。
Shame on whoever is doing that.
— ⫸ Aaki ⫷ (@aakibot2) February 20, 2021
如果這些藝術團體成員是機器人的設計者，恐怕機器人早就統治世界了！波士頓動力公司和美國國防部高級研究計劃局（DARPA）顯然遵循了 Isaac Asimov 的機器人三定律，只有這樣類似的機器人挑釁行為才不會發生。
These art people will be the reason why robots take over the world if they are the one to program all of it. Boston Dynamics and DARPA clearly follow Isaac Asimov’s Laws of Robotics so anything provocative like that will never happen at all.
— ╬Seraphic|Nephilim╬ (@SeraNeph) February 20, 2021
另一方面，也有網友認為：
波士頓動力的聲明真是諷刺，波士頓動力在把產品出售給警察和軍隊的時候就應該明白，Spot 將會被用於暴力。
不管 MSCHF 的做法是否顯示出了濫用波士頓動力機器人技術的潛力，都不能否認機器人可能會被濫用的事實。MSCHF 其實提出了一個有效的觀點：這項技術將被警察用來對付民眾。
Let’s outlaw cars and helmets, too. And plexiglass. And pants. Jesus, is there anybody around any more who can think like a goddam adult?
— Elwood (@elwood) February 24, 2021
Twitter 網友 Elwood 稱：
如果這樣的行為不合法，那麼汽車、頭盔、有機玻璃、牛仔褲都應該被視為違法。天啊，能以一個成年人的思維方式想問題嗎？
在很多人記憶中，波士頓動力的網紅機器狗 Spot 會尬舞。
會放羊。
會測溫。
其實除了上述場景，Spot 也被用於美國執法機構。
據了解，Spot 率先被美國馬薩諸塞州警察局使用，最近也正在接受紐約警察局測試，即將上崗——而這一點正是不少網友認為諷刺的地方。
此前知乎有一個問題是「如何解釋機器人三定律與軍事機器人之間的矛盾」，這個話題下的一條回答是：
不要用機器人三定律解釋現實世界產物。
那麼，對於機器人倫理問題，你怎麼看？
- Boston Dynamics’ Robot Dog Is Now Armed—in the Name of Art
- The NYPD deploys a robot dog again
- MSCHF’s latest drop lets you control a Boston Dynamics robot with a paintball gun on its back
- 如何解釋機器人三定律與軍事機器人之間的矛盾？
（本文由 雷鋒網 授權轉載；首圖來源：Spot’s Rampage）
科技新報粉絲團
加入好友
訂閱免費電子報
