IT 產業首個人工智慧發展原則出爐

作者 | 發布日期 2017 年 10 月 26 日 8:15 | 分類 AI 人工智慧 , 尖端科技 follow us in feedly

2017 年 10 月 24 日美國 IT 產業協會(The Information Technology Industry Council )發表首個人工智慧產業發展原則,該協會的成員包括 IBM、微軟、Google、Amazon、Facebook、蘋果等科技公司,在大眾對於人工智慧技術發展的擔憂日益上升的時期,科技產業需要有更多應對措施,這些公司承諾將負責任地推進技術發展。




這是人工智慧領域第一個全行業發展原則,該原則將成為整個產業和政府監管部門的重要指導,確保人工智慧領域被負責任地發展和部署。

人工智慧技術已進入我們日常生活各個方面,成為工作和生活的一部分,包括智慧型手機的通訊服務、電子商務網站的支付系統、汽車的安全功能,同時人工智慧也會應用到事關生死的醫療領域,比如癌症治療。新技術的應用改變了經濟發展方式,許多公司投入巨資培訓員工,以確保員工能掌握足夠的技能來應對不斷提升的生產力。

原則的主要內容包括:

  • 負責任地開發和部署:在現行法規下研發人工智慧技術,高度自主的系統必須維護人的尊嚴、權利和自由,採取必要的措施防止技術的濫用和潛在的倫理問題。
  • 安全和可控性:開發者必須確認人工智慧系統的安全性,必須具安全保障措施,確保系統的可控性。
  • 穩定且有代表性的資料:負責任地使用資料統計和分析,了解潛在的有害偏差,在部署系統之前進行測試,人工智慧系統需要可靠的資料庫,不斷改進和提升系統。
  • 可解釋性:致力於與政府、公司、學術界和民間機構合作,降低智慧化系統的潛在危害。
  • 人工智慧系統自主性的責任:智慧化程序一般是由人啟動,現有的法規系統會導致責任不明,在現行體系下,與各方展開合作,制定合理的責任框架。

IT 產業協會 CEO Dean Garfield 表示,為了保證人工智慧技術持續健康發展,防止一些不必要的影響,整個技術產業承諾將遵循這一原則,確保人工智慧技術的開發和應用對整個人類負責,同時這些原則會隨著技術的發展不斷調整,為未來的技術發展指明方向。這些原則不僅是技術產業的願景,也讓整個社會認識人工智慧發展的重要性,需要更多監管部門、立法者、學術界和大眾的參與。

人工智慧發展原則由 IT 產業協會的成員聯合制定,隨著這些原則的發表,科技產業承諾,促進人工智慧負責任地使用和發展,支持政府部門的研究,透過資金和技術等方面的支持來推動各界的創新,與政府、學術界、公司、民眾展開合作。

IBM 政府和法律事務副總裁 Christopher A. Padilla 認為,人工智慧技術的應用關鍵是透明度和信任度,這意味著需要讓大眾知道人工智慧技術是如何被使用的,並明確支持新技術能夠提升人的能力,而不是取代人類,人工智慧發展原則就是重要的一步。

(首圖來源:Flickr/A Health Blog CC BY 2.0)

關鍵字: ,