亞馬遜飽受爭議的 AI 識圖工具,如今被用於簡化醫學圖像脫敏過程

作者 | 發布日期 2019 年 04 月 01 日 8:45 | 分類 Amazon , 資訊安全 , 軟體、系統 follow us in feedly


據 MedCity News 報導,科技巨頭亞馬遜正在將其「飽受爭議」的 Rekognition 圖像辨識軟體和影像分析服務,應用到醫療圖像領域。

亞馬遜稱,Rekognition 將聯合亞馬遜 Amazon Comprehend Medical 醫學語言處理服務,透過 Amazon Web 雲端計算平台,以更有效的方式抽取醫學圖像中的個人健康資訊(PHI)。

飽受爭議的 Rekognition

Rekognition 於 2016 年推出,是亞馬遜最具爭議的產品之一。

據了解,這是一款在亞馬遜伺服器上執行的圖像辨識 AI 軟體,它可以辨識圖像或影像上的文字、對象、場景、活動和人員。在美國,警方已經開始使用該軟體尋找走失的兒童和被拐賣的人口。

但是,此舉引發美國民眾強烈的反對和民權倡導者的質疑,遭到亞馬遜用戶、民間組織、股東甚至亞馬遜員工在內超過 15 萬人聯名抗議。

其中,最強烈的質疑聲音來自美國公民自由聯盟(ACLU)。該組織稱,無處不在的臉部辨識軟體可能侵犯人們的隱私,並造成一個無縫不入的政府監控系統。

2018 年,美國公民自由聯盟(ACLU)使用亞馬遜的這款人臉辨識軟體進行了一項實驗,結果軟體錯誤地將 28 名國會議員判定為之前被捕的罪犯。

亞馬遜對此結果回應稱,是 ACLU 使用方法不對,才會造成上述看似荒誕的誤判。

醫學影像中的 PHI 問題

基於雲端計算、大數據、人工智慧等技術,新一代醫學影像系統達到了數位化、行動化和智慧化。

數位化的醫學影像系統在很大程度上提高了醫務人員診療過程中圖像儲存、共享、查看、搜尋和策劃的能力。另外,隨著數位化的推進,設備的類型也豐富起來,從電腦斷層掃描到核磁共振再到超音波,用於醫學研究的數據積累越來越多。

但醫務人員在處理醫學圖像資訊時仍然面臨一個問題,患者的隱私數據需要被保護。因此需要安全的數據標記和處理過程,但此過程往往需要人工操作。

個人健康資訊(PHI),包括個人過去、現在或未來的生理或心理健康狀況、相關醫療過程、醫療費用三部分。資訊中涉及的通用標識,比如姓名、地址、生日、社會安全號碼等,均受到 HIPAA(Health Insurance Portability and Accountability Act)隱私規則保護。

在醫學圖像檔案中,一份醫療紀錄、一份檢驗檢查報告或醫院帳單都可能是 PHI,每份文檔都包含了患者姓名和其他能辨識個人的資訊。

醫務人員手動去除個人健康資訊(PHI)的過程,十分耗時耗力。

2018 年,亞馬遜推出 Amazon Comprehend Medical,該產品利用人工智慧自然語言處理(NLP)技術,幫助醫務人員在醫學文本中檢測和辨識 PHI。

亞馬遜的醫學影像 PHI 辨識架構

日前,亞馬遜官網稱,其 Amazon Comprehend Medical 醫學語言處理服務和 Rekognition 圖像辨識軟體及影像分析服務,將被聯合應用於醫學影像的 PHI 辨識及處理過程。

(Source:亞馬遜

據了解,在實際的機器學習和預測結果過程中,Amazon Rekognition 可以從圖像中提取文本,然後依托 Amazon Comprehend Medical 功能來幫助研究者辨識和檢測 PHI。

另外,亞馬遜表示,當使用 Amazon Comprehend Medical 來檢測和辨識受保護的健康資訊時,該服務為每個已辨識的實體提供了置信度評分,表示被檢測實體準確性的置信度水平。軟體操作者可以結合系統置信度評分,對實體中 PHI 的辨識進行檢查,必要時進行手動辨識,以確保準確度。

(本文由 雷鋒網 授權轉載;首圖來源:亞馬遜

延伸閱讀: