糗了!Amazon 的人臉辨識將黑人議員辨識為罪犯

yobe 發表於 2018-7-28 12:02:39 [顯示全部樓層] 只看大圖 回覆獎勵 閱讀模式 19 4485

人臉辨識在追捕犯人,或是協尋失蹤人口是相當好用的工具,但可能侵犯人權和過度介入人民生活卻是隱憂。如今又爆出訓練出來的人臉辨識 AI 出錯,人權團體用 Amazon 的人臉辨識程式 Rekognition 來掃國會議員,卻將不少位議員誤認為罪犯,其中大部分是黑人議員。

美國人權團體美國公民自由聯盟 (American Civil Liberties Union, ACLU) 的部落格發佈他們的發現結果,他們用 Amazon 的人臉辨識程式 Rekognition,掃描所有美國眾議院、參議院議員,預設的信賴區間 80% 下去做,這意味有 80% 的機會辨識正確。

▲ ACLU 進行臉部掃瞄辨識的步驟。(Source:ACLU)
ACLU 運用公共資料庫中 25,000 個大頭照為訓練素材,再去辨認國會議員。結果發現有 28 位議員有被誤判狀況,辨識為犯人。有 40% 的誤判狀況是有色人種,儘管全部國會的人中,只有 20% 是有色人種。

▲ Amazon 的臉部辨識出差錯的狀況。(Source:ACLU)
當訓練資料不夠代表普及狀況時,AI 的辨識效果會被有偏差的資料誤導,導致出來的結果出問題。Amazon 發言人回應,稱用人臉辨識在警政、執法上面,信賴區間要設高些,至少要 95%。

先前 Google 也曾發生類似事情,Google 相簿將上傳的黑人女性,辨識為大猩猩。

已有(19)人回文

切換到指定樓層
klk369klk369 發表於 2018-7-28 12:29
感覺這AI真的太厲害了
因為議員大概沒幾個是好貨
沒收黑錢官商勾結的應該很少吧?
wu0931530 發表於 2018-7-28 14:26
仙人打鼓有時錯~這下GG了

錯得離譜~                                    
ymingo2009 發表於 2018-7-28 15:18
似乎這種辨識裝置還有待加強啊!!否則到時出大事時候都來不及了
玥牙兒 發表於 2018-7-28 15:40
臉部辨識裝置還是有很多發展空間, 但目前的出錯率還是好高阿。
bbbbvcxz 發表於 2018-7-28 17:13
你看   科技又壞事了吧
所以智能ai還要好好努力
才能取代人類喔
Erfey 發表於 2018-7-28 18:06
話說還有人吹捧對岸科技厲害,AI 追蹤抓人一流。這種科技的不成熟跟缺失不知會造成多少冤獄。

台灣人還完全不在乎隱私權,像身分證竟然是討論設計風格的投票公不公正,完全不管政府用個資整合的風險。智障媒體跟不關心自己權益的民眾
夜探青樓 發表於 2018-7-28 21:30
還沒完全弄好 就別拿出來咩  反而害人的        
fhd01 發表於 2018-7-28 21:43
這還真誇張
辨識錯就算了 還是認成罪犯
這個問題大了
貓妮 發表於 2018-7-28 21:48
擺明就是種族歧視阿  連人臉辨識都設定黑人就是罪犯囉
12下一頁
你需要登入後才可以回覆 登入 | 註冊會員

本版積分規則

yobe

LV:-2 禁止發言

追蹤
  • 28741

    主題

  • 48008

    回文

  • 14

    粉絲