近日,據BBC報道,在英國內政部試行護照人臉識別系統期間,系統在遇到面部較白或較暗的人士時系統就會出現無法識別的情況。對此,英國內政部承認其人臉識別系統存在問題,但仍因系統“整體效果良好”而選擇繼續部署該系統,并表示在使用中會對其進行改進優化。

7.jpg

英國相關部門在針對信息自由而發布的一份文件中寫道:“他們確實發現皮膚很淺或非常深色的人很難通過護照照片檢測。但是考慮到這個系統大體效果良好,還是選擇部署。

英國平等與人權委員會發言人說:“種族不應該成為使用技術提供基本公共服務的障礙。盡管有證據表明面部識別系統對一些膚色的人臉具有識別障礙,但政府依然在推進這項技術的實施,這令我們感到非常失望?!?/span>

一、黑人正常照片被判為“未睜眼”,訓練數據不足致“偏見”

自2016年6月英國相關部門啟用該服務以來,一些用戶在接觸人臉檢查服務時就遇到了問題。近日,黑人體育教練Joshua Bada被檢測系統攔截了,因為系統把他的嘴唇識別成了張開的嘴。人臉識別系統的問題早就顯現,谷歌在2015年的一套人臉識別系統將一對黑人夫婦標記為大猩猩,為此谷歌不得不向當事人道歉。

英國基爾大學的黑人技術官Cat Hallam也遇到過類似情況,她上傳了一張表情正常的照片,但人臉識別系統告訴她,她的眼睛緊閉,嘴巴張開。Cat Hallam說:“最讓人沮喪的是,他們明知道這個系統Bug,卻照常在使用問題系統。

人臉檢測軟件通常需要對數千張圖像進行訓練。如果訓練數據不夠大或不夠多樣化,“偏見”就會進入人臉檢測系統。

Sam Smith來自英國隱私保護組織MedConfidential,曾提交了信息自由(FOI)要求。Sam說:“很明顯,護照系統部署者的邏輯是,如果沒有其它的圖像數據集可以為黑人服務,那么我們也可以不用?!?/span>

二、英國政府:系統整體表現良好,會在使用中完善服務

內政部表示,當機器發生故障后,用戶可以手動糾正人臉識別器,然后繼續辦理護照。但是相關的研究人員認為,這種說法就是在避重就輕。

西雅圖華盛頓大學的Os Keyes說:“即使用戶能夠手動修改檢測結果,它仍然會在用戶之間造成很大的種族差異。”對此,英國基爾大學的黑人技術官Hallam說,如果網站提示人們,有些照片可能無法通過檢測,他們的應用會出現問題,那么用戶可能就不會有意愿使用這一功能。

為減輕該系統故障的影響,政府表示會采取措施。據稱,相關部門將繼續與適當的參與者進行用戶研究和可用性測試,進而使不同種族的用戶都能在遵循指導的情況下通過照片檢測。內政部發言人表示:“我們將努力使上傳數字照片的體驗盡可能簡單,并為所有客戶改進這一流程?!?/span>

對此,Keyes表示,政府承諾“稍后解決”的舉措讓人感到非常沮喪。種族平等基金會的Samir Jeraj說:“這太離譜了。Jeraj呼吁政府對將要做出的改進以及在什么時候進行改進要更加清楚、有力。

英國謝菲爾德大學的計算機科學家Noel Sharkey表示,此案表明需要制定新法規?!氨娝苤?,對于膚色較深的人,當前的面部識別系統非常不準確。這已經夠糟糕了,但現在這一有問題的技術卻被大肆用于護照部門,這會使不公正現象被合理化。我們迫切需要新的法規來制止不平等現象?!?/span>

本文系轉載自網絡,如有侵犯,請聯系我們立即刪除。文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內容。


任颯.jpg