消除人臉識(shí)別系統(tǒng)對(duì)不同膚色的誤判，為何比登天還難？

雷鋒網(wǎng)注：【 圖片來(lái)源：IEEE所有者：Matthias Graben/Getty Images 】

Jimmy Gomez畢業(yè)于哈佛大學(xué)，是加州民主黨成員，也是美國(guó)眾議院為數(shù)不多的西班牙裔議員之一。但在亞馬遜公司的面部識(shí)別系統(tǒng)看來(lái)，Gomez更像是一個(gè)潛在的罪犯。

亞馬遜公司的面部識(shí)別系統(tǒng)名為Rekognition，去年，美國(guó)公民自由聯(lián)盟(ACLU)對(duì)該系統(tǒng)進(jìn)行了測(cè)試。測(cè)試結(jié)果顯示，該系統(tǒng)錯(cuò)誤地將美國(guó)國(guó)會(huì)議員Gomez與被捕罪犯的面部照片進(jìn)行了配對(duì)。而且，警方使用的Rekognition系統(tǒng)中，有近40%的錯(cuò)誤匹配涉及有色人種。

這一發(fā)現(xiàn)讓公民自由團(tuán)體、立法者，甚至一些科技公司的擔(dān)憂日益加劇。這種技術(shù)已經(jīng)在iphone和安卓手機(jī)上得到了應(yīng)用，警方、零售商、機(jī)場(chǎng)和學(xué)校等組織也在慢慢接受這種技術(shù)。隨著面部識(shí)別技術(shù)變得更加主流，它可能會(huì)傷害少數(shù)群體。

研究表明，對(duì)于面部識(shí)別系統(tǒng)來(lái)說(shuō)，準(zhǔn)確地識(shí)別女性和深色人種難度更大，這個(gè)問(wèn)題可能會(huì)導(dǎo)致災(zāi)難性的誤報(bào)。公民自由律師Jacob Snow說(shuō)，“這個(gè)例子說(shuō)明，如果將面部識(shí)別技術(shù)應(yīng)用到執(zhí)法領(lǐng)域，可能會(huì)帶來(lái)有害的后果?！?/p>

面部識(shí)別技術(shù)固然有它的好處。馬里蘭州警方利用該技術(shù)確認(rèn)了大規(guī)模槍擊案的嫌疑人；在印度，警方利用該技術(shù)在四天內(nèi)確認(rèn)了近3000名失蹤兒童的身份；臉書(shū)利用該技術(shù)為視障人士識(shí)別照片中的人物；除此之外，面部識(shí)別技術(shù)已經(jīng)成為解鎖智能手機(jī)的一種便捷方式。

但這項(xiàng)技術(shù)并不完美，也有一些令人尷尬的失誤。谷歌圖片曾把兩個(gè)黑人貼上大猩猩的標(biāo)簽；在中國(guó)，一名女性聲稱，她同事的臉能夠解鎖她的iPhone X。當(dāng)執(zhí)法機(jī)構(gòu)用這項(xiàng)技術(shù)來(lái)識(shí)別犯罪嫌疑人，或者識(shí)別在抗議活動(dòng)的參與人時(shí)，誤判的風(fēng)險(xiǎn)就會(huì)加大?！爱?dāng)你把這項(xiàng)技術(shù)賣給執(zhí)法部門，讓他們來(lái)識(shí)別通緝犯，情況就完全不同了?！盙omez說(shuō)，“因?yàn)?，你?chuàng)造了一種可能性，面部識(shí)別技術(shù)產(chǎn)生的誤報(bào)可能讓執(zhí)法部門傷及無(wú)辜，甚至鬧出人命?！?/p>

Gomez議員對(duì)ACLU的調(diào)查結(jié)果并不感到震驚，他指出，科技工作者往往更注重如何讓技術(shù)發(fā)揮作用，而不是深思熟慮他們的技術(shù)會(huì)不會(huì)影響其他群體?？萍脊緦?duì)Gomez的批評(píng)做出了回應(yīng)，他們改善了用于訓(xùn)練面部識(shí)別系統(tǒng)的數(shù)據(jù)。但與民權(quán)主義人士一樣，科技公司同樣呼吁政府加強(qiáng)監(jiān)管，保護(hù)這項(xiàng)技術(shù)不被濫用。喬治敦大學(xué)法學(xué)院的研究人員估計(jì)，美國(guó)執(zhí)法部門的面部識(shí)別數(shù)據(jù)庫(kù)存儲(chǔ)了二分之一的成年公民信息。

亞馬遜反駁了ACLU的測(cè)試結(jié)果，該公司聲稱，ACLU在運(yùn)行測(cè)試時(shí)使用了錯(cuò)誤的設(shè)置。亞馬遜AI項(xiàng)目的總經(jīng)理Matt Wood在一篇博客文章中寫(xiě)道，“就像烤披薩，錯(cuò)誤的溫度設(shè)定會(huì)把披薩烤壞，我們不應(yīng)該把這個(gè)原因歸結(jié)在烤箱身上。在幫助執(zhí)法機(jī)構(gòu)完成工作的方面，機(jī)器學(xué)習(xí)發(fā)揮著至關(guān)重要的作用。我們應(yīng)該關(guān)注面部識(shí)別技術(shù)的正確使用，同時(shí)也不應(yīng)該把面部識(shí)別全盤(pán)否定?！?/p>

難以消除的錯(cuò)誤率

與白人男性相比，面部識(shí)別技術(shù)在識(shí)別其他群體和女性時(shí)，可能會(huì)遇到更多困難，造成這一情況的原因有很多。

喬治敦大學(xué)法學(xué)院隱私與技術(shù)中心高級(jí)助理Clare Garvie說(shuō)，科技公司用來(lái)訓(xùn)練面部識(shí)別系統(tǒng)的數(shù)據(jù)庫(kù)中，白人的圖片可能比其他群體的圖片更多。例如，如果一家公司使用名人數(shù)據(jù)庫(kù)中的照片，這家公司的系統(tǒng)就會(huì)傾向于白人，因?yàn)槠渌后w在好萊塢的代表性不足。

雷鋒網(wǎng)注：【 圖片來(lái)源：IEEE所有者：Getty Images 】

Garvie說(shuō)，科技公司的工程師們(主要由白人男性組成)也可能無(wú)意中設(shè)計(jì)了面部識(shí)別系統(tǒng)，以便更好地識(shí)別某些種族。研究表明，人們更難識(shí)別其他種族的面孔，“跨種族偏見(jiàn)”可能會(huì)蔓延到AI技術(shù)之中。

Garvie還補(bǔ)充道，此外還有一些挑戰(zhàn)，比如深色皮膚缺乏顏色對(duì)比，或者女性用化妝品來(lái)掩蓋皺紋，或者用不同的方式梳頭。MIT媒體實(shí)驗(yàn)室進(jìn)行的一項(xiàng)調(diào)查表明，與白人男性相比，微軟、IBM等公司制造的面部識(shí)別系統(tǒng)更難識(shí)別深膚色女性的性別，例如非裔美籍女性。深膚色女性性別被誤認(rèn)的概率高達(dá)35%，而識(shí)別淺膚色的人種（白人男性）的錯(cuò)誤率只有1%。

MIT今年1月發(fā)布的另一項(xiàng)研究顯示，在識(shí)別深膚色女性的性別方面，亞馬遜的面部識(shí)別技術(shù)比上述兩家公司更差。

任重道遠(yuǎn)的科技公司

亞馬遜公司對(duì)MIT的研究結(jié)果提出了質(zhì)疑，女發(fā)言人Matt Wood在博客文章中指出，這項(xiàng)研究“具有誤導(dǎo)性”。因?yàn)?，研究人員使用了“面部分析”來(lái)識(shí)別人臉的特征，例如性別或微笑，而不是將人臉與照片或視頻中的圖象進(jìn)行“面部識(shí)別”。

“面部分析和面部識(shí)別在基本技術(shù)和訓(xùn)練數(shù)據(jù)來(lái)源方面是完全不同的?！盡att Wood表示，“試圖使用面部分析來(lái)判斷面部識(shí)別的準(zhǔn)確性很不明智，因?yàn)槊娌糠治霾皇菫樗惴ǘ?。?/p>

科技巨頭們并不是沒(méi)有考慮到種族偏見(jiàn)。Microsoft公司表示，自己在去年就將識(shí)別女性和深膚色人種的錯(cuò)誤率降低了20倍；Facebook公司使用面部識(shí)別技術(shù)來(lái)標(biāo)記用戶，公司的一位發(fā)言人表示，該公司確保其使用的數(shù)據(jù)是“平衡的，并且反映了Facebook用戶的多樣性”；Google聲稱，它發(fā)表了關(guān)于人工智能的原則，其中包括禁止“制造或加強(qiáng)不公平的偏見(jiàn)”。

今年1月，IBM發(fā)布了一組“人臉多樣性”的數(shù)據(jù)，旨在促進(jìn)對(duì)面部識(shí)別的公平性和準(zhǔn)確性的研究。這些數(shù)據(jù)包括100萬(wàn)張人臉圖片，并附有人臉對(duì)稱性、鼻子長(zhǎng)度和前額高度等標(biāo)簽?！皩?duì)于多樣性的意義，我們有一些主觀和淺顯的見(jiàn)解，”IBM“人臉多樣性”項(xiàng)目的首席科學(xué)家John Smith說(shuō)，“因此，IBM創(chuàng)建這個(gè)數(shù)據(jù)庫(kù)的目的是深入研究如何真正測(cè)量人臉的多樣性?！痹摂?shù)據(jù)庫(kù)的照片來(lái)自照片網(wǎng)站Flickr。

本月，IBM遭到了一些攝影師、專家和活動(dòng)人士的批評(píng)，因?yàn)镮BM沒(méi)有征求人們的同意，就將他們的照片用于改善面部識(shí)別技術(shù)。作為回應(yīng)，IBM表示將嚴(yán)肅對(duì)待隱私問(wèn)題，用戶可以選擇退出數(shù)據(jù)庫(kù)。

亞馬遜表示，目前，自己公司正在使用反映多樣性的培訓(xùn)數(shù)據(jù)源，并向客戶傳授面部識(shí)別技術(shù)的最佳使用方案。今年2月，該公司發(fā)布了指導(dǎo)方針，稱立法者在考慮監(jiān)管時(shí)應(yīng)將其考慮在內(nèi)。

公司副總裁Michael Punke在一篇博客文章中表示:“各方應(yīng)該進(jìn)行開(kāi)誠(chéng)布公地對(duì)話，以確保該技術(shù)應(yīng)用得當(dāng)，并不斷進(jìn)行改進(jìn)?！?/p>

必不可少的政府監(jiān)管

盡管科技公司努力提高面部識(shí)別技術(shù)的準(zhǔn)確性，但在歧視移民或其他種族方面，人們的擔(dān)憂并沒(méi)有消失。部分原因是這些群體在日常生活中仍在與偏見(jiàn)作斗爭(zhēng)。

民權(quán)組織和專家認(rèn)為，執(zhí)法部門和政府仍然可以利用這項(xiàng)技術(shù)來(lái)識(shí)別政治抗議者或追蹤移民，從而限制他們的自由。Garvie表示，“這是一個(gè)足以成為監(jiān)視工具的精確系統(tǒng)?！?/p>

民權(quán)組織和科技公司均呼吁政府介入?！叭绻牍芾碓摷夹g(shù)的應(yīng)用，最有效方法就是管理好政府自己對(duì)這項(xiàng)技術(shù)的使用?！盡icrosoft公司總裁Brad Smith在一篇博客文章中寫(xiě)道，“如果人們對(duì)某項(xiàng)技術(shù)在社會(huì)上的廣泛應(yīng)用感到擔(dān)憂，那么，政府是唯一一個(gè)能夠監(jiān)管這種廣泛應(yīng)用的機(jī)構(gòu)?！?/p>

ACLU呼吁立法者暫時(shí)禁止執(zhí)法部門使用人臉識(shí)別技術(shù)。民權(quán)組織也給亞馬遜公司寫(xiě)了一封信，要求其停止向政府提供人臉識(shí)別系統(tǒng)。一些立法者和科技公司已經(jīng)要求NIST（評(píng)估人臉識(shí)別技術(shù)的機(jī)構(gòu)）為人臉識(shí)別的種族偏見(jiàn)檢驗(yàn)提供行業(yè)標(biāo)準(zhǔn)和實(shí)踐支持。

對(duì)于Gomez這樣的議員來(lái)說(shuō)，這項(xiàng)工作才剛剛開(kāi)始?！拔也环磳?duì)亞馬遜，”他說(shuō)，“但這項(xiàng)新技術(shù)對(duì)人們的隱私和自由等方面產(chǎn)生了深刻影響，它引發(fā)了很多問(wèn)題?！崩卒h網(wǎng)注：原文作者為QUEENIE WONG，本文編譯自IEEE

【封面圖片來(lái)源：網(wǎng)站名IEEE，所有者：Matthias Graben/Getty Images】