不只性別、種族歧視，AI可能還會(huì)“嫌貧愛富”

長期以來，對(duì)AI偏見的擔(dān)憂一直是業(yè)內(nèi)重點(diǎn)討論的話題。以前這方面討論多集中在性別歧視、種族歧視問題上，如今又有研究發(fā)現(xiàn)，包括谷歌、微軟和亞馬遜等科技巨頭推廣的物體識(shí)別算法，都存在對(duì)來自低收入國家的物品時(shí)識(shí)別表現(xiàn)更差的現(xiàn)象。

這是Facebook AI實(shí)驗(yàn)室進(jìn)行的一項(xiàng)新研究的結(jié)果，該研究表明，AI偏見不僅會(huì)重現(xiàn)國家內(nèi)部的不平等，還會(huì)重現(xiàn)國家之間的不平等。

在這項(xiàng)研究中，研究人員測試了5種流行的現(xiàn)成物品識(shí)別算法——微軟Azure、Clarifai、谷歌Cloud Vision、亞馬遜reko和IBM Watson——以了解每個(gè)程序識(shí)別全球數(shù)據(jù)集中各種家庭物品的能力。

數(shù)據(jù)集包括117個(gè)類別(從鞋子到肥皂再到沙發(fā))，并以不同的家庭收入和地理位置(例如月收入27美元的布隆迪家庭和月收入1090美元的烏克蘭家庭)作了區(qū)分。

研究人員發(fā)現(xiàn)，與月收入超過3500美元的家庭相比，在識(shí)別月收入50美元的家庭物品時(shí)，算法出錯(cuò)的幾率一下子高出了10%左右。而在準(zhǔn)確性上的絕對(duì)差異甚至更大：與索馬里和布基納法索家庭的物品相比，這些算法在識(shí)別來自美國的物品方面要高出15-20%。

研究作者表示，他們?cè)凇耙幌盗猩逃迷品?wù)的圖像識(shí)別算法中得出了一致結(jié)論”。

這種偏見有很多潛在原因，最常見的解釋是，用于創(chuàng)建算法的培訓(xùn)數(shù)據(jù)往往反映了相關(guān)工程師的生活和背景。而由于這些人通常是來自高收入國家的白人男性，他們教授的課程所要識(shí)別的世界也是如此。

研究作者分析，有幾個(gè)可能的原因?qū)е铝诉@種現(xiàn)象：第一，用于創(chuàng)建系統(tǒng)的訓(xùn)練數(shù)據(jù)受地理限制，第二，算法本身無法識(shí)別文化差異。他表示，視覺算法的訓(xùn)練數(shù)據(jù)主要來自歐洲和北美，而“在人口眾多的地理區(qū)域，特別是非洲、印度、中國和東南亞，對(duì)視覺場景的采樣嚴(yán)重不足”。

人工智能偏見最著名的例子之一是面部識(shí)別算法，這種算法在識(shí)別女性面孔時(shí)，通常表現(xiàn)得更差，尤其是有色人種女性。這種偏見會(huì)滲透到各種各樣的系統(tǒng)中，從計(jì)算假釋的算法，到即將到來的面試前評(píng)估簡歷的算法。

還有一種情況是，大多數(shù)圖像數(shù)據(jù)集使用英語名詞作標(biāo)記，并收集相應(yīng)的數(shù)據(jù)。然而，某樣存在于某個(gè)地區(qū)的東西，在別的地方可能并不存在，也有可能出現(xiàn)同樣名字對(duì)應(yīng)在不同國家對(duì)應(yīng)不同事物的情況。比如說“dish soap”這個(gè)英語單詞，直譯為洗碗皂，在一些國家指的是一種肥皂，但在某一些國家，“洗碗皂”卻是一種液體容器。

這項(xiàng)研究結(jié)果說明什么?首先，這意味著任何使用這些算法創(chuàng)建的系統(tǒng)對(duì)于低收入和非西方國家的人來說都會(huì)表現(xiàn)得更差。由于美國科技公司在AI領(lǐng)域處于世界領(lǐng)先地位，這可能會(huì)影響到從照片存儲(chǔ)服務(wù)和圖像搜索功能，到動(dòng)安全攝像頭和自動(dòng)駕駛汽車等系統(tǒng)的方方面面。

這還可能只是冰山一角。行業(yè)對(duì)視覺算法的偏見已經(jīng)有了警惕，但創(chuàng)建這些程序的渠道同樣也在為整個(gè)行業(yè)提供算法，而一些不受重視的算法可能永遠(yuǎn)不會(huì)受到懷疑。

總而言之，硅谷經(jīng)常把自己的產(chǎn)品——尤其是近年來的AI產(chǎn)品——宣傳為人人平等、人人可得。但類似的研究表明，科技公司繼續(xù)按照自己的形象評(píng)估、定義和塑造世界。