全票通過！美國又一城“跟風(fēng)”出臺人臉識別禁令 準確率和隱私成最大痛點

繼舊金山之后，美國第二個城市也下令禁止了市政府使用面部識別技術(shù)。周四，美國馬薩諸塞州的薩默維爾市議會以11票贊成、0票反對的結(jié)果通過了《反面部識別條例》(anti-facial recognition act)，該法案認為這項技術(shù)有可能影響到言論自由。

該條例指出:“在公眾地方廣泛應(yīng)用人臉監(jiān)控，其功能相當(dāng)于要求每個人在任何時候都必須攜帶并出示一張個人照片身份證?！?/p>

該法令還指出，面部識別技術(shù)可能會誤判人，尤其是女性和非白人。該條例補充稱，“許多應(yīng)用人臉監(jiān)控技術(shù)的數(shù)據(jù)庫都受到種族和其他偏見的困擾?！?/p>

市議員Ben Ewen-Campen說，公眾越來越擔(dān)心新技術(shù)將如何影響社會，他在這種情況下提出了這項法令。他在昨天的投票中說:“這是一場侵犯隱私的攻擊，人們感到，作為個人和家庭，在社會中獲得自由越來越困難。”

“這只是一小步，但這是一個提醒:我們是社會的主人，”他補充說?！拔覀儾槐刈源龜?。”

除了禁止市政部門積極使用人工智能外，該法令還禁止在刑事調(diào)查或法律訴訟中使用面部識別軟件系統(tǒng)產(chǎn)生的數(shù)據(jù)或證據(jù)。當(dāng)?shù)胤蓻]有限制州或聯(lián)邦執(zhí)法部門使用面部識別的范圍。

該條例部分由ACLU(美國公民自由聯(lián)盟)撰寫，ACLU也幫助制定了薩默維爾法令。ACLU主任卡德克魯克福德(Kade Crockford)表示:“這座城市發(fā)出了一個大膽的聲明，它不會坐視反烏托邦技術(shù)進一步超越我們對公民自由的保護，損害隱私、種族和性別公正以及言論自由?！?/p>

美國公民自由聯(lián)盟希望更多的城市和州能通過類似的法律來規(guī)范這項技術(shù)。

此前，舊金山也宣布禁止地方政府使用面部識別技術(shù)。今年5月，舊金山成為美國第一個禁止警察和其他政府機構(gòu)使用面部識別技術(shù)的城市。

根據(jù)新的舊金山法律，任何想要使用監(jiān)控技術(shù)或服務(wù)的城市部門必須首先得到監(jiān)事會(Board of Supervisors)的批準。該過程將包括提交有關(guān)技術(shù)及其使用方式的信息，并在公開聽證會上提交。根據(jù)新規(guī)則，任何已經(jīng)使用監(jiān)控技術(shù)的城市部門都需要告訴董事會是如何使用它的。

該條例還規(guī)定，該市每年都需要向監(jiān)事會報告監(jiān)管設(shè)備和服務(wù)是否按批準方式使用，還包括保存、共享或刪除數(shù)據(jù)的詳細信息。

面部識別技術(shù)的爭議：準確率與隱私

實際上，公眾對于面部識別技術(shù)的擔(dān)憂很有道理：該技術(shù)的準確率實在還不足以取信于民眾。

2018年7月ACLU表示，在他們的測試中，亞馬遜的人臉識別系統(tǒng)Rekognition居然把28位國會議員識別成了罪犯，在有色人種中錯誤率更為明顯。

2012年的一項研究表明，來自供應(yīng)商Cognitec的面部算法，在非洲裔美國人上的錯誤比白種人高5%至10%。

2018年2月，麻省理工學(xué)院媒體實驗室的研究人員發(fā)現(xiàn)，微軟，IBM和中國公司Megvii的面部識別錯誤地識別了高達7%的淺膚色女性，高達12%的深色皮膚男性和高達35%的深色皮膚女性。

2015年，一位軟件工程師報告說，Google Photos的圖像分類算法將非裔美國人的照片貼上“大猩猩”標(biāo)簽，引發(fā)爭議。

2017年6月的歐冠聯(lián)賽上，英國南威爾士警方的人臉識別相機系統(tǒng)在一次足球比賽中發(fā)出了2470次警報，其中只有173次是正確的判斷，也就是說識別準確率只有8%。

除了技術(shù)容易誤判之外，普通人的隱私也是一個問題。2019年1月，IBM發(fā)布了一組“人臉多樣性”的數(shù)據(jù)，就遭到了一些攝影師、專家和活動人士的批評，因為IBM沒有征求人們的同意，就將他們的照片用于改善面部識別技術(shù)。

作為回應(yīng)，IBM表示將嚴肅對待隱私問題，用戶可以選擇退出數(shù)據(jù)庫。

而近日，微軟公司也悄然刪除了該公司于2016年發(fā)布的人臉識別數(shù)據(jù)庫MS-Celeb。該數(shù)據(jù)是全球最大的公開人臉識別數(shù)據(jù)庫，根據(jù)資料統(tǒng)計，已有多個商業(yè)組織在使用MS Celeb數(shù)據(jù)庫，包括很多知名互聯(lián)網(wǎng)企業(yè)。分析人士稱，此舉或因擔(dān)心侵犯公眾隱私權(quán)、“數(shù)據(jù)權(quán)”，從而產(chǎn)生法律風(fēng)險。

不過，盡管并不完美，面部識別技術(shù)并非全然無用。

馬里蘭州警方利用該技術(shù)確認了大規(guī)模槍擊案的嫌疑人;印度警方利用該技術(shù)在四天內(nèi)確認了近3000名失蹤兒童的身份;臉書利用該技術(shù)為視障人士識別照片中的人物;除此之外，面部識別技術(shù)已經(jīng)成為解鎖智能手機的一種便捷方式。

科技巨頭們更是紛紛為自家所使用的技術(shù)“站臺”。Microsoft公司表示，自己在去年就將識別女性和深膚色人種的錯誤率降低了20倍;Facebook公司使用面部識別技術(shù)來標(biāo)記用戶，公司的一位發(fā)言人表示，該公司確保其使用的數(shù)據(jù)是“平衡的，并且反映了Facebook用戶的多樣性”;Google聲稱，它發(fā)表了關(guān)于人工智能的原則，其中包括禁止“制造或加強不公平的偏見”。