用AI檢測(cè)女性“前科”，“原諒寶”就是“科技向善”的反面

情感導(dǎo)師 2023-03-01 6032

添加導(dǎo)師微信MurieL0304

獲取更多愛情挽回攻略婚姻修復(fù)技巧戀愛脫單干貨

圖片來源@視覺中國(guó)

文 | 航通社，作者 | 書航

2017 年，程序員蘇享茂因遭遇前妻翟欣欣“騙婚”索要1000萬(wàn)元和房產(chǎn)賠償而自殺，引發(fā)了社會(huì)對(duì)”老實(shí)人“程序員”接盤“的關(guān)注和調(diào)侃。

最近，有人號(hào)稱開發(fā)出了檢測(cè)“小姐姐”的 AI 產(chǎn)品，聲稱是為了“解救”程序員群體，最終卻頂不住輿論壓力以“刪庫(kù)跑路”告終。

這樣的產(chǎn)品，一旦真的做出來并流行開去，會(huì)帶來怎樣的社會(huì)影響？假設(shè)它真的有效，你會(huì)用它和相信它嗎？

它是什么

5 月 27 日，微博用戶@將記憶深埋表示，他完成了在半年前開始準(zhǔn)備的一個(gè)項(xiàng)目：將色情網(wǎng)站上的公開視頻和圖片打標(biāo)簽后做匹配，以實(shí)現(xiàn)所謂“以圖搜片”，查詢者可以通過上傳女性照片、視頻和數(shù)據(jù)庫(kù)做匹配，判斷該女性是否疑似從事過色情行業(yè)。

他表示，已經(jīng)“在全球范圍內(nèi)成功識(shí)別了 10 多萬(wàn)名疑似從事色情行業(yè)的女性”，同時(shí)，可以對(duì)美顏、Deepfakes 換臉等有效對(duì)抗，識(shí)別率達(dá)到 99%；而對(duì)于聲音語(yǔ)氣模仿采用聲紋檢測(cè)對(duì)抗，識(shí)別率達(dá)到 100%。

不過，他只是自己宣稱而已，并且他以害怕違法為由，拒絕開放 API 或查詢頁(yè)面，也不公布論文或開源算法，而是打算做成一個(gè)商業(yè)產(chǎn)品。有熱心網(wǎng)友替他想好了產(chǎn)品的名字：“原諒寶”。

微博下面一片罵聲。激烈反對(duì)的以女性居多，相反堅(jiān)定的支持者多為男性。支持者們認(rèn)為，在微博下反對(duì)的女性反而是”自投羅網(wǎng)“；甚至據(jù)傳，有一位反對(duì)者的微博被”挖墳“，發(fā)現(xiàn)了所謂”黑歷史“。這就意味著，即使是發(fā)個(gè)帖說下反對(duì)意見，也必須做好萬(wàn)全的準(zhǔn)備，確保萬(wàn)無一失才行。

5 月 31 日，本來說要直播接受媒體采訪的作者取消了原計(jì)劃，同時(shí)刪除了整個(gè)項(xiàng)目和數(shù)據(jù)庫(kù)，因言論給他人造成不便而道歉告終。只是對(duì)這個(gè)項(xiàng)目的討論并沒有隨著作者”刪庫(kù)跑路“而終結(jié)。

正如劉慈欣在科幻小說《鏡子》中說的那樣，即使某一個(gè)人有了驚人發(fā)現(xiàn)后秘而不宣，地球上一定會(huì)有同時(shí)想到同一個(gè)點(diǎn)子的其它人率先打破沉默，公開同樣的成果。[1]

它可能有私心

令人疑惑的是，作者宣布這是一個(gè)商業(yè)化的軟件，即使他自稱將把維持服務(wù)器開銷后的其他收入，用來捐助所謂的防治艾滋病基金。

然而，他并沒有選擇最穩(wěn)妥，也最可靠的方法以獲得潛在使用者的信任——也就是將整個(gè)技術(shù)和背后所用的素材庫(kù)開源。沒有開源，代碼便不能接受監(jiān)督，而外部人士也完全有理由來懷疑它是“暗箱操作”。

例如，產(chǎn)品正常判斷出結(jié)果之后，有可能被植入一些特定人的特定信息，做所謂“人為矯正”。這就意味著即使其數(shù)據(jù)源網(wǎng)站中并不存在的片段，也有可能會(huì)出現(xiàn)在原諒寶的結(jié)果當(dāng)中。

反過來，也有一些人可能已經(jīng)識(shí)別到，但是假設(shè)這人交一些錢，或者采用一些手段，就可以讓”原諒寶“不顯示這個(gè)識(shí)別結(jié)果，相當(dāng)于是買了 VIP 會(huì)員就“隱身”。

如果不是完全開源以證清白的話，沒有辦法證明作者能抵擋得住這樣的誘惑。

有人說，市場(chǎng)上也有對(duì)男版“原諒寶”的強(qiáng)烈需求。問題在于，要找出所謂”渣男“的證據(jù)，露臉的圖片或視頻遠(yuǎn)遠(yuǎn)比不上之前傳出泄露的開房記錄有效。

在眾多“資源”中，男性的臉和身材并不是觀眾“欣賞”的主要對(duì)象，男主不出現(xiàn)都沒關(guān)系，更準(zhǔn)確的說是不希望他出現(xiàn)，有很多片子是所謂的第一人稱視角。這就會(huì)使男性在片中曝光的可能性遠(yuǎn)遠(yuǎn)小于女性。

更不用說，這其中有一些片段，其實(shí)是此前所謂“裸貸”、“裸條”的產(chǎn)物。其中的女性是被逼迫拍攝的，并非本人自愿，當(dāng)然就更不可能有男性出場(chǎng)。因此，男性的數(shù)據(jù)集要遠(yuǎn)遠(yuǎn)少于女性，如果要做“男版原諒寶”的話，準(zhǔn)確率也會(huì)更低。

但是女性的需求卻是真實(shí)存在的?！豆扔辍返奶馗迕鑼懥讼愀鄣摹八郊覀商缴纭?，他們就像是“民間的警察”，幫助客戶解決警察無法處理的隱形問題。他們經(jīng)手的多是商業(yè)調(diào)查和家庭糾紛，后者包括調(diào)查子女吸毒援交、配偶婚外情等。[2]

與這些真實(shí)而迫切的需求相比，僅通過“小姐姐”單點(diǎn)突破的”原諒寶“，其產(chǎn)品設(shè)計(jì)上不可言傳的曖昧就非常明顯了。

它不能確保萬(wàn)無一失

即便“原諒寶”用某種方法證明了自身的中立和非歧視，但仍有或許不可逾越的技術(shù)門檻。

人臉識(shí)別可能在某些地方已經(jīng)比較精準(zhǔn)，但在缺乏一個(gè)準(zhǔn)確的數(shù)據(jù)庫(kù)的前提下，“冷啟動(dòng)”的準(zhǔn)確率仍然不高，這是一個(gè)即使連谷歌或百度這樣的技術(shù)巨頭都尚且無法解決的問題。

現(xiàn)在，蘋果 [3] 和谷歌 [4] 都在各自的操作系統(tǒng)中，準(zhǔn)備把現(xiàn)有的 AI 算法從網(wǎng)絡(luò)調(diào)用變成本地運(yùn)算，將整個(gè)包壓縮到手機(jī)能承載的范圍之內(nèi)，搭載最新的 AI 芯片，以便將一些在線運(yùn)算轉(zhuǎn)為本地運(yùn)算，以充分保護(hù)用戶的隱私。

即便如此，這也并不意味著經(jīng)過少數(shù)訓(xùn)練，甚至基本沒有訓(xùn)練過的某張隨意給定的照片，都能得到很高的準(zhǔn)確率。

“原諒寶”聲稱使用的都是公開資源，一些早已出名的“下?！比耸康拿婵桩?dāng)然是清晰的，但是識(shí)別出來也沒有太大意義。至于所謂“素人”，要么臉部有遮擋，要么來自偷拍，導(dǎo)致圖像晃動(dòng)或質(zhì)量不佳，發(fā)生誤判的幾率非常高。[5]

而且，即使是給定的幾個(gè)網(wǎng)絡(luò)社區(qū)，也不能說其上傳的所有內(nèi)容都是所謂“自愿”的。由分手后有意報(bào)復(fù)的一方上傳的“復(fù)仇色情”（Revenge Porn）或者 Deepfakes 等制造的“換臉視頻”，都沒有 100% 保險(xiǎn)的區(qū)分辦法。

”原諒寶“作者目前為止披露的技術(shù)手段，跟外界預(yù)測(cè)的沒有太大區(qū)別，所以他所講的準(zhǔn)確率也不讓人信服。

它助長(zhǎng)傳謠，不能辟謠

“原諒寶”的出現(xiàn)還可能促成不準(zhǔn)確的結(jié)果大舉流傳，演變?yōu)橹{言的傳播，給可能無辜的當(dāng)事人帶來不可挽回的傷害。

“原諒寶”如何建立自身可信度，以及攻克技術(shù)難關(guān)都尚且存疑，不過有很多評(píng)論者已經(jīng)決定信以為真。具體使用者不一定能準(zhǔn)確的認(rèn)識(shí)到查詢結(jié)果的模糊性，并在使用時(shí)留一個(gè)心眼。

一部分原因是，之前出現(xiàn)過有些違規(guī)使用戶籍查詢系統(tǒng)來做“人肉搜索”的情形。由于戶籍不靠算法，可以認(rèn)為是 100% 準(zhǔn)確的，只需要考證截屏是否為偽造；而圖象真?zhèn)?，往往又是由所謂”線人“的人格做擔(dān)保的，可以尋根溯源。這使得人們習(xí)慣了相對(duì)”精準(zhǔn)“的人肉搜索結(jié)果。但是，如果也用同樣的眼光來看待”原諒寶“生成的，準(zhǔn)確度只有一定概率的結(jié)果，就非常容易產(chǎn)生誤判。

誤判之后，能否糾正呢？太困難了。像是最近有一個(gè)謠言說華為跟阿聯(lián)酋簽署了 5G 協(xié)議，阿聯(lián)酋為答謝華為在迪拜塔開展燈光秀。這個(gè)傳聞已經(jīng)連續(xù)兩三天出現(xiàn)在我的朋友圈和群聊當(dāng)中，即使是一些本身就從事傳媒行業(yè)的朋友也會(huì)轉(zhuǎn)發(fā)過來。

實(shí)際上，阿聯(lián)酋與華為簽署 5G 協(xié)議是今年 2 月初的 [6] ；迪拜哈里發(fā)塔亮燈發(fā)生在去年 10 月 Mate 20 [7] 和今年 4 月 P30 的中東發(fā)布會(huì) [8] 期間。但是，在已經(jīng)廣泛辟謠后，此消息仍在流傳的現(xiàn)實(shí)，再次證明了“造謠一張嘴，辟謠跑斷腿”的道理。

所以，我們并不能指望萬(wàn)一“原諒寶”發(fā)生誤判之后，就能突然以良好的機(jī)制來防止謠言擴(kuò)散和辟謠。倒不如說，由于“原諒寶”所引發(fā)的謠言傳播，幾乎在這個(gè)產(chǎn)品公布出來的那一刻，就是注定了的。

它本質(zhì)上是”人肉搜索“

“原諒寶”所采用的原始數(shù)據(jù)，以公開狀態(tài)在網(wǎng)上放了很長(zhǎng)時(shí)間，并沒有掀起什么風(fēng)浪。然而，這是因?yàn)檫@些數(shù)據(jù)是打散的，并且沒有形成一個(gè)系統(tǒng)的鏈條。

如果“原諒寶”真的如其作者所聲稱的一般，可以通過極其簡(jiǎn)易的方法，實(shí)現(xiàn)對(duì)數(shù)據(jù)的梳理和總結(jié)，使得普通人利用這些信息成為可能，這些信息就從幾乎等于不存在一樣，轉(zhuǎn)變?yōu)閷?duì)當(dāng)事人真實(shí)可見的威脅。

即使并非“開房”這樣敏感的數(shù)據(jù)，只是一個(gè)人普通的人生軌跡，形成完整的鏈條之后，后果都可以相當(dāng)嚴(yán)重。微博名人和菜頭曾經(jīng)提出，微博可以幫助人販子得知博主及孩子的各種詳細(xì)線索。有位女網(wǎng)友不相信，和菜頭就把她的 700 多條微博翻了個(gè)遍，并出具了一份含有她所在城市、工作單位地址、孩子的姓名、生日、常去的地方以及家庭結(jié)構(gòu)等的分析報(bào)告。[9]

歷史上，QQ [10] 、支付寶 [11] 和抖音[12] 都遇到使用者投訴，說利用通訊錄、算法等分析得出的“你可能認(rèn)識(shí)的人”推送功能，向其推送了并不愿意再聯(lián)系的前男友或前女友。即使是這樣完全不涉及敏感信息的功能都能遭到爭(zhēng)議，那么像“原諒寶”所涉及的領(lǐng)域，如果不遭到更大的非議，反而就很奇怪了。

很多人在匿名狀態(tài)下，失去了社會(huì)身份的約束，容易激發(fā)出人性中黑暗的一面。對(duì)于涉及別人的隱私，大家都很愿意窺探，有窺私心理，而如果是涉及到自己的隱私泄露出去，則一定要堅(jiān)決反對(duì)。

不知是受到先天的影響，還是后天的規(guī)訓(xùn)，不同的性別也體現(xiàn)出不同的立場(chǎng)。對(duì)自身隱私和安全滿不在乎，又有強(qiáng)烈的窺私欲望的，男性居多；反過來，既對(duì)別人的歷史和隱私不感興趣，又強(qiáng)烈的在意自己的隱私被曝光的，女性居多。

但有趣的是，經(jīng)常到別人的微博底下挖墳扒黑歷史的，男女都有，特別是在一些觸及粉絲“逆鱗”的地方，女性尤甚。[13]

其實(shí)，這種因窺私而穿透別人隱藏于互聯(lián)網(wǎng)各個(gè)角落的個(gè)人信息，并將其串聯(lián)起來的行為，正好就是上文說到的“原諒寶”的作用——將打散的數(shù)據(jù)整合為證據(jù)鏈條，梳理出一個(gè)人的數(shù)字足跡，帶來了極大的社會(huì)隱患和人人自危的不安全感。

它的初衷，有更好的方式去實(shí)現(xiàn)

作者說，“原諒寶”開發(fā)的初衷是為了避免程序員陷入所謂的“女神”陷阱。然而，如果只是想讓程序員不做”接盤俠“，想讓他們找到品行端正的另一半，就只有這一條路可走？

除了這種反向識(shí)別出“小姐姐”的方式之外，明明還是有可以正向識(shí)別的方式的。為什么人工智能不能通過一些選擇項(xiàng)，讓一些默默無聞，藏于深閨，但又渴望真實(shí)愛情的好女孩，在人群當(dāng)中脫穎而出呢？

“母胎單身”絕不可能是男性獨(dú)有的問題，特別是當(dāng)城市里其實(shí)涌入了不少出身農(nóng)村，但不愿回去的女孩的情況下，總是會(huì)出現(xiàn)單身男女相互不匹配的“結(jié)構(gòu)性資源短缺”。

在知乎的情感問題區(qū)，有很多類似“如何讓一個(gè)男生喜歡上你”的由女性提出的問題。中國(guó)孩子在成長(zhǎng)階段，一般都被”禁止早戀“的家長(zhǎng)粗暴剝奪了自學(xué)戀愛技能的機(jī)會(huì)，一到上大學(xué)或畢業(yè)，又被趕鴨子上架要求解決對(duì)象問題。這樣培養(yǎng)出的，當(dāng)然有兩耳不聞窗外事的男碼農(nóng)，但誰(shuí)說這樣就不能產(chǎn)出覺得戀愛是羞恥的，釋放女性魅力是“放蕩”的，從而過度封閉自我，不為人注意的女孩呢？[14]

那么，如果這樣的女孩能夠找到一個(gè)同樣老實(shí)，不會(huì)背叛的，又顧家，又上進(jìn)的程序員，這實(shí)際不也是”天作之合“嗎？這樣的信息，是否能夠通過一個(gè)正向的所謂“戀愛寶”這樣的東西來匹配呢？為什么作者不能從這個(gè)方向去想？

退一步講，即使是從避免“感情騙子”的角度講，也完全可以做一些更為基礎(chǔ)性的工作。

以翟欣欣為例，有人評(píng)價(jià)她的對(duì)外檔案十分符合所謂“好嫁風(fēng)”的描述：長(zhǎng)得漂亮，但是穿得很保守，看起來土土的；家世好，家里有點(diǎn)錢，好大學(xué)畢業(yè)，有不錯(cuò)的工作 [15]。但事發(fā)后，她被曝光資料作假，曾有婚史。

這種信息很大概率不會(huì)出現(xiàn)在“原諒寶”的數(shù)據(jù)集當(dāng)中，但它實(shí)際上是“碼農(nóng)”們更需要的。都說區(qū)塊鏈追根溯源能解決差不多一切問題，能用區(qū)塊鏈或者大數(shù)據(jù)揪出婚戀網(wǎng)站的公開資料造假嗎？這不是比充滿了性暗示的“原諒寶”更有用？

小時(shí)候，我讀到一個(gè)故事，但現(xiàn)在已很難找到。故事說，一個(gè)優(yōu)秀的銀行驗(yàn)鈔員被問到有什么檢驗(yàn)的技巧時(shí)說，自己也不知道有什么竅門，只是接觸紙幣時(shí)間長(zhǎng)了，能感覺到假幣的手感不像是真的。

后來，我找到一個(gè)媒體報(bào)道，說某地發(fā)現(xiàn)的拼接假幣，驗(yàn)鈔機(jī)無法識(shí)別，是柜臺(tái)服務(wù)人員手工點(diǎn)鈔時(shí)發(fā)現(xiàn)的。[16]

這種“無他，唯手熟爾”的故事說明，解決同樣一個(gè)問題，我們可以用反向的“堵”，用預(yù)設(shè)他人不可信任的方法，也可以用正向的“疏”，用給社會(huì)造成更小分歧與創(chuàng)傷的手段。

在我看來，現(xiàn)在很流行的概念“科技向善”不需要企業(yè)一定得做慈善，而是在面臨這樣的抉擇的時(shí)候，去選擇那些彌合分歧，而不是撕裂分歧的辦法，用保護(hù)他人，而不是傷害他人的辦法，用雙贏，而不是零和游戲的辦法，這樣就已經(jīng)是最大的“善”了。

而“原諒寶”這個(gè)產(chǎn)品體現(xiàn)出的，就是“科技向善”的反面。

[1] http://www.kehuan.net.cn/book/jingzi/14.html

[2] https://mp.weixin.qq.com/s/glFP-fP2aDQVIK1a0KTuxQ

[3] https://mp.weixin.qq.com/s/shXkZk7-OLEgS1OkW3JyWg

[4] https://www.leiphone.com/news/201905/ArmUEPJXPEx00fuZ.html

[5] https://www.zhihu.com/question/326781498/answer/699600752

[6] https://news.sina.com.cn/c/2019-02-27/doc-ihsxncvf8136019.shtml

[7] https://www.weibo.com/3032210184/GFyC2nATV