編譯/VR陀螺

6月4日，WIRED經(jīng)代碼核查發(fā)現(xiàn)，Meta為旗下AI眼鏡打造了一套尚未正式發(fā)布的人臉識(shí)別系統(tǒng)。該系統(tǒng)內(nèi)部代號(hào)為“NameTag”，可通過AI眼鏡攝像頭捕捉人臉，并與用戶手機(jī)本地存儲(chǔ)的生物識(shí)別數(shù)據(jù)進(jìn)行比對(duì)，從而完成人臉辨識(shí)。

圖源：Meta

這套功能目前尚未面向消費(fèi)者啟用，但Meta已悄悄將適配AI眼鏡的人臉識(shí)別技術(shù)植入到累計(jì)下載量超5000萬次的手機(jī)應(yīng)用中，而該應(yīng)用正是Ray-Ban Meta、Oakley Meta等AI眼鏡核心功能的必備程序。

問題在于，這不是Meta第一次陷入人臉識(shí)別與隱私爭(zhēng)議事件。從Facebook時(shí)代的照片自動(dòng)標(biāo)注，到2021年宣布關(guān)閉人臉識(shí)別系統(tǒng)、刪除超10億條人臉模板，再到伊利諾伊州6.5億美元和德克薩斯州14億美元的生物識(shí)別訴訟和解，Meta早已前科累累。

Meta自相矛盾的說法與做法

結(jié)合WIRED的代碼分析，早在今年1月，Meta就已經(jīng)將“NameTag”的核心組件整合進(jìn)Meta AI應(yīng)用，并推送給海量用戶，但Meta對(duì)外始終稱該技術(shù)仍處于“考量階段”，其行為顯然與說辭形成明顯矛盾。今年4月，Meta曾表態(tài)，即便未來推出人臉識(shí)別功能，也會(huì)經(jīng)過周全評(píng)估再上線。

圖源：網(wǎng)絡(luò)

目前該功能尚未正式啟用，但它內(nèi)嵌于眼鏡配套應(yīng)用Meta AI中。一旦上線，AI眼鏡拍攝到的人臉會(huì)被轉(zhuǎn)化為專屬生物識(shí)別特征，也就是常說的人臉特征碼，并與用戶手機(jī)本地?cái)?shù)據(jù)庫中的特征碼進(jìn)行比對(duì)，而該數(shù)據(jù)庫現(xiàn)階段支持從Meta服務(wù)器同步更新。

系統(tǒng)識(shí)別出已知人臉后會(huì)推送通知，其余人臉圖像則會(huì)被裁切、標(biāo)記索引，并保存至名為“待處理”的文件夾內(nèi)。

這套“NameTag”功能的出現(xiàn)，意味著Meta打算重啟一項(xiàng)其在2021年宣布停用的技術(shù)。當(dāng)年，旗下Facebook的照片人臉標(biāo)注功能深陷輿論爭(zhēng)議，Meta最終宣布刪除超十億條用戶人臉特征數(shù)據(jù)。此后該公司官司纏身，先是向伊利諾伊州用戶支付6.5億美元，和解集體訴訟，2024年又因被指控非法采集生物識(shí)別信息，與得克薩斯州達(dá)成14億美元的賠償協(xié)議。

如今Meta重啟相關(guān)技術(shù)，而當(dāng)下民用級(jí)人臉識(shí)別正面臨越來越多的反對(duì)聲音。隱私保護(hù)人士警告，這項(xiàng)技術(shù)一旦普及，會(huì)被跟蹤騷擾者、執(zhí)法人員等濫用，潛藏巨大風(fēng)險(xiǎn)。

《紐約時(shí)報(bào)》今年2月曝光的Meta內(nèi)部文件顯示，公司曾計(jì)劃在輿論環(huán)境相對(duì)平穩(wěn)的窗口期推出該功能，以此避開主要批評(píng)者的關(guān)注。

從手機(jī)到AI眼鏡，人臉識(shí)別的風(fēng)險(xiǎn)正在被放大

經(jīng)分析，三款支撐 “NameTag”功能的AI模型已從Meta服務(wù)器下發(fā)至用戶手機(jī)，外部專家也獨(dú)立復(fù)現(xiàn)了相關(guān)驗(yàn)證結(jié)果。三款模型分工明確，一款用于檢測(cè)畫面中的人臉，一款對(duì)人臉圖像進(jìn)行裁切，還有一款負(fù)責(zé)將圖像編譯為生物識(shí)別數(shù)據(jù)。

目前應(yīng)用內(nèi)僅留存少量界面相關(guān)代碼，但其已大致透露了該功能的最終形態(tài)。在今年5月的應(yīng)用軟件版本中，這項(xiàng)功能對(duì)外被重新命名為“人脈聯(lián)絡(luò)”，引導(dǎo)用戶“記住結(jié)識(shí)的人”。至于識(shí)別數(shù)據(jù)庫會(huì)收錄哪些人的人臉、身份檔案如何創(chuàng)建、最終可識(shí)別多少人，現(xiàn)階段均未有明確答案。

WIRED將研究結(jié)果交由兩位外部安全研究員復(fù)核，二人分別獨(dú)立查驗(yàn)應(yīng)用并證實(shí)了相關(guān)結(jié)論。一位是非營(yíng)利組織電子前哨基金會(huì)Threat Lab的安全研究員、公共技術(shù)專家Cooper Quintin；另一位是化名Buchodi的獨(dú)立安全與隱私研究員，擁有十余年消費(fèi)級(jí)軟件及監(jiān)控技術(shù)逆向工程經(jīng)驗(yàn)。

“該功能暫未面向普通用戶開放，但基本已接近完工。” Quintin表示，“明明有無數(shù)理由放棄這項(xiàng)技術(shù)，Meta卻依舊具備了將海量用戶設(shè)備改造成分布式監(jiān)控網(wǎng)絡(luò)的能力。”

Buchodi還對(duì)整套識(shí)別流程開展了補(bǔ)充測(cè)試（詳見其技術(shù)分析報(bào)告）。為驗(yàn)證匹配機(jī)制，他在應(yīng)用圖庫中錄入了已故法國哲學(xué)家Michel Foucault的人臉特征碼。當(dāng)系統(tǒng)捕捉到對(duì)應(yīng)人臉圖像并觸發(fā)功能后，應(yīng)用隨即彈出提示：“已識(shí)別此人”。

“人臉識(shí)別功能的核心模塊已全部進(jìn)駐Meta配套應(yīng)用，距離正式上線只差最后幾步。” Buchodi說道。

今年4月，美國公民自由聯(lián)盟、電子隱私信息中心、未來抗?fàn)幝?lián)盟等70余家公益組織聯(lián)名要求Meta砍掉“NameTag”功能，并警示該功能會(huì)助長(zhǎng)跟蹤、騷擾等行為，讓居心不良之人在公共場(chǎng)所暗中識(shí)別陌生人。當(dāng)時(shí)Meta發(fā)言人回應(yīng)稱：“競(jìng)品雖推出了此類人臉識(shí)別產(chǎn)品，但我們并未跟進(jìn)。即便未來計(jì)劃上線，也一定會(huì)經(jīng)過審慎評(píng)估。”

圖源：AI生成

隱私保護(hù)人士認(rèn)為，Meta將人臉識(shí)別植入大眾消費(fèi)級(jí)穿戴設(shè)備，會(huì)讓這項(xiàng)曾因隱私問題被下架的技術(shù)逐步被市場(chǎng)接納、常態(tài)化。

曾任職于Meta Reality Labs、負(fù)責(zé)AR/VR產(chǎn)品隱私審核的Joseph Jerome評(píng)價(jià)道：“將這類技術(shù)融入生態(tài)體系，本質(zhì)就是在樹立行業(yè)規(guī)則與標(biāo)準(zhǔn)。我實(shí)在看不出Meta要如何合規(guī)、負(fù)責(zé)任地落地這項(xiàng)技術(shù)。”

Meta發(fā)言人Ryan Daniels則回應(yīng)：“拋開博眼球的報(bào)道不談，事實(shí)很簡(jiǎn)單，我們此前已說明正在探索這類功能，此次發(fā)現(xiàn)的代碼只是研發(fā)探索的佐證。相關(guān)功能并未面向消費(fèi)者推送，最終是否落地也尚無定論。倘若決定上線，我們會(huì)周密規(guī)劃，并做到全程透明。有一點(diǎn)可以明確：我們不會(huì)搭建集中式人臉數(shù)據(jù)庫。”

但代碼核查結(jié)果卻顯示，“NameTag”系統(tǒng)當(dāng)前的設(shè)計(jì)邏輯，是從Meta服務(wù)器獲取人臉特征碼，并存儲(chǔ)在用戶本地設(shè)備中。

Meta的人臉識(shí)別舊賬，讓這次“重啟”更難被信任

Meta最早的人臉識(shí)別系統(tǒng)誕生于2010年，搭載于Facebook平臺(tái)，可分析照片并自動(dòng)為畫面中的人物添加標(biāo)簽。該功能迅速覆蓋超十億用戶，一度成為全球規(guī)模最大的民用人臉識(shí)別系統(tǒng)之一。

這項(xiàng)技術(shù)自問世起就飽受質(zhì)疑。早在2011年，歐洲監(jiān)管機(jī)構(gòu)與美國隱私保護(hù)人士便質(zhì)疑其合法性，同時(shí)外界也擔(dān)憂，用戶并非真正知情并同意平臺(tái)采集自身生物識(shí)別信息。2019年，Meta因包含人臉識(shí)別在內(nèi)的多項(xiàng)隱私問題，向美國聯(lián)邦貿(mào)易委員會(huì)與司法部支付50億美元和解罰金。

圖源：FTC

2021年11月，Meta以社會(huì)層面對(duì)人臉識(shí)別技術(shù)的爭(zhēng)議加劇為由，宣布關(guān)停該系統(tǒng)、刪除已收集的人臉模板。不過2021年年中加入Reality Labs的Jerome表示，公司內(nèi)部從未將此次關(guān)停視作永久放棄，“團(tuán)隊(duì)內(nèi)部一直都在討論，何時(shí)重新上線人臉識(shí)別功能”。

據(jù)《紐約時(shí)報(bào)》查閱的內(nèi)部文件，Meta曾計(jì)劃在2025年先面向視障人士會(huì)議嘉賓推出AI眼鏡人臉識(shí)別功能，再逐步向普通用戶開放，但該計(jì)劃最終并未落地。

不過這類技術(shù)確實(shí)存在實(shí)際需求，目前已有輔助設(shè)備支持視障用戶識(shí)別本人提前錄入的人臉。康奈爾理工學(xué)院與Facebook研究員2018年開展的調(diào)研也顯示，受訪的視障人群均認(rèn)為，識(shí)別人臉是日常出行的重要需求。

針對(duì)一系列包括 “NameTag” 可識(shí)別哪些用戶、系統(tǒng)生成的照片與人臉特征碼是否會(huì)回傳服務(wù)器、是否會(huì)采用用戶主動(dòng)授權(quán)模式而非默認(rèn)開啟等問題，Meta均未予以回應(yīng)。與Meta聯(lián)合打造Ray-Ban、Oakley AI眼鏡的依視路陸遜梯卡集團(tuán)，也拒絕置評(píng)。

波士頓大學(xué)隱私法教授Woodrow Hartzog認(rèn)為，即便Meta最終采用用戶主動(dòng)授權(quán)模式，防護(hù)力度也遠(yuǎn)遠(yuǎn)不足。他表示，很多時(shí)候所謂“授權(quán)”會(huì)和工作權(quán)益、服務(wù)使用權(quán)限綁定。企業(yè)將隱私問題包裝成個(gè)人選擇，既能無限制采集數(shù)據(jù)，又能對(duì)外宣稱由用戶自主掌控。

“這類技術(shù)部署得越廣泛，人們就越容易將其視作平常事物。” Hartzog說道，“當(dāng)人臉掃描變成常態(tài)，大眾對(duì)這項(xiàng)技術(shù)好壞的道德判斷也會(huì)隨之改變，這是人之常情。”

原文鏈接： https://www.wired.com/story/meta-smart-glasses-face-recognition-nametag-connections/