當(dāng)失業(yè)的白領(lǐng)被迫教AI做自己的工作,而雇傭他們的公司又被黑客攻破——這條脆弱的鏈條上,每個人都在承擔(dān)本不該屬于自己的風(fēng)險。
「我們在訓(xùn)練自己的替代者,卻不知道替誰打工」
![]()
Mercor的商業(yè)模式聽起來像黑色幽默:一家舊金山的AI公司專門招聘高學(xué)歷但找不到工作的專業(yè)人士,讓他們訓(xùn)練AI模型執(zhí)行那些他們本人應(yīng)聘失敗的崗位任務(wù)。
《紐約雜志》上個月披露的細(xì)節(jié)更令人不安。這些被招募的專家完全不知道自己究竟在為哪家公司的AI系統(tǒng)工作——OpenAI、Anthropic還是其他科技巨頭?合同條款模糊不清,管理層普遍年輕且缺乏經(jīng)驗,班次時長壓得人喘不過氣,終止合作的通知往往突如其來。
這種信息不對稱并非疏忽,而是刻意設(shè)計。Mercor的客戶名單屬于商業(yè)機密,連執(zhí)行訓(xùn)練任務(wù)的勞動者都被隔絕在真相之外。
但上個月底,這層遮羞布被黑客撕開了。
一次攻擊,三重暴露
Mercor向TechCrunch確認(rèn)遭遇安全入侵,源頭指向一個名為LiteLLM的開源項目漏洞。據(jù)該媒體審閱的 allegedly 被盜數(shù)據(jù)樣本,泄露內(nèi)容包含Slack內(nèi)部數(shù)據(jù),以及據(jù)稱是Mercor的AI系統(tǒng)與受雇工人之間對話的視頻記錄。
這意味著什么?雇傭Mercor訓(xùn)練AI的公司——包括OpenAI和Anthropic——其敏感訓(xùn)練數(shù)據(jù)極可能已落入他人之手。
「我們正在第三方取證專家的協(xié)助下進(jìn)行徹底調(diào)查,」Mercor發(fā)言人回應(yīng)道,「我們將繼續(xù)與客戶和承包商直接溝通,投入必要資源盡快解決問題。」
措辭謹(jǐn)慎,但形勢嚴(yán)峻。承包商們已經(jīng)行動起來:據(jù)Business Insider上周報道,五起訴訟已針對這家初創(chuàng)公司提起,指控其違反數(shù)據(jù)隱私和消費者保護(hù)法律。訴狀聲稱,Mercor可能已向惡意行為者泄露了高度敏感信息,包括社會安全號碼和家庭住址。
數(shù)據(jù)泄露后的訴訟并不罕見。真正值得追問的是:為什么硅谷最頂尖的AI實驗室,會把核心模型的訓(xùn)練工作外包給一個安全防線如此薄弱的中間商?
Meta按下暫停鍵,但動機耐人尋味
Wired本月初報道,Meta已正式暫停與Mercor的所有合作,啟動獨立的安全事件調(diào)查。
表面看這是負(fù)責(zé)任的危機應(yīng)對。但細(xì)想一層:如果Meta真正關(guān)心的是那些被壓榨的零工勞動者,為何不在《紐約雜志》曝光惡劣工作條件時就采取行動?
原文一針見血地指出,這些公司的核心焦慮另有其人。「最大的擔(dān)憂并非被剝削的零工福祉,」報道寫道,「而是擔(dān)心通過暴露AI模型的訓(xùn)練方式,喪失對其他AI實驗室的競爭優(yōu)勢。」
換句話說,Meta們害怕的不是「人」出了問題,而是「方法」被看光。訓(xùn)練數(shù)據(jù)的來源、標(biāo)注流程的設(shè)計、反饋機制的邏輯——這些才是AI時代的真正商業(yè)機密。一旦競爭對手通過泄露的Slack記錄或訓(xùn)練視頻逆向工程,數(shù)億美元投入的模型優(yōu)勢可能瞬間蒸發(fā)。
這種優(yōu)先級排序冷酷但誠實。在硅谷的算力軍備競賽中,人的價值被壓縮到兩個維度:一是作為數(shù)據(jù)燃料的可替代性,二是作為潛在泄密點的風(fēng)險系數(shù)。
這不是Mercor第一次踩雷
頗具諷刺意味的是,這次黑客攻擊遠(yuǎn)非Mercor與其依賴的高學(xué)歷勞動者之間沖突的頂點。在最新事件之前,該公司已遭遇三起集體訴訟——原文此處被截斷,但已透露的信息足夠勾勒出一幅反復(fù)出現(xiàn)的模式圖。
一家成立不久的初創(chuàng)公司,為何能在短時間內(nèi)積累如此多的法律糾紛?答案或許藏在它的增長邏輯里。
Mercor的商業(yè)模式建立在雙重套利之上:一是勞動力市場的供需錯配,把高學(xué)歷失業(yè)者的絕望轉(zhuǎn)化為廉價的專業(yè)技能;二是AI產(chǎn)業(yè)鏈的分層外包,讓科技巨頭們既能獲取訓(xùn)練數(shù)據(jù),又不必承擔(dān)直接雇傭的管理成本與法律責(zé)任。
這種結(jié)構(gòu)性的責(zé)任真空,正是系統(tǒng)性風(fēng)險的溫床。當(dāng)數(shù)據(jù)泄露發(fā)生時,雇傭公司可以聲稱「我們也是受害者」,外包平臺可以強調(diào)「正在配合調(diào)查」,而真正承受身份盜用、信用受損后果的個體勞動者,往往缺乏資源發(fā)起有效追償。
脆弱的供應(yīng)鏈,隱蔽的代價
這次事件再次將聚光燈投向硅谷AI產(chǎn)業(yè)鏈中一個長期被忽視的環(huán)節(jié):極端依賴承包商的訓(xùn)練數(shù)據(jù)供應(yīng)鏈。
我們習(xí)慣于討論AI的算力成本、參數(shù)規(guī)模、 benchmark 成績,卻很少追問一個基礎(chǔ)問題:那些讓模型「學(xué)會」人類判斷的數(shù)據(jù),究竟由誰在標(biāo)注、在什么條件下標(biāo)注、以何種安全標(biāo)準(zhǔn)存儲和傳輸?
Mercor的案例提供了一個令人不安的樣本。它的客戶名單讀起來像AI領(lǐng)域的「名人錄」——OpenAI、Anthropic、Meta——這些公司在公開場合談?wù)揂I安全、對齊研究和負(fù)責(zé)任創(chuàng)新,卻在供應(yīng)鏈的暗角里,將核心資產(chǎn)的構(gòu)建外包給一家連基礎(chǔ)網(wǎng)絡(luò)安全都未能保障的中間商。
這種割裂并非偶然。AI產(chǎn)業(yè)的競爭節(jié)奏獎勵速度而非穩(wěn)健,激勵規(guī)模而非透明。當(dāng)各家公司爭相發(fā)布更強大的模型時,訓(xùn)練數(shù)據(jù)的來源和治理往往被默認(rèn)為「可以稍后處理」的技術(shù)債務(wù)。
但債務(wù)總會到期。Mercor的黑客事件表明,這筆賬的利息可能高得驚人——不僅包括直接的法律成本和聲譽損失,更包括競爭對手可能獲取的關(guān)鍵情報,以及監(jiān)管收緊的連鎖反應(yīng)。
被算法遮蔽的人
回到這條鏈條的起點:那些接受Mercor招募的高學(xué)歷失業(yè)者。
他們在勞動力市場的困境是真實的。根據(jù)原文描述,這些人「受過教育卻就業(yè)不足」(educated and underemployed),在黯淡的就業(yè)環(huán)境中抓住任何可能的機會。Mercor提供的不是理想工作,而是絕望中的浮木。
但這份「機會」的條款充滿不對等。勞動者不知道自己在為誰工作,無法評估任務(wù)的長期影響,甚至在數(shù)據(jù)泄露發(fā)生后,也要通過媒體報道才能拼湊出真相。他們的專業(yè)判斷被提取、標(biāo)注、喂給模型,最終可能用于自動化他們曾希望從事的崗位。
這種結(jié)構(gòu)性困境很難通過個體選擇解決。當(dāng)整個行業(yè)的商業(yè)模式建立在「用人的訓(xùn)練替代人的雇傭」之上,拒絕參與的代價往往是徹底退出相關(guān)領(lǐng)域。
更深層的問題在于,這些勞動者的貢獻(xiàn)被系統(tǒng)性隱匿。AI模型的發(fā)布稿不會列出數(shù)據(jù)標(biāo)注者的名字,學(xué)術(shù)論文的方法論部分往往一筆帶過「人工反饋」的來源。他們是智能系統(tǒng)的隱形基礎(chǔ)設(shè)施,卻在產(chǎn)業(yè)鏈的分配中獲得最少的保護(hù)和承認(rèn)。
當(dāng)外包成為默認(rèn)選項
Mercor事件值得關(guān)注的,不只是單一公司的安全漏洞,而是一種正在固化的行業(yè)實踐。
AI訓(xùn)練的外包鏈條有多長?原文提到的LiteLLM是一個開源項目,這意味著Mercor的安全防線還依賴于外部社區(qū)的維護(hù)質(zhì)量。從科技巨頭到數(shù)據(jù)標(biāo)注平臺,再到開源工具和個體承包商,每一層外包都在稀釋責(zé)任,同時疊加風(fēng)險。
這種模式的經(jīng)濟動因顯而易見:直接雇傭?qū)I(yè)人員進(jìn)行數(shù)據(jù)標(biāo)注成本高昂,而外包可以將固定成本轉(zhuǎn)化為可變成本,把法律風(fēng)險轉(zhuǎn)移給更小的實體。但當(dāng)所有主要玩家都采取類似策略時,整個行業(yè)的安全基線就被拉低到最薄弱環(huán)節(jié)的水平。
Meta的暫停合作是一個信號,但未必是轉(zhuǎn)折點。如果調(diào)查結(jié)論是「Mercor的問題」,而非「外包模式的問題」,類似的漏洞很可能在其他供應(yīng)商處重演。畢竟,Mercor并非唯一一家從事AI數(shù)據(jù)標(biāo)注的初創(chuàng)公司,其工作條件和安全記錄也并非行業(yè) outliers。
競爭焦慮驅(qū)動的保密文化
原文揭示的一個關(guān)鍵細(xì)節(jié)值得反復(fù)咀嚼:Mercor對客戶的嚴(yán)格保密,以及科技巨頭們對此的默許甚至鼓勵。
勞動者不知道自己為誰工作,這不是技術(shù)限制,而是商業(yè)設(shè)計。在AI實驗室的視角中,訓(xùn)練方法的暴露比訓(xùn)練條件的惡劣更值得防范。這種優(yōu)先級本身就在塑造行業(yè)的權(quán)力結(jié)構(gòu)——誰有權(quán)知道,誰被蒙在鼓里,誰承擔(dān)后果。
但這種保密文化正在產(chǎn)生反噬。當(dāng)連直接執(zhí)行訓(xùn)練任務(wù)的人都無法識別風(fēng)險來源時,整個系統(tǒng)的安全審計幾乎不可能有效進(jìn)行。Mercor的黑客攻擊能夠造成如此廣泛的潛在損害,很大程度上正是因為信息被過度分割,導(dǎo)致沒有任何單一節(jié)點能評估完整的風(fēng)險圖景。
競爭壓力下的過度保密,最終可能削弱而非保護(hù)競爭優(yōu)勢。這是一個在科技史上反復(fù)出現(xiàn)的悖論,但AI行業(yè)似乎正在以更快的速度重新學(xué)習(xí)這一課。
監(jiān)管陰影下的未知數(shù)
五起訴訟的提起,標(biāo)志著Mercor事件進(jìn)入法律程序的新階段。但集體訴訟的周期漫長,賠償金額不確定,更重要的是,它們針對的是具體公司的具體行為,而非系統(tǒng)性的行業(yè)實踐。
更大的變量來自監(jiān)管層面。歐盟的AI法案、美國各州正在推進(jìn)的數(shù)據(jù)隱私立法、以及針對AI供應(yīng)鏈的潛在審查——這些框架如何界定「數(shù)據(jù)標(biāo)注」環(huán)節(jié)的責(zé)任分配,將深刻影響Mercor及其同行的商業(yè)模式可行性。
目前的法律灰色地帶正是這類外包模式繁榮的土壤。當(dāng)「承包商」而非「雇員」成為默認(rèn)身份,當(dāng)「平臺」而非「雇主」成為法律關(guān)系的主體,現(xiàn)有的勞動法和數(shù)據(jù)保護(hù)法往往難以有效介入。
Mercor的黑客事件可能加速這一領(lǐng)域的規(guī)則澄清。但規(guī)則的方向尚不明朗:是強化平臺責(zé)任,要求其對承包商和數(shù)據(jù)安全承擔(dān)更多義務(wù)?還是進(jìn)一步放寬限制,以維護(hù)美國在AI競賽中的「創(chuàng)新優(yōu)勢」?
重新校準(zhǔn)的價值追問
回到最初的問題:當(dāng)失業(yè)者訓(xùn)練AI取代自己,而訓(xùn)練過程本身又成為安全漏洞——這個循環(huán)中,誰獲得了什么,誰失去了什么,誰應(yīng)該負(fù)責(zé)?
Mercor的故事不是一個簡單的「壞公司」敘事。它的出現(xiàn)和擴張,回應(yīng)的是真實的經(jīng)濟壓力:高學(xué)歷勞動者的就業(yè)困境,AI公司對訓(xùn)練數(shù)據(jù)的饑渴,以及資本市場對規(guī)模化解決方案的偏好。但當(dāng)這些壓力被轉(zhuǎn)化為具體的商業(yè)模式時,人的尊嚴(yán)和安全被壓縮到了極限。
科技巨頭們的反應(yīng)模式同樣值得審視。它們的暫停合作、啟動調(diào)查,是真正意義上的問責(zé),還是風(fēng)險公關(guān)的標(biāo)準(zhǔn)動作?當(dāng)競爭焦慮壓倒對供應(yīng)鏈透明度的追求,類似的脆弱性只會不斷再生。
最終,這個問題指向每一個使用AI產(chǎn)品的人。我們享受的便捷對話、精準(zhǔn)推薦、高效生成,其成本如何分配,其風(fēng)險由誰承擔(dān)——這些問題的答案,往往被埋藏在像Mercor這樣的供應(yīng)鏈暗角之中。
如果AI的真正進(jìn)步必須以一部分人的不穩(wěn)定和整個系統(tǒng)的脆弱性為代價,這種進(jìn)步是否值得追求?如果值得,邊界應(yīng)該劃在哪里——是更嚴(yán)格的平臺監(jiān)管,是對勞動者的直接保護(hù),還是對開源供應(yīng)鏈的安全投資?
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.