亚洲中文字幕乱码亚洲-蜜桃成熟视频在线观看-免费中文字幕视频在线-中国五十路熟妇洗澡视频-亚洲av伊人啪啪c-国产精品成人一区二区-国产自拍视频一区在线观看-成人一区不卡二区三区四区-亚洲情精品中文字幕99在线

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Anthropic用1個(gè)模型掀桌:AI學(xué)會(huì)找漏洞,人類防線集體破防

0
分享至

「本周,AI學(xué)會(huì)了黑進(jìn)一切。」

這句話出現(xiàn)在一篇報(bào)道的頂部,緊挨著另一行小字:「本文由AI寫作工具輔助完成,經(jīng)作者編輯。」兩排文字疊在一起,像某種黑色幽默——AI正在寫關(guān)于AI如何攻破人類系統(tǒng)的報(bào)道。

Anthropic本周發(fā)布的研究,讓這種荒誕感變成了具體的威脅數(shù)字。他們的AI模型在測試中發(fā)現(xiàn)了真實(shí)存在的零日漏洞,橫跨主流操作系統(tǒng)和瀏覽器。不是演示,不是沙盤。是真實(shí)代碼里的真實(shí)漏洞,人類安全團(tuán)隊(duì)此前從未發(fā)現(xiàn)。

一個(gè)不會(huì)疲倦的攻擊者

人類安全研究員的工作節(jié)奏是:咖啡、盯著屏幕、走神、再咖啡、下班。AI的節(jié)奏是:持續(xù)掃描、模式匹配、交叉驗(yàn)證、永不停止。Anthropic的測試顯示,這種差異直接轉(zhuǎn)化為發(fā)現(xiàn)率——模型在代碼庫中定位弱點(diǎn)的效率,與人類團(tuán)隊(duì)不在同一個(gè)數(shù)量級(jí)。

更麻煩的是AI的「偏執(zhí)」。人類看到一段代碼,覺得「這看起來沒問題,用了十年了」。AI看到同樣的代碼,會(huì)測試第1001種輸入組合,因?yàn)椴淮嬖凇缚雌饋怼惯@種判斷。沒有直覺,也就沒有直覺帶來的盲區(qū)。

這種特性讓防御方陷入兩難。傳統(tǒng)的安全假設(shè)是:攻擊者資源有限、會(huì)疲勞、會(huì)犯錯(cuò)?,F(xiàn)在攻擊者可以是一個(gè)24小時(shí)運(yùn)行的模型,成本僅取決于電費(fèi)。

脆弱性暴露的連鎖反應(yīng)

Anthropic沒有只發(fā)論文。他們同步披露了測試細(xì)節(jié):模型如何識(shí)別內(nèi)存管理缺陷、如何構(gòu)造特定輸入觸發(fā)溢出、如何繞過常見的輸入驗(yàn)證。這些技術(shù)細(xì)節(jié)對(duì)普通讀者是噪音,對(duì)安全從業(yè)者卻是清晰的路線圖——既包括如何防御,也包括如何模仿。

開源社區(qū)的反應(yīng)速度比企業(yè)快。GitHub上已有多個(gè)項(xiàng)目嘗試復(fù)現(xiàn)該模型的方法論,部分基于公開論文,部分基于推測。這種擴(kuò)散速度遠(yuǎn)超傳統(tǒng)安全研究的發(fā)表周期。

企業(yè)端的應(yīng)對(duì)則顯得笨拙。多家科技公司的安全團(tuán)隊(duì)被曝在內(nèi)部緊急評(píng)估,但評(píng)估本身需要時(shí)間,而模型迭代不需要。Anthropic的研究人員暗示,當(dāng)前版本的能力可能只是起點(diǎn)。

產(chǎn)品經(jīng)理視角:信任機(jī)制怎么重建

我做產(chǎn)品時(shí)有個(gè)土辦法:任何系統(tǒng),先假設(shè)它會(huì)被攻破,再設(shè)計(jì)怎么讓用戶少受傷。這個(gè)思路現(xiàn)在成了標(biāo)配,但執(zhí)行層面全是漏洞。

用戶數(shù)據(jù)加密?密鑰管理系統(tǒng)本身可能成為目標(biāo)。多因素認(rèn)證?SIM卡交換攻擊已經(jīng)產(chǎn)業(yè)化。生物識(shí)別?深度偽造(Deepfake)的通過率在某些場景下超過真人。每層防御都引入新的攻擊面,而AI擅長發(fā)現(xiàn)這種鏈條中最薄弱的環(huán)節(jié)。

Anthropic的研究最狠的地方在于,它證明了AI可以自動(dòng)化這個(gè)發(fā)現(xiàn)過程。以前需要精英黑客團(tuán)隊(duì)數(shù)月的工作,現(xiàn)在可能壓縮到數(shù)天。攻擊成本的下降曲線,比防御成本的下降曲線陡峭得多。

一些安全初創(chuàng)公司已經(jīng)開始調(diào)整產(chǎn)品定位,從「防止入侵」轉(zhuǎn)向「檢測并隔離」。這種話術(shù)變化背后,是行業(yè)共識(shí)的微妙轉(zhuǎn)移:完全阻止可能已經(jīng)不現(xiàn)實(shí),重點(diǎn)變成多快能發(fā)現(xiàn)、多快能止損。

那篇AI輔助寫作的報(bào)道

回到開頭那篇報(bào)道。作者在文末加了一句備注,解釋為什么用AI工具:「為了測試當(dāng)前技術(shù)的能力邊界?!惯@種元敘事本身成了內(nèi)容的一部分——寫作者在用被寫的對(duì)象做實(shí)驗(yàn)。

Anthropic的研究人員在被問及模型未來應(yīng)用時(shí),給出了類似的模糊回應(yīng):「我們還在探索負(fù)責(zé)任的披露方式?!惯@句話的潛臺(tái)詞是,他們也不知道該怎么同時(shí)做到「展示能力」和「不造成危害」。

安全行業(yè)的歷史充滿這種悖論。漏洞披露的最佳實(shí)踐爭論了二十年,沒有共識(shí)。現(xiàn)在AI把發(fā)現(xiàn)速度提升了十倍,披露倫理的爭論還沒跟上。

一個(gè)參與測試的安全研究員在社交媒體寫道:「我們以為AI會(huì)先替代客服,沒想到先替代的是紅隊(duì)(Red Team,攻擊方測試團(tuán)隊(duì))?!惯@條評(píng)論獲得了數(shù)千轉(zhuǎn)發(fā),評(píng)論區(qū)最多的問題是:那藍(lán)隊(duì)(防御方)呢?

這個(gè)問題目前還沒有答案。Anthropic的下一篇論文會(huì)涉及防御應(yīng)用,但發(fā)布時(shí)間未定。在那之前,每個(gè)依賴數(shù)字系統(tǒng)的人——也就是所有人——都在參與一場沒有退出的壓力測試。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
一雙童鞋1499元,中產(chǎn)父母排隊(duì)瘋搶,網(wǎng)友:智商稅

一雙童鞋1499元,中產(chǎn)父母排隊(duì)瘋搶,網(wǎng)友:智商稅

毒sir財(cái)經(jīng)
2026-04-14 23:58:59
不出3年,貶值最快的不是現(xiàn)金,是這4樣?xùn)|西,早知道早省錢!

不出3年,貶值最快的不是現(xiàn)金,是這4樣?xùn)|西,早知道早省錢!

老特有話說
2026-04-15 15:15:15
卸妝后,王一博邋遢油膩,張柏芝像土撥鼠,劉曉慶神似禿頭阿哥

卸妝后,王一博邋遢油膩,張柏芝像土撥鼠,劉曉慶神似禿頭阿哥

手工制作阿殲
2026-04-15 17:39:28
受賄、行賄、洗錢,樊新中一審獲刑17年

受賄、行賄、洗錢,樊新中一審獲刑17年

新京報(bào)
2026-04-15 18:16:02
東風(fēng)導(dǎo)彈泄密案!間諜郭萬鈞一家三口,全部被處以死刑

東風(fēng)導(dǎo)彈泄密案!間諜郭萬鈞一家三口,全部被處以死刑

番外行
2026-03-31 08:28:28
我敢說,大部分會(huì)跟我一樣,選擇黑色衣服那個(gè)女孩!

我敢說,大部分會(huì)跟我一樣,選擇黑色衣服那個(gè)女孩!

草莓解說體育
2026-04-12 17:05:01
一季報(bào)業(yè)績爆發(fā)!有色、半導(dǎo)體、光通信,誰是下一個(gè)“業(yè)績王”?

一季報(bào)業(yè)績爆發(fā)!有色、半導(dǎo)體、光通信,誰是下一個(gè)“業(yè)績王”?

小白鴿財(cái)經(jīng)
2026-04-13 20:30:03
沉默2天后,中方通告全球,藏南是中國領(lǐng)土,并送給印度一個(gè)忠告

沉默2天后,中方通告全球,藏南是中國領(lǐng)土,并送給印度一個(gè)忠告

軍機(jī)Talk
2026-04-15 11:29:39
國臺(tái)辦:統(tǒng)一后臺(tái)灣財(cái)政稅收全用于民生,無需在防務(wù)上花巨資

國臺(tái)辦:統(tǒng)一后臺(tái)灣財(cái)政稅收全用于民生,無需在防務(wù)上花巨資

南方都市報(bào)
2026-04-15 16:48:15
知名博主B太稱花18萬幫“大山女孩”被騙:父親體弱多病、哥哥弟弟去世是劇本…律師:可主張撤銷該贈(zèng)與合同

知名博主B太稱花18萬幫“大山女孩”被騙:父親體弱多病、哥哥弟弟去世是劇本…律師:可主張撤銷該贈(zèng)與合同

上觀新聞
2026-04-15 06:54:03
3天漲粉200萬,千人奔赴殺豬宴,流量褪去后,網(wǎng)紅呆呆竟成了這樣

3天漲粉200萬,千人奔赴殺豬宴,流量褪去后,網(wǎng)紅呆呆竟成了這樣

秋葉大叔
2026-04-14 07:41:40
為何金庸武俠小說依舊風(fēng)靡,古龍卻已無人問津?其實(shí)原因很簡單

為何金庸武俠小說依舊風(fēng)靡,古龍卻已無人問津?其實(shí)原因很簡單

長風(fēng)文史
2026-04-13 20:41:32
A股:剛剛,中央兩部門發(fā)布,釋放一信號(hào),周四將迎來倒車行情

A股:剛剛,中央兩部門發(fā)布,釋放一信號(hào),周四將迎來倒車行情

另子維愛讀史
2026-04-15 20:27:37
大快人心!許家印結(jié)局已定,3個(gè)女人被他連累,才懂白珊珊有多冤

大快人心!許家印結(jié)局已定,3個(gè)女人被他連累,才懂白珊珊有多冤

一盅情懷
2026-04-15 15:54:29
安賽龍宣布退役:腰傷反復(fù),經(jīng)手術(shù)和無數(shù)次封閉治療,已無法征戰(zhàn);曾兩獲奧運(yùn)冠軍,一口流利中文引熱議

安賽龍宣布退役:腰傷反復(fù),經(jīng)手術(shù)和無數(shù)次封閉治療,已無法征戰(zhàn);曾兩獲奧運(yùn)冠軍,一口流利中文引熱議

極目新聞
2026-04-15 14:13:50
理想的至暗時(shí)刻

理想的至暗時(shí)刻

新浪財(cái)經(jīng)
2026-04-15 03:08:52
一哥成軟柿子?丁俊暉成唯一未進(jìn)決賽種子,難進(jìn)十六強(qiáng)再戰(zhàn)趙心童

一哥成軟柿子?丁俊暉成唯一未進(jìn)決賽種子,難進(jìn)十六強(qiáng)再戰(zhàn)趙心童

夜深聊球
2026-04-15 22:31:16
農(nóng)村集市上20元一根現(xiàn)割“牛皮帶”,究竟是真材實(shí)料還是弄虛作假

農(nóng)村集市上20元一根現(xiàn)割“牛皮帶”,究竟是真材實(shí)料還是弄虛作假

復(fù)轉(zhuǎn)這些年
2026-04-15 11:04:03
86年我家建新房,一過路老人討冷飯吃,離開時(shí)開口:這房不能蓋了

86年我家建新房,一過路老人討冷飯吃,離開時(shí)開口:這房不能蓋了

小月故事
2026-02-20 09:00:03
伊朗的脖子被掐住了。。。

伊朗的脖子被掐住了。。。

西樓飲月
2026-04-15 23:38:59
2026-04-16 01:15:00
薛定諤的BUG
薛定諤的BUG
有態(tài)度網(wǎng)友ytd
1419文章數(shù) 35關(guān)注度
往期回顧 全部

科技要聞

ChatGPT十億用戶又怎樣?Anthropic直接貼臉

頭條要聞

美航母及1萬多士兵將抵中東 特朗普:戰(zhàn)爭或持續(xù)至11月

頭條要聞

美航母及1萬多士兵將抵中東 特朗普:戰(zhàn)爭或持續(xù)至11月

體育要聞

三球準(zhǔn)絕殺戴大金鏈:轟30+10自我救贖

娛樂要聞

謝娜現(xiàn)身環(huán)球影城,牽手女兒溫馨有愛

財(cái)經(jīng)要聞

業(yè)績失速的Lululemon:"健康"人設(shè)崩塌?

汽車要聞

空間絲毫不用妥協(xié) 小鵬GX首發(fā)評(píng)測

態(tài)度原創(chuàng)

游戲
時(shí)尚
健康
教育
軍事航空

萍萍、浩浩媽新作眾籌超原目標(biāo)2500%!想沖的人太多

赫本愛穿的傘裙,好優(yōu)雅!

干細(xì)胞抗衰4大誤區(qū),90%的人都中招

教育要聞

黃岡小升初招生題,求面積,方法思路太絕了

軍事要聞

萬斯:對(duì)當(dāng)前美伊局勢進(jìn)展“感到樂觀”

無障礙瀏覽 進(jìn)入關(guān)懷版