一位知情人士透露,OpenAI正敲定一款具備高級網(wǎng)絡(luò)安全能力的新模型,并計劃僅向少數(shù)企業(yè)客戶提供,做法與Anthropic對其網(wǎng)絡(luò)安全模型“Mythos”的小范圍發(fā)布類似。 之所以引人關(guān)注,是因為在自主性和黑客攻擊能力方面,人工智能被許多安全專家認(rèn)為已經(jīng)來到一個“臨界點”,模型研發(fā)公司如今愈發(fā)擔(dān)心自家工具可能釀成的現(xiàn)實破壞,以至于不愿再將其完全“放生”到公開環(huán)境中。
![]()
本周二,Anthropic宣布,其新模型“Mythos Preview”只會向少數(shù)經(jīng)精心挑選的科技和網(wǎng)絡(luò)安全公司開放,原因是該模型具備非常先進(jìn)的入侵與利用能力,引發(fā)了潛在濫用的擔(dān)憂。 當(dāng)時,Anthropic是首家在新模型發(fā)布策略上采取如此嚴(yán)格限制的AI公司,而如今OpenAI也被曝正籌劃采取類似路徑。
細(xì)節(jié)來看,OpenAI今年2月在推出迄今其網(wǎng)絡(luò)安全推理能力最強(qiáng)的GPT?5.3?Codex后,啟動了名為“Trusted Access for Cyber”(可信網(wǎng)絡(luò)安全訪問)的試點項目。 根據(jù)公司博客的說法,受邀加入這一封閉計劃的機(jī)構(gòu),將獲得訪問更高網(wǎng)絡(luò)攻防能力或更高“寬容度”模型的機(jī)會,以加速合法防御性安全工作。 OpenAI當(dāng)時同時承諾,將向項目參與者提供總計1000萬美元的API額度支持,用于相關(guān)實驗和部署。
更大的背景是,過去一年里,多名前政府官員及頂級安全領(lǐng)袖不斷敲響警鐘,警示如果落入別有用心者之手,某些AI模型有一天可能會在無人值守的情況下,破壞供水系統(tǒng)、電力網(wǎng)絡(luò)甚至金融基礎(chǔ)設(shè)施。 這些此前被視作“未來場景”的能力,如今在業(yè)內(nèi)人士眼中已開始顯現(xiàn)雛形。
然而,即便AI公司通過限量試點、分階段發(fā)布等方式暫時“收緊閘門”,頂級安全專家普遍認(rèn)為,整體趨勢已經(jīng)難以逆轉(zhuǎn)。 “你沒法阻止模型去做代碼枚舉,或者在舊代碼庫里找漏洞,這種能力已經(jīng)客觀存在。”SANS研究所首席AI官Rob T. Lee指出。 Palo Alto Networks首席安全情報官Wendi Whitmore則在舊金山舉行的HumanX大會一場圓桌討論中表示,距離下一款具備類似能力、并流入更開放環(huán)境的模型出現(xiàn),可能只剩下幾周或幾個月時間。 CrowdStrike負(fù)責(zé)對抗行動的高級副總裁Adam Meyers則形容,Mythos所展現(xiàn)出的能力是“對整個行業(yè)的當(dāng)頭棒喝”。
在一些安全從業(yè)者看來,如果企業(yè)真正擔(dān)心的是模型“編寫新型攻擊利用程序”的能力,而非僅僅是“幫人找出已有漏洞”,那通過限制前沿模型的首發(fā)范圍、實行分批放量就更顯得“合情合理”。 Aisle安全公司首席執(zhí)行官Stanislav Fort向Axios表示,相較單純發(fā)現(xiàn)缺陷,自動生成全新漏洞利用鏈條的能力,對生態(tài)而言潛在威脅更高,因此更需要在受控環(huán)境中慢慢驗證。
也有專家指出,當(dāng)下的大模型分階段開放,某種程度上很像傳統(tǒng)網(wǎng)絡(luò)安全廠商對軟件漏洞信息的披露方式。 Lee就認(rèn)為,這與業(yè)界多年來圍繞“負(fù)責(zé)任漏洞披露”展開的爭論高度類似:在公開風(fēng)險和給出補(bǔ)丁之間如何平衡時機(jī)與范圍,是一個反復(fù)被討論的問題。 不同之處在于,這一次被“延后披露”的,已經(jīng)不是單個軟件漏洞,而是可能大幅放大攻擊與防御能力的通用智能工具。
目前尚不清楚OpenAI是否會在未來某個時間節(jié)點,將這款即將推出的網(wǎng)絡(luò)安全模型更廣泛地推向市場。 與之相比,Anthropic則已明確表示,不會向公眾全面發(fā)布Mythos Preview,但在未來若能配套足夠強(qiáng)的安全護(hù)欄,則不排除對Mythos系列其他模型考慮更大范圍的開放可能。 與此同時,Aisle等研究團(tuán)隊也提醒,市面上廣泛可用的現(xiàn)有AI模型,已經(jīng)可以發(fā)現(xiàn)Mythos展示案例中相當(dāng)一部分漏洞與利用路徑,這意味著真正構(gòu)成安全“護(hù)城河”的,恐怕更多是圍繞模型搭建的系統(tǒng)和流程,而非模型本身的“體量”與“代際”。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.