人工智能公司不僅能打造出強(qiáng)大的產(chǎn)品，還擅長(zhǎng)制造驚人的噱頭。

上周，Anthropic發(fā)布了專注于網(wǎng)絡(luò)安全領(lǐng)域的AI模型Claude Mythos，該模型聲稱具備極強(qiáng)的能力，在業(yè)界引發(fā)了廣泛的期待與恐慌。然而有一個(gè)關(guān)鍵細(xì)節(jié)：公眾根本無(wú)法直接使用它。OpenAI也在上周末宣布，其同樣開(kāi)發(fā)出了一款能力驚人的網(wǎng)絡(luò)安全AI。

Anthropic將Mythos稱為網(wǎng)絡(luò)安全行業(yè)的"一次大清算"，理由是這款新工具在發(fā)現(xiàn)軟件漏洞方面表現(xiàn)出極高的能力。據(jù)Anthropic介紹，Mythos在眾多常用應(yīng)用程序中發(fā)現(xiàn)了數(shù)千個(gè)尚無(wú)補(bǔ)丁可修復(fù)的安全漏洞，這促使該公司與多家網(wǎng)絡(luò)安全專家機(jī)構(gòu)組成了一個(gè)代號(hào)為"Glasswing計(jì)劃"的聯(lián)盟，以加強(qiáng)防御能力，并限制該模型的廣泛分發(fā)——就像一部只在洛杉磯和紐約小范圍上映的文藝片。

《衛(wèi)報(bào)》專欄作者Shakeel Hashim寫(xiě)道：

Anthropic聲稱，Mythos已在所有主流瀏覽器和操作系統(tǒng)中發(fā)現(xiàn)了漏洞。換句話說(shuō)，這款新AI模型可能會(huì)幫助黑客破壞全球最重要的大量軟件系統(tǒng)。

如果這類技術(shù)被大范圍普及，且其能力真如Anthropic所宣稱的那樣強(qiáng)大，后果將可能是災(zāi)難性的。網(wǎng)絡(luò)攻擊早已不只是數(shù)字層面的問(wèn)題，我們?cè)诂F(xiàn)實(shí)世界中依賴的幾乎一切都與軟件有關(guān)。近年來(lái)，機(jī)場(chǎng)、醫(yī)院和交通網(wǎng)絡(luò)已多次遭受網(wǎng)絡(luò)攻擊而陷入癱瘓。過(guò)去，發(fā)動(dòng)此類規(guī)模的攻擊需要相當(dāng)深厚的專業(yè)技術(shù)背景，而Mythos將使這種能力觸手可及，甚至連業(yè)余人士也能掌握，同時(shí)也會(huì)大幅提升專業(yè)攻擊者造成破壞的能力。

然而，網(wǎng)絡(luò)安全專家們已開(kāi)始對(duì)Anthropic的說(shuō)法提出質(zhì)疑。記者Aisha Down報(bào)道：

目前尚不清楚Anthropic是否真的構(gòu)建了一個(gè)"無(wú)所不能的神器"。但更為清晰的是，這家總部位于舊金山、長(zhǎng)期以"負(fù)責(zé)任AI公司"自居的初創(chuàng)企業(yè)，在營(yíng)銷方面確實(shí)頗具天賦。

"Mythos是一項(xiàng)真實(shí)的進(jìn)展，Anthropic認(rèn)真對(duì)待它是正確的，"進(jìn)攻性網(wǎng)絡(luò)安全專家Jameison O'Reilly表示。但他也指出，Anthropic的部分說(shuō)法，例如聲稱在主流操作系統(tǒng)中發(fā)現(xiàn)了數(shù)千個(gè)"零日漏洞"，對(duì)于現(xiàn)實(shí)世界的網(wǎng)絡(luò)安全而言，其意義并沒(méi)有那么重大。

2017年，BuzzFeed新聞的科技編輯曾撰文指出，"制造欲望"是蘋(píng)果公司最大的核心競(jìng)爭(zhēng)力。我深以為然，而Anthropic似乎也具備類似的天賦。這項(xiàng)技術(shù)本身確實(shí)強(qiáng)大，但對(duì)注意力的操控同樣是一種強(qiáng)大的力量。就像蘋(píng)果真正改變世界的iPhone一樣，Claude也是貨真價(jià)實(shí)的產(chǎn)品——眾多企業(yè)對(duì)其編程能力趨之若鶩。蘋(píng)果、英偉達(dá)、谷歌、摩根大通、亞馬遜云服務(wù)、博通等重量級(jí)企業(yè)均已與Anthropic在"Glasswing計(jì)劃"上展開(kāi)合作。然而，宣稱"這個(gè)東西太厲害了，不能公開(kāi)給你用"，本身就是一種高明的營(yíng)銷策略。沒(méi)有什么比"得不到"更能激發(fā)人的欲望。據(jù)彭博社報(bào)道，在上周于舊金山舉辦的HumanX AI大會(huì)上，Anthropic成為了全場(chǎng)最受關(guān)注的焦點(diǎn)。

自生成式AI誕生以來(lái)，夸大宣傳就始終遮蔽著公眾對(duì)這項(xiàng)技術(shù)的真實(shí)認(rèn)知，而記者和清醒的觀察者們也一直在努力戳穿這層迷霧。2019年，Slate曾發(fā)表文章，標(biāo)題為《OpenAI稱其文本生成算法GPT-2危險(xiǎn)性太高，不宜公開(kāi)發(fā)布》。如今的標(biāo)題之所以如出一轍，或許并不令人意外——Anthropic的CEO達(dá)里奧·阿莫迪曾是OpenAI的研究副總裁，于2020年離職。OpenAI當(dāng)年也曾將其視頻生成器Sora壓著不發(fā)布長(zhǎng)達(dá)數(shù)月，但好萊塢和電影行業(yè)就此終結(jié)了嗎？并沒(méi)有。Sora甚至在上個(gè)月悄然下線。

相較于如今"數(shù)字安全將全面崩潰"的極端論調(diào)，2019年那些對(duì)簡(jiǎn)單文本生成危險(xiǎn)性的擔(dān)憂，如今看來(lái)不免有些可愛(ài)。但正是因?yàn)槲覀円呀?jīng)走過(guò)了那段恐慌，這也讓我們有理由對(duì)當(dāng)下保持樂(lè)觀：對(duì)于今天這些關(guān)于網(wǎng)絡(luò)安全崩潰的恐懼，我們同樣終將走過(guò)，最終落腳于一個(gè)介于現(xiàn)狀與夸大預(yù)言之間的現(xiàn)實(shí)世界。

Q&A

Q1：Anthropic發(fā)布的Claude Mythos是什么？有什么能力？

A：Claude Mythos是Anthropic發(fā)布的一款專注于網(wǎng)絡(luò)安全的AI模型。Anthropic聲稱它能夠發(fā)現(xiàn)主流瀏覽器和操作系統(tǒng)中數(shù)千個(gè)尚無(wú)補(bǔ)丁的安全漏洞，將高難度的網(wǎng)絡(luò)攻擊能力普及至業(yè)余人士，對(duì)現(xiàn)有網(wǎng)絡(luò)安全體系構(gòu)成重大威脅。不過(guò)，已有網(wǎng)絡(luò)安全專家對(duì)其部分說(shuō)法提出質(zhì)疑，認(rèn)為所謂"數(shù)千個(gè)零日漏洞"對(duì)實(shí)際網(wǎng)絡(luò)安全的影響并沒(méi)有Anthropic描述的那么嚴(yán)重。

Q2：為什么Claude Mythos不向公眾開(kāi)放使用？

A：Anthropic以該模型能力過(guò)于強(qiáng)大、可能被濫用于網(wǎng)絡(luò)攻擊為由，限制了其公開(kāi)發(fā)布。該公司與多家網(wǎng)絡(luò)安全機(jī)構(gòu)組成了代號(hào)"Glasswing計(jì)劃"的聯(lián)盟，旨在加強(qiáng)防御并管控模型的分發(fā)。不過(guò)，文章也指出，這種"太強(qiáng)大、不能給你用"的說(shuō)法，本身也是一種激發(fā)市場(chǎng)關(guān)注度的營(yíng)銷策略。

Q3：AI公司夸大宣傳的情況普遍嗎？有哪些歷史先例？

A：這種情況在行業(yè)內(nèi)相當(dāng)普遍。早在2019年，OpenAI就曾以"危險(xiǎn)性太高"為由拒絕公開(kāi)發(fā)布文本生成模型GPT-2，此后又將視頻生成器Sora壓制數(shù)月才發(fā)布，而Sora最終也已下線。文章認(rèn)為，生成式AI的夸大宣傳自技術(shù)誕生之初便如影隨形，公眾對(duì)于當(dāng)前的恐慌同樣可能隨時(shí)間消散，最終回歸理性的認(rèn)知。