北京
Anthropic上周放了個消息，說自家新模型Mythos在找軟件漏洞這件事上，已經(jīng)超過絕大多數(shù)人類專家了。高盛CEO蘇德巍在財報電話會上直接表態(tài)：保持高度警覺。
這話從一位投行掌門嘴里說出來，分量不太一樣。蘇德巍的原話是，在美國政府和模型開發(fā)方的幫助下，他們對這些新模型的增強(qiáng)能力"保持高度警覺"。翻譯一下：這東西我們已經(jīng)在用了，但用得提心吊膽。
Anthropic自己在博客里說得更直白——AI編程能力到了這個水平，發(fā)現(xiàn)和利用漏洞的能力"已超越除最頂尖人類專家外的所有人"。經(jīng)濟(jì)、公共安全、國家安全，三個詞全被點(diǎn)名。
高盛的應(yīng)對策略倒是典型的金融機(jī)構(gòu)做派：一邊跟Anthropic密切合作，盡可能薅到前沿能力；一邊大力砸錢搞網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施。用蘇德巍的話說，"持續(xù)關(guān)注業(yè)界動態(tài)"。
這場景有點(diǎn)像早期核電站的操作員——明知鏈?zhǔn)椒磻?yīng)的威力，又不得不把手伸向控制棒。區(qū)別在于，核反應(yīng)堆至少知道臨界質(zhì)量在哪，而大模型的能力邊界至今是筆糊涂賬。
英國監(jiān)管機(jī)構(gòu)已經(jīng)啟動緊急評估。OpenAI那邊也傳出風(fēng)聲，打算效仿Anthropic搞"邀請制"發(fā)布，只對特定企業(yè)開放前沿模型。監(jiān)管和廠商的反應(yīng)速度，這次倒是跑在了前面。
蘇德巍在電話會末尾補(bǔ)了一句：高盛"已經(jīng)使用"Mythos。沒提具體用在哪，但投行系統(tǒng)里值得AI去挖的漏洞，想想都知道分量。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
