无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Claude連基礎生物都不敢答:不是安全感,是美國AI給世界上的閘門

0
分享至



一個號稱“最強”的AI,遇到線粒體、花粉癥、哮喘藥物原理這類基礎問題,卻可能先退一步、繞一圈、甚至換個弱一點的模型來答。聽起來像笑話,但它不是笑話。它暴露的是下一輪AI競爭里最硬的一件事:誰掌握能力,誰掌握閥門;誰制定安全規(guī)則,誰就能決定別人能不能用、怎么用、用到什么程度。

一、最強AI先學會了“裝啞巴”

Anthropic 發(fā)布 Claude Fable 5,把它定位為面向大眾開放的 Mythos 級強模型。官方說得很漂亮:能力更強,覆蓋軟件工程、知識工作、視覺、科學研究等復雜任務。可爭議也來得很快:在生物、化學、網(wǎng)絡安全等敏感領域,它會觸發(fā)分類器,把回答交給 Claude Opus 4.8。

這套機制的出發(fā)點當然能理解。生物、化學、網(wǎng)絡攻擊確實有雙重用途。AI 一旦給錯人、給太細、給太準,風險不只是“回答不嚴謹”,而是可能進入現(xiàn)實世界。問題是,安全一旦過頭,就會變成另一種荒誕:連基礎科普也被誤傷,連普通知識也要繞路。

一個大模型最尷尬的瞬間,不是它不會,而是它明明會,卻不能說;不是它不懂,而是它先判斷你有沒有資格聽。



二、安全不是錯,黑箱才是問題

別把話說偏。中國不需要鼓吹“無底線開放”。AI 安全必須做,危險知識必須管,高風險場景必須分級。真正的問題在于:安全規(guī)則能不能透明?觸發(fā)邊界能不能解釋?科研和產(chǎn)業(yè)用戶有沒有合規(guī)通道?普通用戶被降級時,能不能知道自己到底經(jīng)歷了什么?

如果一個模型把“高中生物科普”和“生物武器風險”混在一起攔,那不是精細治理,而是粗暴保險絲。如果一個平臺用“安全”兩個字把能力鎖起來,卻不讓外界看清規(guī)則,那也不只是產(chǎn)品體驗問題,而是知識分配權問題。

更現(xiàn)實的是,海外AI公司手里握著模型、算力、接口、合規(guī)解釋權。今天它可以因為生物問題讓你回退,明天也可能因為地區(qū)、行業(yè)、客戶屬性讓你降級。你以為你在調(diào)用AI,其實你可能只是在租一把隨時會被收回的鑰匙。

三、站在中國角度,不能只看熱鬧

這件事最值得中國AI產(chǎn)業(yè)警醒的地方,不是“美國模型又翻車了”,而是別人的安全閥一旦成為全球事實標準,后果會非常具體。科研機構做不了完整驗證,企業(yè)產(chǎn)品隨時被接口策略影響,開發(fā)者很難判斷模型到底是能力不足,還是被后臺降級。

中國當然要發(fā)展負責任的人工智能。中國提出的全球人工智能治理倡議強調(diào)發(fā)展和安全并重,也強調(diào)開放、公正、有效的治理機制。科技部早就提出過“安全可控、共擔責任、開放協(xié)作、敏捷治理”。這說明中國不是不要安全,而是反對把安全做成少數(shù)公司、少數(shù)國家手里的單向閥。

真正可靠的AI治理,不是把用戶擋在門外,而是把風險分層,把責任講清,把能力留在可審計的體系里。



四、別迷信“美國大模型永遠先進”

這次事件還有一個很刺眼的信號:模型能力越強,控制按鈕越重。美國大廠一邊說先進能力可以改變世界,一邊又把部分能力放進受限訪問、可信名單、政府合作項目里。技術越強,門檻越高;門檻越高,普通開發(fā)者越像外圍用戶。

這對中國企業(yè)的啟示很直接:不要把核心業(yè)務建立在不可控接口上。客服、醫(yī)療、教育、科研、工業(yè)軟件、代碼安全,這些場景不是寫個提示詞就完事。模型能不能穩(wěn)定答、能不能本地化部署、能不能審計、能不能適配國產(chǎn)算力,最后都會變成真成本。

中國AI不能只追“今天誰榜單高一點”。更要追三個硬指標:第一,關鍵能力有沒有自主替代;第二,安全規(guī)則能不能本土化、行業(yè)化、透明化;第三,遇到外部限制時,業(yè)務能不能繼續(xù)跑。

五、真正成熟的安全,不是把模型訓練成“膽小鬼”

好的AI安全,應該像剎車系統(tǒng):平時不打擾你,危險時能救命。差的AI安全,像一把大鎖:不管你是學生、醫(yī)生、研究員還是普通用戶,先鎖上再說。

公眾當然會問:如果一個模型連基礎生物問題都回答得戰(zhàn)戰(zhàn)兢兢,那它還能不能進入教育?還能不能進入科研?還能不能進入企業(yè)知識庫?如果答案總要由后臺分類器決定,那用戶到底是在使用模型,還是在接受平臺的二次篩選?

AI時代的競爭,不只是“誰的模型更聰明”,而是“誰的體系更可信”。這才是中國必須抓住的核心。模型可以追,算力可以補,生態(tài)可以建,但安全規(guī)則的解釋權,不能永遠交給別人。



結(jié)語:最可怕的不是AI不回答,而是你不知道它為什么不回答

Claude Fable 5 的爭議,說到底不是一個產(chǎn)品小毛病,而是AI進入強能力時代后的權力預演。過去我們擔心的是模型胡說八道;現(xiàn)在還要擔心模型明明知道,卻被某個看不見的開關攔住。

站在中國角度,這件事該看的不是熱鬧,而是警鐘。我們要安全,也要發(fā)展;要合規(guī),也要自主;要防止濫用,更要防止“安全”被包裝成技術壟斷和規(guī)則壟斷。

評論區(qū)最該爭的不是“它該不該拒答”,而是:未來的AI鑰匙,到底應該掌握在少數(shù)公司手里,還是掌握在一個更透明、更可審計、更公平的體系里?

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
家長為防子女沾染網(wǎng)貸,18歲生日當天為其辦信用卡后故意欠款逾期,只為“弄臟”征信,全網(wǎng)刷屏的“護娃神操作”,涉嫌違法且隱患重重

家長為防子女沾染網(wǎng)貸,18歲生日當天為其辦信用卡后故意欠款逾期,只為“弄臟”征信,全網(wǎng)刷屏的“護娃神操作”,涉嫌違法且隱患重重

極目新聞
2026-06-11 11:48:24
日本突破2nm以下工藝新極限!

日本突破2nm以下工藝新極限!

中國半導體論壇
2026-06-10 19:59:18
廣西河池市金城江區(qū)正處級干部韋琪被查

廣西河池市金城江區(qū)正處級干部韋琪被查

環(huán)球網(wǎng)資訊
2026-06-11 17:48:07
登頂Top.1,Netflix韓劇又爆了

登頂Top.1,Netflix韓劇又爆了

來看美劇
2026-06-11 20:54:32
CBA最新消息!北京首鋼或裁掉范子銘,布朗離開浙江廣廈

CBA最新消息!北京首鋼或裁掉范子銘,布朗離開浙江廣廈

體壇瞎白話
2026-06-11 15:51:04
12個非洲國家集體鎖礦!中國440億投資遇上最狠一刀

12個非洲國家集體鎖礦!中國440億投資遇上最狠一刀

甜心貓女
2026-06-01 16:05:10
下課1天后再就業(yè) 43歲皇馬棄帥接掌英超勁旅 穆帥引發(fā)3隊互換主帥

下課1天后再就業(yè) 43歲皇馬棄帥接掌英超勁旅 穆帥引發(fā)3隊互換主帥

我愛英超
2026-06-11 07:23:37
勇士隊格林在總決賽G4后向尼克斯隊杰倫·布倫森道歉:對不起

勇士隊格林在總決賽G4后向尼克斯隊杰倫·布倫森道歉:對不起

好火子
2026-06-11 22:43:29
CCTV5直播,深夜時段迎世界杯揭幕戰(zhàn),首個比賽日將看到亞洲勁旅

CCTV5直播,深夜時段迎世界杯揭幕戰(zhàn),首個比賽日將看到亞洲勁旅

側(cè)身凌空斬
2026-06-11 10:00:58
銀河M9給出3萬優(yōu)惠!起售價15.38萬,網(wǎng)友:同級無對手

銀河M9給出3萬優(yōu)惠!起售價15.38萬,網(wǎng)友:同級無對手

汽車網(wǎng)評
2026-06-11 22:20:18
你是什么時候?qū)γ琅铟鹊模烤W(wǎng)友:妝前妝后判若兩人

你是什么時候?qū)γ琅铟鹊模烤W(wǎng)友:妝前妝后判若兩人

阿康四歲啦
2026-06-11 11:05:35
香港名媛出手追債!趙薇前夫被曝欠下6億天價賭債……

香港名媛出手追債!趙薇前夫被曝欠下6億天價賭債……

港漂圈
2026-06-10 19:41:43
世界杯揭幕戰(zhàn),央視直播有變!墨西哥優(yōu)勢明顯,韓國迎戰(zhàn)歐洲勁旅

世界杯揭幕戰(zhàn),央視直播有變!墨西哥優(yōu)勢明顯,韓國迎戰(zhàn)歐洲勁旅

十點街球體育
2026-06-11 21:24:20
被罵上熱搜第一!4項歷史恥辱!馬刺傻了!

被罵上熱搜第一!4項歷史恥辱!馬刺傻了!

柚子說球
2026-06-11 22:37:31
四個號,一家親:國際足聯(lián)把飯喂到嘴邊,國足用四個“零蛋”證明

四個號,一家親:國際足聯(lián)把飯喂到嘴邊,國足用四個“零蛋”證明

民間胡扯老哥
2026-06-11 10:34:23
四川一餐飲店還未開業(yè)便遭重創(chuàng):因店內(nèi)裝修500多把椅子放門口幾乎被搬空,椅子約200元一把;店主:已報警,“只要歸還就不追責”

四川一餐飲店還未開業(yè)便遭重創(chuàng):因店內(nèi)裝修500多把椅子放門口幾乎被搬空,椅子約200元一把;店主:已報警,“只要歸還就不追責”

大風新聞
2026-06-11 20:30:04
湖南同日打落多名官員,此前煙花爆炸事故致37人死亡

湖南同日打落多名官員,此前煙花爆炸事故致37人死亡

大風新聞
2026-06-11 19:15:23
江蘇省人民政府批復同意

江蘇省人民政府批復同意

句容發(fā)布
2026-06-11 21:33:08
天天被家長喂的“毒面包”,正在掏空孩子脾胃,很多家庭早餐在吃

天天被家長喂的“毒面包”,正在掏空孩子脾胃,很多家庭早餐在吃

小書蟲媽媽
2026-06-10 11:17:00
巴克利痛批馬刺:我們見證了人類文明史上最愚蠢的籃球隊

巴克利痛批馬刺:我們見證了人類文明史上最愚蠢的籃球隊

懂球帝
2026-06-11 12:40:07
2026-06-12 00:19:00
熱聞島
熱聞島
風姿鑒賞師(侵刪)
130文章數(shù) 15232關注度
往期回顧 全部

科技要聞

淘寶、京東、拼多多、抖音、小紅書被約談

頭條要聞

中方對菲國防部長特奧多羅及其親屬實施制裁

頭條要聞

中方對菲國防部長特奧多羅及其親屬實施制裁

體育要聞

比起總冠軍,更大的懸念成了FMVP?

娛樂要聞

《花少8》陣容大揭秘!秒殺前一季

財經(jīng)要聞

干細胞生意:17萬一針的希望

汽車要聞

傳祺向往M8 PHEV L/E8 PHEV上市 限時落地價16.84萬起

態(tài)度原創(chuàng)

教育
健康
數(shù)碼
親子
公開課

教育要聞

400多分能上的3所公辦本科,畢業(yè)能進國企,高考生一定要清楚!

為什么不建議晚上吃粽子?

數(shù)碼要聞

雷柏C10輕音鼠標新增五鍵版本,55元

親子要聞

歷經(jīng)兩年治療,無精子癥患者家庭在滬迎健康寶寶

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版