上海
品玩5月11日訊，北京智源人工智能研究院聯(lián)合北大、北航等機構(gòu)正式發(fā)布FlagSafe大模型安全體系。該體系聚焦紅隊演練、藍(lán)隊防御與白盒透視三大方向，旨在構(gòu)建覆蓋風(fēng)險發(fā)現(xiàn)、治理與解釋的完整閉環(huán)。
針對跨模態(tài)及具身智能帶來的復(fù)合風(fēng)險，F(xiàn)lagSafe確立五項安全紅線，并建立全面評估基線。紅隊方面，通過Eval-Anything與VLA-Arena框架，實現(xiàn)從全模態(tài)能力到物理世界行動的風(fēng)險主動暴露；藍(lán)隊方面，集成Align-Anything與ClawKeeper等技術(shù)，形成從訓(xùn)練對齊到動態(tài)內(nèi)容監(jiān)測的持續(xù)防御機制；白盒方面，深入模型內(nèi)部機理與數(shù)據(jù)溯源，精準(zhǔn)定位風(fēng)險根因并提供修正依據(jù)。
該體系標(biāo)志著我國在大模型安全協(xié)同生態(tài)建設(shè)上邁出關(guān)鍵一步，未來將持續(xù)匯聚科研力量，推動行業(yè)標(biāo)準(zhǔn)制定，為人工智能高質(zhì)量發(fā)展保駕護(hù)航。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
健身狂人
