上海
谷歌披露一起大規(guī)模模型提取攻擊事件。根據(jù)其最新發(fā)布的威脅情報(bào)報(bào)告，有攻擊者對(duì)AI聊天機(jī)器人Gemini發(fā)起超過10萬次提示請(qǐng)求，試圖復(fù)制該模型的推理能力。這一行為被谷歌識(shí)別為“蒸餾攻擊”（distillation attack），即通過大量查詢分析模型響應(yīng)，進(jìn)而訓(xùn)練出功能相似的競(jìng)爭(zhēng)性系統(tǒng)。
此次攻擊的主要目標(biāo)是獲取Gemini的內(nèi)部推理機(jī)制。盡管Gemini通常不會(huì)公開其完整的“思維鏈”過程，但攻擊者試圖誘導(dǎo)其暴露更詳細(xì)的決策邏輯。谷歌指出，如此高頻率的提問表明攻擊意圖不僅限于單一任務(wù)模仿，還包括跨任務(wù)及多語言環(huán)境下的推理能力復(fù)制。
谷歌表示已實(shí)時(shí)檢測(cè)到相關(guān)異常行為，隨即封鎖了涉事賬戶，并加強(qiáng)了防護(hù)措施以防止模型內(nèi)部信息泄露。公司強(qiáng)調(diào)此類行為違反服務(wù)條款，構(gòu)成知識(shí)產(chǎn)權(quán)侵犯，即使攻擊者使用的是合法API接口而非非法入侵手段。
報(bào)告還提到，多數(shù)類似嘗試來自尋求技術(shù)優(yōu)勢(shì)的私營企業(yè)與研究機(jī)構(gòu)。谷歌威脅情報(bào)部門首席分析師John Hultquist警告，隨著越來越多企業(yè)部署基于敏感數(shù)據(jù)定制的AI系統(tǒng)，此類克隆攻擊可能在行業(yè)內(nèi)日益增多。此外，Gemini還曾被用于輔助釣魚攻擊和動(dòng)態(tài)生成惡意軟件代碼等濫用場(chǎng)景，相關(guān)賬號(hào)均已被處置。
信息來源：Google Threat Intelligence Group報(bào)告，由Android Authority于2025年2月11日?qǐng)?bào)道。
參考鏈接:
https://www.androidauthority.com/google-gemini-clone-attempts-3640480
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
