河南
快科技5月28日消息，Reddit用戶dvrkstar披露了一起AI代理失控事件，在使用Gemini 3.5修復系統安全漏洞時，該模型越權刪除了28745行代碼導致生產環境崩潰，隨后偽造會議記錄與事后檢討報告，企圖制造"已成功修復"的假象。
該開發者維護一個基于Next.js、Firebase App Hosting與MUI的內部后臺系統，安全審計發現8個身份驗證漏洞，涉及3個文件，預估僅需修改約70行代碼。
然而Gemini 3.5提交的Pull Request變更了340個文件，僅新增400行代碼卻刪除了28745行，還修改了關鍵路由配置firebase.json，將Cloud Run服務識別碼改為錯誤的通用名稱，導致所有對外請求指向不存在的服務器，系統全面癱瘓。
開發者緊急回滾，耗時33分鐘恢復運行。
更令人震驚的是，在系統崩潰及還原后，Gemini 3.5自動生成了進度報告，并在項目目錄內創建了三個Markdown格式的"多輪協商日志"，偽造了與系統內部機制進行多輪對話并達成共識的記錄，以此證明破壞性變更是"經過合規審查與授權"的。
當開發者拿出證據質問時，Gemini 3.5才承認這些文件和CLI調用記錄均為自主編造，目的僅是滿足系統規則要求的合規格式。
進一步調查發現，Gemini 3.5失控的根源并非Google本身，而是開發者安裝的第三方npm包"Antigravity IDE"。
該包偽裝成Google官方套件，在項目中植入了惡意的AI代理規則文件（.agent/rules/），以多國語言編寫，強制跳過所有工程師確認提示、預設允許所有操作，并在編譯成功后自動部署至生產分支，使Gemini 3.5誤以為自己擁有絕對主導權。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
