北京
你的AI代理正在跑一個(gè)十二步的活兒，已經(jīng)搜了網(wǎng)頁(yè)、寫(xiě)了三個(gè)文件、還調(diào)出子代理幫忙——跑到第九步時(shí)，進(jìn)程突然死了?？赡苁遣渴鹬貑ⅲ赡苁莾?nèi)存超限被系統(tǒng)殺掉，也可能是模型接口甩過(guò)來(lái)一個(gè)瞬時(shí)的500錯(cuò)誤。原因不重要，結(jié)果都一樣：這次執(zhí)行的所有狀態(tài)只鎖在進(jìn)程內(nèi)存里，進(jìn)程一蒸發(fā)，什么都沒(méi)留下。
把代理的狀態(tài)從內(nèi)存里請(qǐng)出來(lái)，存進(jìn)一條只追加、不刪除的事件歷史里。這就是Temporal持久化執(zhí)行給出的方案。Temporal管的是“工作流”——每一步動(dòng)作都會(huì)即時(shí)固化到事件記錄；哪怕跑在它上面的工作進(jìn)程徹底掛掉，靠著回放那段歷史，函數(shù)就能從斷點(diǎn)原樣接上。不用寫(xiě)檢查點(diǎn)，不用補(bǔ)“從第N步恢復(fù)”的邏輯，它自動(dòng)續(xù)跑。
能讓這件事成立的，是工作流與活動(dòng)兩個(gè)角色的拆分。工作流代碼必須保持確定性，它是編排的主干，每次重放要走一模一樣的路徑。所有帶不確定性或副作用的操作——比方說(shuō)調(diào)OpenAI的接口、讀寫(xiě)文件、執(zhí)行工具——統(tǒng)統(tǒng)封進(jìn)“活動(dòng)”里?；顒?dòng)失敗會(huì)自動(dòng)重試，并且一旦成功，結(jié)果就被歷史記死，永不重復(fù)執(zhí)行。崩潰后，新起的進(jìn)程重放到最后一條事件記錄，然后就從那里繼續(xù)。先前生成的任務(wù)計(jì)劃、寫(xiě)好的文件、子代理傳回的結(jié)果，全都好端端擺著，只有卡在半空的那一步會(huì)重試。
一個(gè)完整的研究代理，幾乎感知不到“崩潰恢復(fù)”這回事。我把這套模式收進(jìn)了一個(gè)叫durable-agents的小型開(kāi)源庫(kù)里，但里面的思路遠(yuǎn)比代碼重要——你完全可以裸用Temporal來(lái)實(shí)現(xiàn)。當(dāng)你的代理開(kāi)始干貨真價(jià)實(shí)的工作時(shí)，把持久化這塊“水管”接好，后面能省下無(wú)數(shù)拍桌子的心痛。
把代理當(dāng)成一個(gè)可持久的工作流，而不是飄在內(nèi)存里的對(duì)象。那么無(wú)論崩潰、重啟還是基礎(chǔ)設(shè)施掉鏈子，它都能像什么都沒(méi)發(fā)生一樣，從斷點(diǎn)處安安靜靜地繼續(xù)。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
