AI 代理人

字節跳動主張:訓練 AI agent 其實只需要三個階段

隨著 AI agent 的訓練流程越疊越複雜,字節跳動想證明:只要減少步驟,同樣能做出具備競爭力的開放模型。 為什麼 agent 的訓練流程越來越亂 如今外界期待 AI agent 能自行在網路上搜尋資訊、自行執行程式碼,並處理包含多個連續步驟的任務。為了達到這個水準,不少開發者把大量訓練階段串在一起,每個階段又建立在前一階段的成果之上。這種做法讓訓練流程層層巢狀、日益複雜,複雜到外人幾乎無從想像它是如何運作的。 一篇新的研究論文從兩個方面指出了這種做法的後果。第一,當各階段緊密相連,最終結果是所有階段的累積,因此幾乎無法分辨哪個步驟真正有貢獻,哪個只是讓流程變得更長。第二,重現他人的成果也更昂貴,因為任何想驗證的人,都得把整條流程重新建置一遍。 字節跳動走的精簡路線 這組作者來自 TikTok 的母公司字節跳動,以及數所美國大學,他們選擇以與「不斷加步驟」相反的方式切入問題。他們認為,只要 3 個步驟,就足以訓練出表現亮眼的 AI agent。這樣的論點若沒有任何佐證,很容易被當成空談,因此團隊拿出了一個具備競爭力的開放模型作為證據。...

閱讀更多: 字節跳動主張:訓練 AI agent 其實只需要三個階段

觀點