字節跳動主張:訓練 AI agent 其實只需要三個階段

Logo ByteDance bên cạnh sơ đồ 3 bước huấn luyện AI agent

隨著 AI agent 的訓練流程越疊越複雜,字節跳動想證明:只要減少步驟,同樣能做出具備競爭力的開放模型。

⚡ MIGOVI TL;DR

  • 字節跳動與多所美國大學認為,訓練 AI agent 只需要 3 個步驟,而不是一連串層層疊加的階段
  • 研究團隊指出的問題:流程越是環環相扣,就越難判斷哪個步驟真正有用,重現成本也越來越高
  • 佐證是一個具備競爭力的開放模型
  • 三個步驟的具體內容與模型的實測成績,仍有待獨立驗證

為什麼 agent 的訓練流程越來越亂

如今外界期待 AI agent 能自行在網路上搜尋資訊、自行執行程式碼,並處理包含多個連續步驟的任務。為了達到這個水準,不少開發者把大量訓練階段串在一起,每個階段又建立在前一階段的成果之上。這種做法讓訓練流程層層巢狀、日益複雜,複雜到外人幾乎無從想像它是如何運作的。

一篇新的研究論文從兩個方面指出了這種做法的後果。第一,當各階段緊密相連,最終結果是所有階段的累積,因此幾乎無法分辨哪個步驟真正有貢獻,哪個只是讓流程變得更長。第二,重現他人的成果也更昂貴,因為任何想驗證的人,都得把整條流程重新建置一遍。

字節跳動走的精簡路線

這組作者來自 TikTok 的母公司字節跳動,以及數所美國大學,他們選擇以與「不斷加步驟」相反的方式切入問題。他們認為,只要 3 個步驟,就足以訓練出表現亮眼的 AI agent。這樣的論點若沒有任何佐證,很容易被當成空談,因此團隊拿出了一個具備競爭力的開放模型作為證據。

模型開放這件事,對團隊自身的論點也有特別的意義。如果流程真的夠精簡,其他研究團隊就有機會自行重建並自行測量,而不必只憑發表者的一面之詞。對於一個以重現成本為主要隱憂的領域來說,這是一篇論文能採取的最直接的說服方式。

仍需進一步觀察的地方

不過,這 3 個步驟究竟是什麼,以及模型與競爭對手相比表現如何,這些細節都需要閱讀完整論文後才能下結論。一個模型在某些測試中具備競爭力,不見得代表它能勝任 agent 在現實中要面對的各種任務。因此,接下來值得關注的是,獨立團隊能否以更低的成本重現這項成果。

MIGOVI 觀點

Migovi 認為字節跳動這個方向值得注意,因為它切中了 agent 領域的痛點:當訓練流程亂到沒有人能指出哪個步驟有用時,進步很容易淪為比誰的資金更多、階段更多。如果 3 個步驟真的足夠,小型團隊,包括那些沒有龐大基礎設施的地方,才有機會加入這場競賽並互相檢驗。不過,這目前仍只是作者團隊自己的論述,因此越南的使用者不必急著期待馬上就會有更好或更便宜的 agent。比較合理的做法,是先看獨立團隊能否自行重建並得到相近的結果,因為那才是檢驗這項主張的真正標準。

來源:The Decoder (AI)

審核人: Hero Association

分享您的想法 ^^

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

觀點

目錄

  1. 為什麼 agent 的訓練流程越來越亂
  2. 字節跳動走的精簡路線
  3. 仍需進一步觀察的地方