OpenAI 的模型只花不到 5 個月,就完成了原本約需一年的晶片最佳化工作,而且對象還是 AMD 已經打磨多年的設計。
- OpenAI 與 AMD 合作,在不到 5 個月內,將 AMD 頂級 GPU IP 的 PPA 指標最高提升 14%
- 部分修改已經納入 AMD 送交量產的設計版本
- 同一套方法也用在 Jalapeño,也就是 OpenAI 首款自行設計的推論晶片
- OpenAI 正與 Synopsys 合作開發 GPT-Synopsys,用於 AI 輔助晶片設計
- Anthropic 表示,Mythos 在 AMD MI355X GPU 上只用 3 天,就完成通常需要 6 至 12 個月的工作
- 所有數據皆由各家公司自行公布
文章目錄
OpenAI 公布的 AMD GPU 成果
根據 OpenAI 的說法,在與 AMD 合作的過程中,旗下模型將 AMD 頂級 GPU IP 的 PPA 指標(耗電量、效能與晶片面積)最高提升了 14%。整個過程不到 5 個月,與一般晶片開發的步調相比,這段時間相當短。
這個數字值得留意,是因為它並非來自還很粗糙的設計。OpenAI 認為,這樣的改善幅度,相當於在 AMD 工程師多年最佳化的設計之上,再多出約 1 年的進步,也就是說,模型在原本就已精雕細琢的部分,仍找到了可以再擠出效益的空間。OpenAI 也表示,AMD 已將部分修改納入送交量產的設計版本,代表這項成果並不只停留在實驗階段。
應用於自家晶片與設計工具
同樣的方法也幫上了 Jalapeño,這是 OpenAI 首款自行設計的推論晶片。在開源 RISC-V 處理器核心的測試中,新的 GPT-6.2 Astra 模型相較前幾代模型取得最佳成績,顯示這項能力會隨著模型世代逐步提升,而不是單靠一次運氣。
OpenAI 還與 Synopsys 合作開發 GPT-Synopsys,這是一個運用 Synopsys EDA 工具的模型,目的是讓更多人能使用 AI 輔助晶片設計。由於 EDA 是幾乎所有晶片廠都必須使用的軟體,這個方向一旦成功,受惠的將不只是 OpenAI 自己。
Anthropic 也把 AI 用在硬體上
Anthropic 這邊也有一個類似的例子。該公司表示,Mythos 模型只花了 3 天,就完成某個模型在 AMD MI355X GPU 上運行所需的 prompt processing,而這項工作通常需要 6 至 12 個月。差距如此懸殊,讓人很難忽視,不過這同樣是 Anthropic 自己公布的數字。
目前 Anthropic 在 4 種不同的晶片上運行 Claude,以最佳化成本,以及每投入一美元所能換得的效能。如果把模型移植到新硬體的時間真的能從數個月縮短到幾天,同時使用多種晶片的負擔,將比過去輕得多。
這則消息最有價值的地方,不是 14% 這個數字,而是它出現在一個已由 AMD 工程師最佳化多年的 GPU 設計上,因為在這種地方,每多提升一個百分點都相當困難。「一年的進步」與「3 天取代 6 至 12 個月」這兩項數據,都是 OpenAI 與 Anthropic 自己提出的,因此建議把它們視為值得持續關注的方向,而不是已經過驗證的結論。對越南的使用者來說,短期內沒有明顯的影響,但如果晶片設計週期真的縮短,長期來看 GPU 與 AI 晶片可能會更快問世。現階段比較合理的做法,是等 AMD 採用這些已送交量產設計的產品上市、並公布具體規格後,再來評估。
Nguồn: The Decoder (AI)
審核人: Hero Association








