Inkling 2 Mini 以迴圈方式重複運算部分層數,少寫字也能推理,筆電就能跑
Inkling 2 Mini 在 100B 參數以下的開放模型中,於 agentic 程式開發測試拿下第一,採用 Apache 2.0 授權,並可在 32 GB 的 Mac 上執行。 Looped transformer 的運作方式 Thinking...
閱讀更多: Inkling 2 Mini 以迴圈方式重複運算部分層數,少寫字也能推理,筆電就能跑Inkling 2 Mini 在 100B 參數以下的開放模型中,於 agentic 程式開發測試拿下第一,採用 Apache 2.0 授權,並可在 32 GB 的 Mac 上執行。 Looped transformer 的運作方式 Thinking...
閱讀更多: Inkling 2 Mini 以迴圈方式重複運算部分層數,少寫字也能推理,筆電就能跑延遲降至 28 - 50 µs,約為 Ethernet over USB4 的四分之一,讓 RDMA over USB4 對在多台電腦上執行本機 AI 的使用者格外值得關注。 Windows 11 多了一種讓多台 PC 分攤工作的方式...
閱讀更多: Windows 11 支援 USB4 RDMA,可串接多台 PC 共同處理單一工作