OpenAI dùng mô hình AI tối ưu thiết kế GPU của AMD, cải thiện đến 14%

XTelegram
Logo OpenAI và AMD cạnh con chip GPU được tối ưu thiết kế bằng AI

Mô hình của OpenAI làm trong chưa đầy 5 tháng phần việc tối ưu chip vốn mất cỡ một năm, ngay trên cả những thiết kế AMD đã trau chuốt nhiều năm.

⚡ MIGOVI TL;DR

  • OpenAI phối hợp AMD, cải thiện tới 14% chỉ số PPA trên IP GPU đầu bảng của AMD trong chưa đầy 5 tháng
  • Một phần thay đổi đã nằm trong bản thiết kế AMD gửi đi sản xuất
  • Cùng phương pháp được dùng cho Jalapeño, chip suy luận tự thiết kế đầu tiên của OpenAI
  • OpenAI đang làm GPT-Synopsys cùng Synopsys cho thiết kế chip có AI hỗ trợ
  • Anthropic nói Mythos xử lý trong 3 ngày việc thường mất 6 đến 12 tháng trên GPU AMD MI355X
  • Mọi số liệu đều do chính các hãng nêu ra

Kết quả OpenAI công bố trên GPU của AMD

Theo OpenAI, khi làm việc cùng AMD, các mô hình của hãng đã cải thiện được tới 14% chỉ số PPA (điện năng tiêu thụ, hiệu năng và diện tích chip) trên IP GPU đầu bảng của AMD. Toàn bộ quá trình này diễn ra trong chưa đầy 5 tháng - khoảng thời gian khá ngắn so với nhịp làm chip thông thường.

Điều khiến con số này đáng chú ý là nó không đến từ 1 thiết kế còn thô. OpenAI cho rằng mức cải thiện đó tương đương khoảng 1 năm tiến bộ cộng thêm lên các bản thiết kế mà kỹ sư AMD đã tối ưu suốt nhiều năm, nghĩa là các mô hình đã tìm được thêm chỗ để vắt ở những phần vốn đã được làm kỹ. OpenAI cũng cho biết AMD đã đưa một phần thay đổi vào bản thiết kế gửi đi sản xuất, tức là kết quả này không chỉ dừng ở thử nghiệm.

Áp dụng cho chip riêng và công cụ thiết kế

Cùng phương pháp đó cũng giúp ích cho Jalapeño, con chip suy luận tự thiết kế đầu tiên của OpenAI. Trong các bài thử với lõi xử lý RISC-V mã nguồn mở, mô hình GPT-6.2 Astra mới cho kết quả tốt nhất so với các thế hệ mô hình trước, cho thấy khả năng làm việc này tăng dần theo từng đời mô hình chứ không phải chỉ do một lần gặp may.

OpenAI còn hợp tác với Synopsys để phát triển GPT-Synopsys, một mô hình dùng các công cụ EDA của Synopsys nhằm đưa việc thiết kế chip có AI hỗ trợ đến nhiều người dùng hơn. Vì EDA là phần mềm mà gần như mọi hãng chip đều phải dùng, hướng đi này nếu thành công sẽ không chỉ phục vụ riêng OpenAI.

Anthropic cũng dùng AI cho phần cứng

Phía Anthropic có một ví dụ cùng chiều. Hãng cho biết mô hình Mythos đã xử lý phần prompt processing cho một mô hình chạy trên GPU AMD MI355X chỉ trong 3 ngày, trong khi công việc này thường mất từ 6 đến 12 tháng. Khoảng chênh lệch lớn như vậy khiến người ta khó bỏ qua, dù đây là con số do chính Anthropic nêu ra.

Hiện Anthropic chạy Claude trên 4 dòng chip khác nhau để tối ưu chi phí và hiệu năng trên mỗi đô la bỏ ra. Nếu việc đưa một mô hình sang phần cứng mới thật sự rút từ nhiều tháng xuống còn vài ngày, việc dùng nhiều loại chip cùng lúc sẽ bớt nặng nề hơn nhiều so với trước.

GÓC NHÌN MIGOVI

Điểm đáng giá nhất trong câu chuyện này không phải là con số 14% mà là việc nó đạt được trên một thiết kế GPU đã được kỹ sư AMD tối ưu nhiều năm, vì ở chỗ đó mỗi phần trăm cải thiện đều khó kiếm. Số liệu về "một năm tiến bộ" và "3 ngày thay cho 6 đến 12 tháng" đều do chính OpenAI và Anthropic nêu ra, nên bạn nên xem đó là hướng đi đáng theo dõi hơn là kết luận đã được kiểm chứng. Với người dùng ở Việt Nam, tác động trước mắt chưa có gì rõ ràng, nhưng nếu chu kỳ thiết kế chip thật sự ngắn lại thì về lâu dài GPU và chip AI có thể ra nhanh hơn. Cách hợp lý lúc này là chờ xem sản phẩm AMD có dùng thiết kế đã gửi đi sản xuất ra thị trường kèm thông số cụ thể hay không rồi hãy đánh giá.

Nguồn: The Decoder (AI)

Kiểm duyệt bởi: Hero Association

Chia sẻ cảm nhận nhé ^^

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *

Góc nhìn

Mục lục

  1. Kết quả OpenAI công bố trên GPU của AMD
  2. Áp dụng cho chip riêng và công cụ thiết kế
  3. Anthropic cũng dùng AI cho phần cứng