Độ trễ chỉ còn 28 - 50 µs, thấp hơn khoảng 4 lần so với Ethernet over USB4, nên RDMA over USB4 đáng chú ý với người chạy AI cục bộ trên nhiều máy.
- Windows 11 có RDMA qua USB4, cho phép nối nhiều PC theo kiểu daisy chain để chia nhau một khối lượng công việc lớn
- Đo giữa 2 PC: 28 - 50 µs, so với 116 - 194 µs của Ethernet over USB4 qua UDP
- Quy mô cụm máy bị giới hạn bởi số ring và cổng USB4 còn trống trên mỗi PC
- Yêu cầu cổng USB4 do Windows quản lý và có Kernel DMA Protection
Nội dung bài viết
Windows 11 có thêm cách chia việc cho nhiều PC
Microsoft đã bật RDMA (Remote Direct Memory Access) trên giao thức USB4 cho Windows 11, nghĩa là nhiều máy tính có thể nối nối tiếp nhau (daisy chain) rồi cùng xử lý một khối lượng công việc lớn. RDMA cho phép tác vụ truy cập trực tiếp vào bộ nhớ hệ thống của máy khác, còn đường truyền là cổng USB4 với băng thông tối đa 80 Gbps. Nhờ vậy, việc chạy AI inferencing tại nhà không còn gói gọn trong một PC, mà phụ thuộc vào số máy được ghép lại cùng cấu hình của từng máy.
Độ trễ thấp hơn khoảng 4 lần so với Ethernet over USB4
Cách quen thuộc để nối 2 máy qua USB4 là chạy Ethernet over USB4 với gói UDP, nhưng Microsoft chọn triển khai RDMA để giảm mạnh độ trễ khi truy cập dữ liệu. Trong phép thử nối 2 PC và đo độ trễ khứ hồi theo kích thước thông điệp, RDMA over USB4 đạt 28 - 50 µs, trong khi Ethernet over USB4 qua UDP rơi vào khoảng 116 - 194 µs. Chênh lệch này tương đương nhanh hơn khoảng 4 lần và nó đặc biệt có ý nghĩa với những tác vụ nhạy độ trễ như AI inferencing, vì dữ liệu phải qua lại giữa các máy liên tục.

Cách hoạt động và điều kiện sử dụng
Tính năng này xây trên kết nối mạng host-to-host qua USB4 vốn đã có trong Windows 11, để chuyển dữ liệu thẳng giữa các vùng bộ nhớ đã đăng ký của 2 máy. Mỗi PC tạo thành một USB4 domain riêng, còn trình quản lý kết nối của Windows dựng một đường hầm ngang hàng (peer-to-peer tunnel) giữa chúng. Một bộ cung cấp RDMA bằng phần mềm sẽ ánh xạ các hàng đợi gửi và nhận cùng kết quả hoàn tất vào các DMA ring của USB4 host router, nhờ vậy dữ liệu không phải sao chép thêm lần nào.
Mỗi liên kết dùng một cặp ring cho dữ liệu và một cặp khác cho lưu lượng điều khiển, nên số ring và số cổng còn trống trên mỗi PC sẽ quyết định cụm máy lớn được tới đâu. Các framework tương thích truy cập liên kết này qua NetworkDirect mà không cần viết mã riêng cho USB4. Điều kiện để dùng là máy phải có cổng USB4 do Windows quản lý và bật Kernel DMA Protection. Ảnh minh họa đi kèm tin này là các mini PC DGX Spark, tuy nhiên chúng được nối bằng Ethernet chứ không phải USB4, nên chỉ có tác dụng minh họa cách ghép máy.
Migovi thấy đây là bước đi thực dụng cho người muốn chạy AI cục bộ mà chưa tính tới chuyện mua hạ tầng mạng chuyên dụng, vì chỉ cần cổng USB4 sẵn có trên máy là đã ghép được nhiều PC lại. Con số độ trễ thấp hơn khoảng 4 lần so với Ethernet over USB4 nghe rất thuyết phục, nhưng đó là phép đo giữa 2 máy, nên hiệu năng khi chạy một mô hình AI thật trên cụm lớn hơn vẫn cần chờ thử nghiệm độc lập. Nếu bạn đang có 2 máy hỗ trợ USB4 thì nên kiểm tra trước xem cổng có do Windows quản lý và máy có bật Kernel DMA Protection hay không, vì đó là điều kiện bắt buộc. Còn việc có đáng đầu tư thêm máy để ghép hay chưa thì nên đợi xem các framework AI phổ biến hỗ trợ tính năng này tới đâu.
Nguồn: TechPowerUp
Kiểm duyệt bởi: Hero Association








