Voltage glitching biến card đào coin CMP-170HX thành A100 80 GB

Một kỹ thuật viên dùng voltage glitching mở khóa card đào coin NVIDIA CMP-170HX, đưa VRAM lên 80 GB và hiệu năng FP16 vượt cả A100 chính hãng.

Từ card đào coin thành GPU trung tâm dữ liệu

Giới đam mê tự dựng cụm AI cục bộ (local AI) hiện có nhiều lựa chọn thú vị hơn việc mua DGX Spark hay Apple Mac Studio. GPU trung tâm dữ liệu đã qua sử dụng bán rất nhiều và phần mềm CMPunlocker càng làm hướng đi này phổ biến hơn. Đây là bản soft-mod cho card NVIDIA CMP-170HX, giúp card vượt xa các giới hạn mặc định.

Giờ đây, một kỹ thuật viên đã đi xa hơn nữa. Kate, tác giả của bản volt-mod, dùng voltage glitching để vượt qua những giới hạn còn lại. Kết quả là một card CMP-170HX chỉ có 8 GB VRAM nhưng chạy nhanh hơn A100 80 GB chính hãng ở một số tác vụ.

Cách hoạt động của bản volt-mod

Kate xuất phát từ một bài nghiên cứu mô tả cách khai thác microcode của card GA100. Cô nhắm tới bộ điều khiển fuse trên card, thành phần thường được bảo vệ. Hầu hết CPU và GPU đều có "hộp fuse" này. Nhà sản xuất chỉ dùng nó một lần tại nhà máy để ngắt kết nối vật lý với những phần chip kiểm thử kém, từ đó bán chip dưới dạng model thấp hơn.

Lý do card 8 - 10 GB có thể lên tới 80 GB là chip GA100 vốn chứa đủ các die HBM2e. Chúng bị vô hiệu hóa ở nhà máy, giống như các shader module. Bản nhỏ hơn được ưa chuộng vì dựa trên biến thể GA100 có 80 GB HBM2e, còn card 10 GB xuất phát từ GA100 bản 40 GB.

Bộ điều khiển eFuse trên các card này khá phức tạp, gồm 16,384 bit trong mảng 512 x 32. Có thể đọc mảng này để biết cấu hình hiện tại của card. Gần như mọi phần của card đều có fuse tương ứng: các vùng VRAM, từng shader module, PCIe 4.0, NVLink và cả phần cứng video codec. Theo Kate, thiết kế này thiếu an toàn vì việc đốt fuse chỉ mở thêm tính năng chứ không làm mất đi.

Ở điều kiện bình thường, người dùng không thể ghi vào các fuse này. Kate dựng một bo mạch đơn giản dùng vi điều khiển STM32G4 giá 8 USD để can thiệp vào tín hiệu nguồn trên PCB của card. Bộ điều khiển VRM của card dùng chuẩn PWMVID của NVIDIA. Bo mạch của cô chặn các tín hiệu PWM gửi vào đó, ép VRM tạo ra các xung nhiễu điện áp trên đường cấp nguồn cho GPU, nơi đặt bộ điều khiển fuse.

Kết hợp xung nhiễu với việc đọc trạng thái fuse liên tục trong vòng lặp ngắn, cô đưa bộ điều khiển vào trạng thái cho phép ghi. Từ đó việc cấu hình lại card trở nên "dễ dàng". Cô cẩn thận vô hiệu hóa trước các shader module từng bị đánh dấu lỗi, vì đây là fuse vật lý nên không thể hoàn tác.

Kết quả thử nghiệm và giới hạn của soft-mod

Sau khi áp dụng bản mod lên nhiều card và thử với nhiều tác vụ, Kate ghi nhận chín card chạy đủ 80 GB VRAM. Một card chỉ dùng được 64 GB. Đáng chú ý, khi mở toàn bộ shader module (SM), hiệu năng FP16 FMA vượt A100 thông thường khoảng 20%. Cô cho rằng nguyên nhân là chip thường có từ 120 SM trở lên khả dụng, nhiều hơn mức 108 SM trong bảng thông số. Die GA100 vốn có 128 SM để dự phòng lỗi sản xuất, điều bình thường trong ngành chip.

Trong khi đó, CMPUnlocker vẫn cần thiết để bật các tính năng "mới" trên driver, nhưng chưa khai thác hết card. VRAM tối đa chỉ 40 - 64 GB tùy biến thể, nhiều shader module vẫn bị khóa, còn băng thông PCIe chỉ ở mức 2.0. Card cũng không hỗ trợ ECC, NVLink hay multi-instance GPU, đều là tính năng quan trọng với máy chủ và được NVIDIA dùng để phân khúc sản phẩm.

Volt-mod của Kate loại bỏ toàn bộ các giới hạn này. Card thử nghiệm tốt nhất của cô chạy ổn định ở tốc độ PCIe 4.0 với đầy đủ tính năng. Cô chưa kiểm tra phần video encoder, nhưng ít người dùng loại card này quan tâm đến mảng đó.

Giá bán và lỗ hổng bảo mật

Về chi phí, CMP-170HX 8 GB hiện có giá khoảng 3000 USD, còn bản 10 GB khoảng 2500 USD. A100 80 GB chính hãng dạng PCIe có thể lên đến 20,000 USD hoặc hơn. Các bản SXM dạng module máy chủ rẻ hơn nhưng cần hạ tầng đi kèm. Mức giá này nhiều khả năng biến động mạnh khi cộng đồng biết đến bản mod.

Kate cho biết cô công bố nghiên cứu lúc này vì có người khác độc lập phát hiện cùng lỗi. Cô đã báo cho NVIDIA về lỗ hổng, nhưng hãng khó làm gì nhiều với các card đã bán ra thị trường.

Nguồn: Tom's Hardware

Kiểm duyệt bởi: Hero Association