Agentic AI thúc đẩy các trung tâm dữ liệu chuyển từ mô hình máy chủ truyền thống sang kiến trúc 3 lớp chuyên biệt với vai trò điều phối chủ đạo từ CPU.

AMD EPYC 9006 Series "Venice" ra đời nhằm giải quyết các vấn đề về băng thông bộ nhớ và năng lực tính toán nhờ kiến trúc Zen 6 (tối đa 256 nhân), kết nối PCIe Gen 6 cùng bộ nhớ MRDIMM tốc độ 12,800 MT/s. Các thử nghiệm thực tế cho thấy Venice giúp doanh nghiệp cắt giảm tới 92% số lượng máy chủ vật lý, tiết kiệm 77% năng lượng tiêu thụ và hạ 40% tổng chi phí sở hữu (TCO) trong 5 năm.

Từ Chatbot sang Agentic AI

Trong khoảng thời gian từ năm 2022 tới 2025, các data center (trung tâm dữ liệu) hầu như chỉ tập trung xây dựng hệ thống phục vụ cho mô hình Chatbot (trò chuyện tự động) với cơ chế hỏi - đáp đơn giản. Lúc đó, CPU chỉ làm nhiệm vụ tiếp nhận yêu cầu ban đầu rồi chuyển hết công việc tính toán suy luận cho GPU đảm nhận, tạo ra tỷ lệ phân bổ tài nguyên quen thuộc là 1 CPU đi kèm 4 GPU. Tuy nhiên, sự xuất hiện của Agentic AI đã làm thay đổi toàn bộ. Hệ thống hiện nay không còn thụ động trả lời câu hỏi mà đã biết tự lập kế hoạch, truy vấn dữ liệu doanh nghiệp, tự viết mã nguồn và thực thi các tác vụ phức tạp. Việc này dẫn tới tải xử lý trên CPU tăng vọt, đẩy tỷ lệ phân bổ tài nguyên giữa CPU và GPU tiến gần tới mức 1:1, thậm chí còn cao hơn ở những hệ thống chuyên dụng.

Tải công việc của Agentic AI phụ thuộc rất lớn vào năng lực xử lý của CPU, lý do là các đoạn mã do máy tính tự tạo ra thường có rất nhiều nhánh rẽ logic và dễ rơi vào tình trạng đình trệ. GPU mạnh về tính toán song song các mảng dữ liệu lớn, tuy nhiên không tối ưu cho việc điều khiển các luồng dữ liệu rẽ nhánh. Lúc này, CPU làm nhiệm vụ quản lý bộ nhớ, duy trì trạng thái hệ thống và giữ cho luồng dữ liệu truyền tới các bộ tăng tốc không bị nghẽn. Nếu không có hệ thống CPU đủ mạnh, các cụm GPU đắt tiền cũng phải nằm chờ dữ liệu trong trạng thái lãng phí.

Để xử lý tốt các tác vụ chuyên biệt nói trên, hạ tầng data center hiện đại buộc phải phân chia thành 3 lớp, trong đó mỗi lớp lại tạo ra nhu cầu xử lý CPU riêng biệt. Lớp máy chủ đa dụng - General-Purpose Server - chịu trách nhiệm chạy các ứng dụng doanh nghiệp thiết yếu như cơ sở dữ liệu SQL, CRM hay hệ thống lưu trữ đệm Redis. Lớp node chủ AI - AI Host Node - là cầu nối kết hợp giữa CPU và GPU để nạp dữ liệu liên tục qua kết nối PCIe, đồng thời quản lý bộ nhớ đệm KV Cache. Cuối cùng, lớp thực thi môi trường cách ly cho Agent - Agent Sandbox Execution - xài các CPU có mật độ nhân cực cao để khởi tạo và chạy hàng ngàn tác vụ tự động cùng lúc trong môi trường ảo hóa an toàn, không làm ảnh hưởng tới toàn bộ hệ thống.

Quy trình 8 bước vận hành của Agentic AI

Luồng vận hành (pipeline) của 1 Agent được quy hoạch bài bản qua 8 công đoạn tính toán từ lúc nhận tín hiệu cho đến khi xuất kết quả. Bắt đầu tại cổng giao tiếp (Gateway), hệ thống phải xử lý xác thực người dùng (Auth), giới hạn tốc độ (Rate Limit) và mã hóa kết nối TLS và định tuyến API, do đó mảng mạng (networking stack) của vi xử lý phải tối ưu để chịu tải đa luồng với độ trễ thấp nhất. Ngay sau đó, bước thu thập ngữ cảnh (Assemble Context) sẽ tiến hành phân tách từ khóa (Tokenization) và xây dựng cửa sổ ngữ cảnh (Context window). Công đoạn này cần hiệu năng xử lý cực cao trên từng nhân (per-core performance) kết hợp với tập lệnh SIMD/AVX-512 để tăng tốc xử lý văn bản trước khi đẩy qua các khâu tiếp theo.

Ở các bước tiếp theo, bộ não của Agent bắt đầu phân rã mục tiêu và lập kế hoạch định tuyến cho dữ liệu (Plan & Route). Khâu này tạo ra áp lực rất lớn lên mức xung hoạt động của CPU và băng thông bộ nhớ RAM nhằm giảm độ trễ trong quá trình lập luận. Khi cần tìm kiếm thêm thông tin bên ngoài, Agent sẽ chuyển sang bước truy xuất ngữ cảnh bằng các thuật toán RAG (Retrieval-Augmented Generation) và cơ sở dữ liệu vector như FAISS (Facebook AI Similarity Search). Việc quét qua hàng triệu mảng dữ liệu vector tiêu tốn lượng băng thông DRAM rất lớn, khiến tập lệnh AVX-512 trở thành công cụ quan trọng để duy trì số lượng truy vấn xử lý trên mỗi giây (QPS - Queries Per Second) ở mức cao.

Đối với khâu suy luận tính toán nặng (Reasoning), công việc sẽ được bàn giao cho các cụm GPU lớn chạy quá trình điền trước ngữ cảnh (Prefill) và giải mã từ khóa (Decode) từ những mô hình ngôn ngữ lớn (Frontier LLM). Tại đây, CPU trong vai trò Host Node phải duy trì kết nối PCIe Gen 6 băng thông cao để liên tục nạp dữ liệu và điều phối bộ nhớ đệm KV Cache. Sau khi có kết quả suy luận, Agent tiến hành chạy các công cụ doanh nghiệp (Enterprise & Ephemeral Tool) hoặc mở môi trường cách ly (Sandbox) để thực thi các đoạn mã tự sinh. Nhóm tác vụ này yêu cầu CPU phải có mật độ luồng (Thread density) cao và hiệu suất tiêu thụ điện tốt để xử lý hàng ngàn tác vụ ngắn hạn cùng lúc.

Sau bước tính toán, kết quả thu được sẽ chuyển đến khâu xác thực (Verification) nhằm kiểm tra độ chính xác thông qua các mô hình đánh giá (Critic model) và logic thử lại (Retry logic). Khâu này ưu tiên hiệu năng đơn luồng cao cùng tập lệnh AVX-512 để đưa ra quyết định xác minh trong thời gian ngắn nhất. Cuối cùng, tại bước phản hồi dòng (Stream Response), kết quả sẽ được giải mã từ khóa (Detokenize), ghi nhật ký phiên làm việc (Session log) và truyền phát liên tục về phía người dùng cuối (Stream) với băng thông xuất mạng được duy trì ổn định.

AMD EPYC 9006 Series

Để đáp ứng những yêu cầu của quy trình 8 bước, thế hệ vi xử lý AMD EPYC thứ 6 với tên mã "Venice" mang lại nhiều cải tiến kỹ thuật. Dòng chip EPYC 9006 được sản xuất dựa trên kiến trúc nhân Zen 6, hỗ trợ tới 96 nhân (192 luồng) và biến thể Zen 6c đạt tối đa 256 nhân (512 luồng) trên mỗi CPU. Tất cả các nhân đều được trang bị tập lệnh AVX-512 giúp tăng tốc các phép tính vector. Bên cạnh bộ nhớ đệm L3  tiêu chuẩn 1024 MB, các phiên bản tích hợp công nghệ xếp chồng AMD 3D V-Cache còn nâng dung lượng bộ nhớ đệm L3 lên tới 1152 MB, giúp lưu giữ dữ liệu ngay sát nhân xử lý, giảm đáng kể độ trễ truy xuất.

Về hạ tầng giao tiếp và bộ nhớ, AMD EPYC 9006 Series hỗ trợ linh hoạt 16 kênh bộ nhớ MRDIMM với tốc độ 12,800 MT/s, cung cấp băng thông lý thuyết lên tới 1.6 TB/s. Ngoài ra, CPU còn hỗ trợ chuẩn DDR5 8000 MT/s và chuẩn LPDDR5X 24 kênh thông qua module SOCAMM2 tiết kiệm điện. Hệ thống trang bị chuẩn kết nối PCIe Gen 6 với tốc độ 64 Gbps trên mỗi làn, cho phép máy chủ cấu hình 2 socket (2P) mở rộng tới 160 làn PCIe Gen 6 để giao tiếp trực tiếp với GPU và ổ cứng NVMe. Nhờ chuẩn bộ nhớ dùng chung CXL 3.1 và liên kết xGMI đạt 112 Gbps, đường truyền dữ liệu giữa các linh kiện luôn giữ được trạng thái tốt nhất.

Quản lý điện năng và bảo mật phần cứng

Đối với bài toán tiêu thụ điện năng trong các data center bị giới hạn công suất tủ Rack, AMD đã thay thế chỉ số TDP truyền thống bằng khái niệm Default CPU Power. Trong khi TDP cũ chỉ cho biết mức tỏa nhiệt lý thuyết của phần nhân tính toán, Default CPU Power cung cấp cái nhìn đúng về tổng công suất tiêu thụ của cả Compute Die lẫn I/O Die ở mức từ 400W tới 600W. Nền tảng mới trang bị tính năng UPP để cấp nguồn hợp nhất (UPP - Unified Power Provisioning) cho cả CPU và RAM, tính năng UBPS (Utilization Based Power Scaling) giúp tự động co giãn công suất theo tải thực tế, cùng công nghệ FAST (Frequency Adaptive Spectrum Technology) cho phép phân chia vi xử lý thành 2 vùng hoạt động riêng biệt trên cùng 1 SoC. Nhờ vậy, hệ thống luôn ưu tiên cấp điện và xung nhịp cho các tác vụ nhạy cảm với độ trễ ngay cả khi toàn bộ tủ Rack đang bị giới hạn công suất.

Mặt khác, tính toàn vẹn dữ liệu của các Agent chạy trong môi trường ảo hóa được bảo vệ nghiêm ngặt thông qua nhiều lớp phần cứng. Chip tích hợp tính năng xác thực nguồn gốc thiết bị (Device Provenance), bảo mật phần cứng gốc (Hardware Root of Trust) hỗ trợ khóa RSA 4K và các thuật toán mã hóa kháng lượng tử (PQC - Post-Quantum Cryptography), đạt chứng nhận FIPS 140-3 Level 1. Đặc biệt, công nghệ ảo hóa mã hóa an toàn AMD SEV (Secure Encrypted Virtualization) cho phép mã hóa bộ nhớ toàn diện (Secure Memory Encryption và Encrypted State), chống can thiệp từ phần mềm giám sát ảo hóa (Secure Nested Paging) và bảo vệ đường truyền I/O (Trusted I/O) trực tiếp giữa máy ảo với các thiết bị ngoại vi như GPU hay card mạng (NIC).

Chi phí sở hữu cho doanh nghiệp

Xét về mặt hiệu năng tổng thể, vi xử lý AMD EPYC 9996 đạt điểm số SPECrate2017_int_base cao gấp 2.2 lần so với các đối thủ cạnh tranh trên thị trường, đồng thời cung cấp mật độ xử lý Agent trên mỗi Watt điện gấp 2.8 lần. Trong các ứng dụng thực tế như cơ sở dữ liệu MongoDB hay máy chủ NGINX, EPYC 9006 Series cho tốc độ xử lý cao hơn từ 2.9 đến 3.7 lần. Nhờ mật độ 256 nhân trên mỗi socket, doanh nghiệp có thể gom 1000 máy chủ thế hệ cũ về chỉ còn 82 máy chủ mới, tương ứng tỷ lệ hợp nhất xấp xỉ 12:1. Điều này giúp giảm tới 92% số lượng máy chủ vật lý, cắt giảm 77% lượng điện tiêu thụ và hạ 40% tổng chi phí sở hữu (TCO) cho trung tâm dữ liệu trong chu kỳ 5 năm.