NVIDIA công bố kiến trúc Rubin GPU: HBM4 22 TB/s thay đổi AI tác nhân ra sao?

NVIDIA ngày 21/07/2026 công bố bài phân tích kỹ thuật chi tiết về kiến trúc Rubin GPU, thành phần trung tâm của nền tảng Vera Rubin dành cho các hệ thống AI tác nhân. Hãng định vị Rubin không chỉ là một bước tăng sức mạnh tính toán, mà là thiết kế đồng bộ từ GPU, bộ nhớ HBM4 và NVLink đến điện năng, làm mát và kiến trúc rack.

Điểm cần đọc thận trọng là phần lớn thông số hiệu năng hiện đến từ NVIDIA. Chẳng hạn, tuyên bố “tăng tới 10 lần thông lượng tác nhân trên mỗi đơn vị năng lượng so với Blackwell” được đo trên workload MoE 2 nghìn tỷ tham số nội bộ. Đây là dữ liệu sơ cấp quan trọng để hiểu định hướng sản phẩm, nhưng chưa phải benchmark độc lập trong môi trường triển khai của khách hàng.

Vì sao NVIDIA thiết kế Rubin riêng cho AI tác nhân?

Theo NVIDIA Technical Blog, workload tác nhân khác một lượt hỏi–đáp ngắn ở chỗ mô hình phải suy luận qua nhiều bước, gọi công cụ, truy xuất dữ liệu, kiểm tra kết quả trung gian và duy trì ngữ cảnh dài. Quá trình đó tạo áp lực đồng thời lên tốc độ giải mã, độ trễ ở từng bước, dung lượng KV cache, băng thông bộ nhớ và khả năng giao tiếp giữa nhiều GPU.

Vì vậy, NVIDIA không chỉ tối ưu số phép tính cực đại. Mục tiêu của Rubin là giữ các đơn vị tính toán bận rộn trong suốt chuỗi suy luận, hạn chế thời gian chờ dữ liệu, giảm khoảng trống giữa các kernel và duy trì thông lượng khi mô hình được trải trên một miền GPU lớn. Cách tiếp cận này phản ánh sự dịch chuyển từ “GPU nhanh hơn” sang “toàn bộ nhà máy AI tạo ra nhiều công việc hữu ích hơn trong cùng giới hạn điện”.

Bên trong Rubin GPU có những gì?

NVIDIA công bố Rubin GPU có 336 tỷ transistor, 224 streaming multiprocessor và 896 Tensor Core. Hai compute die được kết nối trong một package bằng NVIDIA High-Bandwidth Interface. Transformer Engine thế hệ thứ ba hỗ trợ nhiều định dạng số và được hãng công bố đạt tới 50 petaflops NVFP4 cho suy luận.

Khối tính toán được tổ chức thành các Graphics Processor Cluster, phối hợp với bộ nhớ đệm L2 tập trung, GigaThread Engine, MIG Control và bộ giải mã NV-DEC. Mục tiêu là duy trì mức sử dụng GPU khi workload liên tục chuyển giữa suy luận, sinh token, truy xuất và gọi công cụ, thay vì chỉ tối ưu một loại kernel cố định.

Rubin cũng tăng thông lượng Tensor Core trên mỗi nhịp bằng cách xử lý kích thước K lớn gấp đôi trong phép nhân ma trận. Trong ví dụ của NVIDIA, một GEMM cần bốn vòng lặp K trên Blackwell có thể hoàn tất với hai vòng trên Rubin. Lợi ích kỳ vọng là giảm overhead vòng lặp và nâng hiệu suất ở quy mô tensor parallel lớn; mức cải thiện thực tế vẫn phụ thuộc cấu hình mô hình và phần mềm.

HBM4 và băng thông 22 TB/s giải quyết nút thắt nào?

Mỗi Rubin GPU được NVIDIA công bố hỗ trợ tới 288 GB HBM4 và băng thông cực đại 22 TB/s. So với mức 8 TB/s được biểu đồ của hãng dùng cho Blackwell và Blackwell Ultra, đây là mức tăng khoảng 2,8 lần. Dung lượng lớn giúp giữ mô hình, ngữ cảnh dài và KV cache gần GPU hơn; băng thông cao giúp giai đoạn sinh token liên tục nạp trọng số và trạng thái mà không để Tensor Core chờ quá lâu.

Rubin kết hợp bộ nhớ này với Tensor Memory Accelerator cải tiến. Với mô hình Mixture of Experts, descriptor có thể được chia sẻ giữa nhiều expert và cập nhật trường địa chỉ hoặc stride ngay trong lệnh, thay vì duy trì một descriptor riêng cho từng expert. NVIDIA cho rằng cách làm này giảm overhead quản lý metadata và di chuyển trọng số khi số lượng expert tăng.

Ở cấp kết nối, NVLink 6 được công bố cung cấp 3.600 GB/s băng thông scale-up tới NVLink Switch; NVLink-C2C đạt 1.800 GB/s cho giao tiếp CPU–GPU đồng bộ; PCIe Gen 6 x16 đạt tới 256 GB/s phía host. Những con số này mô tả trần kỹ thuật của nền tảng, không đồng nghĩa mọi ứng dụng đều sử dụng được toàn bộ băng thông.

Rubin tối ưu long-context và giao tiếp nhiều GPU ra sao?

Với attention dài, NVIDIA kết hợp activation sparsity 2:4, nén thích ứng và thông lượng softmax cao hơn. Dữ liệu attention trung gian có thể được chuyển sang dạng sparse kèm metadata, giúp giảm lượng dữ liệu phải ghi, lưu và xử lý trong softmax cùng phép nhân tiếp theo. Hãng công bố thông lượng hàm mũ trên Rubin tăng gấp đôi với FP32 và gấp bốn với BF16/FP16 so với mốc Blackwell.

Một thay đổi khác là cơ chế điều phối kernel phụ thuộc ở cấp tile. Consumer kernel có thể bắt đầu sớm hơn khi phần dữ liệu cần thiết đã sẵn sàng, thay vì đợi một nhóm producer lớn hoàn tất. NVIDIA cũng bổ sung counted writes cho giao tiếp NVLink do thiết bị khởi tạo, nhằm giảm các bước đồng bộ và giữ dữ liệu di chuyển giữa GPU với độ trễ thấp hơn.

Đây là các cải tiến phù hợp với workload tác nhân vì mỗi token có thể đi qua nhiều giai đoạn phụ thuộc nối tiếp. Tuy nhiên, tác động tới chi phí trên mỗi tác vụ sẽ còn phụ thuộc trình biên dịch, thư viện, cách chia mô hình và khả năng khai thác tính năng mới của phần mềm.

Từ GPU đến Vera Rubin NVL72: điện năng trở thành bài toán hệ thống

Ở cấp rack, Vera Rubin NVL72 kết hợp tính toán, mạng, làm mát chất lỏng 45°C, power steering và Intelligent Power Smoothing. NVIDIA cho biết cơ chế làm phẳng công suất mới có thể giảm khoảng 10% điện năng trung bình so với kỹ thuật trước đó và giảm khoảng 20% đỉnh công suất trong cửa sổ 50 mili giây.

DSX MaxLPS được hãng mô tả có thể giúp bố trí thêm tới 40% GPU trong cùng ngân sách điện tại điểm vận hành tiết kiệm, với ảnh hưởng tối thiểu lên hiệu năng workload. Con số này là tuyên bố thiết kế của NVIDIA, chưa phải cam kết rằng mọi trung tâm dữ liệu sẽ đạt cùng kết quả.

Góc nhìn này cũng giúp đặt Rubin cạnh những hướng hạ tầng khác. NextGZ đã phân tích Microsoft đưa AMD Helios lên Azure, nơi CPU, accelerator và nền tảng cloud được đồng thiết kế cho workload AI quy mô lớn. Cuộc cạnh tranh vì thế không còn giới hạn ở từng con chip, mà mở rộng sang mạng, rack, điện, làm mát và phần mềm vận hành.

Rubin có ý nghĩa gì với doanh nghiệp và AI creator?

Trong ngắn hạn, Rubin quan trọng nhất với nhà cung cấp cloud, phòng nghiên cứu và doanh nghiệp vận hành mô hình lớn. Nếu các tuyên bố của NVIDIA được xác nhận trong triển khai thực tế, nền tảng có thể tăng số agent phục vụ đồng thời, kéo dài ngữ cảnh và giảm năng lượng trên mỗi đơn vị công việc AI.

Đối với AI creator hoặc đội ngũ nhỏ, tác động sẽ đến gián tiếp qua giá, tốc độ và giới hạn của các dịch vụ chạy trên cloud. Không có căn cứ để kết luận Rubin ngay lập tức làm API rẻ hơn hoặc model nhanh hơn cho mọi người dùng. Chi phí cuối cùng còn phụ thuộc mức đầu tư hạ tầng, phần mềm, tỷ lệ sử dụng và chính sách thương mại của từng nhà cung cấp.

Những thông tin vẫn chưa được xác nhận

Bài kỹ thuật chưa cung cấp giá bán Rubin GPU, chi phí hoàn chỉnh của Vera Rubin NVL72, lịch cung ứng chi tiết theo thị trường hay benchmark độc lập trên workload khách hàng. Khả năng tiếp cận qua từng cloud, cấu hình thực tế và mức cải thiện chi phí trên mỗi token cũng chưa thể suy ra chỉ từ thông số kiến trúc.

Kết luận: Rubin cho thấy NVIDIA đang tối ưu AI tác nhân ở cấp toàn hệ thống: tính toán, HBM4, NVLink, kernel, điện năng và rack. Các thông số mới rất đáng chú ý, nhưng cần tiếp tục đối chiếu bằng benchmark bên thứ ba và dữ liệu triển khai trước khi chuyển các tuyên bố “tới 10 lần” hoặc “thêm 40% GPU” thành kỳ vọng kinh doanh.