NVIDIA tăng tốc sản xuất Vera Rubin khiến nguồn cung TLC NAND khan hiếm, đẩy giá chip 512Gb lên 21 USD

⚡ NVIDIA TĂNG TỐC SẢN XUẤT VERA RUBIN KHIẾN NGUỒN CUNG TLC NAND KHAN HIẾM, ĐẨY GIÁ CHIP 512GB LÊN 21 USD

Quy mô mở rộng sản xuất của NVIDIA đối với nền tảng Vera Rubin lớn đến mức nó đang tác động đến cả những ngóc ngách tưởng như ít liên quan trong chuỗi cung ứng, chẳng hạn như thị trường giao ngay (spot market) của bộ nhớ TLC NAND.

Nhìn lại, đà tăng giá giao ngay của TLC là điều hoàn toàn dễ hiểu, đặc biệt khi xét đến giải pháp Context Memory eXtension (CMX) mà NVIDIA mang lên nền tảng Vera Rubin.

Việc NVIDIA tăng cường sản xuất nền tảng Vera Rubin đang bóp nghẹt nguồn cung TLC NAND do “gom” một lượng lớn cell nhớ NAND cho kiến trúc CMX, đồng thời nhu cầu SSD doanh nghiệp cũng tăng vọt theo.

Giá giao ngay của chip TLC NAND dung lượng 512Gb hiện đã chạm mốc 21 USD sau khi từng giảm xuống dưới ngưỡng này vào tháng 6. Có một số yếu tố thúc đẩy đợt tăng giá trở lại này.

Đầu tiên, để xử lý KV cache — các dữ liệu ghi nhớ được tạo bởi các lớp chú ý (attention layers) của mô hình AI khi thiết lập kết nối giữa các từ trong câu lệnh đầu vào — NVIDIA đã giới thiệu Context Memory eXtension (CMX) trong nền tảng Vera Rubin.

CMX tạo ra một tầng lưu trữ trung gian giữa bộ nhớ HBM và hệ thống lưu trữ mạng backend truyền thống. Nó hoạt động như một vùng bộ nhớ flash TLC khổng lồ được kết nối với cụm GPU Rubin thông qua các DPU NVIDIA BlueField-4 (đóng vai trò như “bộ não thông minh” để máy chủ CMX xử lý KV cache theo thời gian thực) qua kết nối mạng Spectrum-X Ethernet siêu tốc.

Trên thực tế, chỉ một máy chủ CMX 2U duy nhất đã chứa tới 600TB bộ nhớ flash TLC, trong đó mỗi DPU trong số 4 DPU quản lý 150TB bộ nhớ ngữ cảnh (context memory), đưa tổng dung lượng ở cấp độ pod lên mức khổng lồ 9.600 TB (tương đương 9,6 Petabyte)!

Thứ hai, các trung tâm dữ liệu cần các ổ SSD doanh nghiệp (eSSD) mật độ cao, hiệu năng cao để xử lý khối lượng công việc AI. Khi quy mô sản xuất Vera Rubin tăng lên, nhu cầu đối với các eSSD này cũng tỷ lệ thuận tăng theo.

Tất nhiên, cần lưu ý rằng phần lớn lượng TLC NAND mà NVIDIA đang tiêu thụ nhiều khả năng đã được chốt qua các hợp đồng dài hạn. Dù vậy, quy mô nhu cầu khổng lồ sắp tới vẫn đang thắt chặt thị trường giao ngay, và vẫn cần chờ xem xu hướng tăng giá này sẽ kéo dài bao lâu.

Trong một diễn biến khác, Bank of America vừa dập tắt những tin đồn liên quan đến khả năng hạ thông số kỹ thuật (de-spec) bộ nhớ HBM trên Vera Rubin Ultra. Theo các tin đồn trước đó, NVIDIA có thể chọn giảm lượng HBM4E trên mỗi GPU để bảo vệ biên lợi nhuận. Tuy nhiên, Bank of America cho rằng bất kỳ động thái hạ thông số nào (nếu có) cũng chỉ là giải pháp tạm thời để ứng phó với tình trạng khan hiếm trước mắt, chứ không phải là một phiên bản (SKU) có dung lượng thấp cố định vĩnh viễn.

🗞 Nguồn: Wccftech

#vgsnews #vgs #tintuc