NVIDIA ra mắt nền tảng Vera Rubin NVL72 tại CoreWeave với tốc độ tạo token nhanh gấp 4,8 lần

⚡ NVIDIA RA MẮT NỀN TẢNG VERA RUBIN NVL72 TẠI COREWEAVE VỚI TỐC ĐỘ TẠO TOKEN NHANH GẤP 4,8 LẦN

NVIDIA và CoreWeave hiện đang cung cấp Vera Rubin NVL72 và Vera-standalone trên nền tảng đám mây, đưa nền tảng AI nhanh nhất này vào sản xuất thương mại đầy đủ.

Nền tảng Vera Rubin của NVIDIA được CoreWeave áp dụng toàn diện, mang lại khả năng tạo token cao hơn để thúc đẩy quy trình làm việc của AI tự trị

Tại sự kiện CoreWeave Fully Connected 2026, NVIDIA và CoreWeave đã công bố sự có mặt của NVIDIA Vera Rubin NVL72 trên CoreWeave Cloud. Nền tảng này mang lại bước nhảy vọt lớn về hiệu năng so với các máy chủ Blackwell, cho phép khách hàng hoàn thành công việc chỉ trong vài ngày thay vì vài tuần.
• Thông lượng tổng token cao hơn tới 4,8 lần trong các bài kiểm tra suy luận kỹ thuật phần mềm ban đầu so với GB200 NVL72.
• Tạo mã nhanh hơn và khả năng suy luận nhiều bước nhạy bén hơn cho Devin, kỹ sư phần mềm AI của Cognition.

Cognition là đơn vị đầu tiên nắm giữ các hệ thống máy chủ mới nhất này tại CoreWeave, và đã có thể mở rộng quy mô lên hàng nghìn GPU trong vòng chín tháng. Hồi tháng 9, Cognition là đơn vị đầu tiên đo lường hiệu năng Vera Rubin so với Grace Blackwell trong tác vụ suy luận, và ghi nhận mức tăng thông lượng tổng token gấp 4,8 lần cho các công việc suy luận SWE-2.

"Điện toán tăng tốc của NVIDIA mang lại giá trị xuyên suốt qua các thế hệ," Ian Buck, phó chủ tịch phụ trách điện toán siêu quy mô và hiệu năng cao tại NVIDIA cho biết. "Các GPU NVIDIA V100 của CoreWeave vẫn tiếp tục chạy các khối lượng công việc của khách hàng gần một thập kỷ sau khi kiến trúc Volta ra mắt, ngay cả khi CoreWeave đưa Vera Rubin NVL72 vào sản xuất. Đó là sức mạnh của nền tảng NVIDIA: hạ tầng tiếp tục sinh lời trong nhiều năm và sự linh hoạt để đặt đúng GPU cho đúng khối lượng công việc."

Cognition chỉ là một trong nhiều đối tác tận dụng cụm cài đặt Vera Rubin của CoreWeave. Công ty này cung cấp cho khách hàng truy cập sớm khả năng đưa hiệu năng của nền tảng nhà máy AI toàn diện từ NVIDIA vào hoạt động nhanh chóng trên CoreWeave Cloud.

Chỉ trong vài ngày, CoreWeave đã dựng lên một cụm Vera Rubin sản xuất cho Cognition, đạt được nhờ sự thiết kế chung và hợp tác chặt chẽ giữa NVIDIA và CoreWeave từ hạ tầng đến các token được phục vụ.

Bên cạnh các máy chủ Vera Rubin NVL72 trên đám mây, CoreWeave cũng mang CPU Vera vào các dịch vụ đám mây của mình. CPU đã trở thành nền tảng cho quy trình làm việc của AI tự trị, và với thiết kế của Vera hoàn toàn phù hợp cho mục đích này, con chip đang thể hiện tiềm năng lớn, chẳng hạn như thời gian khởi động môi trường sandbox AI tự trị nhanh hơn gấp 3 lần.

Khách hàng truy cập sớm có thể đưa hiệu năng của nền tảng nhà máy AI toàn diện của NVIDIA vào hoạt động nhanh chóng trên CoreWeave Cloud. Chỉ trong vài ngày, CoreWeave đã dựng thành công cụm sản xuất Vera Rubin cho Cognition, thành quả của sự phối hợp thiết kế giữa NVIDIA và CoreWeave ở mọi tầng, từ hạ tầng đến các token phục vụ.

Năng lực này có thể vận hành thông qua CoreWeave Kubernetes Service, SUNK, CoreWeave Mission Control, CoreWeave Sandboxes và CoreWeave Inference.

Hiện tại, CoreWeave có 128 CPU Vera hoặc 11.264 lõi trong một rack duy nhất, đủ để xử lý hơn 11.000 môi trường đồng thời. Trên Terminal-Bench, các bộ xử lý Vera này mang lại hiệu năng tăng 1.7 lần trên tất cả các tác vụ vượt qua.

Bên cạnh việc triển khai Vera Rubin và Vera của NVIDIA, CoreWeave cũng công bố CoreWeave Forge, tích hợp Weights & Biases, chuyên môn hậu huấn luyện từ OpenPipe, và dự án mã nguồn mở marimo notebook vào một môi trường kết nối duy nhất được xây dựng để cải tiến mô hình và tác nhân liên tục.

🗞 Nguồn: Wccftech

#vgsnews #vgs #tintuc