Intel ra mắt GPU Crescent Island: Đạt 1.3 PFLOPs hiệu năng FP8 với mức tiêu thụ chỉ 350W

⚡ INTEL RA MẮT GPU CRESCENT ISLAND: ĐẠT 1.3 PFLOPS HIỆU NĂNG FP8 VỚI MỨC TIÊU THỤ CHỈ 350W

Intel đang công bố dòng GPU D-Series, trước đây có tên mã là Crescent Island, là dòng sản phẩm AI trung tâm dữ liệu tiếp theo dựa trên kiến trúc Xe3P.

GPU D-Series "Crescent Island" của Intel đạt 1.3 PFLOPs FP8 ở mức 350W, cạnh tranh với các dòng card chuyên dụng từ NVIDIA và AMD

GPU Crescent Island của Intel dựa trên kiến trúc hoàn toàn mới Xe3P, đây cũng chính là kiến trúc đồ họa từng được hé lộ trong các buổi thuyết trình sâu về Panther Lake và Xe3.

Hôm nay, Intel chính thức công bố tên gia đình và sản phẩm đầu tiên trong dòng Crescent Island D-Series, đó là GPU Intel D270.

Các tính năng silicon mới của Crescent Island bao gồm:
• Sẵn sàng cho Agentic AI: Dung lượng bộ nhớ lớn và khả năng tính toán bền vững
• LPDDR5x: Mật độ cao hơn, tiết kiệm điện hơn. Độ tin cậy nâng cao mà không bị mất băng thông/dung lượng
• Tối ưu hóa AI: Hỗ trợ độ dài ngữ cảnh lớn hơn, bộ nhớ cao hơn và tối ưu hiệu suất/TCO
• Tối ưu hóa Prefill: FLOP/W cao, khối lượng công việc giới hạn tính toán

Các đổi mới về phần mềm cho Crescent Island bao gồm:
• Hỗ trợ mô hình rộng rãi: Hỗ trợ các mô hình ngôn ngữ, suy luận, đa phương thức và khuếch tán
• Hiệu quả KV Cache: Cho phép định tuyến và giảm tải nhận biết KV-cache để suy luận có thể mở rộng
• Hệ sinh thái framework mở: Được xây dựng để hoạt động với vLLM, SGLANg, llm-d và NVIDIA Dynamo
• Điều phối agent dị thể: Chạy trên hạ tầng dị thể mà không cần thay đổi mã agent

Kiến trúc GPU D-Series "Xe3P" mới sẽ là bản nâng cấp tiếp theo so với kiến trúc Xe3. Đối với khách hàng phổ thông, kiến trúc này sẽ xuất hiện trên dòng Arc thế hệ tiếp theo, Arc C-Series. Tuy nhiên, Xe3P sẽ có khả năng mở rộng tốt hơn nữa, từ iGPU cho client đến GPU AI cho trung tâm dữ liệu.
• Vi kiến trúc Xe3P tối ưu hóa hiệu năng trên mỗi watt
• 480GB bộ nhớ LPDDR5X
• Hỗ trợ đa dạng các loại dữ liệu, lý tưởng cho các nhà cung cấp dịch vụ "tokens-as-a-service" và các trường hợp sử dụng suy luận

Intel Crescent Island được tối ưu hóa cả về điện năng lẫn chi phí. Dòng sản phẩm này hướng tới các giải pháp trung tâm dữ liệu làm mát bằng không khí, máy trạm và tập trung vào các tác vụ suy luận AI. Theo Intel, kiến trúc đồ họa Xe3P được sử dụng cho Crescent Island sẽ được tối ưu hóa cho hiệu năng trên mỗi watt.

Các đối thủ cạnh tranh như NVIDIA và AMD đang cung cấp các giải pháp AI trung tâm dữ liệu với bộ nhớ HBM cao cấp như HBM3E, và đã bắt đầu xuất xưởng các giải pháp HBM4 đầu tiên cho các linh kiện thế hệ tiếp theo như Rubin và MI450X. Tuy nhiên, việc tìm nguồn cung ứng HBM đã trở nên khó khăn do nhu cầu tăng cao, điều này cũng dẫn đến giá cao hơn. Để so sánh:
• Intel Crescent Island - Lên đến 480 GB (LPDDR5X)
• AMD Instinct MI450X - Lên đến 432 GB (HBM4)
• NVIDIA Vera Rubin - Lên đến 288 GB (HBM4)

IP Xe3P được tối ưu hóa cho AI

GPU Crescent Island D-Series của Intel sẽ tích hợp kiến trúc Xe thế hệ thứ 3 có tên mã là Xe3P. Intel cho biết kiến trúc này tận dụng cơ sở cài đặt Xe đa thế hệ với các cải tiến hoàn toàn mới về hiệu suất và khả năng tương thích phần mềm. GPU Crescent Island tận dụng Xe3P được tối ưu hóa cho AI.

Ở cấp độ kiến trúc, Xe Core thế hệ thứ 3 "Xe3P" bao gồm 8 Vector Engine và 8 XMX engine trên mỗi nhân Xe. Xe Vector Engine hiện bao gồm độ chính xác FP8+FP4, khả năng co-issue 3 chiều, toán học mở rộng & FP64 (tốc độ đầy đủ 64 FMA/XeCore), trong khi các đơn vị Xe Matrix Extensions (XMX) cung cấp một mảng systolic sâu 16. Ngoài ra còn có 1 MB GRD cho mỗi nhân Xe.

GPU Crescent Island được tạo thành từ bốn Compute Slice. Mỗi slice bao gồm 8 nhân, tổng cộng chúng ta có 32 nhân Xe3P, 256 Vector Engine và 256 đơn vị XMX. Mỗi nhân Xe duy trì các đơn vị tải/lưu trữ, một I$ chuyên dụng và bộ nhớ đệm L1$/SLM. Tất cả các Compute slice được kết nối với bộ nhớ đệm L2 lớn.

Đối với hệ thống phụ bộ nhớ, GPU Xe3P "Crescent Island" của Intel tích hợp 512 KB L1$/SLM cho mỗi nhân Xe hoặc tổng cộng 16 MB, 32 MB bộ nhớ đệm L2 thống nhất và lên đến 480 GB bộ nhớ LPDDR5X. Các giải pháp mang thương hiệu Intel sẽ có 160 GB bộ nhớ LPDDR5X.

Hiệu năng 1.3 PFLOPs so với các tùy chọn PCIe hiện đại như thế nào?

Chi tiết quan trọng nhất mà Intel chia sẻ hôm nay là D-Series sẽ cung cấp năng lực tính toán AI lên đến 1.3 PFLOPs ở mức 350W. Đây là một con số đáng chú ý và chúng ta có một số tùy chọn GPU để so sánh:

Đầu tiên là AMD Radeon AI PRO R9700, đạt tới 766 TFLOPs tính toán FP8 và lên đến 1.53 TOPS tính toán INT4 ở mức 300W. NVIDIA RTX PRO 5500 Blackwell đạt tới 846 TFLOPs FP8 và 1.692 TFLOPs FP4 ở mức 600W, trong khi RTX PRO 5000 Blackwell đạt 535 TFLOPs FP8 và 1071 TFLOPs FP4. AMD Instinct MI350P đạt tới 2.3 PFLOPs nhưng với tính năng vi tỷ lệ FP8. Điều này định vị lý tưởng GPU Intel D270 trong các tùy chọn AI PCIe hiện tại.

Việc tích hợp LPDDR5X ở mức 160 GB (tiêu chuẩn) và lên đến 480 GB (các mẫu của đối tác) cũng sẽ làm cho nó trở thành một sản phẩm tối ưu hóa giá trị quan trọng đối với Intel.

"Suy luận đang trở thành khối lượng công việc AI xác định và các doanh nghiệp cần cơ sở hạ tầng mang lại hiệu suất phù hợp với chi phí hợp lý," Anil Nanduri, phó chủ tịch phụ trách Sản phẩm AI & GTM thuộc Nhóm Trung tâm Dữ liệu của Intel cho biết. "Với dòng GPU Intel D-series, chúng tôi tập trung vào việc làm cho việc suy luận dung lượng cao trở nên thiết thực để triển khai và tiết kiệm để mở rộng quy mô."

Thiết kế của Intel ưu tiên số token trên mỗi watt, khả năng suy luận bền vững và việc chạy các mô hình lớn hơn/KV cache trên ít card hơn (hoặc một card) thay vì tối đa hóa các thông số FLOPs thô hoặc băng thông. Lựa chọn LPDDR5X giúp giảm điện năng, chi phí và các ràng buộc về nguồn cung HBM so với các dòng HBM3E/HBM4, đánh đổi bằng băng thông đỉnh (vốn quan trọng hơn cho khâu giải mã giới hạn bộ nhớ thay vì tiền xử lý giới hạn tính toán).

LPDDR5X tiết kiệm điện năng và chi phí cho GPU Crescent Island

Việc tận dụng bộ nhớ LPDDR5X có thể mang lại cho Intel lợi thế lớn trong phân khúc chi phí/hiệu năng. Hơn nữa, kiến trúc này sẽ hỗ trợ dải rộng các loại dữ liệu lý tưởng cho các nhà cung cấp dịch vụ "Tokens-as-a-service" và các trường hợp sử dụng suy luận. Đây là lý do tại sao Intel đang đầu tư mạnh mẽ vào Crescent Island.

Bắt đầu với thông số kỹ thuật, GPU trung tâm dữ liệu Intel Crescent Island sẽ có dung lượng bộ nhớ LPDDR5X lên đến 480 GB. Card PCIe tham chiếu của Intel sẽ có 160 GB bộ nhớ LPDDR5X, nhưng các đối tác sẽ có quyền tự do chế tạo các card mang thương hiệu ODM với các tùy chọn linh hoạt lên đến 480 GB.

Việc sử dụng bộ nhớ LP5X cũng làm giảm đáng kể công suất, với TDP chỉ 350W trên phiên bản PCIe làm mát bằng không khí. Intel tuyên bố rằng bộ nhớ LP5X cho phép thiết kế kênh đóng gói dày đặc, mang lại sự gia tăng đáng kể về băng thông.

Một điểm khác biệt của Crescent Island là nó thiếu các khối GPU truyền thống, chẳng hạn như hỗ trợ đồ họa hoặc 3D. Con chip chỉ tập trung hoàn toàn vào GPGPU, và điều đó giải phóng thêm diện tích đế cho các tính toán AI bổ sung. Thêm vào đó, con chip được tối ưu hóa cho Hiệu năng/Watt và Hiệu năng/TCO.
• Đơn giản hóa việc triển khai trên các GPU của Intel: Được xây dựng trên nền tảng phần mềm Xe chung, dòng GPU Intel D-series hỗ trợ khả năng tương Port phần mềm giữa các nền tảng GPU Intel, giúp các nhà phát triển tái sử dụng các ứng dụng hiện có và giảm nỗ lực triển khai khối lượng công việc trên phần cứng mới.
• Hỗ trợ Day 0 cho các mô hình mở mới nổi: Thông qua việc tích hợp framework thượng nguồn và kích hoạt mô hình, Intel đang nỗ lực hỗ trợ các mô hình mở mới khi chúng ra mắt trên dòng GPU Intel D-series và bộ xử lý Xeon.

GPU này sẽ được hỗ trợ bởi dải định dạng dữ liệu rộng từ FP4 đến FP64, đồng thời hỗ trợ stack phần mềm hoàn toàn mở và mạnh mẽ.

Intel đang đánh giá stack phần mềm mở và thống nhất cho các hệ thống AI dị thể với dòng Arc Pro B-series hiện tại của mình, vì vậy các phiên bản trong tương lai sẽ có thể tiếp cận các bản tối ưu hóa này từ sớm. Intel hiện đang nhắm mục tiêu lấy mẫu khách hàng cho GPU Crescent Island vào nửa cuối năm 2026, vì vậy chúng ta chắc chắn sẽ tìm hiểu thêm về GPU này trong những tháng tới.

🗞 Nguồn: Wccftech

#vgsnews #vgs #tintuc