Arm ra mắt nền tảng Neoverse CSS N4 'Ranger' thế hệ mới: Lên tới 128 nhân trên tiến trình TSMC N3P
Arm vừa công bố nền tảng Neoverse CSS N4 thế hệ mới dành cho trung tâm dữ liệu với tối đa 128 nhân trên mỗi die, sử dụng tiến trình N3P của TSMC. Nền tảng bán tùy chỉnh này mang lại hiệu suất trên mỗi watt cao hơn 1.25 lần và gấp đôi hiệu năng so với thế hệ trước.
Arm đang mang các nền tảng Neoverse CSS N4 thế hệ mới lên đám mây, sở hữu tối đa 128 nhân mỗi die, được xây dựng trên tiến trình N3P của TSMC. Compute Subsystem (CSS) của Arm là một chương trình bán tùy chỉnh cho phép khách hàng thiết kế chip dựa trên IP của Arm, cấu hình các thành phần như số lượng nhân, kích thước bộ nhớ đệm, I/O và khả năng kết nối để phù hợp với nhu cầu cụ thể của họ. Đây cũng là nền tảng mà chúng ta từng thấy xuất hiện ở mọi nơi, từ CPU tại Azure và Google Cloud cho đến DPU tại Nvidia và Intel.
Arm cho biết Neoverse CSS N4 hỗ trợ từ 8 đến 128 nhân Neoverse N4, chạy ở tốc độ lên tới 3.8 GHz. Có thể xung nhịp sẽ giảm khi số lượng nhân tăng lên; Arm không làm rõ mức xung nhịp tối đa cho từng cấu hình có thể có. Ở cấp độ hệ thống, Neoverse CSS N4 có thể mở rộng vượt mốc 128 nhân, hỗ trợ thiết kế đa chiplet và đa socket, hỗ trợ UCIe thông qua các kết nối chip-to-chip, cũng như các PNY dành riêng cho đối tác.
Nền tảng này hỗ trợ RAM DDR5 hoặc LPDDR6, đồng thời trang bị bộ nhớ đệm L3 lên tới 256 MB mỗi die. Đối với bộ nhớ đệm cục bộ, Arm tích hợp tối đa 2 MB L2 cho mỗi nhân, cũng như 64 KB bộ nhớ đệm lệnh L1 và 64 KB bộ nhớ đệm dữ liệu L1 cho mỗi nhân. Về mặt I/O, Arm hỗ trợ tối đa 128 lane PCIe 7/6 và CXL 4.0.
Đây là một bản nâng cấp đáng kể so với nền tảng Neoverse CSS N2 vốn chỉ dừng lại ở 64 nhân, 1 MB bộ nhớ đệm L2 mỗi nhân và 64 MB L3, đi kèm với DDR5 hoặc LPDDR5 cùng 64 lane PCIe 5.0/CXL.
Với 128 nhân chạy ở tốc độ 3GHz và 2 MB bộ nhớ đệm L2 mỗi nhân, Arm cho biết Neoverse CSS N4 mang lại hiệu suất socket gấp đôi so với Neoverse N3, hiệu suất trên mỗi watt gấp 1.25 lần và băng thông bộ nhớ gấp 1.75 lần.
Các nhân dòng N của Arm được tối ưu hóa cho hiệu suất trên mỗi watt, trong khi các nhân dòng V hướng tới hiệu năng tối đa. Ví dụ, Arm đã sử dụng các khối dựng Neoverse CSS V3 cho CPU AGI của riêng mình và Nvidia đã sử dụng Neoverse V2 cho CPU Grace thế hệ trước (trong khi CPU Vera sử dụng nhân tùy chỉnh). AWS cũng đã sử dụng các nhân dòng Neoverse V cho các con chip Graviton của họ, tương tự như Google Cloud với Axion.
Các nhân dòng N thường không được triển khai trong các CPU hiệu năng cao. Thay vào đó, chúng phù hợp với các bộ tăng tốc ít đòi hỏi hơn, chẳng hạn như Intel IPU Adapter E2100 được xây dựng trên nhân Neoverse N1. Chúng ta cũng thấy chúng được triển khai trong các workload trên đám mây ít đòi hỏi khắt khe hơn, ví dụ như Azure Cobalt 100 của Microsoft được xây dựng trên Neoverse N2. Cobalt 200 đã chuyển sang Neoverse V3.
Chúng ta chưa biết nhiều về các nhân Neoverse N4 có tên mã Dionysus. Lộ trình năm 2024 của Arm cũng chỉ ra rằng chúng ta sẽ sớm thấy Arm Neoverse CSS V4 với tên mã Vega.
Không giống như thông báo truyền thống từ Intel, AMD hoặc các đối tác xây dựng trên kiến trúc Arm khác, chúng ta sẽ chưa thể thấy các nhân Neoverse N4 xuất hiện ngoài thị trường trong một thời gian tới. Thông báo mà Arm đưa ra là dành cho những ai đang xây dựng trên nền tảng CSS, tận dụng các khối dựng đã được kiểm chứng của Arm để tạo ra silicon bán tùy chỉnh một cách nhanh chóng. Arm vẫn chưa công bố bất kỳ đối tác nào, mặc dù theo truyền thống, chỉ cần một vài hợp đồng CSS lớn là đủ.
Bổ sung các triển khai CPU AGI của Arm
Bên cạnh việc công bố Neoverse CSS N4, công ty còn tiết lộ thêm các đợt triển khai chip AGI của riêng mình được xây dựng bằng các nhân Neoverse V3. Công ty tiết lộ rằng Oracle và ByteDance sẽ triển khai chip AGI, bên cạnh các bên đã được công bố trước đó như Meta, Lenovo, SAP, OpenAI, Cloudflare và những tên tuổi khác.
Mặc dù Arm đã nói rất nhiều về AGI, bao gồm cả một bài thuyết trình chuyên sâu về kiến trúc của con chip này tại sự kiện Hot Chips, chúng ta vẫn chưa thấy các con số hiệu năng thực tế. Điều đó không có gì lạ, đặc biệt là trong số các con chip dựa trên kiến trúc Arm gần đây. Ví dụ, chúng ta chỉ có các phép so sánh giữa các thế hệ đối với Azure Cobalt 200 của Microsoft và Graviton5 của AWS. Arm đã đề cập mơ hồ về hiệu năng khi cho rằng AGI mang lại "hiệu suất trên mỗi rack gấp hơn 2 lần so với các hệ thống x86 mới nhất", mặc dù những tuyên bố đó dựa trên ước tính nội bộ chứ không phải các bài benchmark thực tế.
AGI là một CPU đa die với tối đa 136 nhân Neoverse V3 và tối đa 272 MB bộ nhớ đệm L3, có thể đạt xung nhịp lên tới 3.7 GHz. Nó có thông số kỹ thuật tương đương với bất kỳ thiết kế x86 cao cấp nào hiện có trên thị trường, được xây dựng trên tiến trình 3nm và đóng gói dung lượng bộ nhớ lên tới 6TB cho mỗi chip, chạy ở tốc độ lên tới DDR5-8800. Có lẽ điểm khác biệt lớn nhất so với AMD và Intel là quyết định tích hợp bộ nhớ và I/O trên cùng một die với phần tính toán của Arm, mà họ cho biết sẽ mang lại độ trễ bộ nhớ dưới 100ns.
Đây là nỗ lực đầu tiên của Arm trong việc tự sản xuất silicon, mặc dù nó cũng được định vị cho đến nay như một phương tiện cho các ứng dụng rộng lớn hơn của Arm trong trung tâm dữ liệu. Microsoft, Nvidia, Meta, Google Cloud và những bên khác vẫn đang xây dựng các con chip tùy chỉnh dựa trên IP của Arm, và đây vẫn có vẻ là mục tiêu chính ngay cả khi có sự góp mặt của AGI.
🔧 ARM RA MẮT NỀN TẢNG NEOVERSE CSS N4 'RANGER' THẾ HỆ MỚI: LÊN TỚI 128 NHÂN TRÊN TIẾN TRÌNH TSMC N3P Arm đang mang các nền tảng Neoverse CSS N4 thế hệ mới lên đám mây, sở hữu tối đa 128 nhân mỗi die, được xây dựng trên tiến trình N3P của TSMC. Compute Subsystem (CSS) của Arm là một chương trình bán tùy chỉnh cho phép khách hàng thiết kế chip dựa trên IP của Arm, cấu hình các thành phần như số lượng nhân, kích thước bộ nhớ đệm, I/O và khả năng kết nối để phù hợp với nhu cầu cụ thể của họ. Đây cũng là nền tảng mà chúng ta từng thấy xuất hiện ở mọi nơi, từ CPU tại Azure và Google Cloud cho đến DPU tại Nvidia và Intel. Arm cho biết Neoverse CSS N4 hỗ trợ từ 8 đến 128 nhân Neoverse N4, chạy ở tốc độ lên tới 3.8 GHz. Có thể xung nhịp sẽ giảm khi số lượng nhân tăng lên; Arm không làm rõ mức xung nhịp tối đa cho từng cấu hình có thể có. Ở cấp độ hệ thống, Neoverse CSS N4 có thể mở rộng vượt mốc 128 nhân, hỗ trợ thiết kế đa chiplet và đa socket, hỗ trợ UCIe thông qua các kết nối chip-to-chip, cũng như các PNY dành riêng cho đối tác. Nền tảng này hỗ trợ RAM DDR5 hoặc LPDDR6, đồng thời trang bị bộ nhớ đệm L3 lên tới 256 MB mỗi die. Đối với bộ nhớ đệm cục bộ, Arm tích hợp tối đa 2 MB L2 cho mỗi nhân, cũng như 64 KB bộ nhớ đệm lệnh L1 và 64 KB bộ nhớ đệm dữ liệu L1 cho mỗi nhân. Về mặt I/O, Arm hỗ trợ tối đa 128 lane PCIe 7/6 và CXL 4.0. Đây là một bản nâng cấp đáng kể so với nền tảng Neoverse CSS N2 vốn chỉ dừng lại ở 64 nhân, 1 MB bộ nhớ đệm L2 mỗi nhân và 64 MB L3, đi kèm với DDR5 hoặc LPDDR5 cùng 64 lane PCIe 5.0/CXL. Với 128 nhân chạy ở tốc độ 3GHz và 2 MB bộ nhớ đệm L2 mỗi nhân, Arm cho biết Neoverse CSS N4 mang lại hiệu suất socket gấp đôi so với Neoverse N3, hiệu suất trên mỗi watt gấp 1.25 lần và băng thông bộ nhớ gấp 1.75 lần. Các nhân dòng N của Arm được tối ưu hóa cho hiệu suất trên mỗi watt, trong khi các nhân dòng V hướng tới hiệu năng tối đa. Ví dụ, Arm đã sử dụng các khối dựng Neoverse CSS V3 cho CPU AGI của riêng mình và Nvidia đã sử dụng Neoverse V2 cho CPU Grace thế hệ trước (trong khi CPU Vera sử dụng nhân tùy chỉnh). AWS cũng đã sử dụng các nhân dòng Neoverse V cho các con chip Graviton của họ, tương tự như Google Cloud với Axion. Các nhân dòng N thường không được triển khai trong các CPU hiệu năng cao. Thay vào đó, chúng phù hợp với các bộ tăng tốc ít đòi hỏi hơn, chẳng hạn như Intel IPU Adapter E2100 được xây dựng trên nhân Neoverse N1. Chúng ta cũng thấy chúng được triển khai trong các workload trên đám mây ít đòi hỏi khắt khe hơn, ví dụ như Azure Cobalt 100 của Microsoft được xây dựng trên Neoverse N2. Cobalt 200 đã chuyển sang Neoverse V3. Chúng ta chưa biết nhiều về các nhân Neoverse N4 có tên mã Dionysus. Lộ trình năm 2024 của Arm cũng chỉ ra rằng chúng ta sẽ sớm thấy Arm Neoverse CSS V4 với tên mã Vega. Không giống như thông báo truyền thống từ Intel, AMD hoặc các đối tác xây dựng trên kiến trúc Arm khác, chúng ta sẽ chưa thể thấy các nhân Neoverse N4 xuất hiện ngoài thị trường trong một thời gian tới. Thông báo mà Arm đưa ra là dành cho những ai đang xây dựng trên nền tảng CSS, tận dụng các khối dựng đã được kiểm chứng của Arm để tạo ra silicon bán tùy chỉnh một cách nhanh chóng. Arm vẫn chưa công bố bất kỳ đối tác nào, mặc dù theo truyền thống, chỉ cần một vài hợp đồng CSS lớn là đủ. Bổ sung các triển khai CPU AGI của Arm Bên cạnh việc công bố Neoverse CSS N4, công ty còn tiết lộ thêm các đợt triển khai chip AGI của riêng mình được xây dựng bằng các nhân Neoverse V3. Công ty tiết lộ rằng Oracle và ByteDance sẽ triển khai chip AGI, bên cạnh các bên đã được công bố trước đó như Meta, Lenovo, SAP, OpenAI, Cloudflare và những tên tuổi khác. Mặc dù Arm đã nói rất nhiều về AGI, bao gồm cả một bài thuyết trình chuyên sâu về kiến trúc của con chip này tại sự kiện Hot Chips, chúng ta vẫn chưa thấy các con số hiệu năng thực tế. Điều đó không có gì lạ, đặc biệt là trong số các con chip dựa trên kiến trúc Arm gần đây. Ví dụ, chúng ta chỉ có các phép so sánh giữa các thế hệ đối với Azure Cobalt 200 của Microsoft và Graviton5 của AWS. Arm đã đề cập mơ hồ về hiệu năng khi cho rằng AGI mang lại "hiệu suất trên mỗi rack gấp hơn 2 lần so với các hệ thống x86 mới nhất", mặc dù những tuyên bố đó dựa trên ước tính nội bộ chứ không phải các bài benchmark thực tế. AGI là một CPU đa die với tối đa 136 nhân Neoverse V3 và tối đa 272 MB bộ nhớ đệm L3, có thể đạt xung nhịp lên tới 3.7 GHz. Nó có thông số kỹ thuật tương đương với bất kỳ thiết kế x86 cao cấp nào hiện có trên thị trường, được xây dựng trên tiến trình 3nm và đóng gói dung lượng bộ nhớ lên tới 6TB cho mỗi chip, chạy ở tốc độ lên tới DDR5-8800. Có lẽ điểm khác biệt lớn nhất so với AMD và Intel là quyết định tích hợp bộ nhớ và I/O trên cùng một die với phần tính toán của Arm, mà họ cho biết sẽ mang lại độ trễ bộ nhớ dưới 100ns. Đây là nỗ lực đầu tiên của Arm trong việc tự sản xuất silicon, mặc dù nó cũng được định vị cho đến nay như một phương tiện cho các ứng dụng rộng lớn hơn của Arm trong trung tâm dữ liệu. Microsoft, Nvidia, Meta, Google Cloud và những bên khác vẫn đang xây dựng các con chip tùy chỉnh dựa trên IP của Arm, và đây vẫn có vẻ là mục tiêu chính ngay cả khi có sự góp mặt của AGI. 🗞 Nguồn: Tom's Hardware #vgsnews #vgs #tintuc
Nguồn: Tom's Hardware
