Cerebras ra mắt hệ thống CS-4 với chip WSE-3 Turbo: Tốc độ xử lý AI vượt trội gấp 30 lần dàn GPU
Cerebras vừa giới thiệu hệ thống siêu máy tính AI CS-4 trang bị chip WSE-3 Turbo chứa tới 4 nghìn tỷ bóng bán dẫn. Hệ thống này có khả năng xử lý các mô hình ngôn ngữ lớn nhanh gấp 30 lần so với các giải pháp cụm GPU truyền thống.
Cerebras, công ty sáng tạo ra dòng chip kích thước toàn vi mạch (wafer-scale engine), vừa chính thức ra mắt giải pháp CS-4 mới nhất tích hợp con chip WSE-3 Turbo hoàn toàn mới.
Hệ thống Cerebras CS-4 vận hành bằng chip toàn vi mạch, đạt hiệu suất lên tới 250 PFLOPS mỗi wafer và băng thông 43.2 PB/s nhờ 44 GB SRAM
Trở lại vào năm 2024, Cerebras đã công bố Wafer Scale Engine thế hệ thứ 3, hay còn gọi là WSE-3. Tấm wafer này đóng vai trò như một con chip đơn lẻ và mang lại năng lực tính toán cực lớn. Hôm nay, công ty tiếp tục bước tiến mới trong hành trình phát triển chip kích thước wafer.
"Trong lĩnh vực AI, tốc độ chính là năng suất," ông Andrew Feldman, Giám đốc điều hành kiêm đồng sáng lập của Cerebras chia sẻ. "Trước đây, suy luận nhanh đồng nghĩa với việc phải dùng các mô hình nhỏ hơn và kém năng lực hơn. Cerebras CS-4 mang lại tốc độ hàng đầu ngành trên các mô hình lớn nhất, thay đổi căn bản mô hình này. Mọi khía cạnh thiết kế đã được tối ưu hóa để mang lại tốc độ cao nhất cùng thông lượng khổng lồ. Với CS-4, AI nhanh đến mức làm thay đổi hoàn toàn trải nghiệm sản phẩm."
Bắt đầu với con chip mới này, WSE-3 Turbo (hoặc WSE-3T) là phiên bản kế nhiệm của WSE-3. Chip vẫn giữ vị thế là "bộ xử lý AI lớn nhất", đồng thời sở hữu số lượng bóng bán dẫn và nhân giữ nguyên lần lượt là 4 nghìn tỷ và 900.000. Toàn bộ con chip có kích thước 46.225 mm2 và đi kèm 44 GB bộ nhớ SRAM được tích hợp trực tiếp trên cùng một tấm wafer.
Về các khía cạnh hiệu suất cấp cao, WSE-3T mang lại khả năng tính toán AI gấp đôi với 125 PFLOPs (250 PFLOPS với độ thưa thớt) mỗi wafer, và băng thông tăng lên tới 43.2 PB/s. Mạng lưới kết nối trên chip cung cấp băng thông 53.5 PB/s trong khi kết nối I/O ngoài chip cung cấp băng thông 2.4 Tb/s. Các cải tiến đối với động cơ toàn vi mạch cũng giúp giảm độ trễ từ 5ms xuống còn 2ms.
Đó là tất cả thông tin về con chip được tiết lộ vào lúc này, nhưng bối cảnh AI hiện nay rất khác. Chip là thành phần quan trọng, nhưng khách hàng AI không chỉ mua chip; họ tìm kiếm các hệ thống và giải pháp trọn gói. Do đó, Cerebras đã trang bị giải pháp tủ rack CS-4 mới nhất của mình bằng các con chip WSE-3T.
Theo Cerebras, CS-4 được xây dựng dựa trên Kiến trúc Nền tảng Nexus mới, tập trung vào khái niệm mô-đun bao gồm ba lớp: Tính toán (Compute), Nguồn điện (Power) và I/O. Mỗi tủ rack có thiết kế ba lô dạng cắm (pluggable backpack) sao cho hệ thống con tính toán đi vào mặt sau như một chiếc "ba lô" được gắn thẳng đứng vào mảng nguồn.
Mỗi "ba lô" kích thước wafer tự chứa này tích hợp việc chuyển đổi nguồn, làm mát bằng chất lỏng trực tiếp, I/O tốc độ cao và các hệ thống điều khiển thành một gói gọn gàng.
Thiết kế mới cũng giúp loại bỏ hầu như hoàn toàn tổn thất điện năng bằng cách di chuyển bộ chuyển đổi nguồn đến gần các wafer hơn. Vì tổn thất giảm đi, nhiều năng lượng hơn có thể được chuyển hướng đến các chip WSE, dẫn đến nguồn điện gấp đôi cho động cơ hoạt động, cho phép tần số cao hơn và tính toán nhanh hơn.
Công ty cũng công bố năng lực thông lượng tính toán rất lớn ở các mô hình như GPT-OSS 120B. Một tủ rack CS-4 đơn lẻ cung cấp hơn 4.400 token mỗi giây trong mô hình này. Giải pháp AI dựa trên GPU cũng đã được đưa ra so sánh. Những gì CS-4 mất một giây để tạo ra, tủ rack GPU mất tới 30 giây.
Nhìn chung, Cerebras tuyên bố mức tăng thông lượng trên mỗi watt lên tới 10 lần đối với CS-4 so với CS-3. Mỗi tủ rack CS-4 sẽ cung cấp ba chip WSE-3T (Turbo), tạo ra 750 PFLOPs điện toán AI, băng thông I/O 7.2 Tb/s và băng thông SRAM 129.6 PB/s. Với giải pháp kết nối mới, các nhà máy AI có thể mở rộng CS-4 thành các cụm quy mô lớn để hỗ trợ các mô hình có hơn 50 nghìn tỷ tham số.
Những lô hàng CS-4 đầu tiên với WSE-3T dự kiến sẽ bắt đầu giao trong quý này, và NVIDIA là một trong những đối thủ chính mà dòng sản phẩm này hướng tới. Cerebras cũng hợp tác với AMD để tận dụng các giải pháp tủ rack toàn vi mạch cùng với tủ rack Helios AI nhằm thúc đẩy thông lượng AI cao hơn, tương tự như cách NVIDIA sử dụng các tủ rack Groq 3 LPX để giảm tải bộ nhớ đệm KV vào SRAM lớn nằm trên các con chip này.
⚡ CEREBRAS RA MẮT HỆ THỐNG CS-4 VỚI CHIP WSE-3 TURBO: TỐC ĐỘ XỬ LÝ AI VƯỢT TRỘI GẤP 30 LẦN DÀN GPU Cerebras, công ty sáng tạo ra dòng chip kích thước toàn vi mạch (wafer-scale engine), vừa chính thức ra mắt giải pháp CS-4 mới nhất tích hợp con chip WSE-3 Turbo hoàn toàn mới. Hệ thống Cerebras CS-4 vận hành bằng chip toàn vi mạch, đạt hiệu suất lên tới 250 PFLOPS mỗi wafer và băng thông 43.2 PB/s nhờ 44 GB SRAM Trở lại vào năm 2024, Cerebras đã công bố Wafer Scale Engine thế hệ thứ 3, hay còn gọi là WSE-3. Tấm wafer này đóng vai trò như một con chip đơn lẻ và mang lại năng lực tính toán cực lớn. Hôm nay, công ty tiếp tục bước tiến mới trong hành trình phát triển chip kích thước wafer. "Trong lĩnh vực AI, tốc độ chính là năng suất," ông Andrew Feldman, Giám đốc điều hành kiêm đồng sáng lập của Cerebras chia sẻ. "Trước đây, suy luận nhanh đồng nghĩa với việc phải dùng các mô hình nhỏ hơn và kém năng lực hơn. Cerebras CS-4 mang lại tốc độ hàng đầu ngành trên các mô hình lớn nhất, thay đổi căn bản mô hình này. Mọi khía cạnh thiết kế đã được tối ưu hóa để mang lại tốc độ cao nhất cùng thông lượng khổng lồ. Với CS-4, AI nhanh đến mức làm thay đổi hoàn toàn trải nghiệm sản phẩm." Bắt đầu với con chip mới này, WSE-3 Turbo (hoặc WSE-3T) là phiên bản kế nhiệm của WSE-3. Chip vẫn giữ vị thế là "bộ xử lý AI lớn nhất", đồng thời sở hữu số lượng bóng bán dẫn và nhân giữ nguyên lần lượt là 4 nghìn tỷ và 900.000. Toàn bộ con chip có kích thước 46.225 mm2 và đi kèm 44 GB bộ nhớ SRAM được tích hợp trực tiếp trên cùng một tấm wafer. Về các khía cạnh hiệu suất cấp cao, WSE-3T mang lại khả năng tính toán AI gấp đôi với 125 PFLOPs (250 PFLOPS với độ thưa thớt) mỗi wafer, và băng thông tăng lên tới 43.2 PB/s. Mạng lưới kết nối trên chip cung cấp băng thông 53.5 PB/s trong khi kết nối I/O ngoài chip cung cấp băng thông 2.4 Tb/s. Các cải tiến đối với động cơ toàn vi mạch cũng giúp giảm độ trễ từ 5ms xuống còn 2ms. Đó là tất cả thông tin về con chip được tiết lộ vào lúc này, nhưng bối cảnh AI hiện nay rất khác. Chip là thành phần quan trọng, nhưng khách hàng AI không chỉ mua chip; họ tìm kiếm các hệ thống và giải pháp trọn gói. Do đó, Cerebras đã trang bị giải pháp tủ rack CS-4 mới nhất của mình bằng các con chip WSE-3T. Theo Cerebras, CS-4 được xây dựng dựa trên Kiến trúc Nền tảng Nexus mới, tập trung vào khái niệm mô-đun bao gồm ba lớp: Tính toán (Compute), Nguồn điện (Power) và I/O. Mỗi tủ rack có thiết kế ba lô dạng cắm (pluggable backpack) sao cho hệ thống con tính toán đi vào mặt sau như một chiếc "ba lô" được gắn thẳng đứng vào mảng nguồn. Mỗi "ba lô" kích thước wafer tự chứa này tích hợp việc chuyển đổi nguồn, làm mát bằng chất lỏng trực tiếp, I/O tốc độ cao và các hệ thống điều khiển thành một gói gọn gàng. Thiết kế mới cũng giúp loại bỏ hầu như hoàn toàn tổn thất điện năng bằng cách di chuyển bộ chuyển đổi nguồn đến gần các wafer hơn. Vì tổn thất giảm đi, nhiều năng lượng hơn có thể được chuyển hướng đến các chip WSE, dẫn đến nguồn điện gấp đôi cho động cơ hoạt động, cho phép tần số cao hơn và tính toán nhanh hơn. Công ty cũng công bố năng lực thông lượng tính toán rất lớn ở các mô hình như GPT-OSS 120B. Một tủ rack CS-4 đơn lẻ cung cấp hơn 4.400 token mỗi giây trong mô hình này. Giải pháp AI dựa trên GPU cũng đã được đưa ra so sánh. Những gì CS-4 mất một giây để tạo ra, tủ rack GPU mất tới 30 giây. Nhìn chung, Cerebras tuyên bố mức tăng thông lượng trên mỗi watt lên tới 10 lần đối với CS-4 so với CS-3. Mỗi tủ rack CS-4 sẽ cung cấp ba chip WSE-3T (Turbo), tạo ra 750 PFLOPs điện toán AI, băng thông I/O 7.2 Tb/s và băng thông SRAM 129.6 PB/s. Với giải pháp kết nối mới, các nhà máy AI có thể mở rộng CS-4 thành các cụm quy mô lớn để hỗ trợ các mô hình có hơn 50 nghìn tỷ tham số. Những lô hàng CS-4 đầu tiên với WSE-3T dự kiến sẽ bắt đầu giao trong quý này, và NVIDIA là một trong những đối thủ chính mà dòng sản phẩm này hướng tới. Cerebras cũng hợp tác với AMD để tận dụng các giải pháp tủ rack toàn vi mạch cùng với tủ rack Helios AI nhằm thúc đẩy thông lượng AI cao hơn, tương tự như cách NVIDIA sử dụng các tủ rack Groq 3 LPX để giảm tải bộ nhớ đệm KV vào SRAM lớn nằm trên các con chip này. 🗞 Nguồn: Wccftech #vgsnews #vgs #tintuc
Nguồn: Wccftech
