Huawei chuẩn bị 160.000 bộ tăng tốc Ascend 950DT cho trung tâm dữ liệu của DeepSeek

🖥️ HUAWEI CHUẨN BỊ 160.000 BỘ TĂNG TỐC ASCEND 950DT CHO TRUNG TÂM DỮ LIỆU CỦA DEEPSEEK

Các phòng thí nghiệm AI tại Trung Quốc đang ngày càng đặt hàng nhiều bộ tăng tốc AI nội địa hơn, và một trong những phòng thí nghiệm hàng đầu là DeepSeek được cho là đã đặt mua 160.000 chip Huawei Ascend 950DT. Cuối năm ngoái, Huawei tiết lộ rằng hãng đang chuẩn bị một loạt chip và giải pháp dạng tủ rack để đáp ứng nhu cầu AI trong nước, và giờ đây chúng ta đang chứng kiến những đơn hàng lớn bắt đầu thành hiện thực. Để dễ hình dung, bộ tăng tốc AI Huawei Ascend 950DT có dung lượng bộ nhớ 144 GB, được xây dựng trên thiết kế bộ nhớ HBM của riêng Huawei. Giải pháp cây nhà lá vườn này mang lại băng thông gần 4 TB/s, hoàn toàn phù hợp với tầm nhìn của Huawei. Con chip này có thể đạt khoảng một PetaFLOP hiệu năng tính toán đỉnh FP8, hoặc khoảng hai PetaFLOPS ở chuẩn FP4.

DeepSeek, một trong những phòng thí nghiệm AI hàng đầu của Trung Quốc, sẽ sử dụng các chip Huawei Ascend 950DT cho các hoạt động suy luận quy mô lớn và triển khai chúng trong một trung tâm dữ liệu duy nhất đặt tại Nội Mông. Toàn bộ hệ thống sẽ mang lại hiệu suất đỉnh là 160 ExaFLOPS ở độ chính xác FP8 hoặc khoảng 320 ExaFLOPS ở độ chính xác FP4. Hệ thống cũng sẽ có tổng dung lượng bộ nhớ HBM khoảng 23 PB, đồng nghĩa với việc các hoạt động suy luận quy mô lớn sẽ có thể phục vụ hàng ngàn khách hàng đồng thời mà không gặp bất kỳ vấn đề gì.

Ascend 950DT được liên kết với nhau bằng giao thức kết nối Lingqu mới và các liên kết quang học được thiết kế để kết nối hàng trăm nghìn thẻ Ascend 950. Huawei có thể đóng gói tới 8.192 chip trên mỗi Atlas 950 SuperPoD, có thể mở rộng quy mô lên tới 64 Atlas SuperPoD với tổng số 524.288 bộ tăng tốc. Tuy nhiên, vì DeepSeek chỉ đặt hàng 160.000 bộ tăng tốc AI Ascend, việc mở rộng và đạt tới giới hạn lý thuyết đó sẽ không phải là vấn đề.

🗞 Nguồn: TechPowerUp

#vgsnews #vgs #tintuc