Tập đoàn công nghệ Huawei Technologies của Trung Quốc hôm nay (26/7) đã giới thiệu hệ thống tính toán AI, mà một chuyên gia ngành đánh giá là có thể sánh ngang với sản phẩm tiên tiến nhất của Nvidia.
Trong ngày khai mạc Hội nghị Trí tuệ Nhân tạo Thế giới (WAIC), Huawei đã ra mắt hệ thống tính toán trí tuệ nhân tạo (AI) mà một chuyên gia nhận định có thể sánh ngang với sản phẩm tiên tiến nhất của Nvidia. Động thái này cho thấy gã khổng lồ công nghệ Trung Quốc đang nỗ lực giành thị phần trong lĩnh vực trí tuệ nhân tạo đang phát triển mạnh mẽ tại nước này.
Huawei hôm nay giới thiệu hệ thống tính toán AI có thể cạnh tranh với các sản phẩm hàng đầu của Nvidia.
Hệ thống CloudMatrix 384 lần đầu tiên ra mắt công chúng tại WAIC, sự kiện kéo dài ba ngày tại Thượng Hải, nơi các công ty trình diễn những đổi mới AI mới nhất của mình, thu hút một lượng lớn khách tham quan đến gian hàng của Huawei.
Hệ thống này đã thu hút sự chú ý mạnh mẽ từ cộng đồng AI toàn cầu kể từ khi Huawei công bố vào tháng 4. Các nhà phân tích ngành coi đây là đối thủ trực tiếp của GB200 NVL72 của Nvidia, sản phẩm cấp hệ thống tiên tiến nhất hiện có trên thị trường của gã khổng lồ chip Mỹ.
Chuyên gia Dylan Patel, người sáng lập nhóm nghiên cứu bán dẫn SemiAnalysis, trong một bài viết hồi tháng 4 cho biết Huawei hiện sở hữu khả năng hệ thống AI có thể vượt qua Nvidia.
Nhân viên Huawei tại gian hàng WAIC từ chối bình luận khi được yêu cầu giới thiệu về hệ thống CloudMatrix 384. Người phát ngôn của Huawei cũng không phản hồi các câu hỏi.
Huawei hiện được xem là nhà cung cấp chip nội địa đầy triển vọng nhất của Trung Quốc cho việc phát triển AI, dù công ty đang đối mặt với các hạn chế xuất khẩu từ Mỹ. Giám đốc điều hành Nvidia, Jensen Huang, trong một cuộc phỏng vấn với Bloomberg hồi tháng 5, đã nói rằng Huawei đang "phát triển khá nhanh" và nêu tên CloudMatrix như một ví dụ.
Theo SemiAnalysis, CloudMatrix 384 tích hợp 384 chip 910C mới nhất của Huawei và vượt trội hơn GB200 NVL72 của Nvidia ở một số chỉ số, trong khi hệ thống của Nvidia sử dụng 72 chip B200. Hiệu suất này đến từ khả năng thiết kế hệ thống của Huawei, bù đắp cho hiệu năng chip đơn lẻ yếu hơn thông qua việc sử dụng nhiều chip hơn và những đổi mới ở cấp hệ thống.
Huawei cho biết hệ thống này sử dụng kiến trúc "supernode", cho phép các chip kết nối với nhau ở tốc độ cực cao. Vào tháng 6, Giám đốc điều hành Huawei Cloud, Trương Bình An, cho biết hệ thống CloudMatrix 384 đã hoạt động trên nền tảng đám mây của Huawei.
Các báo cáo ban đầu cho thấy CloudMatrix 384 có khả năng cung cấp sức mạnh tính toán 300 PFLOPs với định dạng BF16, gấp đôi so với hệ thống AI GB200 NVL72 của Nvidia. Hệ thống này cũng vượt trội về dung lượng bộ nhớ (gấp 3,6 lần) và băng thông (gấp 2,1 lần).
Huawei đã công bố các thông số quan trọng của cụm chip AI mới nhất này. CloudMatrix 384 được xây dựng trên nền tảng siêu nút (super-node) Ascend, sử dụng khả năng kết nối bus tốc độ cao, mang lại độ trễ thấp khi liên kết giữa 384 đơn vị xử lý thần kinh (NPU) Ascend.
Hệ thống này còn khắc phục các vấn đề liên kết giữa tính toán, lưu trữ và các tài nguyên quan trọng khác trong cụm. Nhờ tối ưu hóa kỹ thuật hệ thống, CloudMatrix 384 có thể hoạt động ổn định như một PC, với khả năng quản lý và phân bổ tài nguyên hiệu quả.
Huawei giới thiệu CloudMatrix 384 dựa trên chip Ascend AI với ba ưu điểm nổi bật: Băng thông cực lớn, độ trễ cực thấp và hiệu suất cực mạnh. Những ưu điểm này giúp các doanh nghiệp đạt được hiệu quả tốt hơn trong việc huấn luyện AI và đảm bảo hiệu suất ổn định cho các mô hình suy luận. Đồng thời, hệ thống mang lại độ tin cậy lâu dài.
So với các cụm AI truyền thống thường tích hợp nhiều máy chủ, bộ lưu trữ, công nghệ mạng và các tài nguyên khác, CloudMatrix 384 của Huawei có cấu trúc được tổ chức tối ưu, giảm thiểu nguy cơ gặp sự cố trong quá trình huấn luyện quy mô lớn.