Intel Gaudi 3 Chính Thức Có Mặt Trên IBM Cloud – Hiệu Suất Vượt NVIDIA H100 & H200!!

Nguồn: Intel

Bộ tăng tốc AI Intel Gaudi 3 đã chính thức được IBM Cloud áp dụng. Đây là lần đầu tiên một nhà cung cấp dịch vụ đám mây (CSP) tích hợp Gaudi 3 vào danh mục sản phẩm của mình, đánh dấu một bước phát triển đầy hứa hẹn.

IBM trở thành CSP đầu tiên cung cấp Intel Gaudi 3 cho khách hàng, mang đến giải pháp tiết kiệm chi phí so với NVIDIA

Hành trình AI của Intel không rực rỡ như các đối thủ, do hãng không nắm bắt xu hướng AI từ sớm. Đến nay, Intel vẫn chưa chiếm được vị thế vững chắc trong ngành, khiến tỷ lệ chấp nhận dòng sản phẩm Gaudi AI khá thấp. Tuy nhiên, IBM Cloud đã trở thành CSP đầu tiên công bố việc triển khai bộ tăng tốc AI Intel Gaudi 3, với mục tiêu mang đến giải pháp tối ưu chi phí cho khách hàng.

Khách hàng có thể truy cập sức mạnh tính toán của bộ tăng tốc AI Gaudi 3 thông qua Máy chủ ảo trên IBM Cloud. Đáng chú ý, Signal65 đã tiến hành thử nghiệm bộ tăng tốc này trên nền tảng và so sánh hiệu suất với GPU NVIDIA H100 và H200. Đây cũng là lần đầu tiên Gaudi 3 của Intel được thử nghiệm bên ngoài nội bộ công ty, và kết quả cho thấy nếu Intel có chiến lược hợp lý, họ hoàn toàn có thể cạnh tranh trong lĩnh vực AI.

Các bài kiểm tra cho thấy bộ tăng tốc mới nhất của Intel vượt trội hơn so với NVIDIA H100 và H200 trên cả hai mô hình IBM Granite (8B) và Meta Llama-3.1. Các thông số được tùy chỉnh theo từng lần thử nghiệm, đồng nghĩa với việc trong các tình huống thực tế, hiệu suất của Gaudi 3 có thể không hoàn toàn giống như kết quả thử nghiệm, nhưng vẫn rất đáng chú ý. Các bài kiểm tra cũng được thực hiện với nhiều kích thước đầu vào khác nhau, và đây là kết luận từ Signal65:

" Gaudi 3 duy trì hiệu suất cạnh tranh cao so với NVIDIA H200 và H100 trên nhiều cấu hình khác nhau, cho thấy khả năng ứng dụng rộng rãi trong các trường hợp sử dụng AI đa dạng. "

Ngoài ra, Gaudi 3 của Intel hiện có sẵn trên IBM Cloud với mức giá thấp hơn so với các sản phẩm của NVIDIA, khiến nó trở thành lựa chọn lý tưởng cho khách hàng đang tìm kiếm một giải pháp tính toán tiết kiệm chi phí. Nhìn chung, có thể nói rằng Gaudi 3 của Intel là một sản phẩm đầy tiềm năng, miễn là nó nhận được sự quảng bá và áp dụng đúng cách. Dù không thể sánh ngang với NVIDIA về mức độ phổ biến và hiệu suất, Gaudi 3 vẫn là một lựa chọn thay thế đáng cân nhắc.