Nvidia công bố siêu máy tính AI nhanh nhất được hình thành từ 4.608 GPU H100

20/02/2024 10:09

VietTimes – Siêu máy tính Eos hiện được xếp hạng là siêu máy tính có hiệu năng cao thứ 9 thế giới trong danh sách Top 500 mới nhất.

Nvidia mới đây đã công bố một video quay cận cảnh kiến trúc của Eos, siêu máy tính hướng đến doanh nghiệp mới nhất của hãng, được thiết kế để phát triển các ứng dụng AI trên quy mô lớn.

Máy Eos của Nvidia là siêu máy tính có hiệu năng cao thứ 9 thế giới trong danh sách Top 500 mới nhất. Được biết, trong các nhiệm vụ AI thuần túy, thiết bị này có thể xử lý ở tốc độ nhanh nhất ở thời điểm hiện tại.

Nvidia tuyên bố trong video: “Eos được tạo ra để đáp ứng những thách thức của hàng nghìn nhà phát triển đang thực hiện nghiên cứu AI. Siêu máy tính Eos sẽ giúp họ giải quyết những vấn đề nan giải trước đây”.

Về thông số, Eos trang bị 576 hệ thống DGX H100, mỗi hệ thống chứa 8 GPU H100. Tổng cộng, có 4.608 GPU được sử dụng, kết hợp 1.152 chip Intel Xeon Platinum 8480C, mỗi bộ xử lý có 56 nhân.

Theo Tom's Hardware, siêu máy tính này dựa trên kiến trúc DGX SuperPOD, sử dụng mạng và phần mềm Nvidia Quantum-2 InfiniBand với tốc độ truyền dữ liệu 400 Gb/giây, giúp khả năng tính toán đạt 121,4 petaflop (triệu tỉ phép tính mỗi giây) theo phép đo FP64. Trong các tác vụ về AI, theo phép đo FP8, máy đạt khả năng xử lý 18,4 exaflop.

Được biết, Eos có thể xử lý khối lượng công việc lớn về AI, như đào tạo mô hình ngôn ngữ lớn, hệ thống gợi ý, mô phỏng lượng tử,... Sản phẩm cũng đáp ứng nhu cầu về "nhà máy AI", giúp phát triển mô hình AI quy mô lớn.

"Thế giới đang thay đổi với AI tạo sinh, từ chatbot cho tới các cỗ máy tự động và hơn thế nữa. Để đạt được những đột phá đó, họ cần một nhà máy AI", Nvidia nêu trong video. Theo hãng, việc tạo một nhà máy AI như Eos giúp doanh nghiệp có thể đảm nhận những dự án với đòi hỏi khắt khe và đạt được khát vọng về AI của con người trong hiện tại và tương lai. Bản thân Nvidia cũng đang sử dụng siêu máy tính này.

Theo Tom's Hardware, ở thời điểm hiện tại mỗi con chip H100 có giá từ 30.000 - 40.000 USD tùy thuộc vào số lượng, do vậy để tạo nên một cỗ máy như vậy có thể tiêu tốn hàng trăm triệu USD của Nvdia.

Theo Tom's Hardware

https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-provides-the-first-public-view-of-its-fastest-ai-supercomputer-eos-is-powered-by-4608-h100-gpus-tuned-for-generative-ai