Nvidia sắp sửa cách mạng hóa lĩnh vực AI với nền tảng Blackwell sắp ra mắt, thể hiện những tiến bộ đột phá trong công nghệ GPU và điện toán AI. Khi công ty chuẩn bị trình bày tại Hot Chips 2024, họ đã hé lộ một cái nhìn thoáng qua về tương lai của xử lý AI trong trung tâm dữ liệu.
 |
|---|
| Công nghệ NVIDIA Blackwell được trưng bày trong một giá đỡ máy chủ hiện đại |
Blackwell: Không chỉ là một GPU
Blackwell đại diện cho một hệ sinh thái toàn diện của phần cứng tập trung vào AI:
- GPU Blackwell: Trung tâm, với 208 tỷ bóng bán dẫn trên quy trình 4NP của TSMC
- CPU Grace: Bộ xử lý tùy chỉnh dựa trên ARM của Nvidia
- Chip chuyển mạch NVLink: Cho phép kết nối GPU siêu nhanh
- BlueField-3: Đơn vị xử lý dữ liệu tiên tiến
- ConnectX-7 và ConnectX-8: Card giao diện mạng thế hệ tiếp theo
- Spectrum-4 và Quantum-3: Bộ chuyển mạch mạng tiên tiến
Hiệu suất và hiệu quả chưa từng có
GPU Blackwell có thông số kỹ thuật ấn tượng:
- Hiệu suất AI FP4 20 Peta FLOPS
- Băng thông bộ nhớ 8 TB/giây với bộ nhớ HBM3e
- Băng thông NVLink hai chiều 1,8 TB/giây
Cách tiếp cận sáng tạo của Nvidia khi kết hợp hai GPU giới hạn reticle thành một gói duy nhất cho phép mật độ giao tiếp, độ trễ và hiệu quả năng lượng tối ưu.
 |
|---|
| Một so sánh chi tiết về các nền tảng mới nhất của Nvidia, bao gồm thông số kỹ thuật về hiệu suất vượt trội của nền tảng Blackwell |
NVLink: Bí quyết cho hiệu suất đa GPU
Bộ chuyển mạch NVLink nâng cấp tăng gấp đôi băng thông kết nối lên 1,8 TB/giây, cho phép giao tiếp liền mạch giữa tối đa 72 GPU trong các giá đỡ GB200 NVL72. Tiến bộ này rất quan trọng để giải quyết các mô hình AI ngày càng phức tạp như Llama-3.1 405B tham số của Meta.
Tiên phong trong độ chính xác FP4
Lần đầu tiên trên thế giới, Nvidia đã trình diễn việc tạo hình ảnh AI sử dụng tính toán FP4, thể hiện tiềm năng của Hệ thống lượng tử hóa Quasar của họ. Đột phá này cho phép tiết kiệm băng thông đáng kể trong khi vẫn duy trì chất lượng hình ảnh tương đương với các mô hình FP16.
 |
|---|
| So sánh các hình ảnh được tạo ra bởi AI thể hiện những tiến bộ của độ chính xác FP4 của Nvidia trong việc tạo ra hình ảnh AI |
Đổi mới trong làm mát bằng chất lỏng
Nvidia đang khám phá các giải pháp làm mát trực tiếp đến chip bằng nước ấm, hứa hẹn giảm tới 28% chi phí điện năng cho cơ sở trung tâm dữ liệu. Cách tiếp cận này không chỉ cải thiện hiệu quả làm mát mà còn kéo dài tuổi thọ máy chủ và mở ra khả năng tái sử dụng nhiệt.
AI xây dựng AI
Có lẽ điều thú vị nhất là Nvidia đang tận dụng AI để tối ưu hóa quy trình thiết kế chip. AI tạo sinh đang được sử dụng để tạo mã Verilog, có khả năng đẩy nhanh quá trình phát triển kiến trúc GPU trong tương lai.
Khi Nvidia chuẩn bị giao Blackwell cho khách hàng vào cuối năm nay, thế giới công nghệ háo hức chờ đợi tác động của những đổi mới này đối với lĩnh vực AI. Với các sản phẩm tiếp theo như Blackwell Ultra, Rubin và Rubin Ultra đang ở phía chân trời, Nvidia dường như sẵn sàng duy trì vị trí dẫn đầu trong lĩnh vực điện toán AI trong nhiều năm tới.