Tập đoàn Siemens và công ty nVent (chuyên về giải pháp điện và bảo vệ nhiệt) đã cùng phát triển một kiến trúc tham chiếu (reference architecture) (1) dành cho giải pháp làm mát bằng chất lỏng và cung cấp điện, được thiết kế chuyên biệt cho các tác vụ xử lý AI trong môi trường hệ thống quy mô lớn (hyperscale environment) tại các trung tâm dữ liệu của NVIDIA.
(1) Kiến trúc tham chiếu (reference architecture) là một mô hình thiết kế mẫu, được xây dựng bởi các chuyên gia hoặc nhà cung cấp công nghệ, nhằm cung cấp bộ khung chuẩn để thiết kế, triển khai và vận hành một hệ thống cụ thể.

Khi các tác vụ xử lý AI (AI workload) (2) trở nên ngày càng chuyên sâu và phân tán hơn, chiến lược hạ tầng trung tâm dữ liệu phải cân bằng giữa hiệu năng, hiệu quả và khả năng mở rộng thông qua các hệ thống ngày càng thông minh và thích ứng. Để hỗ trợ thế hệ hạ tầng số tiếp theo, tập đoàn Siemens và công ty nVent đang kết hợp chuyên môn của họ nhằm giúp các trung tâm dữ liệu tối ưu hóa hạ tầng làm mát và cung cấp điện cho quá trình triển khai toàn cầu cũng như tăng cường khả năng vận hành bền vững.
(2) AI workload là thuật ngữ chỉ tất cả các tác vụ tính toán mà hệ thống AI phải xử lý, bao gồm huấn luyện mô hình (training), tinh chỉnh (fine-tuning) và suy luận (inference). Các tác vụ này yêu cầu năng lực tính toán rất lớn, tạo ra mật độ nhiệt cao, tiêu thụ điện năng lớn và đòi hỏi khả năng mở rộng hạ tầng ở quy mô lớn. Vì vậy, AI workload có ảnh hưởng trực tiếp đến thiết kế điện, mạng, làm mát và khả năng vận hành bền vững của trung tâm dữ liệu hiện đại.

Kiến trúc do hai doanh nghiệp cùng phát triển được thiết kế để giúp khách hàng xây dựng các trung tâm dữ liệu AI quy mô lớn với công suất 100 MW, phù hợp để vận hành các hạ tầng AI quy mô lớn sử dụng công nghệ làm mát bằng chất lỏng, như hệ thống NVIDIA GB200 NVL72. Kiến trúc này cung cấp thiết kế đạt chuẩn Tier III (3), tích hợp hệ thống điện và tự động hóa cấp công nghiệp của Siemens với các bản thiết kế tham chiếu NVIDIA DGX GB200 và công nghệ làm mát bằng chất lỏng của nVent.
(3) Tier III là mức tiêu chuẩn trung tâm dữ liệu do Uptime Institute (một tổ chức độc lập có trụ sở tại Hoa Kỳ, chuyên đánh giá và chứng nhận mức độ sẵn sàng, độ tin cậy và khả năng vận hành của các trung tâm dữ liệu trên toàn cầu) xác định, yêu cầu hạ tầng phải có khả năng duy trì vận hành liên tục kể cả khi một thành phần bị lỗi hoặc cần bảo trì.

“Chúng tôi có hàng thập kỷ kinh nghiệm hỗ trợ khách hàng đáp ứng nhu cầu hạ tầng công nghệ thông tin thế hệ mới,” bà Sara Zawoyski, Chủ tịch nVent Systems Protection cho biết. “Sự hợp tác với Siemens khẳng định cam kết đó. Kiến trúc tham chiếu chung sẽ giúp các nhà quản lý trung tâm dữ liệu tận dụng hạ tầng làm mát tiên tiến của chúng tôi để hỗ trợ quá trình mở rộng AI.”

“Kiến trúc tham chiếu này tăng tốc thời gian tính toán và tối ưu hóa số tokens trên mỗi watt – thước đo hiệu năng AI trên mỗi đơn vị năng lượng,” ông Ciaran Flanagan, Giám đốc toàn cầu mảng giải pháp trung tâm dữ liệu tại Siemens chia sẻ. “Do đó, đây là một mô hình lý tưởng cho khả năng mở rộng: mô-đun, chịu lỗi và tiết kiệm năng lượng. Cùng với nVent và hệ sinh thái đối tác đa dạng, chúng tôi đang kết nối các điểm trong chuỗi giá trị để thúc đẩy đổi mới, khả năng tương tác và tính bền vững, giúp các nhà vận hành xây dựng các trung tâm dữ liệu sẵn sàng cho tương lai, khai mở toàn bộ tiềm năng của AI.”

Để xem các tin bài khác về “Trung tâm dữ liệu”, hãy nhấn vào đây.

 

Nguồn: Hannover Messe

Lưu ý: 

Để xem và khai thác hiệu quả nội dung của video clip nói trên (từ YouTube/ một dịch vụ của Google), Quý vị có thể thực hiện các bước sau:
1. Nếu tốc độ internet nhanh, có thể mở chế độ xem toàn màn hình bằng cách nhấn vào khung [ ] tại góc phải (phía dưới góc phải của video)
2. Chọn chế độ hình ảnh tốt nhất của đoạn video, hãy click vào hình bánh xe răng cưa và chọn chất lượng cao hơn (hoặc HD) theo ý muốn
3. Để hiển thị nội dung phụ đề, nhấn vào nút biểu tượng phụ đề [cc]. Một số video không có chức năng này sẽ không có biểu tượng phụ đề.
4. Quý vị có thể nghe hiểu tiếng Anh và có nhu cầu chia sẻ thông tin đến cộng đồng, hãy hỗ trợ techMAG biên dịch nội dung video và gửi cho chúng tôi để có cơ hội đăng thông tin lên technologyMag.net