Vì sao AI Data Center thúc đẩy nhu cầu Liquid Cooling và Cold Plate?

AI Data Center (trung tâm dữ liệu AI) thúc đẩy nhu cầu Liquid Cooling (làm mát bằng chất lỏng) và Cold Plate (tấm làm mát) như thế nào?

AI Data Center sử dụng ngày càng nhiều GPU và bộ xử lý hiệu năng cao trong cùng một hệ thống. Khi công suất tính toán tăng, lượng nhiệt cần loại bỏ trên một đơn vị không gian cũng tăng theo. Trong các rack có mật độ công suất cao, việc chỉ tăng lưu lượng không khí và công suất quạt ngày càng khó đáp ứng hiệu quả yêu cầu tản nhiệt.Liquid Cooling – làm mát bằng chất lỏng giải quyết bài toán này bằng cách đưa chất làm mát đến gần nguồn sinh nhiệt hơn. Với Direct-to-Chip Cooling (làm mát trực tiếp trên chip), Cold Plate được đặt trực tiếp trên GPU, CPU hoặc các chip sinh nhiệt lớn. Chất làm mát lưu thông bên trong Cold Plate tiếp nhận nhiệt và đưa nhiệt ra khỏi server.Vì vậy, sự phát triển của AI Data Center không chỉ tạo nhu cầu về hệ thống làm mát mới mà còn mở ra nhu cầu đối với các linh kiện như Liquid Cold Plate, đồng thời đặt ra những yêu cầu mới đối với công nghệ gia công chính xác, tạo đường dẫn chất làm mát, liên kết và kiểm soát chất lượng sản phẩm.

Vì sao AI Data Center tạo ra bài toán làm mát khó hơn?

Khác với nhiều hệ thống máy chủ truyền thống chủ yếu dựa vào CPU, hạ tầng AI sử dụng số lượng lớn GPU và accelerator để thực hiện các phép tính song song phục vụ huấn luyện và vận hành mô hình AI.Khi nhiều bộ xử lý công suất cao được tích hợp vào cùng một rack, hai yếu tố đồng thời tăng lên:Mật độ tính toán tăng→ công suất điện trên mỗi rack tăng→ lượng nhiệt phát sinh tăng→ mật độ nhiệt cần xử lý tăng.Trong khi đó, kích thước vật lý của rack và không gian dành cho luồng không khí không thể tăng tương ứng.Đây là lý do bài toán cooling ngày càng trở thành một yếu tố quan trọng khi thiết kế hạ tầng AI.Trích dẫn: NVIDIA công bố hệ thống Vera CPU Rack ở cấu hình rack sử dụng 100% liquid cooling, trong khi nền tảng Vera Rubin cũng được thiết kế với kiến trúc làm mát bằng chất lỏng ở cấp rack. (*) NVIDIA – một trong những doanh nghiệp phát triển GPU và nền tảng tính toán AI lớn trên thế giới – đang tích hợp liquid cooling ngày càng sâu vào các hệ thống AI thế hệ mới.

Tại sao chỉ tăng quạt và luồng không khí là chưa đủ?

Trong hệ thống air cooling, nhiệt từ GPU hoặc CPU thường phải truyền qua nhiều bước:GPU / CPU→ vật liệu tiếp xúc nhiệt→ heatsink→ không khí→ hệ thống làm mát của Data Center.Khi lượng nhiệt tăng, một cách xử lý là tăng lượng không khí đi qua heatsink. Tuy nhiên, lưu lượng không khí không thể tăng vô hạn. Server phải có không gian hạn chế để bố trí: GPU; CPU; bộ nhớ; nguồn điện; network component; heatsink; quạt; các linh kiện khác. Khi mật độ linh kiện tăng, đường đi của luồng khí cũng trở nên hạn chế hơn. Muốn loại bỏ nhiều nhiệt hơn phải tăng lưu lượng và áp suất của quạt, đồng nghĩa với việc tiêu thụ thêm điện và làm bài toán thiết kế airflow trở nên phức tạp hơn.Vì vậy, đối với những rack AI có mật độ công suất cao, vấn đề không còn đơn thuần là “lắp thêm quạt”, mà là làm thế nào đưa nhiệt ra khỏi chip hiệu quả hơn.

Liquid Cooling giải quyết bài toán nhiệt của AI Server như thế nào?

Điểm khác biệt quan trọng của Liquid Cooling là đưa môi chất làm mát tới gần nguồn nhiệt hơn.Trong Direct-to-Chip Liquid Cooling:GPU / CPU / Switch Chip↓Cold Plate↓Coolant↓Manifold↓CDU – Coolant Distribution Unit↓Hệ thống giải nhiệt phía ngoàiCold Plate (tấm làm mát) được đặt tiếp xúc trực tiếp với các linh kiện sinh nhiệt lớn như GPU, CPU hoặc Switch Chip (chip chuyển mạch). Coolant (chất làm mát) lưu thông bên trong Cold Plate sẽ hấp thụ nhiệt từ chip, sau đó đưa nhiệt ra ngoài thông qua hệ thống tuần hoàn và giải nhiệt.So với Air Cooling (làm mát bằng không khí), Direct-to-Chip Liquid Cooling (làm mát bằng chất lỏng trực tiếp trên chip) giúp đưa môi chất làm mát đến gần nguồn phát nhiệt hơn. Nhờ đó, quá trình truyền nhiệt có thể diễn ra theo hướng:Chip → Cold Plate → Coolant (chất làm mát)thay vì chủ yếu truyền nhiệt qua:Chip → Heatsink (bộ tản nhiệt) → Air (không khí).Việc rút ngắn đường truyền nhiệt và sử dụng chất lỏng để vận chuyển nhiệt là một trong những lý do Liquid Cooling ngày càng được quan tâm đối với các AI Data Center (trung tâm dữ liệu AI) có mật độ công suất cao.

Cold Plate là gì?

Cold Plate là bộ phận trao đổi nhiệt được đặt tiếp xúc với nguồn phát nhiệt, bên trong có đường dẫn để chất làm mát lưu thông và mang nhiệt ra khỏi linh kiện.Trong AI server, Cold Plate có thể được sử dụng cho: GPU; CPU; Switch chip; Các linh kiện điện tử công suất cao khác. Một Cold Plate không chỉ cần truyền nhiệt tốt. Khi có chất lỏng lưu thông bên trong, sản phẩm còn phải đáp ứng nhiều yêu cầu liên quan đến:

• độ kín;
• độ phẳng;
• độ chính xác kích thước;
• đường dẫn coolant;
• khả năng chịu điều kiện vận hành;
• độ ổn định giữa các sản phẩm.

Vì vậy, khi nhu cầu Liquid Cooling tăng, yêu cầu đối với công nghệ chế tạo Cold Plate cũng tăng theo.

Vì sao nhu cầu Cold Plate tăng cùng AI Data Center?

Công suất nhiệt cần xử lý trên mỗi rack tăng

AI Data Center tập trung nhiều GPU hiệu năng cao trong cùng một hệ thống. Khi tổng công suất của rack tăng, hệ thống cooling phải thu và vận chuyển lượng nhiệt lớn hơn.Cold Plate trở thành một trong những giao diện quan trọng nhất giữa: chip sinh nhiệt và hệ thống Liquid Cooling.

Nhiều linh kiện có thể cần làm mát trực tiếp hơn

Liquid Cooling ban đầu có thể tập trung vào những linh kiện sinh nhiệt lớn nhất như GPU và CPU. Tuy nhiên, khi mật độ công suất tiếp tục tăng, kiến trúc cooling có xu hướng mở rộng phạm vi thu nhiệt.Trích dẫn: NVIDIA cho biết thế hệ Rubin hướng tới kiến trúc 100% liquid-cooled, bao gồm cả compute và networking component thay vì chỉ tập trung vào một số chip riêng lẻ.=> Điều này cho thấy nhu cầu thermal management trong AI Data Center đang mở rộng từ cấp chip sang cấp server và rack.

Cooling Channel ngày càng trở thành một phần quan trọng của thiết kế Cold Plate

Bên trong Cold Plate, coolant cần được phân phối đến khu vực cần lấy nhiệt. Do đó, hiệu quả của Cold Plate không chỉ phụ thuộc vào vật liệu mà còn liên quan đến thiết kế:

• vị trí cooling channel;
• hình dạng channel;
• tiết diện dòng chảy;
• diện tích trao đổi nhiệt;
• đường đi của coolant.

Đây là nơi gia công CNC chính xác có thể đóng vai trò quan trọng.Cooling channel có thể được gia công trực tiếp trên phần base của Cold Plate trước khi được đóng kín bằng cover.

Một Cold Plate có thể được chế tạo như thế nào?

Tùy cấu tạo và phương pháp sản xuất, quy trình sẽ khác nhau. Với loại Cold Plate sử dụng base có cooling channel và cover plate, một phương án chế tạo có thể gồm:

1. Gia công Base Plate

↓

2. CNC tạo Cooling Channel

↓

3. Chuẩn bị Cover Plate

↓

4. Liên kết Cover với Base

↓

5. Gia công hoàn thiện nếu cần

↓

6. Kiểm tra sản phẩm

Một trong những công nghệ có thể được sử dụng để liên kết cover với base nhôm là Friction Stir Welding – FSW, hàn ma sát khuấy.Các ứng dụng FSW thương mại cho Liquid Cold Plate cũng sử dụng cấu trúc gồm thân có coolant channel và cover được liên kết bằng FSW.

Hàn ma sát khuấy FSW có vai trò gì trong sản xuất Cold Plate?

FSW là phương pháp liên kết ở trạng thái rắn.Một tool chuyên dụng quay với tốc độ cao, tiếp xúc với vùng nối và tạo ra nhiệt do ma sát. Vật liệu tại vùng này mềm hóa nhưng không cần nóng chảy hoàn toàn. Chuyển động của tool làm vật liệu dịch chuyển và khuấy trộn để hình thành mối nối.Điều này tạo ra một hướng sản xuất đáng chú ý đối với Cold Plate nhôm:CNC machining tạo Cooling Channel+FSW để đóng kín Cover Plate.Ở đây, CNC và FSW đảm nhận hai nhiệm vụ khác nhau nhưng bổ trợ cho nhau:

• CNC machining: tạo hình dạng và đường dẫn coolant;
• FSW: tạo liên kết giữa base và cover.

Vì vậy, Cold Plate là một ví dụ điển hình cho việc một linh kiện thermal management có thể cần kết hợp cả gia công chính xác và công nghệ liên kết.

Vì sao FSW có tiềm năng đối với Aluminum Cold Plate?

Độ kín của đường dẫn coolant

Coolant được đưa qua các channel nằm bên trong Cold Plate. Do đó, phần liên kết giữa cover và base cần được kiểm soát để hạn chế nguy cơ rò rỉ. FSW tạo liên kết mà không cần làm nóng chảy hoàn toàn vật liệu nền. Đối với nhôm, đây là một trong những lý do công nghệ này được sử dụng trong các ứng dụng Liquid Cold Plate và heat exchanger.

Kiểm soát biến dạng và độ phẳng

Cold Plate phải tiếp xúc với linh kiện cần làm mát. Do đó, độ phẳng của các bề mặt chức năng là một yếu tố cần được xem xét trong quá trình thiết kế và sản xuất.Bất kỳ công đoạn nào tạo ra nhiệt hoặc lực lên sản phẩm đều có thể ảnh hưởng đến trạng thái của chi tiết. Vì vậy, FSW không chỉ là bài toán “tạo được mối hàn” mà còn cần tối ưu:

• tốc độ quay của tool;
• tốc độ tiến;
• lực tác dụng;
• chiều sâu tool;
• phương án gá;
• đường hàn;
• đặc tính vật liệu.

Khả năng kết hợp với CNC Machining

Đây là một lợi thế quan trọng khi nhìn Cold Plate như một sản phẩm hoàn chỉnh. CNC có thể tạo các channel có hình dạng phù hợp với thiết kế cooling, sau đó FSW đóng kín phần channel bằng cover.Nhờ đó, doanh nghiệp có khả năng kết hợp: Precision Machining + FSW có thể tham gia sâu hơn vào chuỗi sản xuất Cold Plate thay vì chỉ cung cấp một công đoạn riêng lẻ.

Từ AI Data Center đến cơ hội cho ngành gia công chính xác

Sự phát triển của AI Data Center đang tạo ra một chuỗi nhu cầu mới:

AI workload tăng

↓

Mật độ công suất tăng

↓

Nhu cầu tản nhiệt tăng

↓

Liquid Cooling phát triển

↓

Nhu cầu Cold Plate tăng

↓

Gia công Cooling Channel

↓

Công nghệ liên kết như FSW

↓

Gia công hoàn thiện và kiểm tra

Điều này cho thấy cơ hội không chỉ dành cho các nhà sản xuất server hay thiết bị cooling.Các doanh nghiệp gia công cơ khí có năng lực về:

• precision machining;
• gia công nhôm;
• cooling channel;
• FSW;
• đo kiểm;
• process monitoring (giám sát quá trình)

cũng có thể tiếp cận một phần của chuỗi cung ứng thermal management cho các hệ thống AI trong tương lai.

Ohnoseiko Việt Nam: phát triển FSW hướng tới các ứng dụng thermal management

AI Data Center đang thúc đẩy sự chuyển dịch từ các hệ thống chủ yếu làm mát bằng không khí sang những kiến trúc kết hợp hoặc sử dụng Liquid Cooling. Trong đó, Cold Plate là một trong những linh kiện quan trọng để đưa chất làm mát đến gần GPU, CPU và các nguồn sinh nhiệt lớn.Sự thay đổi này đồng thời mở ra yêu cầu mới đối với công nghệ chế tạo Cold Plate, từ gia công chính xác Cooling Channel đến liên kết Cover Plate, kiểm soát biến dạng và theo dõi quá trình sản xuất.Với nền tảng gia công CNC cùng công nghệ Friction Stir Welding – FSW, Ohnoseiko Việt Nam đang phát triển những năng lực có tiềm năng ứng dụng vào các sản phẩm thermal management (quản lý nhiệt) như Cold Plate. Đặc biệt, hướng tiếp cận kết hợp FSW với giám sát nhiệt độ và tải trục chính theo thời gian thực là một điểm đáng chú ý trong quá trình nghiên cứu và tối ưu điều kiện hàn của công ty.Tải tài liệu giới thiệu công nghệ FSW của Ohnoseiko Việt Nam để xem chi tiết về nguyên lý, ứng dụng và các mẫu gia công thực tế.