Apabila Pelayan AI Meminta Teknologi Penyejukan yang Lebih Tinggi! Mengapa Trend Beralih daripada "Penyejukan Udara" kepada "Penyejukan Cecair"

 

Ketua Pegawai Eksekutif NVIDIA Jensen Huang membuat penampilan istimewa di COMPUTEX 2023 untuk menyokong ucapan Pengerusi Supermicro Charles Liang. Pengerusi Fanner Lin Yushen menegaskan bahawa kebanyakan produk pelayan yang dipaparkan di atas pentas menampilkan modul penyejukan air Fanner. Fanner, setelah melabur dalam modul penyejukan air selama bertahun-tahun, berada pada kedudukan yang baik untuk memanfaatkan gelombang AI ini. Walau bagaimanapun, apabila pelayan AI menuntut standard penyejukan yang semakin tinggi, mengapakah trend beralih daripada "penyejukan udara" kepada "penyejukan cecair"?

 

 

I Daripada Operasi Kelajuan Tinggi kepada Penyejukan Cecair

 

Dari segi teknologi penyejukan, Lin Yushen menyatakan bahawa modul penyejukan semasa terutamanya menggunakan teknologi penyejukan hibrid yang menggabungkan paip haba. Modul penyejukan paip haba ini menggabungkan komponen seperti kipas, sink haba dan paip haba untuk mewujudkan persekitaran terma yang seimbang untuk komponen elektronik dalaman, dengan itu meningkatkan kestabilan peranti elektronik. Walau bagaimanapun, apabila produk elektronik terminal hiliran menjadi lebih pelbagai fungsi dan padat, pengeluar modul penyejukan telah beralih kepada mereka bentuk penyelesaian penyejukan yang berpusat pada ruang wap dan paip haba.

 

Pada masa ini, modul penyejukan dibahagikan kepada dua jenis: "penyejukan udara" dan "penyejukan cecair." Penyejukan udara menggunakan udara sebagai medium, dengan bahan seperti bahan antara muka terma, kebuk wap (VC) atau paip haba yang mengalirkan haba, yang kemudiannya dilesapkan melalui sink haba atau kipas melalui perolakan udara. Sebaliknya, penyejukan cecair menghilangkan haba melalui perolakan cecair, termasuk penyejukan rendaman, yang menyejukkan cip dengan lebih cekap. Walau bagaimanapun, apabila cip menjana lebih banyak haba dan menjadi lebih kecil, dan apabila kuasa reka bentuk terma (TDP) meningkat, penyejukan udara secara beransur-ansur menjadi tidak mencukupi.

 

▲ Perbandingan antara teknologi penyejukan udara dan penyejukan cecair

 

Dengan kebangkitan ChatGPT, AI generatif telah mendorong peningkatan dalam penghantaran pelayan, yang seterusnya membawa kepada spesifikasi yang dinaik taraf untuk modul penyejukan, mendorongnya ke arah penyelesaian penyejukan cecair untuk memenuhi keperluan ketat untuk penyejukan dan kestabilan pelayan. Lin Yushen menekankan bahawa Fanner bermula dengan teknologi penyejukan udara dan, seawal sepuluh tahun yang lalu, mula memperoleh teknologi penyejukan cecair melalui pemindahan teknologi IBM. Mereka menyediakan pintu belakang penyejukan air yang membolehkan pelanggan menambah penyejukan air pada kabinet tanpa mengubah suai infrastruktur pusat data sedia ada.

 

 

II Menjelang 2025, Era Baharu Penyejukan Udara dan Cecair serentak

 

Didorong oleh pembangunan teknologi semikonduktor yang berkaitan dengan aplikasi AI, pengenalan GPT-3 dalam ChatGPT telah meningkatkan parameter algoritma AI kepada 175 bilion, yang memerlukan peningkatan seratus kali ganda dalam kuasa pengkomputeran GPU. Industri ini terutamanya menggunakan teknologi penyejukan rendaman satu fasa dalam penyejukan cecair untuk menyelesaikan cabaran pelesapan haba pelayan atau komponen berketumpatan tinggi. Walau bagaimanapun, kaedah ini mempunyai had 600W, manakala keperluan penyejukan untuk ChatGPT atau pelayan yang lebih maju melebihi 700W.

 

▲ Ilustrasi teknologi penyejukan rendaman satu fasa

 

Dengan pembangunan IoT, pengkomputeran tepi dan aplikasi 5G, AI data mendorong kuasa pengkomputeran global ke fasa pertumbuhan tinggi. Reka bentuk modul penyejukan generasi seterusnya akan mengikut dua arah utama: menaik taraf modul penyejukan sedia ada dengan ruang wap 3D (3DVC) atau memperkenalkan sistem penyejukan cecair yang menggunakan cecair sebagai medium perolakan terma untuk meningkatkan kecekapan penyejukan. Akibatnya, bilangan ujian penyejukan cecair meningkat dengan ketara pada tahun 2023. Walau bagaimanapun, 3DVC akhirnya merupakan penyelesaian peralihan, dan dijangka menjelang 2024-2025, era penyejukan udara dan cecair serentak akan bermula.

 

Menurut TrendForce, pada tahun 2022, pelayan AI yang dilengkapi dengan GPGPU (GPU Tujuan Umum) menyumbang kira-kira 1% daripada jumlah penghantaran. Walau bagaimanapun, didorong oleh aplikasi ChatGPT, penghantaran pelayan AI dijangka berkembang sebanyak 38.4% pada 2023, dengan kadar pertumbuhan tahunan kompaun penghantaran pelayan AI antara 2022 dan 2026 mencapai 29%.

 

 

III "Penyejukan Cecair" Akan Menjadi Arus Perdana untuk Cip AI

 

Apabila TDP pelayan generasi baharu menghampiri had penyejukan udara, syarikat teknologi terkemuka mula menguji penyejukan cecair atau meningkatkan ruang penyejukan. Contohnya, Intel Eagle Stream dan AMD Genoa TDP sebanyak 350-400W telah mencapai had penyejukan udara, menjadikan penyejukan cecair sebagai penyelesaian arus perdana untuk cip AI. H100 NVIDIA mempunyai TDP 700W, dan penyejukan udara menggunakan 3DVC biasanya memerlukan lebih daripada 4U ruang, yang tidak sesuai untuk seni bina penggunaan berketumpatan tinggi.

 

▲ H100 NVIDIA

 

Memandangkan sistem penyejukan menyumbang kira-kira 33% daripada jumlah penggunaan tenaga di pusat data, mengurangkan jumlah penggunaan kuasa dan meningkatkan Keberkesanan Penggunaan Kuasa (PUE) melibatkan pengoptimuman sistem penyejukan, peralatan IT dan penggunaan tenaga boleh diperbaharui. Memandangkan kapasiti terma air adalah empat kali ganda daripada udara, melaksanakan sistem penyejukan cecair memerlukan hanya 1U ruang untuk plat penyejuk cecair. Menurut ujian NVIDIA, untuk mencapai kuasa pengkomputeran yang sama, penyejukan cecair boleh mengurangkan bilangan kabinet yang diperlukan sebanyak 66%, penggunaan tenaga sebanyak 28%, dan PUE daripada 1.6 kepada 1.15, sambil turut meningkatkan prestasi pengkomputeran.

 

 

Penggunaan Modul Penyejukan Kipas IV Supermicro Adalah Penting

 

Penyejukan cecair dibahagikan lagi kepada "penyejukan air" dan "penyejukan minyak," dengan penyejukan air kini paling banyak digunakan. Lin Yushen menyatakan bahawa hampir semua pelayan AI kini menggunakan penyelesaian penyejukan air. Sebagai contoh, GH100 NVIDIA, dengan TDP melebihi 700W, mesti menggunakan penyejukan air. Walaupun penyejukan air pada masa ini menyumbang sebahagian kecil hasil Fanner, harga jualan purata (ASP) pelayan AI adalah sepuluh kali lebih tinggi daripada pelayan tradisional, yang akan membantu mengubah struktur produk Fanner pada separuh kedua tahun ini. Dianggarkan bahawa pelayan AI boleh menyumbang 5-10% daripada perniagaan mereka pada tahun 2023.

 

Lin Yushen menekankan bahawa sebab utama Supermicro menggunakan modul penyejukan air daripada Fanner untuk pelayan yang dilengkapi dengan GPU NVIDIA GH100 ialah Fanner telah mengusahakan penyelesaian penyejukan cecair selama lebih sedekad. Walaupun cabaran melaksanakan penyejukan air terutamanya melibatkan kos dan pencegahan kebocoran, penyelidikan Fanner selama sepuluh tahun telah beransur-ansur mengatasi isu kebocoran ini. Pelaburan jangka panjang Fanner dalam modul penyejukan air telah meletakkan mereka untuk memanfaatkan gelombang AI ini.

 

▲ Penyejukan Cecair Tersuai Supermicro

 

Lin Yushen menegaskan bahawa peningkatan berterusan dalam TDP didorong oleh pengkomputeran berkelajuan tinggi dan permintaan penyejukan yang semakin meningkat bagi pelayan AI telah mendorong penyejukan paip haba tradisional ke hadnya, yang memerlukan penggunaan modul penyejukan air. Fanner sudah mempunyai beberapa pelanggan, termasuk Supermicro dan Meta, yang telah menggunakan penyelesaian mereka. Walaupun penggunaan penyejukan air yang lebih pantas daripada jangkaan, ia tidak mungkin dilaksanakan sepenuhnya pada 2023. Walau bagaimanapun, ia dijangka menyaksikan kejayaan yang ketara menjelang 2024, dengan pertumbuhan yang meletup dijangka pada 2025.