OCP Global Summit 2025: Tren Daya Komputasi AI & Kemajuan Teknologi Liquid Cooling

OCP (Open Computing Platform) Global Summit 2025 diadakan kembali di San Jose, Amerika Serikat, pada 13-16 Oktober 2025.
Jumlah peserta melonjak drastis, dari yang tadinya ~4.000 peserta pada 2023, meningkat menjadi ~7.000 peserta pada 2024, dan mencapai 10.835 peserta pada 2025. Lonjakan ini tidak terlepas dari meningkatnya "demam AI" yang muncul beberapa tahun ini, serta bergesernya dewan direksi yang dari semula didominasi penyedia layanan cloud tradisional seperti Intel, Google, Microsoft, Meta, menjadi pemain kunci era AI, seperti AMD, ARM, NVIDIA.

OCP yang semula berkembang darsi sebuah inisiatif perangkat keras terbuka yang didirikan oleh Facebook pada 2011 menjadi platform inti bagi ekosistem infrastruktur AI, dilihat pada tahun ini OCP meluncurkan 3 inisiatif strategis untuk mempercepat penyebaran infrastruktur AI berdensitas tinggi:

1. Komputasi & Jaringan: bekerjasama dengan SNIA (Storage Networking Industry Association) untuk standar penyimpanan & memori.

2. Pendinginan (Cooling): berkolaborasi dengan ASHRAE untuk standar efisiensi energi dan pembuangan panas.

3. Konektivitas: membentuk aliansi baru dengan OIX (Open IX) untuk standar akses jaringan terpadu (AI Factory).

Arsitektur Komputasi AI

Tantangan yang dialami industri sekarang ini adalah kompleksitas inferensi yang meningkat (parameter yang makin banyak dan penalaran yang lebih dalam), mendorong kebutuhan akan pusat data yang bersekala Giga-Watt (GW).

NVIDIA: Arsitektur Vera Rubin OCP MGX
NVIDIA memperkenalkan infrastruktur generasi berikutnya yang kompatibel dengan OCP MGX.

Spesifikasi Kunci:

• Mendukung bandwith memori 1,7 PB/s dan NVLink 260 TB/s

• Busbar berpendingin cair (Liquid Cooled Busbar) yang mampu menangani arus 5.000 Amp

• Penyimpanan energi 20x lebih besar untuk perataan data skala rak (power smoothing)

Desain Rak NVL144:

• Satu tray komputasi berisi: 2 CPU Vera + 4 GPU Rubin + 8 GPU CPX

• Konsumsi daya diprediksi di atas 200kW

• Suhu air yang masuk tetap dipertahankan pada 45°C untuk kompatibilitas infrastruktur lama.

AMD: Platform "Helios"
AMD berusaha mengejar NVIDIA dengan meluncurkan platform "Helios" yang dirancang bersama ZT Systems.

• Menggunakan spesifikasi Open Rack Width dari Meta.

• Ditenagai oleh CPU EPYC Venice generasi baru dan GPU MI400.

• Mendukung interkoneksi UALink dan UltraEthernet.

Inovasi Tren Desain Rak "Double Wide"
Untuk mengakomodasi chip yang semakin besar dan panas, desain rak server berubah menjadi lebih lebar.

• Wiwynn (Wiwynn Double Wide IT Rack)

  • Ditampilkan di OCP 2025, mendukuung chip hingga ukuran 120mm x 150mm

  • Desain tanpa kipas (fan-less) dengan cold plate 3kW

  • Desain yang mendukung aliran udara lebih luas, pemasangan kabel lebih mudahm dan efisiensi pendinginan lebih baik

• Evolusi Meta: Meta menunjukkan transisi dari rak tunggal (M1300X, MTIA) menuju rak ganda atau bahkan disaggregation (pemisahan komponen) di masa depan untuk menangani domain Scale-Up yang besar.

Strategi Skalabilitas (Scailing)
Penyedia layanan cloud mengadopsi tiga cara untuk meningkatkan daya komputasi:

1. Ukuran chip yang lebih besar: Menggunakan advanced packaging untuk menambah jumlah die dalam satu paket (Supercluster Scalling).

2. Menghubungkan lebih banyak GPU: Scale-up (dalam satu node) dan scale-out (antar node).

3. Efisiensi Ekspansi: Membangun arsitektur jaringan AI-WAN berkecepatan tinggi untuk menghubungkan daya komputasi lintas data center.

Tren Pendingin Cair (Liquid Cooling Trends)

Pendingin cair bukan lagi sekedar opsi, namun menjadi hal mutlak untuk mendukung stabilitas komputasi AI. Hal ini juga terlihat dari makin banyaknya produsen yang mengembangkan solusi pendinginan untuk data center, lalu liquid cooling sekrang tidak hanya sebagai opsi pelengkap dari proses pembangunan AIDC, namun menjadi faktor utama yang dipikirkan lebih dahulu.
Dengan adanya OCP, diharapkan bisa mempercepat munculnya standar teknologi untuk industri liquid cooling, beberapa teknologi liquid cooling terus menembus pasar, seperti:

• Direct-to-Chip (D2C): Saat ini menjadi opsi utama.

• Solusi "Hibrida" masih mendominasi, di mana D2C mendinginkan chip utama (CPU/GPU), namun ~20% panas komponen lain masih dibuang menggunakan udara.

• Rear Door Heat Exchange (RDHx): Masih digunakan sebagai solusi tambahan.

• Immersion Cooling: Solusi ini masih dalam tahap Proof of Concept (POC), namun adopsi teknologi ini lambat, walaupun menawarkan solusi pendinginan 100%.

Inovasi Vendor & Produk Baru

• ZutaCore: Meluncurkan platform cold plate "OmniTherm" yang dapat dipasang dalam berbagai sudut (vertikal/horizontal) tanpa mengurangi performa, mampu mendinginkan komponen di kedua sisi motherboard.

  

• Marvell: Merilis switch CPO (Co-Packaged Optics) berpendingin cair yang diproduksi oleh Jabil dan plat pendingin di supply oleh Mikros. Pipa air diintegrasikan di dalam sasis di sekitar kabel serat optik.

  

• Meta (IcePack): Switch jaringan 64-port yang menggunakan liquid cooling busbar untuk mengurangi risiko overheat pada sistem jaringan.

Pasar CDU (Coolant Distribution Unit)
Permintaan CDU diproyeksi tumbuh pesat seiring densitas rak AI yang meningkat dari 80kW menjadi 500kW. Tren menunjukkan pergeseran dari CDU berbasis rak (Rack-Based) ke CDU berbasis fasilitas besar (Large Facility CDU) yang mampu menangani beban panas >1 MW hingga >100 MW.
Pada pusat data lama yang belum direnovasi total, penggunaan "Air-Assisted Liquid Cooling" (AALC) atau CDU cair-ke-udara menjadi solusi jembatan.