industry.co.id - AMD mengklaim telah mencapai peningkatan efisiensi energi untuk komputasi AI sebesar 4 kali lipat dalam kurun waktu 2024 hingga pertengahan 2026. Pencapaian ini melampaui target proyeksi awal sebesar 3 kali lipat dan menempatkan AMD di depan jadwal menuju target besar tahun 2030.
Target 2030 AMD adalah menghadirkan peningkatan efisiensi energi skala rak sebesar 20 kali lipat untuk pelatihan dan inferensi AI. Dengan capaian saat ini, AMD menunjukkan bahwa mereka sedang membangun momentum yang kuat untuk mencapai tujuan tersebut.
Mengapa Efisiensi Energi AI Penting?
Komputasi AI berkembang pesat dan meningkatkan tuntutan terhadap infrastruktur data center. Memenuhi kebutuhan tersebut memerlukan inovasi di seluruh lini: CPU, GPU, jaringan, software, daya, dan pendinginan harus bekerja bersama secara efisien pada tingkat rak dan data center.
Peningkatan efisiensi energi membantu menghadirkan performa AI yang lebih tinggi tanpa meningkatkan konsumsi daya. Hal ini berdampak pada perbaikan total cost of ownership dan membantu pelanggan melakukan penskalaan lebih cepat.
Gelombang efisiensi AI berikutnya akan bergantung pada co-optimization yang lebih erat di seluruh silikon komputasi, memori, interkoneksi, software, dan desain sistem skala rak. Estimasi peningkatan 4x kami hingga 2026 mencerminkan kekuatan pendekatan kami. kata Sam Naffziger, Senior Vice President and Corporate Fellow AMD.
Dua Skenario Manfaat pada 2030
Berdasarkan beban kerja pelatihan AI yang representatif, AMD memproyeksikan dua skenario manfaat dari peningkatan efisiensi energi skala rak pada 2030:
Skenario pertama: komputasi sama, sumber daya lebih sedikit. Sekitar dua rak AMD pada 2030 diperkirakan mampu menghadirkan komputasi yang setara dengan 570 rak pada 2024. Ini berarti pengurangan penggunaan listrik sebesar 20 kali lipat dan intensitas karbon sebesar 28 kali lipat.
Skenario kedua: komputasi lebih banyak, energi sama. Peningkatan efisiensi memungkinkan komputasi 20 kali lipat lebih banyak (diukur dalam FLOPs per watt) dengan menggunakan jumlah energi yang sama.
Bagaimana AMD Meningkatkan Efisiensi?
AMD berupaya meningkatkan efisiensi di seluruh stack AI melalui kemajuan dalam arsitektur komputasi, teknologi proses, bandwidth memori, perpindahan data, interkoneksi, software, dan co-design tingkat sistem. Tujuannya adalah menghadirkan performa komputasi yang jauh lebih tinggi tanpa mengharuskan konsumsi energi tumbuh dengan laju yang sama.
Tiga faktor utama yang mendorong performa sistem AI adalah kemampuan komputasi, bandwidth memori, dan bandwidth interkoneksi. Teknologi proses canggih dan peningkatan arsitektur membantu meningkatkan performa komputasi floating-point per watt.
Peran Memori dan Interkoneksi
Beban kerja AI modern bergantung pada perpindahan data dalam jumlah besar secara efisien. Peningkatan bandwidth memori, kepadatan bandwidth, dan bandwidth per watt membantu memastikan mesin komputasi terus mendapat pasokan data sekaligus mengurangi pemborosan daya.
Teknologi high-bandwidth memory, cache yang lebih besar, dan integrasi yang lebih erat antara memori dan komputasi dapat mengurangi perpindahan data yang tidak perlu. Sementara itu, interkoneksi scale-up berkecepatan tinggi membantu sistem yang lebih besar mengurangi bottleneck dan berbagi data lebih efisien.
Peran Software dan Ekosistem Terbuka
Hardware menyediakan fondasi, tetapi software membantu membuka peningkatan efisiensi yang berkelanjutan. Stack software AMD ROCm yang berbasis standar terbuka, serta kolaborasi erat dengan pelanggan, membantu developer dan organisasi menerapkan beban kerja AI dengan lebih efisien pada platform AMD.
Pengoptimalan ini sangat penting untuk beban kerja pelatihan dan inferensi AI berskala besar, di mana peningkatan throughput dan pengurangan energi per token yang dihasilkan menjadi semakin krusial seiring aplikasi AI berkembang.
Dampak bagi Pelanggan dan Data Center
Pelanggan membutuhkan lebih banyak komputasi yang berguna dari energi yang tersedia. Proyeksi peningkatan efisiensi skala rak AMD dapat memungkinkan pelanggan AI dan HPC memperoleh manfaat pada tingkat data center dari infrastruktur daya dan pendinginan.
Efisiensi energi yang lebih baik dapat membantu mengurangi penggunaan listrik operasional, memperbaiki total cost of ownership, serta mendukung pertumbuhan AI dan HPC yang lebih berkelanjutan di tengah meningkatnya kebutuhan komputasi global.
