Kecerdasan buatan (AI) sering terasa “tanpa bobot”. Ia hadir sebagai teks, gambar, atau video di layar ponsel dan laptop kita. Namun di balik respons yang tampak instan itu, ada pusat data besar yang bekerja keras dan mengonsumsi listrik dalam jumlah nyata.
Pengukuran terbaru menunjukkan fakta mengejutkan: satu video yang dihasilkan AI bisa mengonsumsi lebih dari 100 kali lipat listrik dibanding satu gambar. Artinya, jenis permintaan (prompt) yang kita masukkan sangat memengaruhi jejak energi yang ditimbulkan.
Temuan ini berasal dari para insinyur di University of Michigan (U-M), yang membangun sistem pengukuran publik untuk membandingkan konsumsi energi, kecepatan, dan kualitas berbagai model AI dalam tugas yang sama.
**Platform Pengukuran Energi Publik**
Melalui ML.ENERGY Leaderboard, tim U-M menampilkan perbandingan konsumsi energi di samping metrik kecepatan dan kualitas untuk model dan tugas yang identik. Hasilnya menunjukkan bahwa perbedaan konsumsi listrik tidak hanya ditentukan oleh ukuran model, tetapi juga oleh apa yang diminta pengguna, bagaimana sistem dikonfigurasi, dan cara model dijalankan di perangkat keras.
Dalam studi mereka, tim menguji 46 model dan tujuh jenis tugas, dengan total 1.858 kombinasi perangkat keras dan perangkat lunak. Fokus pengukuran adalah pada tahap inference—yaitu momen ketika model yang sudah dilatih memberikan jawaban atas permintaan pengguna.
Tahap inilah yang paling banyak menyedot daya. Bahkan, menurut estimasi ML.ENERGY Benchmark, inference menyumbang 80–90 persen dari total kebutuhan komputasi dalam ekonomi AI.
**Proyeksi Konsumsi Listrik Melonjak**
Sebagai gambaran skala, International Energy Agency (IEA) memproyeksikan konsumsi listrik pusat data di Amerika Serikat mencapai 183 terawatt-jam pada 2024 dan meningkat 426 terawatt-jam pada 2030. Angka ini menunjukkan betapa pentingnya memahami efisiensi energi dalam pengembangan AI.
**Mode “Berpikir” 25 Kali Lebih Boros**
Untuk model bahasa (seperti chatbot), konsumsi energi sangat bergantung pada bagaimana jawaban dihasilkan. Dalam pengujian, mode pemecahan masalah (reasoning) bisa mengonsumsi hingga 25 kali lebih banyak listrik per respons dibanding percakapan santai.
Kuncinya ada pada token—potongan kecil teks yang dihasilkan model. Setiap token memicu proses perhitungan matematika dan perpindahan data di dalam server. Dalam mode reasoning, model sering menghasilkan sekitar 10 kali lebih banyak token, sehingga konsumsi listrik meningkat, dan jumlah permintaan yang bisa diproses bersamaan menurun.
Artinya, semakin panjang jawaban AI, semakin besar pula listrik yang digunakan. Memangkas panjang respons atau menghentikan generasi lebih cepat bisa menurunkan konsumsi energi, bahkan jika pertanyaannya tetap sama.
**Strategi Pengelompokan yang Paradoks**
Peneliti juga menemukan bahwa pengelompokan banyak permintaan sekaligus (batching) bisa mengurangi energi per token hingga 3–5 kali lipat. Dengan batch besar, chip bekerja lebih sibuk dan lebih efisien.
Namun ada konsekuensinya yakni respons menjadi lebih lambat dan pengguna bisa merasakan jeda (latency). Untuk layanan yang mengutamakan respons instan, operator mungkin memilih batch kecil meski lebih boros listrik, karena pengguna cenderung lebih sensitif terhadap keterlambatan dibanding konsumsi energi.
**Pemborosan Tersembunyi GPU**
Bukan hanya model AI yang menentukan konsumsi energi. Terkadang, pemborosan terbesar justru terjadi di luar model itu sendiri. AI sangat bergantung pada GPU (Graphics Processing Unit) untuk melakukan perhitungan berat. Namun ketika GPU menunggu data, ia tetap menyedot listrik.
Pada tugas gambar dan video, permintaan sering memerlukan proses persiapan tambahan di CPU (prosesor biasa). Jika proses ini lambat, GPU akan menunggu tanpa bekerja optimal tapi tetap menyala dan mengonsumsi daya.
Dalam situasi seperti ini, mengganti GPU dengan versi lebih cepat belum tentu menyelesaikan masalah. Jika komponen lain tetap lambat, chip mahal itu tetap menganggur—dan tetap boros energi.
**Kompleksitas Video AI**
Untuk generator gambar dan video, konsumsi energi lebih ditentukan oleh apa yang dibuat pengguna dibanding jumlah parameter model. Video AI sangat boros karena prosesnya berulang dan kompleks.
Banyak sistem menggunakan diffusion model—metode yang memperbaiki “noise” visual secara bertahap melalui banyak langkah komputasi. Setiap tambahan resolusi lebih tinggi, jumlah frame lebih banyak, dan langkah difusi lebih panjang akan meningkatkan beban komputasi dan perpindahan memori, sehingga konsumsi listrik melonjak.
Mengurangi resolusi atau jumlah frame memang bisa menurunkan kebutuhan energi secara cepat, tetapi kualitas visual dan kelancaran gerakan juga ikut berubah.
**Teknik Kompresi yang Tidak Selalu Efektif**
Secara teori, teknik seperti quantization—menyimpan angka dalam format bit lebih sedikit—seharusnya mengurangi konsumsi listrik karena data yang dipindahkan lebih kecil. Namun dalam praktiknya, hasilnya tidak selalu demikian.
Server memang memindahkan data lebih sedikit, tetapi harus melakukan konversi tambahan. Pada batch kecil, overhead ini bisa menghambat efisiensi hardware, meningkatkan waktu respons, bahkan menaikkan konsumsi energi.
**Koordinasi Multi-GPU Tambah Boros**
Selain itu, menggunakan lebih banyak GPU sering kali mempercepat respons. Namun total konsumsi energi biasanya ikut naik pada batch yang sama. Alasannya, GPU tambahan harus berkoordinasi melalui koneksi berkecepatan tinggi. Proses koordinasi ini memakan energi tanpa menghasilkan token baru.
Namun jika satu GPU tidak mampu menampung batch besar karena keterbatasan memori, menyebarkan model ke beberapa GPU justru bisa lebih hemat secara keseluruhan.
**Merancang AI Sadar Energi**
Alih-alih menganggap konsumsi energi sebagai efek samping tersembunyi, tim pengembang kini bisa melacak penggunaan listrik per permintaan sejak tahap pengujian. Toolkit dari U-M memungkinkan tim melakukan pengujian otomatis untuk mencari konfigurasi yang memenuhi target kecepatan namun tetap berada dalam batas anggaran energi.
Sumber: Kompas.com
Buku Terkait:
Pergulatan Transisi Energi Berkeadilan: Satu Isu Beragam Dilema
Perencanaan Pembangunan, Keuangan, dan Transisi Energi Daerah