Pelatihan model kecerdasan buatan (AI) berskala besar selama ini dikenal membutuhkan konsumsi energi yang sangat tinggi. Pusat data untuk AI bahkan dapat menghabiskan daya hingga skala gigawatt, sehingga banyak perusahaan teknologi mulai rutin menerbitkan laporan emisi karbon mereka.
Namun di balik sorotan terhadap konsumsi listrik dan jejak karbon, ada aspek lain yang selama ini jarang dibahas, yakni penggunaan logam pada chip AI.
Sebuah studi terbaru mencoba mengungkap hal tersebut dengan membongkar salah satu chip AI populer milik Nvidia, yakni A100, yang banyak digunakan dalam pengembangan chatbot generatif pada fase awal ledakan AI.
Penelitian yang dilakukan tim dari University of Bonn itu menganalisis kandungan material chip secara rinci hingga tingkat unsur kimia. Sophia Falk, peneliti dari Bonn Sustainable AI Lab sekaligus penulis utama studi, bersama timnya menemukan bahwa satu chip Nvidia A100 mengandung 32 elemen berbeda.
Hasil analisis menunjukkan sekitar 90 persen massa chip tersusun dari logam berat. Tembaga menjadi material dominan dengan berat sekitar 1,4 kilogram per unit. Selain itu terdapat besi, timah, silikon, dan nikel dalam jumlah besar. Sementara emas, perak, platinum, dan paladium hanya ditemukan dalam kadar kecil.
Dari seluruh elemen yang diidentifikasi, banyak di antaranya tergolong bahan berbahaya seperti arsenik, merkuri, timbal, kadmium, kromium, seng, nikel, antimon, kobalt, hingga berilium.
Secara keseluruhan, sekitar 93 persen material dalam satu chip A100 terdiri dari unsur yang memiliki sifat toksik. Meski aman saat terpasang di dalam server pusat data, risiko terbesar justru muncul pada proses penambangan bahan baku dan limbah elektronik ketika perangkat sudah tidak digunakan.
Tim peneliti juga menelusuri dampak penggunaan chip dalam pelatihan model AI besar seperti GPT-4.
Jumlah chip yang dibutuhkan ternyata sangat bergantung pada tingkat pemanfaatan perangkat dan usia pakai hardware. Dalam skenario yang dianggap paling realistis, yakni utilisasi 35 persen dengan masa pakai dua tahun, pelatihan satu model GPT-4 diperkirakan membutuhkan sekitar 2.515 chip Nvidia A100.
Dilansir dari laman earth, jika usia perangkat diperpanjang menjadi tiga tahun, kebutuhan chip turun menjadi sekitar 1.676 unit. Sebaliknya, apabila pemanfaatan rendah dan umur perangkat pendek, satu proses pelatihan dapat menghabiskan hingga 8.800 GPU.
Secara total, pelatihan satu model GPT-4 diperkirakan memerlukan ekstraksi material tambang hingga sekitar 3,6 metrik ton.
Penelitian itu juga mencatat lonjakan kebutuhan komputasi yang sangat besar saat OpenAI beralih dari GPT-3.5 ke GPT-4. Menurut tim peneliti, kebutuhan sumber daya GPU meningkat sekitar 31 kali lipat atau lebih dari 3.000 persen.
Meski begitu, peningkatan performa model tidak selalu sebanding dengan lonjakan sumber daya yang digunakan. GPT-4 memang mencatat peningkatan kemampuan matematika hingga 61 persen dan pengkodean sebesar 39 persen dibanding pendahulunya. Namun untuk kemampuan penalaran umum, peningkatannya hanya sekitar 14 persen.
“Inovasi arsitektur dan metodologi pelatihan mungkin menawarkan peningkatan kinerja yang lebih efektif daripada sekadar meningkatkan sumber daya mentah,” tulis Falk bersama rekan penelitinya.
Mereka menilai model AI yang lebih besar belum tentu selalu lebih cerdas. Penelitian juga menunjukkan bahwa dampak lingkungan terbesar justru terjadi jauh dari lokasi pusat data. Material logam berat pada chip berasal dari tambang dan fasilitas pemrosesan di wilayah dengan regulasi lingkungan yang sering kali lebih longgar.
Dalam sembilan model simulasi yang dianalisis, skenario paling realistis menghasilkan sekitar 6,4 metrik ton material tambang berbahaya. Pada kondisi terburuk, jumlahnya bahkan mendekati 20 metrik ton.
Tim peneliti menilai ada dua langkah utama yang dapat menekan dampak tersebut, yakni meningkatkan tingkat pemanfaatan chip serta memperpanjang usia pakai perangkat keras.
Jika utilisasi chip dinaikkan dari 20 persen menjadi 60 persen, kebutuhan GPU dapat berkurang hingga dua pertiga. Sementara memperpanjang masa pakai hardware dari satu tahun menjadi tiga tahun juga menghasilkan pengurangan serupa.
Bahkan, apabila chip Nvidia A100 dijalankan dengan utilisasi 60 persen selama lima tahun, kebutuhan perangkat untuk melatih GPT-4 dapat turun drastis dari 8.800 menjadi hanya sekitar 587 chip, atau berkurang hingga 93 persen.
Temuan ini dinilai penting karena selama ini pembahasan mengenai dampak AI lebih banyak berfokus pada energi dan air, sementara penggunaan logam berat belum banyak diperhitungkan.
Kini, studi tersebut menghadirkan gambaran lebih konkret mengenai biaya material di balik pelatihan model AI besar, mulai dari ribuan chip hingga berton-ton bahan tambang yang sebagian besar bersifat beracun.
Kelompok peneliti Falk juga mendorong laboratorium AI dan perusahaan teknologi agar lebih transparan dalam mengungkap konfigurasi pelatihan model mereka sebagai bagian dari laporan keberlanjutan.
Penelitian tersebut telah dipublikasikan dalam jurnal ilmiah Communications Earth & Environment.