Namun di balik sorotan terhadap konsumsi listrik dan jejak karbon, ada aspek lain yang selama ini jarang dibahas, yakni penggunaan logam pada chip AI.

Sebuah studi terbaru mencoba mengungkap hal tersebut dengan membongkar salah satu chip AI populer milik Nvidia, yakni A100, yang banyak digunakan dalam pengembangan chatbot generatif pada fase awal ledakan AI.

Penelitian yang dilakukan tim dari University of Bonn itu menganalisis kandungan material chip secara rinci hingga tingkat unsur kimia. Sophia Falk, peneliti dari Bonn Sustainable AI Lab sekaligus penulis utama studi, bersama timnya menemukan bahwa satu chip Nvidia A100 mengandung 32 elemen berbeda.

Hasil analisis menunjukkan sekitar 90 persen massa chip tersusun dari logam berat. Tembaga menjadi material dominan dengan berat sekitar 1,4 kilogram per unit. Selain itu terdapat besi, timah, silikon, dan nikel dalam jumlah besar. Sementara emas, perak, platinum, dan paladium hanya ditemukan dalam kadar kecil.

Dari seluruh elemen yang diidentifikasi, banyak di antaranya tergolong bahan berbahaya seperti arsenik, merkuri, timbal, kadmium, kromium, seng, nikel, antimon, kobalt, hingga berilium.

Secara keseluruhan, sekitar 93 persen material dalam satu chip A100 terdiri dari unsur yang memiliki sifat toksik. Meski aman saat terpasang di dalam server pusat data, risiko terbesar justru muncul pada proses penambangan bahan baku dan limbah elektronik ketika perangkat sudah tidak digunakan.

Tim peneliti juga menelusuri dampak penggunaan chip dalam pelatihan model AI besar seperti GPT-4.

Jumlah chip yang dibutuhkan ternyata sangat bergantung pada tingkat pemanfaatan perangkat dan usia pakai hardware. Dalam skenario yang dianggap paling realistis, yakni utilisasi 35 persen dengan masa pakai dua tahun, pelatihan satu model GPT-4 diperkirakan membutuhkan sekitar 2.515 chip Nvidia A100.

Dilansir dari laman earth,  jika usia perangkat diperpanjang menjadi tiga tahun, kebutuhan chip turun menjadi sekitar 1.676 unit. Sebaliknya, apabila pemanfaatan rendah dan umur perangkat pendek, satu proses pelatihan dapat menghabiskan hingga 8.800 GPU.

Secara total, pelatihan satu model GPT-4 diperkirakan memerlukan ekstraksi material tambang hingga sekitar 3,6 metrik ton.

Penelitian itu juga mencatat lonjakan kebutuhan komputasi yang sangat besar saat OpenAI beralih dari GPT-3.5 ke GPT-4. Menurut tim peneliti, kebutuhan sumber daya GPU meningkat sekitar 31 kali lipat atau lebih dari 3.000 persen.

Meski begitu, peningkatan performa model tidak selalu sebanding dengan lonjakan sumber daya yang digunakan. GPT-4 memang mencatat peningkatan kemampuan matematika hingga 61 persen dan pengkodean sebesar 39 persen dibanding pendahulunya. Namun untuk kemampuan penalaran umum, peningkatannya hanya sekitar 14 persen.

“Inovasi arsitektur dan metodologi pelatihan mungkin menawarkan peningkatan kinerja yang lebih efektif daripada sekadar meningkatkan sumber daya mentah,” tulis Falk bersama rekan penelitinya.

Mereka menilai model AI yang lebih besar belum tentu selalu lebih cerdas. Penelitian juga menunjukkan bahwa dampak lingkungan terbesar justru terjadi jauh dari lokasi pusat data. Material logam berat pada chip berasal dari tambang dan fasilitas pemrosesan di wilayah dengan regulasi lingkungan yang sering kali lebih longgar.

Dalam sembilan model simulasi yang dianalisis, skenario paling realistis menghasilkan sekitar 6,4 metrik ton material tambang berbahaya. Pada kondisi terburuk, jumlahnya bahkan mendekati 20 metrik ton.

Tim peneliti menilai ada dua langkah utama yang dapat menekan dampak tersebut, yakni meningkatkan tingkat pemanfaatan chip serta memperpanjang usia pakai perangkat keras.

Jika utilisasi chip dinaikkan dari 20 persen menjadi 60 persen, kebutuhan GPU dapat berkurang hingga dua pertiga. Sementara memperpanjang masa pakai hardware dari satu tahun menjadi tiga tahun juga menghasilkan pengurangan serupa.

Bahkan, apabila chip Nvidia A100 dijalankan dengan utilisasi 60 persen selama lima tahun, kebutuhan perangkat untuk melatih GPT-4 dapat turun drastis dari 8.800 menjadi hanya sekitar 587 chip, atau berkurang hingga 93 persen.

Temuan ini dinilai penting karena selama ini pembahasan mengenai dampak AI lebih banyak berfokus pada energi dan air, sementara penggunaan logam berat belum banyak diperhitungkan.

Kini, studi tersebut menghadirkan gambaran lebih konkret mengenai biaya material di balik pelatihan model AI besar, mulai dari ribuan chip hingga berton-ton bahan tambang yang sebagian besar bersifat beracun.

Kelompok peneliti Falk juga mendorong laboratorium AI dan perusahaan teknologi agar lebih transparan dalam mengungkap konfigurasi pelatihan model mereka sebagai bagian dari laporan keberlanjutan.

Penelitian tersebut telah dipublikasikan dalam jurnal ilmiah Communications Earth & Environment.

Artikel Bukan Cuma Boros Listrik, Peneliti Ungkap AI Mengandung Banyak Logam Berbahaya pertama kali tampil pada Katafoto.id.

Beberapa pengguna di platform X (sebelumnya Twitter) melaporkan pada Kamis bahwa menu instruksi khusus ChatGPT yang tersedia di web telah mengalami pembaruan. Kini, pengguna dapat menentukan informasi seperti nama atau panggilan yang diinginkan, profesi, detail yang ingin chatbot ketahui tentang mereka, serta “ciri-ciri” chatbot yang diharapkan, seperti menjadi “banyak bicara,” “mendorong,” atau memiliki gaya komunikasi khas generasi tertentu, seperti “Gen Z.”

Meski fitur baru ini menawarkan personalisasi, penting untuk dicatat bahwa ini tidak berhubungan dengan fitur memori ChatGPT, yang memungkinkan pengguna untuk meminta chatbot mengingat atau melupakan informasi tertentu. Perbedaannya, memori ChatGPT mencakup detail percakapan spesifik yang dapat diingat untuk interaksi selanjutnya, sementara fitur ini lebih difokuskan pada pengaturan preferensi interaksi.

Di menu yang diperbarui, OpenAI menyematkan pesan: “Perkenalkan diri Anda untuk mendapatkan respons yang lebih baik dan lebih personal.”

Kemungkinan besar, pembaruan ini lebih berfokus pada tampilan dan kemudahan penggunaan, daripada perubahan teknis mendalam. Fitur instruksi kustom sebelumnya menggunakan teknologi prompt engineering (rekayasa perintah) untuk menyesuaikan gaya dan nada respons ChatGPT. Hal ini memungkinkan pengguna memberikan instruksi spesifik sehingga jawaban yang diberikan sesuai dengan preferensi mereka.

Meski tampil lebih sederhana dan ramah pengguna, fitur ini tetap bergantung pada teknologi rekayasa perintah. Perubahan yang dilakukan tampaknya hanya menyederhanakan cara pengguna mengatur preferensi mereka.

OpenAI juga menegaskan bahwa fitur ini tetap mematuhi kebijakan penggunaan platform. Moderasi akan diterapkan pada instruksi khusus pengguna untuk memastikan tidak ada pelanggaran terhadap ketentuan layanan yang berlaku.

Fitur personalisasi ini merupakan bagian dari upaya OpenAI untuk terus meningkatkan ChatGPT seiring dengan bertambahnya jumlah penggunanya. Perusahaan telah meluncurkan berbagai pembaruan, termasuk pencarian web langsung dan antarmuka Canvas yang mempermudah proyek penulisan serta pengodean. OpenAI melaporkan bahwa pada Desember 2024, lebih dari 300 juta orang menggunakan ChatGPT setiap minggunya.

Perkembangan ini menunjukkan komitmen OpenAI untuk menghadirkan pengalaman AI yang semakin adaptif dan relevan bagi para penggunanya.

Artikel ChatGPT Hadirkan Fitur Baru Pilih ‘Banyak Bicara’ atau ‘Gen Z’ pertama kali tampil pada Katafoto.id.