Jakarta – Kemajuan kecerdasan buatan atau artificial intelligence (AI) yang kian pesat dinilai membawa risiko serius bagi keamanan digital dan harkat warga negara apabila tidak diimbangi dengan regulasi yang tegas. Penyalahgunaan teknologi AI untuk memanipulasi foto dan video hingga menjadi konten bermuatan vulgar bahkan disebut telah berada pada tahap mengkhawatirkan.
Ketua Indonesia Cyber Security Forum (ICSF) Ardi Sutedja menilai, hadirnya chatbot AI generatif seperti Grok membuka ruang baru bagi kejahatan siber, khususnya pelecehan digital melalui rekayasa visual.
“Bayangkan seseorang mendapati fotonya beredar dalam bentuk tidak senonoh di media sosial, padahal tidak pernah melakukan atau menyetujuinya. Ini bukan cerita imajiner, melainkan ancaman nyata di era AI yang terlalu longgar,” ujar Ardi dikutip dari laman infopublik, Minggu (11/1).
Ia menjelaskan, sejumlah platform AI telah menerapkan pembatasan ketat terhadap konten sensitif. Namun, Grok disebut masih memiliki celah dari sisi etika karena mampu menghasilkan atau mengubah visual yang berpotensi merendahkan martabat manusia. Jika dibiarkan tanpa pengawasan, AI berisiko berubah menjadi instrumen pelecehan digital berskala luas.
Dengan jumlah pengguna internet yang melampaui 212 juta orang, Indonesia menghadapi tantangan besar dalam literasi keamanan siber. Survei Asosiasi Penyelenggara Jasa Internet Indonesia (APJII) mencatat sekitar 64 persen pengguna internet belum memahami risiko keamanan digital secara menyeluruh, termasuk ancaman manipulasi konten berbasis AI.
“Kasus rekayasa foto dan video menggunakan AI sudah muncul di berbagai daerah, mulai dari pemerasan hingga perusakan nama baik. Yang terlihat saat ini baru sebagian kecil dari masalah yang sebenarnya,” kata Ardi.
Ia mengingatkan bahwa tanpa payung hukum yang kuat serta edukasi publik yang memadai, masyarakat akan semakin rentan menjadi korban kejahatan digital yang makin kompleks dan sulit dilacak.
Undang-Undang Perlindungan Data Pribadi (UU PDP) yang disahkan pada 2022 seharusnya menjadi dasar utama perlindungan warga di ruang siber. Namun hingga kini, aturan turunannya belum sepenuhnya tuntas, sehingga menciptakan area abu-abu dalam penegakan hukum terhadap penyalahgunaan AI.
“Perkembangan teknologi melaju sangat cepat, sementara regulasi tertinggal. Tanpa aturan teknis yang jelas, aparat penegak hukum kesulitan menentukan pihak yang harus bertanggung jawab, apakah pengembang AI, pengguna, atau platform penyebarnya,” ujarnya.
Menurut Ardi, persoalan penyalahgunaan AI tidak lagi sebatas pelanggaran privasi individu, melainkan sudah menyentuh aspek stabilitas sosial dan keamanan nasional. Manipulasi visual terhadap tokoh publik, pejabat negara, maupun figur keagamaan berpotensi memicu konflik sosial serta menggerus kepercayaan publik.
Dampak yang dialami korban pun tidak hanya bersifat material. Tekanan psikologis, stigma sosial, gangguan kesehatan mental, hingga kehilangan pekerjaan menjadi konsekuensi nyata yang kerap sulit dipulihkan, meski konten palsu telah dibantah.
Data Badan Siber dan Sandi Negara (BSSN) menunjukkan ribuan serangan siber terjadi setiap hari, sebagian di antaranya memanfaatkan teknologi AI untuk penipuan dan pemerasan. Tanpa kebijakan yang tegas, tren ini diperkirakan akan terus meningkat.
ICSF pun mendorong pemerintah segera menuntaskan regulasi turunan UU PDP yang secara khusus mengatur pemanfaatan AI generatif. Aturan tersebut perlu mencakup kewajiban penyaringan konten otomatis, persetujuan eksplisit dari pemilik data, transparansi algoritma, serta sanksi tegas bagi pelaku penyalahgunaan.
“Regulasi harus bersifat antisipatif, bukan menunggu masalah membesar. Negara tidak boleh bertindak setelah ribuan korban berjatuhan,” tegas Ardi.
Selain itu, ia menekankan tanggung jawab platform teknologi untuk menerapkan prinsip ethics by design, sekaligus pentingnya penguatan literasi digital masyarakat sebagai lapisan perlindungan pertama.
Sebagai negara dengan ekosistem digital terbesar di Asia Tenggara, Indonesia dituntut membangun ruang digital yang aman, adil, dan bermartabat. Keamanan siber serta perlindungan data pribadi harus menjadi agenda prioritas nasional seiring percepatan transformasi digital.
“AI bisa menjadi anugerah atau ancaman. Semua bergantung pada cara negara, industri, dan masyarakat mengelolanya. Martabat digital warga tidak boleh dikorbankan demi inovasi semata,” pungkas Ardi.