Menurut Nezar Patria, etika saja tidak cukup untuk mengatur perkembangan teknologi tanpa adanya aturan yang mengikat dan memiliki konsekuensi hukum. 

“Jadi tantangannya dalam setiap obrolan soal etika ini adalah seberapa jauh etik ini kemudian bisa menjadi dasar dalam pembangunan regulasi karena tanpa kekuatan hukum itu percuma. Etika tidak punya kekuatan interaktif, tapi kalau regulasi ada sanksi dan hukuman,” ujar Nezar Patria dalam audiensi bersama Globethics di Kantor Kementerian Komunikasi dan Digital, Jakarta Pusat, Rabu (13/5).

Selama ini belum semua perusahaan teknologi menjadikan aspek etika sebagai bagian penting dalam pengembangan produk digital. Namun, menurutnya, kesadaran terhadap pentingnya mitigasi risiko etis mulai berkembang di industri teknologi global.

Nezar menyebut perubahan tersebut terlihat dari mulai banyaknya perusahaan teknologi yang merekrut lulusan bidang humaniora dan filsafat untuk membantu mengevaluasi produk yang berkaitan langsung dengan kehidupan manusia. 

“Sekarang risiko etis itu jadi salah satu kategori di dalam perusahaan teknologi. Tadinya itu tidak ada dalam hirarki risiko mereka. Jadi itu satu kemajuan menurut saya, bahwa ada kepedulian tentang etika,” katanya.

Menurut Nezar Patria, aspek etika menjadi semakin krusial dalam pengembangan teknologi baru seperti AI karena berpotensi menimbulkan benturan nilai, norma, hingga visi di tengah masyarakat. “Etika menjadi penting karena dalam pengembangan-pengembangan AI kita akan bersinggungan dengan soal-soal yang sangat fundamental, terutama ada konflik nilai, norma, dan visi,” ujarnya.

Ia juga menyoroti sebagian besar model AI generatif berbasis Large Language Model (LLM) saat ini dikembangkan oleh negara-negara Barat. Kondisi tersebut dinilai berpotensi memunculkan perbedaan nilai dengan budaya dan karakter masyarakat Indonesia. 

“Kita tahu kalau AI, apalagi generative AI yang berbasis Large Language Model, kebanyakan model-modelnya dibentuk oleh negara-negara Barat sehingga konflik nilai itu sangat mungkin terjadi dalam pemrosesan data dan juga pengambilan keputusan yang dibuat oleh AI ini,” jelasnya.

Artikel AI Makin Canggih, Wamenkomdigi Ingatkan Bahaya Konflik Nilai dan Norma pertama kali tampil pada Katafoto.id.