Nasional, Peloporkalimantan – Perkembangan kecerdasan buatan atau artificial intelligence (AI) yang semakin canggih dinilai menyimpan ancaman serius bagi keamanan digital dan martabat warga negara apabila tidak diimbangi regulasi yang kuat. Penyalahgunaan AI untuk memanipulasi foto dan video menjadi konten vulgar bahkan disebut telah memasuki fase darurat.
Ketua Indonesia Cyber Security Forum (ICSF), Ardi Sutedja, mengatakan kemunculan chatbot AI generatif seperti Grok membuka celah baru kejahatan digital, khususnya pelecehan berbasis manipulasi visual. Menurutnya, teknologi tersebut memungkinkan seseorang dimunculkan dalam konten vulgar tanpa persetujuan dan tanpa pernah melakukan tindakan sebagaimana digambarkan.
Ardi menilai kondisi ini berbeda dengan sejumlah platform AI lain yang menerapkan pembatasan ketat. Ia menyebut masih adanya celah etika pada AI generatif tertentu berpotensi menjadikan teknologi sebagai alat pelecehan digital secara massal apabila tidak segera diatur.
Indonesia dengan jumlah pengguna internet lebih dari 212 juta orang menghadapi tantangan serius dalam literasi keamanan digital. Berdasarkan survei Asosiasi Penyelenggara Jasa Internet Indonesia, sebanyak 64 persen pengguna internet belum memahami risiko keamanan digital secara menyeluruh, termasuk bahaya manipulasi konten berbasis AI.
Ardi mengungkapkan kasus manipulasi foto dan video berbasis AI telah terjadi di berbagai daerah, mulai dari pemerasan hingga perusakan reputasi. Ia menilai fenomena tersebut baru sebagian kecil dari ancaman yang lebih besar jika tidak diantisipasi sejak dini.
Undang-Undang Perlindungan Data Pribadi yang disahkan pada 2022 seharusnya menjadi fondasi perlindungan warga di ruang digital. Namun hingga kini, regulasi turunannya belum sepenuhnya rampung, sehingga menimbulkan ketidakjelasan dalam penegakan hukum terhadap penyalahgunaan AI.
Menurut Ardi, kecepatan perkembangan teknologi tidak sebanding dengan laju regulasi. Ketiadaan aturan teknis yang rinci membuat aparat penegak hukum kesulitan menentukan pihak yang bertanggung jawab, baik pengembang AI, pengguna, maupun platform distribusi.
Ia menegaskan penyalahgunaan AI tidak lagi sekadar persoalan privasi individu, melainkan telah menjadi ancaman terhadap stabilitas sosial dan keamanan nasional. Manipulasi visual terhadap tokoh publik, pejabat negara, hingga figur agama dinilai berpotensi memicu konflik horizontal dan menurunkan kepercayaan publik.
Selain kerugian materiil, korban manipulasi konten AI juga kerap mengalami tekanan psikologis berat, seperti stigma sosial, gangguan mental, hingga kehilangan pekerjaan. Dampak tersebut dinilai sulit dipulihkan meskipun konten palsu telah diklarifikasi.
Data Badan Siber dan Sandi Negara menunjukkan ribuan serangan siber terjadi setiap hari, dengan sebagian di antaranya memanfaatkan teknologi AI untuk penipuan dan pemerasan. Tanpa intervensi kebijakan yang tegas, tren tersebut diperkirakan terus meningkat.
ICSF mendorong pemerintah segera menyelesaikan regulasi turunan UU PDP yang secara spesifik mengatur pemanfaatan AI generatif. Regulasi tersebut dinilai perlu mencakup kewajiban penyaringan konten otomatis, persetujuan eksplisit pemilik data, transparansi algoritma, serta sanksi tegas bagi pelaku penyalahgunaan.
Selain peran pemerintah, Ardi juga menekankan tanggung jawab platform teknologi untuk menerapkan prinsip ethics by design serta pentingnya peningkatan literasi digital masyarakat sebagai benteng awal perlindungan.
Sebagai negara dengan populasi digital terbesar di Asia Tenggara, Indonesia dituntut membangun ekosistem digital yang aman dan bermartabat. Keamanan siber dan perlindungan data pribadi dinilai harus menjadi prioritas nasional seiring percepatan transformasi digital.
Ardi menegaskan teknologi AI dapat menjadi berkah atau bencana, bergantung pada bagaimana negara, industri, dan masyarakat mengelolanya. Ia menilai martabat digital warga negara tidak boleh dikorbankan atas nama inovasi teknologi.
