ManusiaSenayan.id – Teknologi AI sekarang tuh kayak anak magang super jenius: bisa bantu banyak hal, tapi kalau nggak diawasi, bisa bikin chaos satu kantor. Nah, Anggota Komisi I DPR RI Amelia Anggraini lagi-lagi kasih pengingat penting: penyalahgunaan AI (disebutnya Grok AI) untuk bikin dan nyebarin konten pornografi—apalagi pakai foto atau video orang nyata tanpa izin—itu bukan “konten kreatif”, itu pelanggaran serius.
Menurut Amelia, praktik manipulasi wajah/foto/identitas visual orang ke konten asusila tanpa persetujuan bukan cuma soal “aduh nggak sopan”, tapi sudah masuk ranah kekerasan berbasis teknologi. Dampaknya juga bukan receh: korban bisa kena tekanan psikologis, diserang sosialnya, sampai reputasi yang udah dibangun capek-capek jadi ambyar. Yang “dibikin” AI mungkin cuma gambar, tapi yang hancur itu hidup orang beneran.
Amelia menegaskan, “Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya”. Intinya: wajah orang itu bukan stiker, bukan template, bukan bahan eksperimen.
Ia juga menyinggung temuan awal dari Kemkomdigi (Ditjen Pengawasan Ruang Digital) yang menyebut Grok AI belum punya pengaturan yang cukup jelas buat mencegah produksi dan distribusi pornografi berbasis foto nyata. Karena itu, Amelia minta pemerintah jangan nunggu viral dulu baru gerak. Negara wajib hadir lewat aturan yang tegas, bisa diuji, dan bisa diawasi publik.
Dalam konteks UU Pelindungan Data Pribadi, Amelia menekankan foto, wajah, dan video itu data pribadi—bukan barang bebas pakai. Bahkan ia menegaskan, “Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah harus diperlakukan sebagai pelanggaran serius. Selain itu, negara juga harus memastikan adanya respons cepat bagi korban melalui kanal pelaporan yang efektif, mekanisme takedown cepat, serta pencegahan unggah ulang,”.
Soal penegakan hukum, ia mengingatkan KUHP Nasional sudah berlaku 2 Januari 2026 dan menegaskan, “Ini menegaskan bahwa ruang digital bukan ruang tanpa hukum,” katanya. DPR pun akan mengawal agar platform digital patuh—karena kalau platform lain bisa pasang pagar, masa yang ini nggak bisa?
