Jakarta, SeputarSumut – Pelanggaran serius terhadap pelindungan data pribadi, hak privasi, dan martabat manusia tengah menjadi sorotan Anggota Komisi I DPR RI, Amelia Anggraini. Hal ini berkaitan dengan penyalahgunaan teknologi kecerdasan buatan Grok AI yang digunakan untuk memproduksi serta menyebarkan konten pornografi, terutama yang menggunakan materi visual orang nyata tanpa adanya persetujuan.
Amelia memandang bahwa praktik manipulasi identitas visual, foto, atau wajah seseorang ke dalam konten asusila tanpa izin tidak boleh hanya dilihat sebagai masalah kesusilaan biasa. Tindakan tersebut menurutnya telah tergolong sebagai kekerasan berbasis teknologi yang memiliki risiko besar menimbulkan kerugian sosial, psikologis, hingga hancurnya reputasi para korban.
Sorot Politik: Penyalahgunaan Grok AI Langgar Martabat Manusia
“Perampasan hak individu atas citra dirinya terjadi ketika identitas visual seseorang dimanipulasi tanpa izin untuk kepentingan konten asusila,” ungkap Amelia dalam keterangan resmi yang diterima Parlementaria pada Jumat (9/1/2026).
Temuan awal dari Direktorat Jenderal Pengawasan Ruang Digital Kementerian Komunikasi dan Digital menjadi catatan khusus bagi Legislator Fraksi Partai NasDem tersebut. Laporan itu mengungkapkan bahwa Grok AI sejauh ini belum memiliki regulasi internal yang memadai dan eksplisit untuk mencegah produksi maupun distribusi pornografi berbasis foto asli, sebuah kondisi yang menuntut perhatian serius dari pemerintah.
Oleh sebab itu, Amelia mendesak agar Kemkomdigi mengambil langkah proaktif tanpa harus menunggu kasus ini menjadi viral di tengah masyarakat. Kehadiran negara di ruang digital dinilai wajib untuk melindungi setiap warga negara melalui kebijakan yang terukur, tegas, dan berada di bawah pengawasan publik.
Jika merujuk pada Undang-Undang Pelindungan Data Pribadi (UU PDP), Amelia menekankan bahwa video, wajah, dan foto adalah bagian dari data pribadi yang tidak boleh diolah secara sembarangan. Ia mendorong Kemkomdigi agar menuntut kepatuhan dari penyedia layanan kecerdasan buatan serta platform digital untuk menerapkan standar operasional yang jelas serta dapat diuji validitasnya.
“Sangat penting untuk memperlakukan pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah sebagai pelanggaran berat. Negara pun harus menjamin adanya respons cepat bagi para korban, mulai dari penyediaan kanal pelaporan yang efektif, mekanisme penghapusan konten (takedown) yang segera, hingga upaya pencegahan unggah ulang,” tutur politisi dari dapil Jawa Tengah VII tersebut.
Lebih lanjut, ia mendorong adanya penguatan standar kepatuhan bagi seluruh Penyelenggara Sistem Elektronik (PSE), termasuk penyedia layanan AI dan platform X. Standar ini harus mencakup pencegahan sejak awal perancangan sistem (prevention by design) terhadap permintaan konten seksual berbasis orang nyata, serta memiliki sistem moderasi konten yang auditable dan transparan.
Amelia juga mengingatkan bahwa penegakan hukum secara administratif harus berjalan beriringan dengan sanksi pidana yang berlaku. Seiring dengan berlakunya Kitab Undang-Undang Hukum Pidana (KUHP) Nasional per 2 Januari 2026, ketentuan mengenai pornografi telah diatur secara jelas, termasuk dalam Pasal 172 dan Pasal 407.
“Ketentuan ini menjadi penegasan kuat bahwa ruang digital bukanlah area yang bebas dari jangkauan hukum,” tambahnya.
Dalam menjalankan fungsi pengawasan di DPR, Amelia memastikan bahwa Komisi I akan terus mengawal penanganan kasus penyalahgunaan teknologi AI ini demi memberikan perlindungan nyata bagi masyarakat dan menuntut kepatuhan platform digital. Ia menekankan perlunya kejelasan mengenai indikator kepatuhan, penanggung jawab, tenggat waktu, serta sanksi atau konsekuensi yang tegas bagi setiap pelanggaran.
“Tidak ada alasan bagi Grok AI untuk tidak menerapkan sistem pengamanan, mengingat platform kecerdasan buatan lainnya sudah mampu memasang pagar pembatasan dan perlindungan yang jelas,” tutup Amelia.(*/dprri)
