AI Grok di X Dipakai Bikin Konten Asusila, Kemenkomdigi Siapkan Sanksi Tegas
Poin Penting
|
JAKARTA, investortrust.id - Kementerian Komunikasi dan Digital (Kemenkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan (artificial intelligence/AI) Grok di platform X yang dimanfaatkan untuk memproduksi dan menyebarkan konten asusila. Dugaan tersebut mencakup manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Dirjen Pengawasan Ruang Digital Kemenkomdigi Alexander Sabar menyatakan hasil penelusuran awal menemukan belum adanya pengaturan yang eksplisit dan memadai dalam AI Grok. Kondisi ini membuka celah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Menurutnya, hal tersebut berisiko melanggar hak privasi dan hak atas citra diri warga.
Baca Juga
Elon Musk Kenalkan Baby Grok, Chatbot AI Ramah Anak dari xAI
Kemenkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan. Praktik tersebut merupakan perampasan kendali individu atas identitas visual yang dapat menimbulkan dampak psikologis, sosial, dan reputasi.
Alex mengatakan Kemenkomdigi saat ini berkoordinasi dengan penyelenggara sistem elektronik (PSE) terkait. Koordinasi tersebut dilakukan untuk memastikan tersedianya mekanisme perlindungan yang efektif bagi masyarakat.
Langkah pengawasan, meliputi penguatan sistem moderasi konten dan pencegahan pembuatan deepfake asusila. Selain itu, pemerintah mendorong prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
“Setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alex.
Ia menekankan kewajiban kepatuhan berlaku bagi seluruh platform yang beroperasi di Indonesia.
Kemenkomdigi mengingatkan bahwa ketidakpatuhan terhadap regulasi dapat berujung pada sanksi administratif. Sanksi tersebut dapat berupa peringatan hingga pemutusan akses layanan AI Grok di platform X.
Baca Juga
AI Grok Bikin Konten Seronok, Sejumlah Negara Kecam X dan Elon Musk
Selain sanksi administratif, penyedia layanan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi dapat dikenakan sanksi pidana. Ketentuan ini mengacu pada Undang-Undang Nomor 1 Tahun 2023 tentang KUHP yang berlaku sejak 2 Januari 2026. Pasal 172 KUHP mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual. Sementara Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama 10 tahun atau pidana denda.
Alex menambahkan masyarakat yang menjadi korban manipulasi foto atau deepfake asusila dapat menempuh jalur hukum. Pengaduan dapat disampaikan kepada aparat penegak hukum maupun Kemenkomdigi. “Kami mengimbau seluruh pihak menggunakan teknologi kecerdasan buatan secara bertanggung jawab,” tutup Alex.