AI Grok Bikin Konten Seronok, Sejumlah Negara Kecam X dan Elon Musk
Poin Penting
|
JAKARTA, investortrust.id - Chatbot AI Grox milik xAI di platform X, menuai kecaman di sejumlah negara setelah digunakan untuk membuat gambar seksual secara digital, termasuk men-“telanjangi” perempuan dan anak di bawah umur. Kasus ini pun memicu tekanan keras dari regulator di India, Prancis, Malaysia, hingga Uni Eropa terkait keamanan dan tata kelola AI.
Masalah berawal dari fitur edit image Grok yang memungkinkan pengguna memodifikasi foto hingga pakaian subjek tampak dihapus atau diubah menjadi sangat minim. Konten tersebut ramai di X, termasuk permintaan yang menyasar foto anak di bawah umur, walaupun hal itu dilarang dalam kebijakan Grok sendiri.
Akun resmi Grok sebelumnya mengakui adanya kegagalan pengamanan dan menyatakan sistem sedang diperbaiki. “Kami telah mengidentifikasi kekurangan pengamanan dan segera memperbaikinya,” tulis Grok, seraya menegaskan bahwa materi pelecehan seksual anak adalah ilegal dan dilarang.
Pemerintah India melalui Kementerian Elektronika dan TI memerintahkan X menghentikan pembuatan konten bermuatan ketelanjangan dan seksualisasi. Otoritas memberi tenggat 72 jam untuk laporan tindakan, dan mengancam pencabutan perlindungan hukum jika tidak patuh.
Baca Juga
Buntut Konten Pornografi, X Bayar Denda Hampir Rp 80 Juta ke Kemenkomdigi
Sementara itu Prancis menyebut konten buatan Grok secara jelas ilegal dan melaporkannya ke kejaksaan serta regulator media Arcom. Pun Malaysia menyatakan keprihatinan serius dan tengah menyelidiki manipulasi gambar perempuan dan anak yang dinilai ofensif.
Di tengah tekanan tersebut, Elon Musk belum menyampaikan pernyataan panjang soal tanggung jawab xAI dan X terhadap korban deepfake seksual. Namun, melalui respons korporat, Musk menegaskan bahwa “Pelecehan seksual anak ilegal dan dilarang” dalam platform yang berada di bawah kendalinya.
Sorotan terhadap Musk meningkat setelah ia ikut mengunggah atau membiarkan beredarnya gambar AI dirinya sendiri dalam pakaian bikini. Sejumlah pejabat Eropa menilai sikap tersebut menunjukkan kurangnya sensitivitas terhadap bahaya eksploitasi teknologi AI.
Investortrust.id sudah meminta respons dari pemerintah melalui Dirjen Pengawasan Ruang Digital Kemenkomdigi Alexander Sabar pada Senin (5/1/2026). Namun hingga berita ini diturunkan, belum ada tanggapan lebih lanjut.