Kemenkominfo: Bukan Konglomerat! Konten Deepfake Digunakan untuk Menipu Publik
JAKARTA, investortrust.id - Kementerian Komunikasi dan Informatika (Kemenkominfo) menyatakan, konten deepfake yang digunakan untuk melakukan penipuan di platform media sosial. Salah satunya adalah konten deepfake yang menampilkan sosok salah satu konglomerat di Tanah Air.
Sebagai catatan, deepfake merujuk pada teknik pembuatan konten multimedia palsu menggunakan teknologi kecerdasan buatan atau artificial intelligence (AI). Konten hasil deepfake ini terlihat nyata dan mirip dengan sumber aslinya.
Direktur Jenderal Informasi dan Komunikasi Publik (Dirjen IKP) Prabunindya Revta Revolusi atau Prabu Revolusi mengungkapkan, beberapa hari lalu dirinya mendapatkan laporan terkait dengan konten deepfake yang digunakan untuk melakukan penipuan. Konten tersebut berupa video hasil deepfake yang memperlihatkan seorang konglomerat Indonesia mengajak publik untuk melakukan sesuatu.
Baca Juga
Sayangnya, Prabu enggan menyebutkan nama siapa sosok konglomerat yang dimaksud. Dia hanya menyebutkan jumlah pengikut atau followers dari akun media sosial yang menampilkan sosok tersebut mencapai 400.000 pengikut.
"Saya dihubungi langsung orang dari si konglomerat ini yang ngasih tahu bahwa (konten) itu palsu. Itu di luar enggak ada yang bisa ngebedain itu palsu atau enggak karena persis banget," katanya dalam sebuah diskusi bersama awak media di Kemenkominfo, Jakarta Pusat, Jumat (13/9/2024).
Setelah mendapatkan laporan tersebut, Kemenkominfo langsung menurunkan konten deepfake yang menampilkan sosok konglomerat itu. Harapannya, tidak ada masyarakat yang tertipu dan mengalami kerugian akibat konten tersebut.
"Masyarakat tahunya kan ini orang kaya, mereka akhirnya tertarik ajakan untuk mendaftar hanya perlu membayar beberapa puluh ribu rupiah. Tetapi dari beberapa puluh ribu rupiah ini dikalikan jadi beberapa ratus juga atau beberapa miliar yang hilang," ujarnya.
Prabu menambahkan, sekilas memang konten deepfake yang menampilkan sosok konglomerat itu tampak seperti asli. Namun, ketika diperhatikan secara seksama dirinya menemukan beberapa hal yang tidak semestinya.
Baca Juga
"Setelah di cek, di-zoom, baru terlihat gambarnya tidak sesuai, gerak bibirnya tidak sesuai dengan kata-katanya. Jadi, dia itu pintar gambarnya diambil tidak dari dekat makanya kelihatan kalau enggak di-zoom enggak kelihatan gerak bibirnya," ujarnya.
Pria yang sebelumnya dikenal sebagai jurnalis itu tidak mengungkapkan berapa konten deepfake yang sudah berhasil diturunkan oleh Kemenkominfo. Namun yang jelas, konten semacam itu kerap diturunkan secara langsung oleh masing-masing platform digital, khususnya media sosial yang melakukan moderasi konten.
Moderasi konten adalah proses meninjau konten daring yang dibuat pengguna guna memastikan kepatuhan terhadap kebijakan platform digital terkait hal-hal yang boleh dan tidak boleh dibagikan di platform, demikian yang dikutip dari TSPA, Jumat (13/9/2024).
“Karena platform juga punya moderasi sendiri, dan mereka juga melaporkan kepada kita akun ataupun konten mana saja yang terindikasi penipuan, untuk di-takedown,” pungkasnya.