Meski Cerdas, OJK Sebut AI Berpotensi Tak Adil dalam Layanan Finansial
JAKARTA, investortrust.id - Otoritas Jasa Keuangan (OJK) menyatakan bahwa pemanfaatan artificial intelligence (AI) berpotensi besar tidak adil dalam penerapan layanan finansial. OJK sudah merancang AI governance untuk perbankan ke depan.
Juga Terjadi di AS
Kemudian, di perbankan, Zulfikar mencontohkan ketidakadilan pemanfaatan AI terjadi pula di satu bank di Amerika Serikat. Di bank itu, pada etnis-etnis tertentu kemungkinan mendapatkan kredit akan lebih kecil, jika menggunakan penilaian AI dan mesin learning.
Menurut Deputi Direktur Digitalisasi, Financial Center dan Transformasi Perbankan DPNP Otoritas Jasa Keuangan M Zulkifli Salim, ketidakadilan AI itu antara lain dapat terlihat dari salah satu aplikasi riding yang digunakan oleh masyarakat sehari-hari. Aplikasi riding di Tanah Air yang populer antara lain Gojek dan Grab.
"Simple-nya terkait penggunaan mesin learning dan AI di riding application yang kita gunakan sehari-hari, yang warna hijau, driver kalau 15 trip dia dapat bonus misalnya Rp 15.000, tapi ketika sudah 14 trip, trip ke-15 nya itu bisa empat jam hingga lima jam nggak dikasih-kasih. Nah, Bapak dan Ibu pikiran, kenapa yang 14 trip itu bisa cepat dia dapat, ketika trip ke-15 dia nggak dapat, bisa ditahan lima jam, sampai malam baru dikasih. Nah, apakah itu memenuhi prinsip fairness atau transparansi, bisa dipertanggungjawabkan nggak itu? Kira-kira simple-nya seperti itu," ujar Zulfikli dalam acara Investortrust Power Talk Financial Series yang bertajuk "Big Data & AI: Era Baru Membangun Ekosistem Perbankan Digital" di Financial Hall, Graha Niaga, Jakarta, Kamis (25/7/2024).
Juga Terjadi di AS
Kemudian, di perbankan, Zulfikar mencontohkan ketidakadilan pemanfaatan AI terjadi pula di satu bank di Amerika Serikat. Di bank itu, pada etnis-etnis tertentu kemungkinan mendapatkan kredit akan lebih kecil, jika menggunakan penilaian AI dan mesin learning.
"Kaya black people, hispanic, di Amerika itu lebih slim chance untuk dapat loan dibandingkan western atau blond people. Nah itu kan ada rasis di situ," ungkap Zulkifli.
Sehubungan dengan hal tersebut, Zulkifli membeberkan, penggunaan AI harus diatur secara bertanggung jawab. Ke depan, OJK sudah merancang AI governance untuk perbankan.
"Karena hal itu akan tergantung juga dengan data, terus orang atau man yang meng-set coding-nya," ujarnya.
Di sisi lain, AI sebagai teknologi yang memungkinkan komputer dan mesin untuk mensimulasikan kecerdasan manusia dan kemampuan pemecahan masalah terus menunjukkan pertumbuhan market size secara global.
Hal ini didorong oleh adanya peningkatan kebutuhan akan AI di setiap sektor. Market size AI diproyeksikan mencapai USD 184 milliar di tahun 2024 dan diperkirakan terus mengalami kenaikan sebesar 28,46% per tahun hingga tahun 2030, menurut Statista Market Insights.
Adapun pemanfaatan generative AI, menurut McKinsey & Co, diproyeksikan memberikan kenaikan pendapatan sebesar 2,8% hingga 4,7%.