Poin Penting:
- Penggunaan Agentic AI diperkirakan melonjak dari 23 persen menjadi lebih dari 70 persen dalam dua tahun.
- Hanya 30 persen perusahaan yang merasa sangat siap dari sisi risiko dan tata kelola.
- Akuntabilitas keputusan berbasis AI tetap berada pada manusia, bukan teknologi.
Jakarta – Perbankan tengah berlari mengejar kecerdasan buatan, tetapi kesiapan tata kelolanya belum bergerak secepat teknologi. Kondisi ini membuat bank menghadapi risiko baru ketika AI semakin dalam masuk ke proses bisnis dan pengambilan keputusan.
Peringatan tersebut disampaikan Anggota Dewan Komisioner Otoritas Jasa Keuangan, Sophia Isabella Wattimena. Ia berbicara secara virtual dalam Executive Forum “From Risk to Resilience” di Jakarta, Kamis (20/8).
Forum yang digelar Simplifa AI bersama Infobank itu membahas perubahan risiko. Sophia menyoroti kesenjangan antara perkembangan teknologi dan kemampuan organisasi mengendalikannya.
AI Perbankan Melaju, Kesiapan Tata Kelola Tertinggal
Sophia menyebut perkembangan AI telah memasuki fase yang jauh lebih cepat. Perubahan tersebut juga membuat risiko bergerak semakin kompleks dan saling terhubung.
Sekitar 23 persen perusahaan saat ini disebut telah menggunakan Agentic AI. Angkanya diperkirakan menembus lebih dari 70 persen dalam dua tahun.
Namun, kesiapan organisasi belum mengikuti percepatan tersebut. Hanya 30 persen perusahaan yang merasa sangat siap dari sisi risiko dan tata kelola.
“Kemampuan teknologi berkembang jauh lebih cepat dibandingkan kesiapan organisasi itu sendiri untuk mengelolanya,” kata Sophia.
Kondisi tersebut menunjukkan adanya kesenjangan kesiapan dalam penerapan AI. Bagi bank, persoalannya bukan sekadar memiliki teknologi canggih.
“Jadi tantangan kita bukan cuma sekedar how fast we can adopt AI, tapi juga how well we can govern it,” ujarnya.
Sophia meminta organisasi membangun pengendalian sebelum penggunaan AI diperluas. Menurutnya, tata kelola tidak boleh mengikuti teknologi setelah implementasi berlangsung.
“Jangan sampai governance baru dibangun setelah teknologi itu sudah terlanjur digunakan,” tegasnya.
Baca juga: AI dan Manusia, Dua Kekuatan di Balik Masa Depan Perbankan Digital
AI Makin Canggih, Ancaman Penipuan Makin Cepat
Perkembangan AI memberikan peluang besar bagi perbankan. Teknologi dapat membantu pemrosesan dokumen, analisis pola, hingga mendeteksi penipuan secara lebih cepat.
Namun, teknologi yang sama juga dapat digunakan pelaku kejahatan. Sophia menyebut manipulasi konten, peniruan identitas, deepfake, dan manipulasi data semakin menjadi ancaman.
Data Association of Certified Fraud Examiners (ACFE) menunjukkan lebih dari 2.400 kasus occupational fraud dari sekitar 140 negara. Total kerugian kasus tersebut mencapai US$3,4 miliar.
Sektor perbankan dan jasa keuangan menjadi sektor dengan paparan terbesar. Jumlah kasus yang tercatat di sektor tersebut mencapai lebih dari 430 kasus.
Ancaman berbasis AI juga sudah terlihat di Indonesia. Indonesia Anti-Scam Center (IASC) mencatat hampir 1.400 laporan penipuan terindikasi menggunakan AI sejak November 2024 hingga Juni 2026.
Manajer Madya Direktorat Penanganan Aktivitas Keuangan Ilegal dan Penipuan Transaksi Keuangan OJK Aditya Mahendra memaparkan skala penipuan online yang masih tinggi. IASC telah menerima sekitar 637.000 laporan penipuan.
Jumlah rekening yang dilaporkan mencapai 1,1 juta rekening. Sementara nomor telepon yang dilaporkan dan diblokir mencapai 145.000.
Aditya mengatakan kecepatan penanganan sangat menentukan peluang penyelamatan dana. Penipuan dapat memindahkan dana melalui berbagai instrumen hanya dalam hitungan menit.
Dalam satu kasus, aliran dana bahkan sudah berpindah hingga lapisan ketiga dalam 14 menit. Kondisi tersebut menunjukkan bagaimana cepatnya ekosistem penipuan beradaptasi.
“Kecepatan laporan itu hal yang sangat kritikal,” ujar Aditya.
IASC kini memperkuat koordinasi dengan berbagai penyedia jasa keuangan. Langkah tersebut diperlukan karena OJK tidak dapat menangani penipuan sendirian.
“Jadi kita bersama-sama Satgas Pasti enggak bisa sendiri,” katanya.
Akuntabilitas AI Tetap Berada pada Manusia
Masuknya AI ke proses perbankan tidak berarti tanggung jawab dapat dialihkan kepada mesin. Sophia menegaskan peran manusia tetap menjadi bagian utama pengambilan keputusan.
“AI dapat memperkuat processing dan pattern recognition tetapi judgement, challenge, exception handling, accountability itu tetap berada pada manusia,” katanya.
Artinya, bank tetap membutuhkan kemampuan manusia untuk menguji hasil AI. Sikap kritis juga harus dipertahankan ketika sistem menghasilkan rekomendasi.
Chief Risk Officer dan Country Credit Head Standard Chartered Bank Indonesia, Thomas Airlangga menyampaikan pandangan serupa. Ia menilai teknologi hanya menjadi bagian dari keseluruhan sistem pengendalian.
“Teknologi itu cuma lapisan aja, bukan pengganti judgment kita,” ujar Thomas.
Menurut Thomas, sistem pertahanan bank harus dibuat berlapis. Tidak boleh ada satu teknologi yang menjadi satu-satunya benteng pengendalian.
“Pertahanan kita yang ada dilakukan di sistem itu harus berlapis,” katanya.
Ia juga mengingatkan bank agar tidak mengejar kecepatan dengan mengurangi proses verifikasi. Percepatan bisnis tetap harus berjalan bersama pengendalian risiko.
“Kecepatan tidak boleh dibeli dengan verifikasi,” tegas Thomas.
Presiden Direktur Indonesia Open Network, Bayu Prawira Hie menilai AI juga memiliki potensi menyimpang. Karena itu, sistem harus tetap diawasi manusia.
“AI juga bisa melenceng dan harus kita awasin,” ujar Bayu.
Menurut Bayu, bank membutuhkan AI yang memiliki tata kelola baik. Penggunaan AI juga harus disertai mekanisme pertanggungjawaban yang jelas.
“Accountability nggak bisa kita limpahkan pada AI,” katanya.
Sementara itu, Direktur Utama Simplifa.ai, Gema Buana Putra menegaskan prinsip yang sama. Risiko dan keputusan tetap harus memiliki penanggung jawab manusia.
“Akuntabilitas tetap ada di manusia yang take akuntabilitas take risiko tetap manusia,” ujar Gema.
Ia menilai teknologi tidak dapat menjadi pihak yang menanggung konsekuensi. “AI enggak bisa dihukum ya, AI enggak bisa dipenjara, enggak bisa disalahkan,” katanya.
Tata Kelola Harus Mengikuti Kecepatan Teknologi
Sophia menekankan bahwa tata kelola AI tidak berhenti pada model. Pengendalian harus mencakup data, teknologi, keamanan siber, hingga pihak ketiga.
“Governance AI ini tidak berhenti pada model AI itu sendiri,” ujarnya.
Karena itu, bank perlu memastikan kualitas data sebelum AI digunakan. Model juga harus terus dipantau agar tidak menghasilkan keputusan yang menyimpang.
Sophia mendorong penerapan Three Lines Model secara konsisten. Model tersebut mencakup pemilik proses, manajemen risiko, dan audit internal.
Ketiga lini harus memiliki fungsi pengawasan yang jelas. Prinsip tersebut juga perlu diterapkan pada berbagai lapisan ekosistem jasa keuangan.
Semakin canggih teknologi, semakin penting kejelasan penanggung jawabnya. Tanpa itu, AI justru dapat memperbesar risiko yang seharusnya dikendalikan.
“Semakin sophisticated teknologi yang kita gunakan justru semakin penting juga kita pastikan clarity of accountability-nya,” kata Sophia.
Direktur Infobank Karnoto Mohamad mengingatkan risiko lain dari lemahnya pengendalian. Digitalisasi dapat membuka akses pasar sekaligus menciptakan celah baru.
“Nah, itu yang akan menciptakan ranjau-ranjau kalau misalnya verifikasinya lemah,” ujar Karnoto.
Menurut Karnoto, bank harus memperkuat verifikasi ketika mengejar pertumbuhan. Lemahnya analisis kredit dan manajemen risiko dapat menjadi bumerang bagi bank.
Gema menunjukkan bagaimana teknologi dapat membantu menemukan manipulasi yang sulit terlihat manusia. Simplifa menemukan anomali pada rekening koran melalui pemeriksaan font, metadata, dan perhitungan.
Baca juga: OJK Wanti-wanti Deepfake Bisa Jadi Pintu Masuk Fraud
Kasus tersebut menunjukkan modus fraud juga berkembang mengikuti teknologi. Karena itu, sistem pendeteksi juga harus terus diperbarui.
Namun, Gema menegaskan AI tidak boleh menjadi pengganti manusia. Teknologi hanya menjadi senjata tambahan menghadapi pelaku fraud yang semakin canggih.
Bank akhirnya menghadapi persoalan yang lebih besar daripada sekadar adopsi teknologi. Mereka harus memastikan tata kelola mampu bergerak secepat perkembangan AI.
Jika tidak, teknologi berisiko menciptakan ilusi keamanan. AI terlihat canggih, tetapi keputusan tetap rapuh jika data, verifikasi, dan pengawasan manusia lemah.
Karena itu, AI melaju di perbankan, tetapi tata kelola justru ketinggalan harus menjadi perhatian utama industri. Kecepatan transformasi digital harus berjalan bersama penguatan pengendalian dan akuntabilitas. (*)
Editor: Galih Pratama
