Wamen Nezar Patria Ingatkan Bahaya Penyalahgunaan Teknologi AI

Jakarta – Penerapan teknologi Artificial Intelligence (AI) atau kecerdasan buatan semakin bertumbuh pesat dewasa ini. Berdasarkan data dari McKinsey, Kearney, dan CSET di 2023, kontribusi teknologi AI pada Produk Domestik Bruto (PDB) di 2030 diprediksi akan mencapai USD13 triliun secara global, USD1 triliun di ASEAN, dan USD366 miliar di Indonesia.

Proyeksi kontribusi AI pada PDB di 2030 itu tentunya juga diikuti oleh besarnya ekspos publik atau masyarakat terhadap pemakaian teknologi kecerdasan buatan tersebut. Misalnya, dikutip dari McKinsey and Company pada 2023, 79 persen masyarakat terekspos dengan AI generatif dalam kesehariannya. Lalu, berdasarkan IBM Global Adoption Index pada 2022, 35 persen perusahaan global telah memanfaatkan AI dan 42 persen perusahaan sedang melakukan eksplorasi pemanfaatan AI.

Kemudian, dikutip dari TechJury pada 2023, 77 persen fitur dalam perangkat yang masyarakat pakai memanfaatkan AI. 

Pemanfaatan AI yang masif tersebut ternyata tak lepas dari bayang-bayang risiko di baliknya. AI memang memberikan kemudahan proses dalam setiap aspek penggunaannya, sehingga efisiensi dan produktifitas dapat tercapai secara optimal.

Baca juga: Masuki Era AI, IBM Indonesia Ingatkan 4 Hal Ini

Namun begitu, bila tak disiapkan secara matang, pemanfaatan AI berpotensi menimbulkan permasalahan baru di masa mendatang, seperti yang diungkapkan Nezar Patria selaku Wakil Menteri (Wamen) Kementerian Komunikasi dan Informatika (Kemenkominfo).

“Di balik semua peluang itu, ada beberapa hal yang perlu kita waspadai bersama, antara lain pemanfaatan AI pada sistem pengenalan wajah, misalnya memiliki risiko penyalahgunaan data, pelanggaran prinsip perlindungan data pribadi, hingga keamanan siber. Di beberapa negara dapat ditemukan penggunaan AI untuk menilai kelakuan individu berdasarkan aktivitasnya yang dapat berkonsekuensi menghasilkan pembatasan akses layanan publik bagi individu tersebut,” ujar Nezar pada acara IBM Indonesia AI for Business Leaders Summit 2024 bertema “Generative AI: Shaping Indonesia’s Business Ecosystem Tomorrow Ceremony” yang diadakan oleh IBM berkolaborasi dengan Infobank Media Group dan Infobank Institute di Grand Hyatt Jakarta, Rabu, 6 Maret 2024. 

Di samping itu, penerapan teknologi AI yang tidak bertanggung jawab juga akan menimbulkan permasalahan etika dan digital security lainnya terkait transparansi pengelolaan, pengendalian, pemantauan, dan interpretasi data akibat sifat blackbox pada AI.

Blackbox AI sendiri adalah sistem yang beroperasi tanpa sepengetahuan pengguna, seperti pembelajaran mesin, yang terdiri dari algoritme, data pelatihan, dan model.

Hal ini penting untuk keamanan perangkat lunak, karena dapat digunakan untuk merekayasa balik perangkat lunak dan menemukan kekurangan untuk dieksploitasi, dan dapat digunakan oleh penguji dan peretas perangkat lunak untuk menemukan kelemahan.

“Hal ini mengingat bahwa karakteristik black box tersebut bisa disalahgunakan oleh pihak yang tak bertanggung jawab untuk mendiskriminasi kelompok tertentu dengan potensi bias, halusinasi, dan lainnya yang dihasilkan oleh algoritma. Penerapan AI yang mendorong penggunaan data secara masif juga berpotensi menyebabkan tersebarnya atau terbukanya informasi sensitif seseorang ke ranah publik, sehingga menimbulkan pelanggaran privasi,” tegasnya kembali.

Selain itu, Nezar menambahkan, potensi manipulasi algoritma dalam bentuk model evasion dengan memberikan data masukan yang salah atau pengambilan keputusan AI yang tak tepat dapat menghasilkan output yang salah atau bahkan berbahaya. Sebagai respons atas berbagai risiko tersebut, ia jelaskan, Pemerintah Indonesia berupaya menghasilkan kebijakan yang mendukung pengembangan, pemanfaatan, dan tata kelola teknologi Artificial Intelligence di Indonesia.

Baca juga: Bos Superbank: Bankir Masa Kini Harus ‘Kawin’ dengan Teknologi

Di mana pada 2020, Pemerintah Indonesia meluncurkan Strategi Nasional Kecerdasan Artifisial (Stranas KA) yang terus diperbaharui secara berkala. Saat ini, Kementerian Koordinator Bidang Perekonomian tengah mengkoordinasikan terwujudnya tata kelola ekosistem digital dan AI yang lebih komprehensif dan kolaboratif.

Kemenkominfo sendiri menjadi salah satu bagian penting dalam upaya tersebut untuk mewujudkan agenda percepatan transformasi digital nasional.

“Dokumen ini tentu perlu kita terus update, dimuktakhirkan secara berkala karena perkembangan AI begitu cepat saat ini. Infrastruktur untuk mendukung perkembangan AI itu juga berlangsung sangat cepat,” pungkasnya. (*) Steven Widjaja