Poin Penting
- Tata kelola AI krusial bagi organisasi. RSM Indonesia menilai keberhasilan implementasi AI tidak hanya bergantung pada teknologi, tetapi juga governance, manajemen risiko, dan akuntabilitas.
- AI tanpa governance berpotensi menimbulkan risiko. Mulai dari bias algoritma, pelanggaran data, keputusan yang sulit dijelaskan, hingga risiko reputasi bagi organisasi.
- Organisasi perlu kerangka pengelolaan AI yang sistematis. Langkahnya meliputi penilaian kesiapan, pembangunan framework governance, audit dan assurance AI, serta penerapan standar seperti ISO/IEC 42001.
Jakarta – Transformasi berbasis Artificial Intelligence (AI) semakin masif di berbagai sektor. Banyak organisasi berlomba mengadopsi teknologi ini untuk meningkatkan efisiensi dan daya saing bisnis.
Namun di balik percepatan inovasi tersebut, aspek tata kelola (governance) dinilai belum selalu berjalan seiring dengan perkembangan teknologi.
Menjawab dinamika tersebut, RSM Indonesia menyelenggarakan webinar bertajuk “From AI Experiment to Trustworthy AI: Why Governance Determines Success in AI Innovation.” Webinar ini menyoroti bahwa keberhasilan implementasi AI tidak hanya ditentukan oleh kecanggihan teknologi, tetapi juga oleh kematangan tata kelola, manajemen risiko, serta akuntabilitas organisasi.
Baca juga: OJK: Teknologi AI Bantu Industri Pindar Tekan Risiko Kredit Macet
Chief Strategy Officer sekaligus Head of Governance Risk Control & Technology Consulting RSM Indonesia Angela Simatupang menegaskan bahwa AI saat ini membuka peluang besar sekaligus eksposur baru bagi organisasi.
“Selama lebih dari 40 tahun RSM Indonesia mendampingi organisasi dalam memperkuat tata kelola dan sistem pengendalian. Kami melihat bahwa AI governance kini menjadi agenda strategis di banyak negara. Transformasi digital yang berkelanjutan harus berdiri di atas fondasi governance yang jelas, manajemen risiko yang disiplin, serta struktur akuntabilitas yang tegas,” ujar Angela.
Risiko Jika AI Tanpa Tata Kelola
Angela menilai perkembangan AI sering kali melaju lebih cepat dibandingkan kesiapan organisasi dalam mengelolanya. Kondisi ini dapat menimbulkan berbagai risiko jika tidak diimbangi dengan kerangka governance yang jelas.
“Banyak perusahaan sudah berinvestasi besar dalam teknologi AI. Namun pertanyaan mendasarnya adalah: jika terjadi kesalahan keputusan akibat AI, siapa yang bertanggung jawab? Pada akhirnya regulator dan publik tidak akan meminta penjelasan kepada sistem, tetapi kepada organisasi,” jelasnya.
Baca juga: Adopsi Teknologi AI Bantu Efisiensi Industri Asuransi
Ia menambahkan bahwa organisasi yang mengadopsi AI tanpa kerangka governance yang memadai berpotensi menghadapi berbagai risiko.
“Organisasi yang mengadopsi AI tanpa governance yang jelas bukan sedang berinovasi, tetapi sedang mengakumulasi risiko—mulai dari bias algoritma, pelanggaran data, keputusan yang tidak dapat dijelaskan, hingga risiko reputasi. Teknologi bisa dibeli, tetapi kepercayaan harus dijaga,” tambah Angela.
Empat Langkah Membangun AI Governance
Senior Manager Data, AI & Emerging Technology RSM Indonesia, Sindhu Wardhana, menjelaskan bahwa salah satu tantangan utama dalam implementasi AI adalah inovasi yang berkembang tanpa koordinasi yang terstruktur antar unit organisasi. Sementara itu, tekanan regulasi terkait perlindungan data dan tata kelola teknologi juga semakin meningkat.
Menurutnya, organisasi perlu mengambil langkah sistematis agar AI dapat diadopsi secara bertanggung jawab dan berkelanjutan.
“Empat langkah utama dalam membangun AI governance meliputi AI Readiness Assessment untuk mengukur kesiapan organisasi, pengembangan AI Governance Framework yang menetapkan peran dan tanggung jawab berbasis risiko, penerapan AI Assurance dan Audit untuk memastikan sistem yang aman dan patuh regulasi, serta AI Project Assurance guna menjaga kualitas dan kontrol sejak tahap perencanaan hingga implementasi,” jelas Sindhu.
Baca juga: Dengan Teknologi AI, Platform Investasi Kaya Bantu Nasabah Hadapi Volatilitas Pasar
Webinar tersebut juga menghadirkan Abraham Kurniawan, ISO/IEC 42001 Specialist dari British Standards Institution (BSI). Ia menekankan pentingnya penerapan ISO/IEC 42001 melalui kerangka AI Management System (AIMS).
Menurutnya, implementasi AIMS tidak hanya memastikan kepatuhan terhadap standar internasional, tetapi juga dapat menjadi strategi organisasi untuk menciptakan nilai tambah serta keunggulan kompetitif.
Dengan kerangka AIMS yang terstruktur, organisasi dapat memastikan sistem AI yang dikembangkan bekerja efektif dalam konteks nyata, meminimalkan potensi bias, serta meningkatkan transparansi dalam proses pengambilan keputusan.
Tata kelola yang kuat juga diyakini mampu mengurangi risiko kegagalan AI sejak tahap perencanaan hingga operasional. Selain itu, implementasi AIMS yang efektif dapat memperkuat reputasi organisasi, meningkatkan kepercayaan pelanggan, mendorong efisiensi operasional, serta mendukung pertumbuhan bisnis jangka panjang. (*)
