← Blog · Industry · 9 min read
Menerapkan AI di perbankan dan fintech Indonesia bukan soal teknologi saja, tapi tata kelola. Panduan ini menerjemahkan ekspektasi regulator menjadi praktik rekayasa.
A 30-minute scoping call. We listen, ask three questions, tell you if we can help.
Book a callKetika sebuah bank atau perusahaan fintech di Indonesia memutuskan menerapkan AI—entah untuk credit scoring, deteksi fraud, atau chatbot layanan nasabah—pertanyaan pertama yang muncul di ruang rapat biasanya bukan "model mana yang paling akurat", melainkan "apakah ini akan lolos pemeriksaan OJK". Pertanyaan itu sah, dan jawabannya jarang sesederhana ya atau tidak. Otoritas Jasa Keuangan tidak menerbitkan satu peraturan tunggal berjudul "Aturan AI", tetapi ekspektasinya tersebar di berbagai ketentuan tentang manajemen risiko, tata kelola teknologi informasi, perlindungan konsumen, dan tata kelola data—dan semuanya berlaku penuh terhadap sistem berbasis AI.
Artikel ini menerjemahkan ekspektasi regulator tersebut menjadi praktik rekayasa yang konkret. Sasarannya adalah engineering lead, risk officer, dan eksekutif teknologi di lembaga keuangan yang ingin menerapkan AI tanpa terjebak dalam temuan audit di kemudian hari. Bukan nasihat hukum, melainkan peta praktis dari sisi yang membangun sistem.
AI, khususnya model machine learning dan LLM, menghadirkan tantangan tata kelola yang tidak ada pada sistem deterministik biasa. Sistem perbankan tradisional berperilaku sama setiap kali diberi input yang sama; keputusannya bisa ditelusuri baris demi baris kode. Model AI, sebaliknya, bersifat probabilistik, belajar dari data yang bisa bias, dan sering kali sulit dijelaskan mengapa ia menghasilkan keputusan tertentu.
Bagi regulator, ini memunculkan tiga kekhawatiran utama:
Risiko keputusan yang merugikan konsumen. Model credit scoring yang bias bisa menolak nasabah secara tidak adil tanpa alasan yang bisa dijelaskan—berbenturan langsung dengan prinsip perlindungan konsumen.
Risiko model yang tidak terkendali. Model yang akurat saat dilatih bisa memburuk diam-diam seiring perubahan perilaku pasar (model drift), menghasilkan keputusan buruk yang tak terdeteksi.
Risiko tata kelola data. AI lapar data, dan data keuangan adalah data pribadi yang paling sensitif, tunduk pada UU PDP No. 27/2022 dan ketentuan kerahasiaan perbankan.
Regulator tidak melarang Anda memakai AI. Yang mereka tuntut adalah Anda bisa membuktikan bahwa AI tersebut dikelola, dipahami, dapat dipertanggungjawabkan, dan tidak merugikan konsumen. Beban pembuktian ada pada Anda.
Praktik fundamental yang diharapkan regulator adalah manajemen risiko model yang terstruktur. Ini mengadopsi prinsip yang sudah lama dikenal di perbankan global: setiap model yang dipakai untuk keputusan material harus diinventarisasi, divalidasi secara independen, dimonitor, dan ditinjau berkala.
Secara praktik, ini berarti membangun beberapa hal:
Inventaris model. Daftar terpusat semua model yang berjalan di produksi: tujuannya, data yang dipakai, siapa pemiliknya, kapan terakhir divalidasi, dan tingkat risikonya. Anda tidak bisa mengelola apa yang tidak Anda daftar.
Validasi independen. Tim atau pihak yang berbeda dari yang membangun model harus memvalidasi kinerja, asumsi, dan batasannya sebelum model naik ke produksi. Ini memisahkan "yang membangun" dari "yang menyetujui".
Tiering berbasis risiko. Tidak semua model setara. Model yang menentukan persetujuan kredit butuh kontrol jauh lebih ketat daripada model yang sekadar merekomendasikan artikel bantuan. Alokasikan kontrol secara proporsional terhadap dampaknya.
Untuk LLM dan sistem generatif, manajemen risiko model meluas mencakup hal-hal seperti evaluasi halusinasi, pengujian terhadap prompt injection, dan kontrol atas apa yang boleh dan tidak boleh dikatakan model kepada nasabah.
Salah satu ekspektasi paling konkret dalam konteks perlindungan konsumen adalah kemampuan menjelaskan keputusan. Ketika seorang nasabah ditolak pengajuan kreditnya, lembaga harus mampu menjelaskan—setidaknya secara internal kepada regulator, dan idealnya kepada nasabah—faktor apa yang mendasari keputusan itu.
Ini menyingkirkan pendekatan "black box murni" untuk keputusan berisiko tinggi. Pilihan praktisnya:
Untuk keputusan kritis seperti credit scoring, pertimbangkan model yang inheren dapat dijelaskan (seperti gradient boosting dengan analisis faktor) atau lengkapi model kompleks dengan teknik explainability seperti SHAP yang mengidentifikasi kontribusi setiap fitur terhadap keputusan.
Untuk LLM yang menghadap nasabah, terapkan grounding ke sumber dan wajibkan citation, sehingga setiap klaim bisa ditelusuri ke dokumen sumbernya, bukan dikarang model.
Hindari memakai fitur yang berpotensi diskriminatif atau menjadi proksi bagi atribut yang dilindungi, dan dokumentasikan analisis keadilan (fairness) model Anda.
Explainability bukan sekadar kebutuhan kepatuhan—ia juga melindungi institusi Anda. Ketika sebuah keputusan dipertanyakan, Anda butuh jawaban yang lebih baik daripada "begitulah kata modelnya".
Regulator hidup dari jejak audit. Setiap keputusan material yang dibuat atau dibantu AI harus meninggalkan rekam jejak yang lengkap, tahan rusak, dan dapat direkonstruksi. Jika enam bulan kemudian sebuah keputusan dipertanyakan, Anda harus bisa menunjukkan dengan tepat: versi model mana yang dipakai, input apa yang diberikan, output apa yang dihasilkan, dan tindakan apa yang diambil sesudahnya.
Komponen audit trail yang matang mencakup:
Versioning penuh. Model, data pelatihan, dan konfigurasi prompt semuanya berversi, sehingga keputusan masa lalu bisa direproduksi dengan tepat.
Logging keputusan. Setiap inferensi yang memengaruhi nasabah dicatat dengan input, output, confidence, dan keputusan akhir—termasuk apakah ada intervensi manusia.
Imutabilitas. Log keputusan harus tidak bisa diubah setelah dicatat (append-only), agar integritasnya tak diragukan saat audit.
Untuk sistem LLM, ini termasuk menyimpan prompt lengkap, konteks retrieval, dan respons model—bukan sekadar ringkasan—agar perilaku model bisa dianalisis ulang saat dibutuhkan.
Ekspektasi yang konsisten muncul adalah bahwa AI tidak boleh menjadi pengambil keputusan tunggal yang otonom untuk hal-hal yang berdampak besar pada nasabah. Untuk keputusan berisiko tinggi—penolakan kredit besar, pemblokiran rekening, penanganan keluhan sensitif—harus ada mekanisme tinjauan manusia yang bermakna, bukan sekadar tombol "setuju" yang diklik tanpa berpikir.
Desain human-in-the-loop yang baik:
Mengarahkan kasus berisiko tinggi atau confidence rendah ke peninjau manusia secara otomatis.
Memberi peninjau informasi yang cukup (penjelasan model, faktor pendukung) untuk membuat keputusan independen, bukan sekadar menyetujui.
Menangkap keputusan peninjau sebagai data untuk perbaikan model dan sebagai bukti pengawasan dalam audit trail.
Dua area sisa yang sering menjadi titik temuan audit adalah tata kelola data dan risiko pihak ketiga.
Pada tata kelola data, data nasabah yang dipakai melatih atau menjalankan model tunduk pada UU PDP No. 27/2022 dan kerahasiaan perbankan. Ini menuntut dasar hukum pemrosesan yang jelas, minimisasi data (jangan pakai data lebih dari yang diperlukan), kontrol akses ketat, serta kebijakan retensi dan anonimisasi. Khususnya untuk LLM, perhatikan bahwa data sensitif tidak boleh bocor ke dalam prompt yang dikirim ke layanan pihak ketiga tanpa kontrol yang memadai.
Pada risiko vendor, jika Anda memakai model atau layanan AI dari penyedia luar—termasuk API LLM komersial—lembaga tetap bertanggung jawab penuh atas keputusan yang dihasilkan. Ini menuntut uji tuntas terhadap vendor: di mana data diproses dan disimpan, jaminan keamanan, kepatuhan terhadap lokalisasi data jika berlaku, dan klausul yang melindungi institusi Anda. Banyak lembaga keuangan di Indonesia karena alasan ini memilih deployment yang menjaga data sensitif tetap dalam kendali mereka, baik melalui on-premise maupun pengaturan cloud yang ketat.
Kepatuhan tidak berhenti saat model lolos validasi dan naik ke produksi—di situlah justru ia dimulai. Model AI bukan artefak statis; kinerjanya bisa memburuk diam-diam seiring perubahan perilaku nasabah, kondisi ekonomi, atau pola fraud baru. Regulator semakin menaruh perhatian pada kemampuan lembaga memantau dan menjaga kinerja model sepanjang siklus hidupnya, bukan sekadar saat diluncurkan.
Komponen monitoring yang diharapkan ada:
Pemantauan kinerja berkelanjutan. Akurasi, tingkat persetujuan, dan distribusi keputusan dipantau terhadap baseline. Penurunan tajam atau pergeseran tak biasa harus memicu alert.
Deteksi drift. Mengukur apakah karakteristik data yang masuk telah bergeser jauh dari data pelatihan—sinyal awal bahwa model mungkin tidak lagi relevan dan butuh dilatih ulang.
Pemantauan keadilan berkelanjutan. Memastikan model tidak mengembangkan bias terhadap segmen nasabah tertentu seiring waktu, bukan hanya diukur sekali saat validasi awal.
Ambang dan eskalasi yang jelas. Tetapkan kapan model harus ditinjau ulang, ditangguhkan, atau diganti, dengan jalur eskalasi ke komite risiko yang terdefinisi.
Tinjauan model berkala—idealnya dengan kadensi yang sesuai tingkat risikonya—memastikan bahwa model yang dulu disetujui masih layak hari ini. Lembaga yang bisa menunjukkan kepada regulator bahwa mereka tidak hanya membangun model dengan benar tetapi juga mengawasinya dengan disiplin akan berada di posisi yang jauh lebih kuat saat pemeriksaan.
Salah satu kesalahpahaman umum adalah menganggap kepatuhan AI cukup dipenuhi dengan menulis kebijakan tebal yang lalu disimpan di rak. Regulator semakin mahir membedakan tata kelola yang nyata dari yang sekadar di atas kertas. Tata kelola yang efektif tercermin dalam struktur organisasi dan proses sehari-hari, bukan hanya dokumen.
Struktur yang sehat biasanya mencakup pemisahan tanggung jawab yang jelas: tim yang membangun model, tim yang memvalidasi secara independen, dan fungsi risiko serta kepatuhan yang mengawasi. Komite yang menyetujui penggunaan model berisiko tinggi sebelum produksi, dengan kewenangan untuk menolak. Serta peran yang jelas siapa pemilik setiap model dan siapa yang bertanggung jawab saat sesuatu salah. Kejelasan akuntabilitas ini—bukan kecanggihan teknis—yang sering paling diperhatikan regulator, karena pada akhirnya pertanyaan mereka sederhana: jika model ini membuat keputusan yang merugikan nasabah, siapa yang bertanggung jawab dan bagaimana itu dicegah berulang.
Sebelum menempatkan sistem AI berisiko ke produksi di lingkungan yang diatur OJK, pastikan:
Model terdaftar dalam inventaris dengan tingkat risiko dan pemilik yang jelas.
Validasi independen telah dilakukan dan didokumentasikan.
Keputusan model dapat dijelaskan dengan faktor pendukung yang terdokumentasi.
Audit trail lengkap dan imutabel aktif untuk setiap keputusan material.
Mekanisme human-in-the-loop terpasang untuk kasus berisiko tinggi.
Dasar hukum pemrosesan data dan kontrol UU PDP terpenuhi.
Monitoring drift dan kinerja model berjalan dengan alert.
Uji tuntas vendor selesai untuk semua komponen AI pihak ketiga.
Rencana fallback dan rollback ada jika model gagal di produksi.
Sebagian besar prinsip di atas berasal dari dunia model prediktif klasik seperti credit scoring. Tetapi gelombang AI generatif—chatbot nasabah, copilot internal untuk teller dan customer service, ringkasan otomatis—membawa pertimbangan kepatuhan tambahan yang spesifik dan sering belum dipahami tim risiko.
Beberapa risiko khas sistem generatif di lingkungan keuangan:
Halusinasi yang merugikan. LLM bisa mengarang informasi dengan meyakinkan—biaya yang salah, kebijakan yang tidak ada, janji yang tak bisa ditepati. Di sektor keuangan, jawaban salah bukan sekadar memalukan, ia bisa menjadi sengketa hukum. Grounding ketat ke sumber resmi dan kemampuan abstain menjadi wajib.
Kebocoran data melalui prompt. Data nasabah yang dimasukkan ke prompt yang dikirim ke layanan pihak ketiga adalah risiko kerahasiaan perbankan dan UU PDP. Kontrol atas apa yang boleh masuk ke prompt dan ke mana ia dikirim harus eksplisit.
Manipulasi melalui prompt injection. Pengguna jahil bisa mencoba membajak bot untuk mengungkap informasi atau bertindak di luar wewenangnya. Uji ketahanan terhadap serangan ini sebelum produksi.
Konsistensi keluaran. Sifat probabilistik LLM berarti jawaban bisa bervariasi. Untuk informasi yang punya konsekuensi, ini menuntut pengujian dan guardrail yang ketat.
Pendekatan yang kami sarankan untuk sistem generatif berisiko di lingkungan diatur adalah membatasi otonomi: bot menjawab pertanyaan informasi dengan grounding ketat, tetapi keputusan dan transaksi material tetap melewati jalur terkontrol dengan pengawasan manusia. Kemampuan baru tidak boleh mengaburkan akuntabilitas yang lama.
Kesalahan termahal yang kami lihat berulang di sektor keuangan Indonesia adalah memperlakukan kepatuhan sebagai lapisan yang ditempelkan di akhir, setelah sistem AI selesai dibangun. Hasilnya hampir selalu mahal: arsitektur harus dibongkar, audit trail ditambahkan paksa, dan proyek tertunda berbulan-bulan. Kepatuhan yang baik adalah keputusan arsitektur yang diambil di awal—dan justru menghasilkan sistem yang lebih andal.
Sainskerta Solusi Nusantara membantu lembaga keuangan dan fintech Indonesia membangun sistem AI yang patuh sejak fondasinya—dari manajemen risiko model, explainability, audit trail, hingga tata kelola data sesuai UU PDP dan ekspektasi OJK. Jika Anda sedang merancang atau mengaudit penerapan AI di lingkungan yang diatur, hubungi tim kami melalui halaman Kontak untuk menjadwalkan sesi konsultasi. Kami akan membantu Anda menerjemahkan ekspektasi regulator menjadi arsitektur yang lolos audit sekaligus berkinerja tinggi.
