Regulator perbankan global yang tergabung dalam Basel Committee on Banking Supervision (BCBS) kembali menyoroti bahaya yang menyertai adopsi kecerdasan buatan atau artificial intelligence (AI) di sektor keuangan. Peringatan itu disampaikan seiring percepatan penggunaan AI di berbagai lini operasional bank, mulai dari penilaian kredit, deteksi kecurangan, perdagangan algoritmik, hingga layanan pelanggan berbasis chatbot. Meskipun AI diyakini dapat meningkatkan efisiensi dan akurasi, regulator menilai teknologi ini memunculkan risiko baru yang belum sepenuhnya terpetakan, terutama karena sifatnya yang cepat berubah dan sulit diaudit secara konvensional.
AI Menjadi Bagian Tak Terpisahkan dari Operasional Bank
Dalam beberapa tahun terakhir, bank-bank besar dunia berlomba mengintegrasikan AI ke dalam proses bisnis inti mereka. Sistem pembelajaran mesin digunakan untuk memproses data nasabah dalam volume besar, memprediksi perilaku gagal bayar, hingga mengotomatisasi keputusan pemberian kredit. Sejumlah institusi juga memanfaatkan AI generatif untuk menyusun laporan, menganalisis kontrak, dan menjawab pertanyaan nasabah secara real time. Adopsi ini dipercepat oleh tekanan kompetitif dari perusahaan teknologi finansial serta kebutuhan menekan biaya operasional.
Namun, BCBS menilai ketergantungan yang meningkat pada AI menciptakan titik kerentanan baru. Model AI, terutama yang berbasis pembelajaran mendalam, sering kali bekerja sebagai "kotak hitam" sehingga sulit dijelaskan bagaimana sebuah keputusan diambil. Kondisi itu bertentangan dengan prinsip tata kelola risiko perbankan yang menuntut akuntabilitas, transparansi, dan kemampuan audit. Regulator khawatir bank tidak selalu memiliki pemahaman memadai atas model yang mereka gunakan, terutama ketika model tersebut dikembangkan pihak ketiga.
Risiko Baru: Kesalahan Model hingga Serangan Siber
Regulator mengidentifikasi sejumlah risiko utama. Pertama, risiko kesalahan model atau model risk, yakni ketika AI menghasilkan prediksi keliru akibat data pelatihan yang tidak representatif, bias historis, atau perubahan kondisi pasar yang tidak terdeteksi. Kesalahan semacam itu dapat berujung pada keputusan kredit yang diskriminatif atau kerugian finansial signifikan. Kedua, risiko konsentrasi, karena banyak bank menggunakan penyedia layanan AI yang sama sehingga gangguan pada satu vendor berpotensi berdampak sistemik.
Ketiga, risiko serangan siber dan manipulasi data. Model AI sangat bergantung pada kualitas dan integritas data. Peretas yang berhasil menyusup ke saluran data dapat menanam informasi palsu untuk mengarahkan keputusan model, sebuah praktik yang dikenal sebagai data poisoning. Keempat, risiko operasional dan reputasi, terutama ketika chatbot atau sistem otomatis memberikan informasi menyesatkan kepada nasabah. Beberapa kasus di berbagai negara menunjukkan layanan AI dapat menghasilkan pernyataan tidak akurat yang kemudian memicu keluhan dan sengketa hukum.
Respons Regulator dan Kerangka Pengawasan
BCBS mendorong bank untuk memperkuat kerangka manajemen risiko AI, termasuk uji validasi model secara berkala, dokumentasi yang memadai, serta pengawasan manusia terhadap keputusan otomatis yang berdampak besar. Regulator juga menekankan pentingnya tata kelola data, keamanan siber, dan prosedur penanganan insiden. Selain itu, bank diminta memetakan ketergantungan pada pihak ketiga dan menyiapkan rencana kontinjensi jika layanan AI eksternal mengalami gangguan.
Peringatan ini melengkapi langkah sejumlah otoritas nasional yang sudah lebih dulu menerbitkan aturan khusus. Uni Eropa tengah menerapkan AI Act yang mengklasifikasikan aplikasi AI berdasarkan tingkat risiko, termasuk kewajiban audit untuk sistem berisiko tinggi di sektor keuangan. Otoritas di Amerika Serikat dan Asia juga meningkatkan pengawasan terhadap penggunaan AI generatif di lembaga keuangan. Meski demikian, belum ada standar global tunggal yang mengikat, sehingga pendekatan antarnegara masih bervariasi.
Dampak bagi Industri dan Nasabah
Bagi industri perbankan, peringatan regulator menjadi sinyal bahwa inovasi AI harus berjalan seiring penguatan kontrol internal. Bank yang lambat beradaptasi berisiko menghadapi sanksi, kerugian reputasi, atau kegagalan operasional. Sebaliknya, bank yang mampu menerapkan AI secara bertanggung jawab dapat memperoleh keunggulan kompetitif melalui layanan yang lebih cepat dan personal. Keseimbangan inilah yang menjadi tantangan utama.
Bagi nasabah, isu ini menyentuh langsung hak atas perlakuan adil dan perlindungan data pribadi. Keputusan otomatis yang tidak transparan dapat menyulitkan nasabah memahami alasan penolakan kredit atau perubahan limit. Karena itu, regulator menekankan perlunya mekanisme banding dan penjelasan yang dapat diakses publik. Pengawasan yang ketat diharapkan mencegah AI memperkuat bias yang sudah ada dalam sistem keuangan.
Secara keseluruhan, peringatan BCBS menegaskan bahwa AI bukan sekadar alat efisiensi, melainkan sumber risiko yang menuntut tata kelola serius. Regulator global tampaknya akan terus memperketat pengawasan seiring evolusi teknologi. Bagi bank, kepatuhan dan kehati-hatian bukan lagi pilihan, melainkan prasyarat untuk memanfaatkan AI secara berkelanjutan tanpa mengorbankan stabilitas sistem keuangan dan kepercayaan masyarakat.
Komentar (0)