Kekhawatiran terhadap kebocoran data membuat sekitar 40 persen perusahaan di Indonesia masih ragu mengadopsi agen kecerdasan artifisial atau AI agent dalam operasional bisnis mereka. Angka tersebut menunjukkan bahwa kesiapan teknologi tidak serta-merta berjalan seiring dengan kesiapan tata kelola data dan keamanan informasi di tingkat korporasi. Di satu sisi, agen AI diyakini mampu memangkas waktu kerja, mengotomatisasi proses berulang, dan meningkatkan produktivitas. Di sisi lain, teknologi ini menuntut akses luas terhadap basis data perusahaan, sehingga membuka permukaan risiko yang lebih besar dibandingkan penggunaan aplikasi konvensional.
Keraguan Bukan Semata Soal Teknologi
Keraguan yang ditunjukkan sebagian pelaku usaha tidak dapat dibaca sebagai penolakan terhadap kecerdasan artifisial secara umum. Banyak perusahaan telah memakai alat bantu AI generatif untuk keperluan internal berskala terbatas, seperti penyusunan ringkasan dokumen, penyaringan korespondensi, atau pencarian informasi di dalam arsip perusahaan. Persoalan muncul ketika AI bergerak dari sekadar alat bantu menjadi agen yang menjalankan tugas secara mandiri, mengambil keputusan, dan berinteraksi dengan sistem lain tanpa pengawasan penuh dari manusia.
Pada tahap itu, agen AI membutuhkan akses ke berbagai sumber daya, mulai dari surel, basis data pelanggan, sistem keuangan, hingga aplikasi manajemen proyek. Setiap koneksi menjadi jalur potensial bagi keluarnya informasi apabila tidak dikendalikan dengan baik. Kekhawatiran inilah yang paling sering muncul dalam pembahasan internal perusahaan, terutama pada sektor yang mengelola data pribadi dalam jumlah besar seperti jasa keuangan, kesehatan, telekomunikasi, dan perdagangan elektronik.
Mengapa Agen AI Berisiko bagi Data Perusahaan
Akses Berlebih dan Minim Pengawasan
Salah satu sumber risiko utama adalah pemberian hak akses yang terlalu luas kepada agen AI. Dalam banyak implementasi awal, agen diberi kredensial yang sama dengan karyawan agar dapat menjalankan tugasnya. Padahal, agen bekerja terus-menerus, dapat memanggil layanan lain secara otomatis, dan menyimpan jejak percakapan yang mungkin memuat informasi sensitif. Tanpa pembatasan berbasis kebutuhan dan tanpa pencatatan aktivitas yang memadai, perusahaan sulit mengetahui data apa saja yang telah dibaca, diproses, atau diteruskan ke pihak ketiga.
Risiko bertambah ketika agen dijalankan melalui penyedia layanan eksternal. Aliran data dari sistem internal ke infrastruktur penyedia menjadi titik yang perlu diperiksa dengan saksama, termasuk lokasi penyimpanan data, jangka waktu penyimpanan, serta ada atau tidaknya penggunaan data pelanggan untuk pelatihan model. Ketidakjelasan ihwal ini kerap menjadi alasan perusahaan menunda penerapan skala penuh.
Kepatuhan terhadap Aturan Pelindungan Data
Faktor kepatuhan juga menjadi pertimbangan penting. Indonesia telah memiliki Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi yang mengatur kewajiban pengendali data, mulai dari dasar pemrosesan yang sah, pembatasan tujuan, hingga kewajiban menjaga kerahasiaan dan keamanan data. Keterlibatan pihak ketiga dalam bentuk penyedia layanan AI menambah rantai pemrosesan yang harus didokumentasikan dan dijamin pemenuhannya.
Bagi perusahaan, ketidakmampuan menjelaskan bagaimana data mengalir di dalam sistem berbasis agen AI berpotensi menimbulkan masalah, bukan hanya dari sisi sanksi, tetapi juga dari sisi kepercayaan pelanggan dan mitra bisnis. Karena itu, uji tuntas terhadap penyedia teknologi menjadi bagian yang tidak terpisahkan dari rencana adopsi.
Bukan Berarti Menolak Teknologi
Meski demikian, keraguan tersebut tidak berarti perusahaan menutup pintu terhadap agen AI. Sebagian perusahaan memilih pendekatan bertahap, yakni memulai dari proses yang risikonya rendah dan datanya tidak bersifat rahasia, kemudian memperluas cakupan seiring matangnya pengendalian. Ada pula yang memilih menjalankan model secara lokal di lingkungan tertutup agar data tidak keluar dari kendali organisasi.
Pendekatan bertahap dinilai lebih realistis dibandingkan penerapan menyeluruh dalam waktu singkat. Perusahaan dapat menguji akurasi, keandalan, dan dampak agen terhadap alur kerja sebelum mempercayakan tugas yang lebih kritis. Pada saat yang sama, tim keamanan informasi dan tim bisnis perlu duduk bersama sejak tahap perencanaan agar kebijakan tidak disusun secara terpisah dari kebutuhan operasional.
Langkah Pengamanan yang Disarankan
Sejumlah praktik pengamanan lazim direkomendasikan sebelum agen AI dioperasikan. Pertama, klasifikasi data secara jelas agar agen hanya dapat mengakses informasi sesuai kewenangannya. Kedua, penerapan prinsip hak akses paling minimal dan pemisahan kewenangan antarproses. Ketiga, pencatatan log aktivitas yang lengkap agar setiap tindakan agen dapat ditelusuri.
Keempat, mekanisme persetujuan manusia atau human in the loop untuk tindakan yang berdampak signifikan, seperti transaksi keuangan, perubahan data pelanggan, atau pengiriman komunikasi eksternal. Kelima, pengujian keamanan secara berkala, termasuk simulasi penyalahgunaan melalui perintah manipulatif yang menyasar agen. Keenam, klausul kontrak yang tegas dengan penyedia layanan mengenai kerahasiaan, lokasi pemrosesan, dan prosedur pemberitahuan apabila terjadi insiden.
Tantangan Sumber Daya dan Talenta
Selain persoalan keamanan, kesenjangan kompetensi menjadi hambatan tersendiri. Tidak semua perusahaan memiliki tenaga ahli yang mampu merancang arsitektur agen AI sekaligus memahami implikasi hukum pelindungan data. Keterbatasan ini membuat sebagian perusahaan bergantung pada konsultan atau penyedia luar, yang justru menambah kekhawatiran soal kendali atas data.
Karena itu, pengembangan kapasitas internal menjadi agenda penting. Pelatihan bagi karyawan mengenai penggunaan alat AI yang aman, pemahaman atas kebijakan internal, serta kesadaran akan risiko rekayasa sosial berbasis AI perlu dilakukan secara berkelanjutan. Tanpa itu, kebijakan seketat apa pun akan mudah terlewati dalam praktik sehari-hari.
Prospek ke Depan
Terlepas dari keraguan yang masih muncul, minat terhadap agen AI diperkirakan terus tumbuh seiring meningkatnya tekanan untuk beroperasi lebih efisien. Yang menjadi penentu bukan lagi apakah perusahaan akan memakai teknologi ini, melainkan seberapa siap tata kelola data, keamanan, dan sumber daya manusia di dalamnya. Perusahaan yang mampu menyeimbangkan dorongan inovasi dengan disiplin pelindungan data berpeluang memperoleh manfaat lebih besar, sementara yang mengabaikan aspek tersebut berisiko menghadapi insiden yang merugikan reputasi maupun keuangan.
Komentar (0)