Jakarta — Kemajuan teknologi kecerdasan buatan (AI) membuat konten deepfake semakin sulit dibedakan dari rekaman asli. Kementerian Komunikasi dan Digital (Komdigi) tengah mengkaji aturan pelabelan atau labeling bagi konten yang dihasilkan AI sebagai upaya melindungi publik dari disinformasi dan penyalahgunaan teknologi.
Deepfake adalah teknik manipulasi gambar, video, atau audio menggunakan AI untuk menciptakan tampilan yang tampak autentik. Seiring berkembangnya model generatif, hasil rekayasa kini semakin halus, termasuk dalam meniru ekspresi wajah, gerakan bibir, dan intonasi suara. Kondisi ini membuat deteksi secara kasatmata menjadi semakin sulit, bahkan bagi pengguna yang terbiasa mengonsumsi konten digital.
Teknologi Deepfake Semakin Sulit Dideteksi
Berbagai laporan industri teknologi menunjukkan bahwa kualitas deepfake meningkat pesat dalam beberapa tahun terakhir. Model AI generatif terbaru mampu menghasilkan video pendek dengan sinkronisasi audio dan visual yang mendekati rekaman asli. Hal ini menimbulkan kekhawatiran karena teknologi tersebut dapat disalahgunakan untuk menyebarkan hoaks, menipu secara finansial, hingga merusak reputasi seseorang.
Selain video, deepfake audio juga menjadi perhatian. Suara yang ditiru dapat digunakan dalam upaya penipuan melalui telepon, termasuk meniru suara pejabat, tokoh publik, atau anggota keluarga. Kemudahan akses terhadap alat pembuat konten AI berbasis daring memperbesar risiko penyalahgunaan oleh pihak yang tidak bertanggung jawab.
Pengamat keamanan digital menilai deteksi manual tidak lagi memadai. Diperlukan pendekatan berlapis, mulai dari penggunaan perangkat deteksi berbasis AI, verifikasi sumber, hingga penguatan literasi digital di masyarakat. Tanpa langkah tersebut, publik berisiko menerima dan menyebarkan konten palsu tanpa memeriksa kebenarannya.
Komdigi Kaji Aturan Pelabelan Konten AI
Menanggapi perkembangan tersebut, Komdigi tengah menelaah kemungkinan penerapan kewajiban pelabelan pada konten yang diproduksi atau dimodifikasi dengan AI. Kebijakan ini diarahkan agar publik dapat mengetahui status sebuah konten, apakah merupakan rekaman asli atau hasil rekayasa.
Pelabelan dinilai menjadi salah satu instrumen transparansi yang dapat memperkuat ekosistem digital. Dengan penandaan yang jelas, pengguna dapat menilai kredibilitas konten sebelum mengambil keputusan atau menyebarkannya ke orang lain. Kebijakan serupa juga mulai diterapkan di sejumlah negara sebagai bagian dari tata kelola AI yang bertanggung jawab.
Namun, pengaturan pelabelan bukan tanpa tantangan. Komdigi perlu mempertimbangkan cakupan kewajiban, mekanisme verifikasi, hingga kesiapan platform digital dan pengembang teknologi. Selain itu, diperlukan koordinasi lintas kementerian dan lembaga agar aturan dapat berjalan efektif tanpa menghambat inovasi di sektor ekonomi digital.
Keseimbangan antara Perlindungan dan Inovasi
Dalam penyusunan kebijakan, pemerintah dihadapkan pada kebutuhan menjaga keseimbangan antara perlindungan publik dan ruang inovasi. Aturan yang terlalu ketat berpotensi membebani pelaku usaha rintisan (startup) dan kreator konten, sementara aturan yang terlalu longgar berisiko membiarkan penyalahgunaan AI terus berkembang.
Karena itu, pendekatan yang inklusif menjadi penting. Pelibatan akademisi, pelaku industri, organisasi masyarakat sipil, dan platform digital diperlukan agar kebijakan yang dihasilkan tidak hanya bersifat administratif, tetapi juga aplikatif di lapangan. Sosialisasi kepada masyarakat juga menjadi bagian yang tidak terpisahkan dari penerapan aturan.
Tantangan Penegakan dan Literasi Digital
Selain regulasi, penegakan hukum terhadap penyalahgunaan deepfake menjadi persoalan tersendiri. Pelaku dapat beroperasi lintas negara, sementara konten palsu menyebar cepat melalui media sosial dan aplikasi pesan. Hal ini menuntut kerja sama antarlembaga, termasuk dengan platform digital, untuk mempercepat proses identifikasi dan penanganan konten bermasalah.
Di sisi lain, literasi digital masyarakat menjadi benteng pertama dalam menghadapi banjir konten AI. Edukasi mengenai cara memeriksa sumber informasi, mengenali tanda-tanda konten hasil rekayasa, serta menahan diri sebelum menyebarkan konten menjadi kunci. Program literasi digital yang menyasar berbagai kelompok usia dinilai perlu diperluas dan diperkuat.
Sejumlah organisasi pemeriksa fakta juga mencatat peningkatan kasus konten manipulatif berbasis AI. Mereka menekankan pentingnya verifikasi berlapis, termasuk penelusuran sumber asli dan pemeriksaan metadata, untuk memastikan keaslian sebuah rekaman. Kolaborasi antara media, platform, dan pemerintah dinilai menjadi faktor penting dalam menekan penyebaran disinformasi.
Perbandingan dengan Regulasi Internasional
Beberapa negara telah lebih dulu mengadopsi aturan terkait transparansi konten AI. Uni Eropa melalui AI Act, misalnya, mengatur kewajiban pelabelan bagi konten sintetis agar pengguna mengetahui bahwa konten tersebut dihasilkan oleh kecerdasan buatan. Pendekatan ini menjadi rujukan bagi banyak negara dalam menyusun kerangka regulasi serupa.
Di kawasan Asia, sejumlah pemerintah juga mulai membahas mekanisme serupa, dengan penekanan pada transparansi, akuntabilitas, dan perlindungan konsumen. Indonesia, melalui kajian yang dilakukan Komdigi, berupaya menyesuaikan praktik terbaik internasional dengan konteks nasional, termasuk kondisi ekosistem digital dan tingkat literasi masyarakat.
Dampak bagi Industri dan Masyarakat
Bagi industri, kewajiban pelabelan dapat mendorong terciptanya praktik yang lebih bertanggung jawab dalam penggunaan AI. Pengembang teknologi didorong menyematkan penanda pada konten yang dihasilkan, sementara platform digital perlu menyiapkan mekanisme untuk menampilkan informasi tersebut kepada pengguna.
Sementara itu, masyarakat diharapkan semakin kritis dalam mengonsumsi informasi. Kebiasaan memverifikasi sumber dan tidak langsung mempercayai konten yang beredar menjadi bagian dari budaya digital yang sehat. Dengan begitu, risiko dampak negatif deepfake dapat ditekan tanpa menghambat manfaat positif AI bagi kehidupan sehari-hari.
Komdigi menegaskan bahwa kajian atas aturan pelabelan konten AI masih berlangsung dan akan mempertimbangkan berbagai masukan dari pemangku kepentingan. Kebijakan yang dihasilkan diharapkan mampu menjawab tantangan teknologi sekaligus memperkuat perlindungan publik di ruang digital.
Komentar (0)