New Policy: Wamenkomdigi nilai “deepfake” tingkatkan ancaman penipuan digital
New Policy: Deepfake Memperkuat Ancaman Penipuan Digital
New Policy – Dalam acara Indonesia Ethical AI Summit di Jakarta, Wakil Menteri Komunikasi dan Informatika (Wamenkomdigi) Nezar Patria memperkenalkan kebijakan baru untuk menghadapi ancaman deepfake dalam dunia digital. Ia menekankan bahwa teknologi ini semakin memicu risiko penipuan yang mengkhawatirkan, karena kemampuan AI untuk menciptakan video, gambar, atau suara palsu yang menyerupai aslinya semakin membaik.
Ancaman Deepfake di Era Kecerdasan Buatan
Deepfake, sebagai bagian dari pengembangan kecerdasan buatan generatif, dinilai sebagai senjata ampuh bagi pelaku kejahatan digital. Nezar menjelaskan bahwa teknologi ini bisa digunakan untuk meniru suara dan wajah seseorang, lalu memasukkan pernyataan palsu ke dalam konten yang menyerupai realitas. “Hal ini menjadikan deepfake sebagai alat utama untuk memanipulasi opini publik,” ujarnya.
Dalam konteks keamanan digital, keberadaan deepfake menambah kompleksitas ancaman. Nezar Patria mengatakan bahwa perlu adanya kebijakan baru untuk mengendalikan penggunaan teknologi ini, terutama di tengah kecepatan perkembangannya. “Kecerdasan buatan kini sudah mampu menciptakan realitas sintetik yang nyaris tak terbeda dari kehidupan nyata,” tambahnya.
Kebijakan Baru untuk Mengurangi Risiko Penipuan
New Policy ini bertujuan meningkatkan pengawasan terhadap penggunaan AI dalam pembuatan konten digital. Nezar menyoroti bahwa kebijakan tersebut mencakup standar transparansi dan akuntabilitas di setiap tahap pengembangan produk AI. “Dengan New Policy, kita bisa memastikan teknologi ini digunakan secara bertanggung jawab,” jelasnya.
Salah satu aspek kunci dalam New Policy adalah implementasi prinsip “human in the loop” untuk memastikan keputusan kritis tetap diawasi manusia. Nezar Patria mencontohkan bagaimana AI bisa menyebabkan kesalahan interpretasi, seperti membuat video berisi pernyataan palsu yang menipu publik. “New Policy mengharuskan adanya mekanisme pemeriksaan manusia dalam proses pengambilan keputusan AI,” katanya.
Dalam ranah keamanan siber, New Policy juga mengutamakan pendekatan sukarela diawal, bukan hanya sebagai keharusan akhir. Nezar menegaskan bahwa etika AI harus diterapkan sejak tahap perancangan, agar kepercayaan masyarakat tetap terjaga. “Ini adalah langkah penting untuk mengurangi dampak negatif deepfake terhadap informasi yang diperoleh publik,” ujarnya.
Kebijakan baru ini juga mendorong kolaborasi antara pihak berwenang, pengembang teknologi, dan pengguna AI. Nezar Patria menyebut bahwa dengan New Policy, ancaman dari deepfake dan teknologi lainnya bisa diminimalkan. “Kolaborasi ini akan memastikan tata kelola risiko yang lebih ketat dan adil,” tutupnya.