New Policy: Wamenkomdigi nilai “deepfake” tingkatkan ancaman penipuan digital

Wamenkomdigi Nilai “Deepfake” Tingkatkan Ancaman Penipuan Digital

New Policy – Jakarta, Rabu – Nezar Patria, Wakil Menteri Komunikasi dan Digital, mengungkapkan bahwa penggunaan kecerdasan buatan (AI) dalam bentuk teknologi deepfake merupakan ancaman serius di bidang etika dan keamanan digital. Menurutnya, kemampuan AI untuk menghasilkan video, gambar, atau suara palsu yang sangat mirip dengan aslinya memperkuat potensi penipuan di era digital. “Dengan AI, suara kita bisa ditiru, wajah kita bisa dibuat secara digital, dan semua itu tampil dalam bentuk video deepfake yang sangat halus,” tutur Nezar saat menghadiri Indonesia Ethical AI Summit di Jakarta.

Perkembangan AI yang Cepat

Pada kesempatan tersebut, Nezar menekankan bahwa perkembangan AI saat ini berlangsung begitu cepat, bahkan telah melewati tahap generative AI menuju agentic AI. Hal ini menciptakan berbagai teknologi baru yang berpotensi mengubah cara kita berinteraksi dengan informasi digital. Meski peningkatan ini membawa manfaat besar bagi berbagai sektor, ia mengingatkan bahwa risiko baru juga muncul yang harus diatasi secara serius.

Risiko Konten Sintetik

Dalam aspek keamanan siber, Nezar menyebut bahwa pelaku kejahatan digital mulai memanfaatkan AI untuk menciptakan konten yang sulit dibedakan dari kenyataan. Ia menyoroti fenomena “realitas sintetik” yang merupakan hasil rekayasa digital modern, termasuk deepfake. “Konten yang dihasilkan AI kini mampu menggantikan realitas sehari-hari, sehingga membuat orang sulit membedakan mana yang asli dan mana yang dibuat,” jelasnya. Fenomena ini berpotensi meningkatkan jumlah penipuan digital, terutama karena tingkat literasi masyarakat tentang AI masih rendah.

“Awamnya masyarakat tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya ‘scam’ saat ini luar biasa,” ujar Nezar.

Keterlibatan Manusia dalam Pengambilan Keputusan

Menurut Nezar, pengembangan kecerdasan buatan otonom yang bisa berpikir dan mengambil keputusan mandiri memerlukan keterlibatan manusia dalam proses pengambilan keputusan. Ia menyebut prinsip “human in the loop” sebagai bagian penting dari sistem AI yang lebih ketat. “Beberapa ahli menyarankan adanya protokol yang lebih ketat, termasuk penerapan prinsip ini agar keputusan penting tetap diawasi oleh manusia,” tambahnya.

Etika AI yang Lebih Keras

Nazar juga menegaskan bahwa pendekatan etika AI tidak lagi bisa bersifat sukarela. Di masa lalu, prinsip etika mungkin diaplikasikan secara mandiri, tetapi kini harus diintegrasikan secara sistematis dalam proses desain teknologi. “Transparansi, akuntabilitas, dan keamanan harus menjadi bagian integral dari pengembangan produk AI, sejak tahap perencanaan,” tegasnya. Ia mengingatkan bahwa semua pihak, termasuk pengembang, industri, akademisi, dan pengguna, harus bekerja sama untuk mengurangi risiko yang muncul.

Implikasi pada Keamanan Digital

Deepfake memperlihatkan bagaimana AI bisa digunakan untuk memanipulasi informasi secara masif. Teknologi ini memungkinkan pembuatan konten yang menyerupai kenyataan, termasuk suara atau wajah individu tertentu. Dalam konteks penipuan digital, konten-konten ini bisa digunakan untuk memperdaya korban, baik dalam bisnis, politik, maupun kehidupan pribadi. “Karena orang bisa terkecoh oleh tampilan yang sangat realistis, ancaman kejahatan digital menjadi lebih kompleks,” imbuhnya.

Kolaborasi untuk Mitigasi Risiko

Nazar berharap para pemangku kepentingan dapat memperkuat tata kelola dan mitigasi risiko sejak awal. Ia menekankan pentingnya kolaborasi lintas sektor, mulai dari pemerintah hingga perusahaan teknologi, untuk menciptakan standar penggunaan AI yang lebih aman. “Pengembangan produk AI harus mencakup prinsip-prinsip etika sejak desain awal, bukan hanya setelah produk selesai,” katanya. Langkah ini, menurutnya, bisa mengurangi dampak negatif deepfake terhadap kepercayaan publik.

Contoh Kasus dalam Praktik

Kasus penipuan yang memanfaatkan deepfake terus meningkat di berbagai wilayah. Sebagai contoh, video suara atau wajah orang terkenal sering digunakan untuk menyampaikan pesan palsu, seperti permintaan transfer dana atau pengakuan palsu. Nezar mengingatkan bahwa masyarakat perlu lebih waspada terhadap konten yang dihasilkan oleh AI. “Banyak orang tidak menyadari bahwa video atau suara yang mereka lihat bisa saja dibuat dengan teknologi ini,” katanya.

Langkah yang Diperlukan

Untuk menghadapi tantangan ini, Nezar menyarankan adanya langkah-langkah konkret, seperti peningkatan edukasi masyarakat dan penggunaan teknologi deteksi deepfake. Ia juga menekankan pentingnya regulasi yang jelas untuk memastikan penggunaan AI tidak melampaui batas. “Pemerintah harus bekerja sama dengan industri dan akademisi untuk menciptakan kerangka hukum yang memadai,” tuturnya. Dengan begitu, risiko penipuan digital bisa dikurangi secara signifikan.

Potensi Dampak Jangka Panjang

Dalam jangka panjang, Nezar memperkirakan bahwa deepfake dan teknologi AI lainnya akan terus berkembang, bahkan menciptakan bentuk-bentuk kejahatan yang lebih canggih. Ia mengingatkan bahwa tidak hanya keamanan siber yang terancam, tetapi juga integritas informasi dan kepercayaan masyarakat secara umum. “Kita harus berpikir lebih jauh, karena dampaknya bisa mencapai berbagai aspek kehidupan,” katanya.

Selain itu, Nezar menekankan bahwa kesadaran akan pentingnya kejujuran dalam konten digital harus menjadi prioritas. Ia menyebut bahwa teknologi deepfake bukan hanya alat untuk kejahatan, tetapi juga bisa dimanfaatkan untuk kebaikan, seperti dalam edukasi atau komunikasi. “Yang menjadi kunci adalah bagaimana kita mengarahkan penggunaan teknologi ini,” pungkasnya. Dengan kerja sama dan pendekatan yang tepat, ancaman deepfake dapat dikurangi, sekaligus memanfaatkan potensi AI secara maksimal.

Kemajuan teknologi AI membawa banyak peluang, tetapi juga tantangan baru. Nezar Patria mengingatkan bahwa penggunaan deepfake dan teknologi sintetik lainnya harus diawasi dengan baik. Dengan memadukan etika dan keamanan sejak awal, produk AI bisa menjadi alat yang bermanfaat, bukan ancaman bagi masyarakat digital.