India mengeluarkan imbauan untuk memerangi deepfake dan melindungi pengguna; Ketahui semuanya tentang hal itu
Deepfake telah menjadi perhatian yang meningkat akhir-akhir ini, dengan beberapa tokoh terkemuka termasuk selebriti menjadi korbannya. Ada beberapa contoh di mana pelaku ancaman bahkan menipu korbannya dengan menggunakan deepfake atau suara palsu. Meskipun kemajuan dalam kecerdasan buatan (AI) telah meningkatkan produktivitas dan membantu pengguna dalam kehidupan sehari-hari, teknologi tersebut juga telah disalahgunakan untuk melakukan penipuan dan pencurian identitas. Setelah mengadakan dialog dengan perusahaan teknologi dan media sosial, Pemerintah India kini telah mengeluarkan peringatan kepada platform tersebut. Ketahui semuanya tentang hal itu.
Saran pemerintah terhadap deepfake
Kementerian Elektronika dan Teknologi Informasi (MeitY) mengeluarkan imbauan kepada seluruh perantara, terutama terkait meningkatnya jumlah deepfake. Bagi yang belum tahu, deepfake adalah video, gambar, dan audio yang dihasilkan AI yang diedit atau dimanipulasi untuk membuat siapa pun mengatakan atau melakukan apa pun yang tidak mereka lakukan di kehidupan nyata.
Baca juga: Video deepfake mengejutkan yang menampilkan CEO Ripple muncul secara online
Nasihat pemerintah India bertujuan untuk memastikan bahwa platform media sosial mematuhi peraturan TI yang ada. Aturan ini menyatakan bahwa semua perantara harus mengomunikasikan konten terlarang, khususnya yang ditentukan berdasarkan Aturan 3(1)(b) Aturan TI, 'dengan jelas dan tepat' kepada pengguna. Ini harus dilakukan melalui persyaratan layanan dan perjanjian pengguna. Selain itu, pengguna harus diberitahu tentang hal ini pada saat pendaftaran pertama, dan secara berkala, misalnya setelah setiap login.
Menteri Persatuan Negara untuk Elektronika dan Teknologi Rajeev Chandrasekhar mengatakan, “Hari ini, sebuah nasihat resmi telah dikeluarkan yang menggabungkan prosedur 'yang disepakati' untuk memastikan bahwa pengguna pada platform ini tidak melanggar konten terlarang dalam Aturan 3(1)(b) dan jika pelanggaran hukum tersebut diketahui atau dilaporkan maka konsekuensi berdasarkan hukum akan mengikuti. MeitY akan mengamati dengan cermat kepatuhan perantara dalam beberapa minggu mendatang dan menindaklanjutinya dengan amandemen lebih lanjut terhadap Peraturan TI dan/atau undang-undang jika dan ketika diperlukan.”
Contoh masa lalu
Ada beberapa contoh di mana deepfake terungkap. Deepfake yang melibatkan aktris Rashmika Mandanna muncul di media sosial beberapa waktu lalu, sedangkan selebriti lain seperti Priyanka Chopra, Alia Bhatt, dan Kajol telah menjadi korbannya. Khususnya, ada juga klip audio palsu yang dibuat oleh AI dari Perdana Menteri Narendra Modi yang muncul secara online.
