PM Narendra Modi memberikan peringatan AI dan menyebut deepfakes “bermasalah”; tahu cara mengenalinya dan tetap aman
Pada hari Jumat, 17 November, Perdana Menteri Narendra Modi menyoroti maraknya masalah deepfake di India. Bagi yang belum tahu, deepfake adalah teknologi kecerdasan buatan (AI) di mana media, seperti foto, video, dan audio dimanipulasi secara hiper-realistis agar tampak sangat nyata meskipun palsu. Kasus terbaru adalah aktris Rashmika Mandanna, yang menjadi korban serangan mengerikan terbaru tersebut. PM Modi berbicara kepada wartawan pada program Diwali Milan di markas besar BJP di New Delhi.
Dalam pidatonya, ia menandai penyalahgunaan AI untuk menciptakan ‘deepfakes’, dan mengatakan media harus mendidik masyarakat tentang krisis ini. Isu deepfake bahkan membuat beberapa seleb harus mengambil tindakan di pengadilan. Awal tahun ini, aktor Anil Kapoor berhasil mengajukan gugatan terhadap deepfake dirinya yang tidak sah, dan baru-baru ini, video deepfake yang mengganggu dari aktor Rashmika Mandanna muncul ke permukaan di mana wajahnya ditambahkan ke tubuh wanita lain.
Masalah deepfake
Dalam banyak hal, pertikaian deepfake Rashmika Mandanna mengawali perbincangan di India seputar masalah ini yang berpotensi meledak kapan saja. Dalam insiden ini, klip kecil berdurasi enam detik dari aktor tersebut dibagikan secara online di mana Mandanna terlihat memasuki lift. Ini dengan cepat menjadi viral. Namun belakangan terungkap bahwa video tersebut adalah milik influencer Instagram Zara Patel, dan wajah Mandanna ditambahkan melalui AI.
Dalam reaksinya, Menteri Persatuan Rajeev Chandrasekhar mengatakan, “Pemerintah berkomitmen untuk memastikan Keamanan dan Kepercayaan semua DigitalNagrik yang menggunakan Internet”. Menyebut deepfake sebagai bentuk misinformasi terbaru dan sangat berbahaya serta merusak, dia menjelaskan bahwa hal itu “perlu ditangani oleh platform”.
Patel, wanita yang videonya dipalsukan oleh aktor jahat, menyatakan di akun Instagram-nya dan berkata, “Saya sangat terganggu dan kecewa dengan apa yang terjadi. Saya khawatir tentang masa depan perempuan dan anak perempuan yang kini harus lebih takut lagi untuk menampilkan diri mereka di media sosial. Silakan mengambil langkah mundur dan periksa fakta apa yang Anda lihat di internet. Tidak semua yang ada di internet itu nyata”.
Cara mengenali deepfake
Massachusetts Institute of Technology (MIT), yang memiliki departemen penelitian AI dan ML khusus, telah menerbitkan beberapa tips berguna yang dapat digunakan orang untuk membedakan antara video deepfake dan video asli. Beberapa di antaranya tercantum di bawah ini.
1. Perhatikan wajah. Manipulasi DeepFake kelas atas hampir selalu berupa transformasi wajah.
2. Perhatikan kedipan. Apakah orang tersebut berkedip cukup atau terlalu banyak?
3. Perhatikan gerakan bibir. Beberapa deepfake didasarkan pada sinkronisasi bibir. Apakah gerakan bibir terlihat alami?
Risiko terjadinya deepfake rendah bagi sebagian besar individu karena diperlukan data pelatihan ekstensif untuk membuat manipulasi canggih tersebut. Tanpa banyaknya koleksi foto dan video pribadi yang tersedia secara online, menjadi tantangan bagi model AI untuk menghasilkan deepfake yang sempurna, terutama jika melibatkan tampilan wajah dari samping.
