Panggilan Video Deepfake Menipu Perusahaan Global sebesar $26 Juta; Video YouTube Bekas: SCMP

Panggilan Video Deepfake Menipu Perusahaan Global sebesar $26 Juta;  Video YouTube Bekas: SCMP

Road.co.id

Para penipu menipu sebuah perusahaan multinasional hingga menghasilkan sekitar $26 juta dengan menyamar sebagai eksekutif senior menggunakan teknologi deepfake, kata polisi Hong Kong pada hari Minggu, dalam salah satu kasus pertama di kota tersebut.

Badan-badan penegak hukum berupaya keras untuk mengimbangi kecerdasan buatan generatif, yang menurut para ahli berpotensi menimbulkan disinformasi dan penyalahgunaan — seperti gambar palsu yang menunjukkan orang-orang mengucapkan hal-hal yang tidak pernah mereka katakan.

Seorang karyawan perusahaan di pusat keuangan Tiongkok menerima “panggilan konferensi video dari seseorang yang menyamar sebagai pejabat senior perusahaan yang meminta untuk mentransfer uang ke rekening bank yang ditunjuk”, kata polisi kepada AFP.

Polisi menerima laporan mengenai kejadian tersebut pada tanggal 29 Januari, yang mana sekitar HK$200 juta ($26 juta) telah hilang melalui 15 transfer.

“Penyelidikan masih berlangsung dan sejauh ini belum ada penangkapan yang dilakukan,” kata polisi, tanpa mengungkapkan nama perusahaan tersebut.

Kami ada di Saluran WhatsApp. Klik untuk bergabung.

Korban bekerja di departemen keuangan, dan para penipu berpura-pura menjadi kepala keuangan perusahaan yang berbasis di Inggris, menurut laporan media Hong Kong.

Penjabat Inspektur Senior Baron Chan mengatakan panggilan konferensi video tersebut melibatkan banyak peserta, tetapi semua peserta kecuali korban ditiru.

“Penipu menemukan video dan audio target peniruan yang tersedia untuk umum melalui YouTube, kemudian menggunakan teknologi deepfake untuk meniru suara mereka… untuk memikat korban agar mengikuti instruksi mereka,” kata Chan kepada wartawan.

Video deepfake tersebut telah direkam sebelumnya dan tidak melibatkan dialog atau interaksi dengan korban, tambahnya.

Apa yang perlu diketahui tentang cara anggota parlemen menangani deepfake seperti yang dialami Taylor Swift

(Hiburan AP)

Bahkan sebelum gambar-gambar palsu Taylor Swift yang bersifat pornografi dan penuh kekerasan mulai beredar luas dalam beberapa hari terakhir, anggota parlemen negara bagian di seluruh AS telah mencari cara untuk menghilangkan gambar-gambar non-konsensual yang menampilkan orang dewasa dan anak-anak.

Namun di era Taylor-sentris ini, masalah ini mendapat lebih banyak perhatian sejak dia menjadi sasaran melalui deepfake, yaitu gambar yang dihasilkan komputer menggunakan kecerdasan buatan agar tampak nyata.

Berikut adalah hal-hal yang perlu diketahui tentang apa yang telah dilakukan negara-negara dan apa yang mereka pertimbangkan.

DIMANA DEEPFAKES MUNCUL

Kecerdasan buatan menjadi populer tahun lalu dengan cara yang belum pernah terjadi sebelumnya, memungkinkan orang untuk membuat deepfake yang lebih realistis. Kini mereka lebih sering muncul online, dalam berbagai bentuk.

Ada pornografi — memanfaatkan selebritas seperti Swift untuk membuat gambar palsu yang membahayakan.

Ada musik – Sebuah lagu yang terdengar seperti Drake dan The Weeknd tampil bersama mendapat jutaan klik di layanan streaming – tapi bukan artis tersebut. Lagu tersebut telah dihapus dari platform.

Dan ada trik-trik kotor politik, pada tahun pemilu ini – Tepat sebelum pemilihan pendahuluan presiden bulan Januari, beberapa pemilih di New Hampshire melaporkan menerima robocall yang mengaku berasal dari Presiden Joe Biden yang meminta mereka untuk tidak repot-repot memberikan suara. Kantor jaksa agung negara bagian sedang menyelidikinya.

Namun situasi yang lebih umum adalah pornografi yang menggunakan kemiripan dengan orang-orang yang tidak terkenal, termasuk anak di bawah umur.

APA YANG TELAH DILAKUKAN NEGARA SEJAUH INI

Deepfake hanyalah salah satu area dalam dunia AI yang rumit dan para pembuat undang-undang sedang mencoba mencari tahu apakah dan bagaimana cara menanganinya.

Setidaknya 10 negara bagian telah memberlakukan undang-undang terkait deepfake. Sejumlah langkah lainnya sedang dipertimbangkan tahun ini di badan legislatif di seluruh negeri.

Georgia, Hawaii, Texas, dan Virginia memiliki undang-undang yang mengkriminalisasi pornografi deepfake nonkonsensual.

California dan Illinois telah memberikan hak kepada korban untuk menuntut mereka yang membuat gambar menggunakan kemiripan mereka.

Minnesota dan New York melakukan keduanya. Undang-undang Minnesota juga menargetkan penggunaan kepalsuan dalam politik.

APAKAH ADA SOLUSI TEKNOLOGI?

Profesor ilmu komputer dari Universitas Buffalo, Siwei Lyu, mengatakan pekerjaan sedang dilakukan dengan beberapa pendekatan, dan tidak ada satupun yang sempurna.

Salah satunya adalah algoritma pendeteksian deepfake, yang dapat digunakan untuk menandai deepfake di tempat-tempat seperti platform media sosial.

Cara lainnya – yang menurut Lyu sedang dalam pengembangan namun belum digunakan secara luas – adalah dengan menyematkan kode pada konten yang diunggah orang yang akan memberi sinyal jika kode tersebut digunakan kembali dalam pembuatan AI.

Dan mekanisme ketiga adalah mewajibkan perusahaan yang menawarkan alat AI untuk menyertakan tanda air digital guna mengidentifikasi konten yang dihasilkan dengan aplikasi mereka.

Dia mengatakan masuk akal untuk meminta pertanggungjawaban perusahaan-perusahaan tersebut atas cara orang menggunakan alat mereka, dan perusahaan pada gilirannya dapat menegakkan perjanjian pengguna agar tidak menciptakan deepfake yang bermasalah.

APA YANG HARUS DALAM UNDANG-UNDANG?

Model undang-undang yang diusulkan oleh Dewan Pertukaran Legislatif Amerika membahas pornografi, bukan politik. Kelompok kebijakan konservatif dan pro-bisnis mendorong negara-negara untuk melakukan dua hal: Mengkriminalisasi kepemilikan dan distribusi deepfake yang menggambarkan tindakan seksual anak di bawah umur, dan mengizinkan korban untuk menuntut orang-orang yang mendistribusikan deepfake nonkonsensual yang menunjukkan perilaku seksual.

“Saya akan merekomendasikan kepada anggota parlemen untuk memulai dengan perbaikan kecil dan bersifat preskriptif yang dapat memecahkan masalah nyata,” kata Jake Morabito, yang memimpin gugus tugas komunikasi dan teknologi untuk ALEC. Dia memperingatkan bahwa anggota parlemen tidak boleh menargetkan teknologi yang dapat digunakan untuk membuat deepfake, karena hal itu dapat menghentikan inovasi yang memiliki kegunaan penting lainnya.

Todd Helmus, seorang ilmuwan perilaku di RAND, sebuah lembaga pemikir non-partisan, menyatakan bahwa menyerahkan penegakan hukum kepada individu yang mengajukan tuntutan hukum tidaklah cukup. Dibutuhkan sumber daya untuk menuntut, katanya. Dan hasilnya mungkin tidak sepadan. “Tidak ada gunanya menuntut seseorang yang tidak mempunyai uang untuk diberikan kepada Anda,” katanya.

Helmus menyerukan adanya pagar pembatas di seluruh sistem dan mengatakan agar sistem tersebut berfungsi mungkin memerlukan keterlibatan pemerintah.

Dia mengatakan OpenAI dan perusahaan lain yang platformnya dapat digunakan untuk menghasilkan konten yang tampaknya realistis harus melakukan upaya untuk mencegah pembuatan deepfake; Perusahaan media sosial harus menerapkan sistem yang lebih baik untuk mencegah penyebarannya, dan harus ada konsekuensi hukum bagi mereka yang tetap melakukannya.

Jenna Leventoff, pengacara Amandemen Pertama di ACLU, mengatakan bahwa meskipun deepfake dapat menimbulkan kerugian, perlindungan kebebasan berpendapat juga berlaku untuk hal tersebut, dan anggota parlemen harus memastikan bahwa deepfake tidak melampaui pengecualian yang ada terhadap kebebasan berpendapat, seperti pencemaran nama baik, penipuan, dan lain-lain. kecabulan, ketika mereka mencoba mengatur teknologi yang sedang berkembang.

Pekan lalu, sekretaris pers Gedung Putih Karine Jean-Pierre membahas masalah ini, dengan mengatakan bahwa perusahaan media sosial harus membuat dan menegakkan aturan mereka sendiri untuk mencegah penyebaran informasi dan gambar yang salah seperti yang dimiliki Swift.

APA YANG DIUSULKAN?

Sekelompok anggota Kongres bipartisan pada bulan Januari memperkenalkan undang-undang federal yang akan memberi orang hak milik atas kemiripan dan suara mereka sendiri – dan kemampuan untuk menuntut mereka yang menggunakannya dengan cara yang menyesatkan melalui deepfake untuk alasan apa pun.

Sebagian besar negara bagian sedang mempertimbangkan semacam undang-undang palsu dalam sidang mereka tahun ini. Kebijakan ini diperkenalkan oleh Partai Demokrat, Partai Republik, dan koalisi anggota parlemen bipartisan.

RUU yang mendapatkan daya tarik tersebut mencakup undang-undang yang akan menjadikan mendistribusikan atau membuat penggambaran seksual eksplisit seseorang tanpa persetujuan mereka di Indiana yang didominasi Partai Republik, merupakan sebuah kejahatan. Itu disahkan di DPR dengan suara bulat pada bulan Januari.

Tindakan serupa yang diperkenalkan minggu ini di Missouri diberi nama “The Taylor Swift Act.” Dan kasus lainnya disetujui Senat minggu ini di South Dakota, di mana Jaksa Agung Marty Jackley mengatakan beberapa penyelidikan telah diserahkan kepada pejabat federal karena negara bagian tersebut tidak memiliki undang-undang terkait AI yang diperlukan untuk mengajukan tuntutan.

“Ketika Anda masuk ke halaman Facebook seseorang, Anda mencuri anak mereka dan memasukkannya ke dalam pornografi, tidak ada hak Amandemen Pertama untuk melakukan itu,” kata Jackley.

APA YANG BISA DILAKUKAN SESEORANG?

Bagi siapa pun yang memiliki aktivitas online, sulit untuk mencegah menjadi korban deepfake.

Namun Helmus dari RAND mengatakan bahwa orang-orang yang mengetahui bahwa mereka telah menjadi sasaran dapat meminta platform media sosial tempat gambar tersebut dibagikan untuk menghapusnya; memberi tahu polisi jika mereka berada di tempat yang memiliki hukum; memberitahukan kepada pejabat sekolah atau universitas jika tersangka pelakunya adalah seorang pelajar; dan mencari bantuan kesehatan mental jika diperlukan.

You might also like