Ketika pembatasan media sosial memudar dan deepfake AI menjadi populer, para ahli memperingatkan dampaknya terhadap pemilu

Ketika pembatasan media sosial memudar dan deepfake AI menjadi populer, para ahli memperingatkan dampaknya terhadap pemilu

Road.co.id

Hampir tiga tahun setelah para perusuh menyerbu Gedung Capitol AS, teori konspirasi pemilu palsu yang mendorong serangan kekerasan tersebut tetap lazim di media sosial dan berita kabel: koper berisi surat suara, pembuangan surat suara pada larut malam, orang mati yang memberikan suara.

Para ahli memperingatkan hal ini kemungkinan akan menjadi lebih buruk pada pemilu presiden mendatang. Upaya perlindungan yang dilakukan terakhir kali untuk melawan klaim palsu semakin terkikis, sementara alat dan sistem yang menciptakan dan menyebarkan klaim palsu semakin kuat.

Banyak orang Amerika, yang didorong oleh mantan Presiden Donald Trump, terus memaksakan gagasan yang tidak didukung, bahwa pemilu di seluruh Amerika tidak dapat dipercaya. Mayoritas anggota Partai Republik (57%) percaya bahwa Joe Biden dari Partai Demokrat tidak terpilih sebagai presiden secara sah.

Sementara itu, alat kecerdasan buatan generatif telah membuat penyebaran informasi yang salah yang dapat menyesatkan pemilih dan berpotensi mempengaruhi pemilu menjadi jauh lebih murah dan mudah. Dan perusahaan media sosial yang pernah berinvestasi besar-besaran dalam memperbaiki catatan tersebut telah mengubah prioritas mereka.

“Saya memperkirakan akan terjadi tsunami misinformasi,” kata Oren Etzioni, pakar kecerdasan buatan dan profesor emeritus di Universitas Washington. “Saya tidak bisa membuktikannya. Saya berharap terbukti salah. Tapi bahan-bahannya ada di sana, dan saya benar-benar ketakutan.”

AI DEEPFAKES AKAN UTAMA

Gambar dan video yang dimanipulasi seputar pemilu bukanlah hal baru, namun tahun 2024 akan menjadi pemilu presiden AS pertama di mana alat AI canggih yang dapat menghasilkan palsu yang meyakinkan hanya dalam hitungan detik hanya dengan beberapa klik saja.

Gambar, video, dan klip audio palsu yang dikenal sebagai deepfake telah mulai digunakan dalam iklan kampanye presiden eksperimental. Versi yang lebih jahat dapat dengan mudah menyebar tanpa label di media sosial dan membodohi masyarakat beberapa hari sebelum pemilu, kata Etzioni.

“Anda bisa melihat kandidat politik seperti Presiden Biden dilarikan ke rumah sakit,” katanya. “Anda bisa melihat seorang kandidat mengatakan hal-hal yang sebenarnya tidak pernah dia katakan. Anda bisa melihat pergerakan di tepian sungai. Anda bisa melihat pemboman dan kekerasan yang tidak pernah terjadi.”

Teknologi palsu telah mempengaruhi pemilu di seluruh dunia, kata Larry Norden, direktur senior program pemilu dan pemerintah di Brennan Center for Justice. Hanya beberapa hari sebelum pemilu Slovakia baru-baru ini, rekaman audio yang dihasilkan AI meniru kandidat liberal yang mendiskusikan rencana menaikkan harga bir dan melakukan kecurangan dalam pemilu. Para pemeriksa fakta berupaya mengidentifikasi bahwa informasi tersebut palsu, namun tetap saja informasi tersebut dibagikan ke seluruh media sosial.

Alat-alat ini juga dapat digunakan untuk menargetkan komunitas tertentu dan mempertajam pesan-pesan yang menyesatkan tentang pemungutan suara. Hal tersebut bisa terlihat seperti pesan teks persuasif, pengumuman palsu tentang proses pemungutan suara yang dibagikan dalam berbagai bahasa di WhatsApp, atau situs web palsu yang dibuat-buat agar terlihat seperti situs resmi pemerintah di wilayah Anda, kata para ahli.

Dihadapkan pada konten yang dibuat agar terlihat dan terdengar nyata, “segala sesuatu yang telah dirancang untuk kita lakukan melalui evolusi akan berperan untuk membuat kita percaya pada hal-hal yang dibuat-buat dan bukan pada kenyataan yang sebenarnya,” kata pakar misinformasi, Kathleen Hall Jamieson. , direktur Pusat Kebijakan Publik Annenberg di Universitas Pennsylvania.

Partai Republik dan Demokrat di Kongres dan Komisi Pemilihan Federal sedang menjajaki langkah-langkah untuk mengatur teknologi ini, namun mereka belum menyelesaikan peraturan atau undang-undang apa pun. Hal ini membuat negara-negara bagian sejauh ini hanya memberlakukan satu-satunya pembatasan pada deepfake AI politik.

Sejumlah negara bagian telah mengeluarkan undang-undang yang mewajibkan pelabelan deepfake atau melarang video yang menyesatkan kandidat. Beberapa perusahaan media sosial, termasuk YouTube dan Meta, pemilik Facebook dan Instagram, telah memperkenalkan kebijakan pelabelan AI. Masih harus dilihat apakah mereka akan mampu menangkap pelanggar secara konsisten.

Pagar Pembatas MEDIA SOSIAL Memudar

Lebih dari setahun yang lalu Elon Musk membeli Twitter dan mulai memecat para eksekutifnya, menghapus beberapa fitur inti dan membentuk kembali platform media sosial menjadi apa yang sekarang dikenal sebagai X.

Sejak itu, ia telah mengubah sistem verifikasinya, sehingga pejabat publik rentan terhadap peniru identitas. Dia telah memusnahkan tim-tim yang pernah memerangi misinformasi di platform tersebut, sehingga komunitas pengguna harus memoderasi dirinya sendiri. Dan dia telah memulihkan akun para ahli teori konspirasi dan ekstremis yang sebelumnya dilarang.

Perubahan ini mendapat tepuk tangan dari banyak kelompok konservatif yang mengatakan upaya moderasi Twitter sebelumnya sama saja dengan menyensor pandangan mereka. Namun para pendukung pro-demokrasi berpendapat bahwa pengambilalihan tersebut telah mengubah sumber berita dan informasi pemilu yang dulunya cacat namun berguna, menjadi ruang gaung yang sebagian besar tidak diatur dan memperkuat ujaran kebencian dan informasi yang salah.

Twitter dulunya adalah salah satu platform yang “paling bertanggung jawab”, menunjukkan kesediaan untuk menguji fitur-fitur yang mungkin mengurangi misinformasi bahkan dengan mengorbankan keterlibatan, kata Jesse Lehrich, salah satu pendiri Accountable Tech, sebuah kelompok pengawas nirlaba.

“Jelas sekarang mereka berada di ujung lain spektrum,” katanya, seraya menambahkan bahwa ia yakin perubahan yang dilakukan perusahaan telah memberikan perlindungan bagi platform lain untuk melonggarkan kebijakan mereka sendiri. X tidak menjawab pertanyaan melalui email dari The Associated Press, hanya mengirimkan tanggapan otomatis.

Menjelang tahun 2024, X, Meta, dan YouTube bersama-sama telah menghapus 17 kebijakan yang melindungi dari kebencian dan misinformasi, menurut laporan dari Free Press, sebuah organisasi nirlaba yang mengadvokasi hak-hak sipil di bidang teknologi dan media.

Pada bulan Juni, YouTube mengumumkan bahwa meskipun mereka masih akan mengatur konten yang menyesatkan tentang pemilu saat ini atau yang akan datang, YouTube akan berhenti menghapus konten yang secara keliru mengklaim bahwa pemilu tahun 2020 atau pemilu AS sebelumnya telah dirusak oleh “penipuan, kesalahan, atau gangguan yang meluas”. Platform tersebut mengatakan bahwa kebijakan tersebut merupakan upaya untuk melindungi kemampuan untuk “memperdebatkan ide-ide politik secara terbuka, bahkan ide-ide yang kontroversial atau didasarkan pada asumsi yang tidak terbukti.”

Lehrich mengatakan meskipun perusahaan teknologi ingin menghindari penghapusan konten yang menyesatkan, “ada banyak cara netral konten” yang dapat dilakukan oleh platform untuk mengurangi penyebaran disinformasi, mulai dari memberi label pada artikel yang berumur berbulan-bulan hingga mempersulit pembagian konten tanpa meninjaunya. Pertama.

X, Meta, dan YouTube juga telah memberhentikan ribuan karyawan dan kontraktor sejak tahun 2020, beberapa di antaranya termasuk moderator konten.

Berkurangnya tim-tim tersebut, yang banyak disalahkan karena tekanan politik, “menyebabkan keadaan menjadi lebih buruk pada tahun 2024 dibandingkan pada tahun 2020,” kata Kate Starbird, pakar misinformasi di Universitas Washington.

Meta menjelaskan di situs webnya bahwa mereka memiliki sekitar 40.000 orang yang berdedikasi pada keselamatan dan keamanan dan mempertahankan “jaringan pengecekan fakta independen terbesar di antara platform apa pun.” Pemerintah juga sering menutup jaringan akun media sosial palsu yang bertujuan untuk menyebarkan perselisihan dan ketidakpercayaan.

“Tidak ada perusahaan teknologi yang berbuat lebih banyak atau berinvestasi lebih banyak untuk melindungi pemilu online selain Meta – tidak hanya selama periode pemilu tetapi setiap saat,” tulis postingan tersebut.

Ivy Choi, juru bicara YouTube, mengatakan platform tersebut “berinvestasi besar” dalam menghubungkan orang-orang ke konten berkualitas tinggi di YouTube, termasuk untuk pemilu. Dia menunjuk pada panel rekomendasi dan informasi platform tersebut, yang menyediakan berita pemilu yang dapat dipercaya kepada pengguna, dan mengatakan bahwa platform tersebut menghapus konten yang menyesatkan pemilih tentang cara memilih atau mendorong campur tangan dalam proses demokrasi.

Munculnya TikTok dan platform lain yang tidak terlalu diatur seperti Telegram, Truth Social, dan Gab, juga telah menciptakan lebih banyak silo informasi online di mana klaim yang tidak berdasar dapat menyebar. Beberapa aplikasi yang sangat populer di kalangan komunitas kulit berwarna dan imigran, seperti WhatsApp dan WeChat, mengandalkan obrolan pribadi, sehingga menyulitkan kelompok luar untuk melihat misinformasi yang mungkin menyebar.

“Saya khawatir bahwa pada tahun 2024, kita akan melihat narasi palsu serupa yang didaur ulang dan sudah mendarah daging, tetapi taktiknya lebih canggih,” kata Roberta Braga, pendiri dan direktur eksekutif Digital Democracy Institute of the Americas. “Tetapi sisi positifnya, saya berharap ada lebih banyak ketahanan sosial terhadap hal-hal tersebut.”

FAKTOR TRUMP

Status Trump sebagai kandidat terdepan dalam pemilihan presiden Partai Republik menjadi perhatian utama para peneliti misinformasi yang khawatir hal tersebut akan memperburuk misinformasi pemilu dan berpotensi mengarah pada main hakim sendiri atau kekerasan pemilu.

Mantan presiden tersebut masih secara keliru mengklaim dirinya memenangkan pemilu 2020.

“Donald Trump jelas-jelas mendukung dan mengipasi api klaim palsu tentang kecurangan pemilu di masa lalu,” kata Starbird. “Kami berharap dia dapat terus menggunakan hal itu untuk memotivasi basisnya.”

Tanpa bukti, Trump telah mengarahkan para pendukungnya untuk mencurigai adanya kecurangan dalam pemilu 2024, dan mendesak mereka untuk melakukan intervensi guna “menjaga suara” guna mencegah kecurangan dalam pemilu di berbagai kota Demokrat. Trump memiliki sejarah panjang dalam menyatakan pemilu akan dicurangi jika dia tidak menang, dan dia melakukannya sebelum memberikan suara pada tahun 2016 dan 2020.

Hilangnya kepercayaan pemilih terhadap demokrasi dapat berujung pada kekerasan, kata Bret Schafer, peneliti senior di Alliance for Securing Democracy yang non-partisan, yang melacak misinformasi.

“Jika masyarakat pada akhirnya tidak mempercayai informasi terkait pemilu, demokrasi akan berhenti berfungsi,” katanya. “Jika misinformasi atau kampanye disinformasi cukup efektif sehingga sebagian besar penduduk Amerika tidak percaya bahwa hasilnya mencerminkan apa yang sebenarnya terjadi, maka tanggal 6 Januari mungkin akan terlihat seperti tindakan pemanasan.”

RESPON PEJABAT PEMILU

Pejabat pemilu telah menghabiskan waktu bertahun-tahun sejak tahun 2020 untuk mempersiapkan kemungkinan munculnya kembali narasi penolakan pemilu. Mereka telah mengirimkan tim untuk menjelaskan proses pemungutan suara, mempekerjakan kelompok luar untuk memantau misinformasi yang muncul, dan meningkatkan perlindungan fisik di pusat penghitungan suara.

Di Colorado, Menteri Luar Negeri Jena Griswold mengatakan media sosial berbayar dan kampanye TV yang informatif dan memanusiakan petugas pemilu telah membantu memberikan vaksinasi kepada pemilih terhadap misinformasi.

“Ini perjuangan yang berat, tapi kita harus proaktif,” katanya. “Misinformasi adalah salah satu ancaman terbesar terhadap demokrasi Amerika yang kita lihat saat ini.”

Kantor Menteri Luar Negeri Minnesota Steve Simon memelopori #TrustedInfo2024, sebuah upaya pendidikan publik online baru yang dilakukan oleh Asosiasi Sekretaris Negara Nasional untuk mempromosikan pejabat pemilu sebagai sumber informasi pemilu yang tepercaya pada tahun 2024.

Kantornya juga merencanakan pertemuan dengan pejabat pemilu kabupaten dan kota dan akan memperbarui halaman informasi “Fakta dan Fiksi” di situs webnya jika klaim palsu muncul. Undang-undang baru di Minnesota akan melindungi petugas pemilu dari ancaman dan pelecehan, melarang orang dengan sengaja menyebarkan informasi yang salah menjelang pemilu, dan mengkriminalisasi orang yang secara tidak sengaja membagikan gambar palsu untuk menyakiti kandidat politik atau mempengaruhi pemilu.

“Kami mengharapkan yang terbaik namun merencanakan kemungkinan terburuk melalui lapisan perlindungan ini,” kata Simon.

Di daerah pedesaan Wisconsin di utara Green Bay, Panitera Kabupaten Oconto Kim Pytleski telah berkeliling wilayah tersebut untuk memberikan ceramah dan presentasi kepada kelompok-kelompok kecil tentang pemungutan suara dan pemilu untuk meningkatkan kepercayaan pemilih. Kabupaten juga menawarkan pengujian peralatan di depan umum sehingga warga dapat mengamati prosesnya.

“Mampu berbicara langsung dengan pejabat pemilu membuat perbedaan besar,” katanya. “Melihat bahwa ada orang-orang nyata di balik proses ini yang berkomitmen terhadap pekerjaan mereka dan ingin melakukan pekerjaan dengan baik membantu orang-orang memahami bahwa kami ada di sini untuk melayani mereka.”

Kami sekarang ada di WhatsApp. Klik untuk bergabung.

You might also like