Peringatan ancaman AI: Risiko kecerdasan buatan perlu dipahami dan dikelola dengan lebih baik

Peringatan ancaman AI: Risiko kecerdasan buatan perlu dipahami dan dikelola dengan lebih baik

Road.co.id

Meskipun kecerdasan buatan (AI) mampu mengubah masyarakat ke arah yang positif, hal ini juga menghadirkan risiko yang perlu dipahami dan dikelola dengan lebih baik, demikian peringatan dari penelitian baru. Joe Burton, seorang profesor di Lancaster University, Inggris, berpendapat bahwa AI dan algoritme lebih dari sekadar alat yang digunakan oleh badan keamanan nasional untuk menggagalkan aktivitas online yang berbahaya.

Dalam makalah penelitian yang baru-baru ini diterbitkan di Technology in Society Journal, Burton berpendapat bahwa AI dan algoritme juga dapat memicu polarisasi, radikalisme, dan kekerasan politik, sehingga menjadi ancaman bagi keamanan nasional itu sendiri.

“AI sering kali dibingkai sebagai alat yang digunakan untuk melawan ekstremisme kekerasan. Inilah sisi lain dari perdebatan tersebut,” kata Burton.

Makalah ini mengkaji bagaimana AI telah disekuritisasi sepanjang sejarahnya, dan dalam penggambaran media dan budaya populer, dan dengan mengeksplorasi contoh-contoh modern tentang AI yang memiliki efek polarisasi dan radikalisasi yang berkontribusi terhadap kekerasan politik.

Penelitian tersebut mengutip serial film klasik, The Terminator, yang menggambarkan bencana yang dilakukan oleh AI yang 'canggih dan ganas', melakukan lebih dari apa pun untuk membingkai kesadaran masyarakat terhadap AI dan ketakutan bahwa kesadaran mesin dapat mengakibatkan konsekuensi yang menghancurkan bagi umat manusia – dalam hal ini perang nuklir dan upaya yang disengaja untuk memusnahkan suatu spesies.

“Kurangnya kepercayaan terhadap mesin, ketakutan yang terkait dengan mesin, dan kaitannya dengan ancaman biologis, nuklir, dan genetik terhadap umat manusia telah berkontribusi pada keinginan pemerintah dan badan keamanan nasional untuk mempengaruhi pengembangan teknologi, untuk memitigasi risiko dan memanfaatkan potensi positifnya,” kata Burton.

Peran drone yang canggih, seperti yang digunakan dalam perang di Ukraina, kata Burton, kini mampu melakukan otonomi penuh termasuk fungsi-fungsi seperti identifikasi dan pengenalan target.

Meskipun terdapat perdebatan kampanye yang luas dan berpengaruh, termasuk di PBB, untuk melarang 'robot pembunuh' dan untuk menjaga agar manusia tetap mengetahui informasi dalam pengambilan keputusan hidup atau mati, percepatan dan integrasi ke dalam drone bersenjata telah mencapai kemajuan. , katanya, melanjutkan dengan cepat.

Dalam keamanan dunia maya – keamanan komputer dan jaringan komputer – AI digunakan secara luas dengan area yang paling umum adalah (dis)informasi dan perang psikologis online, kata Burton.

Selama pandemi, katanya, AI dipandang positif dalam melacak dan menelusuri virus, namun hal ini juga menimbulkan kekhawatiran terhadap privasi dan hak asasi manusia.

Makalah ini mengkaji teknologi AI itu sendiri, dengan alasan bahwa terdapat permasalahan dalam desainnya, data yang diandalkan, cara penggunaannya, serta hasil dan dampaknya.

“AI memang mampu mengubah masyarakat dengan cara yang positif, namun juga menghadirkan risiko yang perlu dipahami dan dikelola dengan lebih baik,” tambah Burton.

You might also like