Negara-negara yang ikut serta dalam KTT AI berjanji untuk mengatasi potensi risiko ‘bencana’ AI

Negara-negara yang ikut serta dalam KTT AI berjanji untuk mengatasi potensi risiko ‘bencana’ AI

Road.co.id

Delegasi dari 28 negara, termasuk AS dan Tiongkok, pada hari Rabu sepakat untuk bekerja sama membendung potensi risiko “bencana” yang ditimbulkan oleh pesatnya kemajuan dalam kecerdasan buatan. KTT Keamanan AI internasional pertama, yang diadakan di bekas pangkalan mata-mata pemecah kode di dekat London, berfokus pada AI “perbatasan” mutakhir yang menurut beberapa ilmuwan dapat menimbulkan risiko bagi keberadaan umat manusia.

Perdana Menteri Inggris Rishi Sunak mengatakan bahwa deklarasi tersebut merupakan “sebuah pencapaian penting yang menunjukkan bahwa negara-negara dengan kekuatan AI terbesar di dunia sepakat mengenai pentingnya memahami risiko AI – membantu menjamin masa depan jangka panjang bagi anak dan cucu kita.”

Namun Wakil Presiden Kamala Harris mendesak Inggris dan negara-negara lain untuk melangkah lebih jauh dan lebih cepat, menekankan transformasi yang telah dilakukan AI dan perlunya meminta pertanggungjawaban perusahaan teknologi – termasuk melalui undang-undang.

Dalam pidatonya di Kedutaan Besar AS, Harris mengatakan dunia perlu mulai bertindak sekarang untuk mengatasi “spektrum penuh” risiko AI, bukan hanya ancaman nyata seperti serangan siber besar-besaran atau senjata biologis yang diformulasikan oleh AI.

“Ada ancaman tambahan yang juga memerlukan tindakan kita, ancaman yang saat ini menimbulkan kerugian dan bagi banyak orang juga terasa ada,” katanya, mengutip seorang warga lanjut usia yang memulai rencana perawatan kesehatannya karena algoritma AI yang salah atau seorang wanita yang diancam oleh pasangan yang kasar dengan foto palsu yang dalam.

AI Safety Summit merupakan hasil kerja keras Sunak, mantan bankir pencinta teknologi yang menginginkan Inggris menjadi pusat inovasi komputasi dan menjadikan pertemuan tersebut sebagai awal dari perbincangan global mengenai pengembangan AI yang aman.

Harris dijadwalkan menghadiri pertemuan puncak pada hari Kamis, bergabung dengan pejabat pemerintah dari lebih dari dua lusin negara termasuk Kanada, Perancis, Jerman, India, Jepang, Arab Saudi – dan Tiongkok, yang diundang atas protes dari beberapa anggota Partai Konservatif yang berkuasa di Sunak.

Menandatangani perjanjian yang disebut Deklarasi Bletchley ini merupakan suatu pencapaian bagi negara-negara di dunia, meskipun rinciannya tidak terlalu rinci dan tidak mengusulkan cara untuk mengatur pengembangan AI. Negara-negara tersebut berjanji untuk berupaya mencapai “kesepakatan dan tanggung jawab bersama” mengenai risiko AI, dan mengadakan serangkaian pertemuan lebih lanjut. Korea Selatan akan mengadakan pertemuan puncak AI virtual dalam enam bulan, diikuti dengan pertemuan tatap muka di Prancis setahun dari sekarang.

Wakil Menteri Sains dan Teknologi Tiongkok Wu Zhaohui mengatakan bahwa teknologi AI “tidak pasti, tidak dapat dijelaskan, dan kurang transparan.”

“Ini membawa risiko dan tantangan dalam etika, keselamatan, privasi, dan keadilan. Kompleksitasnya semakin meningkat,” katanya, seraya menyebutkan bahwa Presiden Tiongkok Xi Jinping bulan lalu meluncurkan Inisiatif Global untuk Tata Kelola AI di negaranya.

“Kami menyerukan kolaborasi global untuk berbagi pengetahuan dan membuat teknologi AI tersedia bagi publik berdasarkan ketentuan sumber terbuka,” katanya.

CEO Tesla Elon Musk juga dijadwalkan berdiskusi tentang AI dengan Sunak dalam percakapan streaming langsung pada Kamis malam. Miliarder teknologi ini termasuk di antara mereka yang menandatangani pernyataan pada awal tahun ini untuk meningkatkan kewaspadaan mengenai bahaya yang ditimbulkan oleh AI terhadap umat manusia.

Presiden Komisi Eropa Ursula von der Leyen, Sekretaris Jenderal PBB Antonio Guterres dan para eksekutif dari perusahaan kecerdasan buatan AS seperti Anthropic, DeepMind dan OpenAI Google serta ilmuwan komputer berpengaruh seperti Yoshua Bengio, salah satu “bapak baptis” AI, juga hadir pertemuan di Bletchley Park, bekas markas rahasia pemecah kode Perang Dunia II yang dipandang sebagai tempat lahirnya komputasi modern.

Para peserta mengatakan format pertemuan tertutup telah mendorong perdebatan yang sehat. Sesi jaringan informal membantu membangun kepercayaan, kata Mustafa Suleyman, CEO Inflection AI.

Sementara itu, pada diskusi formal “masyarakat telah mampu membuat pernyataan yang sangat jelas, dan di situlah Anda melihat perbedaan pendapat yang signifikan, baik antara negara-negara di utara dan selatan (dan) negara-negara yang lebih mendukung open source dan kurang mendukung open source. sumbernya,” kata Suleyman kepada wartawan.

Sistem AI open source memungkinkan peneliti dan pakar menemukan masalah dengan cepat dan mengatasinya. Namun kelemahannya adalah ketika sistem open source dirilis, “siapa pun dapat menggunakannya dan menyetelnya untuk tujuan jahat,” kata Bengio di sela-sela pertemuan.

“Ada ketidakcocokan antara open source dan keamanan. Lalu bagaimana kita menghadapinya?”

Hanya pemerintah, bukan perusahaan, yang dapat menjaga keselamatan masyarakat dari bahaya AI, kata Sunak pekan lalu. Namun, ia juga mendesak agar tidak terburu-buru mengatur teknologi AI, dengan mengatakan bahwa teknologi tersebut perlu dipahami sepenuhnya terlebih dahulu.

Sebaliknya, Harris menekankan perlunya mengatasi masalah yang ada saat ini, termasuk “kerusakan sosial yang sudah terjadi seperti bias, diskriminasi, dan penyebaran informasi yang salah.”

Dia menunjuk pada perintah eksekutif Presiden Biden minggu ini, yang menetapkan perlindungan AI, sebagai bukti bahwa AS memimpin dengan memberikan contoh dalam mengembangkan aturan untuk kecerdasan buatan yang bekerja demi kepentingan publik.

Harris juga mendorong negara-negara lain untuk menyetujui janji yang didukung AS untuk tetap menggunakan AI untuk tujuan militer secara “bertanggung jawab dan etis”.

“Presiden Biden dan saya percaya bahwa semua pemimpin … mempunyai kewajiban moral, etika dan sosial untuk memastikan bahwa AI diadopsi dan dikembangkan dengan cara yang melindungi masyarakat dari potensi bahaya dan memastikan bahwa setiap orang dapat menikmati manfaatnya,” dia dikatakan.

You might also like