AI yang mutakhir menimbulkan kekhawatiran akan risiko terhadap kemanusiaan. Apakah para pemimpin teknologi dan politik telah berbuat cukup banyak?

AI yang mutakhir menimbulkan kekhawatiran akan risiko terhadap kemanusiaan.  Apakah para pemimpin teknologi dan politik telah berbuat cukup banyak?

Road.co.id

Chatbot seperti ChatGPT memukau dunia dengan kemampuannya menulis pidato, merencanakan liburan, atau mengadakan percakapan sebaik atau bahkan lebih baik daripada manusia, berkat sistem kecerdasan buatan yang mutakhir. Saat ini, AI frontier telah menjadi kata kunci terbaru seiring dengan berkembangnya kekhawatiran bahwa teknologi baru tersebut memiliki kemampuan yang dapat membahayakan umat manusia.

Semua orang mulai dari pemerintah Inggris hingga peneliti terkemuka dan bahkan perusahaan-perusahaan besar AI sendiri meningkatkan kewaspadaan mengenai bahaya AI yang belum diketahui dan menyerukan tindakan pengamanan untuk melindungi manusia dari ancaman eksistensialnya.

Perdebatan ini memuncak pada hari Rabu, ketika Perdana Menteri Inggris Rishi Sunak menjadi tuan rumah pertemuan puncak dua hari yang berfokus pada AI di tingkat terdepan. Dilaporkan bahwa pertemuan tersebut diperkirakan akan dihadiri oleh sekitar 100 pejabat dari 28 negara, termasuk Wakil Presiden AS Kamala Harris, Presiden Komisi Eropa Ursula von der Leyen, dan eksekutif dari perusahaan-perusahaan kecerdasan buatan utama AS termasuk OpenAI, Deepmind Google, dan Anthropic.

Tempatnya adalah Bletchley Park, bekas markas rahasia pemecah kode Perang Dunia II yang dipimpin oleh Alan Turing. Kawasan bersejarah ini dipandang sebagai tempat lahirnya komputasi modern karena di sanalah Turing dan rekan-rekannya berhasil memecahkan kode-kode Nazi Jerman menggunakan komputer digital pertama di dunia yang dapat diprogram.

Dalam pidatonya minggu lalu, Sunak mengatakan hanya pemerintah – bukan perusahaan AI – yang dapat menjaga keamanan masyarakat dari risiko teknologi. Namun, ia juga mencatat bahwa pendekatan Inggris “bukanlah terburu-buru dalam membuat peraturan,” meskipun ia menguraikan sejumlah ancaman yang terdengar menakutkan, seperti penggunaan AI untuk mempermudah pembuatan senjata kimia atau biologi.

“Kita perlu menangani hal ini dengan serius, dan kita harus mulai fokus untuk mengatasi masalah ini,” kata Jeff Clune, seorang profesor ilmu komputer di Universitas British Columbia yang berfokus pada AI dan pembelajaran mesin.

Clune termasuk di antara sekelompok peneliti berpengaruh yang menulis makalah minggu lalu yang menyerukan agar pemerintah berbuat lebih banyak dalam mengelola risiko AI. Ini adalah peringatan terbaru dari serangkaian peringatan mengerikan dari para maestro teknologi seperti Elon Musk dan CEO OpenAI Sam Altman tentang teknologi yang berkembang pesat dan perbedaan cara pandang industri, pemimpin politik, dan peneliti dalam melihat jalan ke depan dalam mengekang risiko dan regulasi. .

Masih belum pasti apakah AI akan memusnahkan umat manusia, kata Clune, “tetapi AI memiliki risiko dan peluang yang cukup besar untuk terjadi. Dan kita perlu memobilisasi perhatian masyarakat untuk mencoba menyelesaikannya sekarang daripada menunggu skenario terburuk terjadi.”

Salah satu tujuan besar Sunak adalah mencapai kesepakatan mengenai sifat risiko AI. Beliau juga mengumumkan rencana untuk mendirikan AI Safety Institute yang akan mengevaluasi dan menguji teknologi jenis baru dan mengusulkan pembentukan panel ahli global, yang terinspirasi oleh panel perubahan iklim PBB, untuk memahami AI dan menyusun laporan “State of AI Science” .

KTT tersebut mencerminkan keinginan pemerintah Inggris untuk menjadi tuan rumah pertemuan internasional untuk menunjukkan bahwa mereka tidak terisolasi dan masih dapat memimpin di panggung dunia setelah keluar dari Uni Eropa tiga tahun lalu.

Inggris juga ingin mempertaruhkan klaimnya dalam isu kebijakan penting yang sedang diambil oleh Amerika Serikat dan 27 negara Uni Eropa.

Brussels sedang memberikan sentuhan akhir pada peraturan AI komprehensif pertama di dunia, sementara Presiden AS Joe Biden menandatangani perintah eksekutif pada hari Senin untuk memandu pengembangan AI, berdasarkan komitmen sukarela yang dibuat oleh perusahaan-perusahaan teknologi.

Tiongkok, yang bersama dengan AS merupakan salah satu dari dua kekuatan AI dunia, telah diundang ke pertemuan tersebut, meskipun Sunak tidak dapat mengatakan dengan “kepastian 100%” bahwa perwakilan dari Beijing akan hadir.

Makalah yang ditandatangani oleh Clune dan lebih dari 20 pakar lainnya, termasuk dua orang yang dijuluki “bapak baptis” AI – Geoffrey Hinton dan Yoshua Bengio – menyerukan pemerintah dan perusahaan AI untuk mengambil tindakan nyata, seperti dengan menghabiskan sepertiga dari penelitian dan pengembangan mereka. sumber daya untuk memastikan penggunaan AI otonom tingkat lanjut yang aman dan etis.

Frontier AI adalah singkatan dari sistem terbaru dan terkuat yang melampaui kemampuan AI. Mereka didasarkan pada model dasar, yaitu algoritma yang dilatih berdasarkan berbagai informasi yang diambil dari internet untuk memberikan dasar pengetahuan yang umum, namun tidak sempurna.

Hal ini membuat sistem AI terdepan “berbahaya karena mereka tidak mempunyai pengetahuan yang sempurna,” kata Clune. “Orang-orang berasumsi dan berpikir bahwa mereka sangat berpengetahuan, dan itu bisa membuat Anda mendapat masalah.”

Namun pertemuan tersebut mendapat kritik karena terlalu sibuk dengan bahaya yang jauh.

“Fokus KTT ini sebenarnya agak terlalu sempit,” kata Francine Bennett, direktur sementara Ada Lovelace Institute, sebuah kelompok penelitian kebijakan di London yang berfokus pada AI.

“Kita berisiko melupakan rangkaian risiko dan keselamatan yang lebih luas” dan algoritma yang sudah menjadi bagian dari kehidupan sehari-hari, katanya di panel Chatham House minggu lalu.

Deb Raji, peneliti dari University of California, Berkeley, yang mempelajari bias algoritmik, menunjukkan masalah pada sistem yang sudah diterapkan di Inggris, seperti sistem pengenalan wajah polisi yang memiliki tingkat deteksi palsu yang jauh lebih tinggi untuk orang kulit hitam dan algoritme yang gagal. ujian sekolah menengah.

KTT ini adalah “peluang yang terlewatkan” dan meminggirkan komunitas dan pekerja yang paling terkena dampak AI, kata lebih dari 100 kelompok masyarakat sipil dan pakar dalam surat terbuka kepada Sunak.

Mereka yang skeptis mengatakan bahwa pemerintah Inggris telah menetapkan tujuan pertemuannya terlalu rendah, mengingat pengaturan AI tidak akan masuk dalam agenda, melainkan berfokus pada pembentukan “pagar pembatas.”

Seruan Sunak untuk tidak terburu-buru menerapkan peraturan mengingatkan kita pada “pesan yang kami dengar dari banyak perwakilan perusahaan di AS,” kata Raji. “Jadi saya tidak terkejut bahwa hal ini juga mempengaruhi apa yang mungkin mereka katakan kepada para pejabat Inggris.”

Perusahaan teknologi tidak boleh terlibat dalam penyusunan peraturan karena mereka cenderung “meremehkan atau meremehkan” urgensi dan berbagai dampak buruknya, kata Raji. Mereka juga tidak terlalu terbuka untuk mendukung usulan undang-undang “yang mungkin diperlukan namun mungkin secara efektif membahayakan keuntungan mereka,” katanya.

DeepMind dan OpenAI tidak menanggapi permintaan komentar. Anthropic mengatakan salah satu pendiri Dario Amodei dan Jack Clark akan hadir.

Microsoft mengatakan dalam sebuah postingan blog bahwa mereka menantikan “langkah Inggris selanjutnya dalam menyelenggarakan KTT tersebut, memajukan upayanya dalam pengujian keamanan AI, dan mendukung kolaborasi internasional yang lebih besar dalam tata kelola AI.”

Pemerintah bersikeras bahwa pertemuan tersebut akan dihadiri oleh gabungan peserta yang tepat dari kalangan pemerintah, akademisi, masyarakat sipil, dan dunia usaha.

Institute for Public Policy Research, sebuah lembaga pemikir berhaluan kiri-tengah di Inggris, mengatakan bahwa akan menjadi “kesalahan bersejarah” jika industri teknologi dibiarkan mengatur dirinya sendiri tanpa pengawasan pemerintah.

“Regulator dan masyarakat umumnya tidak mengetahui bagaimana AI diterapkan di seluruh perekonomian,” kata Carsten Jung, ekonom senior kelompok tersebut. “Tetapi peraturan mandiri tidak berhasil bagi perusahaan media sosial, tidak berhasil bagi sektor keuangan, dan tidak berhasil bagi AI.”

You might also like