Tepat sebelum Sam Altman dipecat, peneliti OpenAI memperingatkan dewan akan adanya terobosan besar AGI

Tepat sebelum Sam Altman dipecat, peneliti OpenAI memperingatkan dewan akan adanya terobosan besar AGI

Road.co.id

Saat semua orang mengira kisah OpenAI sudah selesai, sebuah laporan membawa informasi mengejutkan ke permukaan. Menurut Reuters, tepat sebelum Sam Altman dipecat oleh dewan OpenAI, tim peneliti di perusahaan tersebut telah mengirimkan surat peringatan kepada direkturnya tentang penemuan kecerdasan buatan (AI) yang kuat, yang menurut mereka bahkan dapat mengancam umat manusia. Terobosan penting ini dianggap sebagai kecerdasan umum buatan (AGI), yang juga dikenal sebagai superintelligence.

Bagi yang belum tahu, superintelligence AGI atau AI adalah ketika kemampuan komputasi suatu mesin lebih tinggi daripada manusia. Hal ini dapat mengakibatkan pemecahan masalah yang kompleks lebih cepat dibandingkan manusia, terutama yang memerlukan unsur kreativitas atau inovasi. Hal ini masih jauh dari kesanggupan, sebuah tahap di mana AI memperoleh kesadaran, dan dapat beroperasi tanpa menerima masukan apa pun dan di luar pengetahuan materi pelatihannya.

Peneliti OpenAI membuat terobosan menuju AGI

Surat dan algoritma AI yang sebelumnya tidak dilaporkan merupakan perkembangan penting menjelang pemecatan Altman, yang merupakan contoh AI generatif, menurut kedua sumber tersebut kepada Reuters. Sebelum dia kembali secara tak terduga pada Selasa malam, lebih dari 700 karyawan mengancam akan berhenti dan bergabung dengan pendukung Microsoft sebagai bentuk solidaritas terhadap pemimpin mereka yang dipecat.

Sumber tersebut mengutip surat itu sebagai salah satu faktor di antara daftar panjang keluhan dewan yang menyebabkan pemecatan Altman. Reuters tidak dapat meninjau salinan surat tersebut. Para peneliti yang menulis surat tersebut tidak segera menanggapi permintaan komentar.

Menurut salah satu sumber, eksekutif lama Mira Murati menyebutkan proyek tersebut, yang disebut Q*, kepada karyawannya pada hari Rabu dan mengatakan bahwa surat telah dikirim ke dewan sebelum acara akhir pekan ini.

Setelah cerita tersebut dipublikasikan, juru bicara OpenAI mengatakan Murati memberi tahu karyawan media apa yang akan diberitakan, namun dia tidak mengomentari keakuratan pemberitaan tersebut.

Pembuat ChatGPT telah mencapai kemajuan dalam Q* (diucapkan Q-Star), yang diyakini sebagian orang secara internal bisa menjadi terobosan dalam pencarian superintelligence, yang juga dikenal sebagai kecerdasan umum buatan (AGI), menurut salah satu sumber kepada Reuters. OpenAI mendefinisikan AGI sebagai sistem AI yang lebih pintar dari manusia.

Mengingat sumber daya komputasi yang besar, model baru ini mampu memecahkan masalah matematika tertentu, kata seseorang yang tidak ingin disebutkan namanya karena mereka tidak berwenang untuk berbicara atas nama perusahaan. Meskipun hanya mengerjakan matematika pada tingkat siswa sekolah dasar, keberhasilan dalam tes tersebut membuat para peneliti sangat optimis tentang kesuksesan Q* di masa depan, kata sumber tersebut.

Reuters menyoroti bahwa mereka tidak dapat memverifikasi secara independen kemampuan Q* yang diklaim oleh para peneliti.

Jalan menuju kecerdasan super AI

Para peneliti menganggap matematika sebagai garda depan pengembangan AI generatif. Saat ini, AI generatif pandai menulis dan menerjemahkan bahasa dengan memprediksi kata berikutnya secara statistik, dan jawaban atas pertanyaan yang sama bisa sangat bervariasi. Namun dengan menguasai kemampuan mengerjakan matematika – di mana hanya ada satu jawaban yang benar – berarti AI akan memiliki kemampuan penalaran yang lebih besar seperti kecerdasan manusia. Hal ini dapat diterapkan pada penelitian ilmiah baru, misalnya, menurut para peneliti AI.

Berbeda dengan kalkulator yang dapat menyelesaikan sejumlah operasi terbatas, AGI dapat menggeneralisasi, mempelajari, dan memahami.

Dalam surat mereka kepada dewan, para peneliti menandai kehebatan AI dan potensi bahayanya, kata sumber tersebut tanpa menyebutkan secara spesifik masalah keamanan yang disebutkan dalam surat tersebut. Telah lama terjadi diskusi di kalangan ilmuwan komputer tentang bahaya yang ditimbulkan oleh mesin super cerdas, misalnya jika mereka memutuskan bahwa kehancuran umat manusia adalah demi kepentingan mereka.

Dengan latar belakang ini, Altman memimpin upaya untuk menjadikan ChatGPT salah satu aplikasi perangkat lunak dengan pertumbuhan tercepat dalam sejarah dan menarik investasi – dan sumber daya komputasi – yang diperlukan dari Microsoft untuk semakin mendekati superintelligence, atau AGI.

Selain mengumumkan serangkaian alat baru dalam demonstrasi bulan ini, Altman pekan lalu menggoda para pemimpin dunia di San Francisco bahwa dia yakin AGI sudah di depan mata.

“Empat kali dalam sejarah OpenAI, yang terbaru terjadi dalam beberapa minggu terakhir, saya berada di ruangan tersebut, ketika kita semacam membuka tabir ketidaktahuan dan memajukan batas penemuan, dan Melakukan hal ini merupakan kehormatan profesional seumur hidup,” katanya pada KTT Kerjasama Ekonomi Asia-Pasifik.

Sehari kemudian, dewan memecat Altman.

(Dengan masukan dari Reuters)

You might also like