Setelah bencana gambar AI Google Gemini yang mengejutkan, CEO Sundar Pichai berbicara keras kepada staf

Setelah bencana gambar AI Google Gemini yang mengejutkan, CEO Sundar Pichai berbicara keras kepada staf

Road.co.id

Hanya beberapa hari setelah ketidakakuratan Google Gemini saat menghasilkan gambar AI muncul, CEO Alphabet Sundar Pichai mengatakan bahwa hasil yang dihasilkan “sama sekali tidak dapat diterima” dan juga mengakui bahwa chatbot AI mereka melakukan kesalahan besar. Masalah ini terungkap ketika pengguna Gemini di X membagikan tangkapan layar Gemini yang secara tidak akurat menggambarkan orang kulit berwarna, namun menolak untuk membuat gambar orang kulit putih.

Kontroversi pembuatan gambar Gemini

Masalah dengan Gemini dimulai minggu lalu karena semakin banyak kejadian yang muncul di mana chatbot AI menghasilkan representasi orang yang tidak akurat. Dalam contoh bermasalah lainnya, mereka membandingkan pengaruh Elon Musk dengan Adolf Hitler, sehingga menimbulkan kontroversi. Sesuai laporan Semafor, CEO Alphabet Sundar Pichai berbicara kepada tim di balik chatbot AI, Google DeepMind, mengakui kesalahan Gemini dan menyatakan bahwa masalah seperti itu “sama sekali tidak dapat diterima”.

“Saya tahu bahwa beberapa tanggapannya telah menyinggung pengguna kami dan menunjukkan bias – jelasnya, hal itu sama sekali tidak dapat diterima dan kami salah,” kata Pichai. Dia juga menegaskan bahwa tim di belakangnya bekerja sepanjang waktu untuk memperbaiki masalah tersebut, dan mengklaim bahwa mereka melihat “perbaikan substansial pada berbagai permintaan”.

Baca selengkapnya tentang pembicaraan keras Sundar Pichai dengan staf di bawah ini:

“Saya ingin mengatasi masalah terkini terkait tanggapan teks dan gambar yang bermasalah di aplikasi Gemini (sebelumnya Bard). Saya tahu bahwa beberapa tanggapannya telah menyinggung pengguna kami dan menunjukkan bias – untuk lebih jelasnya, hal itu sama sekali tidak dapat diterima dan kami salah .

Tim kami telah bekerja sepanjang waktu untuk mengatasi masalah ini. Kami telah melihat peningkatan substansial pada berbagai permintaan. Tidak ada AI yang sempurna, terutama pada tahap perkembangan industri yang sedang berkembang ini, namun kami tahu bahwa standar yang kami miliki sangatlah tinggi dan kami akan terus melakukannya selama apa pun yang diperlukan. Dan kami akan meninjau apa yang terjadi dan memastikan kami memperbaikinya dalam skala besar.

Misi kami untuk mengatur informasi dunia dan menjadikannya dapat diakses dan berguna secara universal adalah hal yang sakral. Kami selalu berupaya memberikan informasi yang bermanfaat, akurat, dan tidak memihak kepada pengguna dalam produk kami. Itu sebabnya orang mempercayai mereka. Ini harus menjadi pendekatan kami untuk semua produk kami, termasuk produk AI kami yang sedang berkembang.

Kami akan mendorong serangkaian tindakan yang jelas, termasuk perubahan struktural, pedoman produk yang diperbarui, proses peluncuran yang lebih baik, evaluasi yang ketat dan pembentukan tim merah, serta rekomendasi teknis. Kami sedang mempertimbangkan semua ini dan akan melakukan perubahan yang diperlukan.

Meskipun kita belajar dari apa yang salah di sini, kita juga harus mengembangkan produk dan pengumuman teknis yang telah kita buat di AI selama beberapa minggu terakhir. Hal ini mencakup beberapa kemajuan mendasar dalam model dasar kami, misalnya terobosan 1 juta jendela konteks panjang dan model terbuka kami, yang keduanya telah diterima dengan baik.

Kami tahu apa yang diperlukan untuk menciptakan produk-produk hebat yang digunakan dan dicintai oleh miliaran orang dan bisnis, dan dengan infrastruktur dan keahlian penelitian kami, kami memiliki batu loncatan yang luar biasa untuk gelombang AI. Mari fokus pada hal yang paling penting: menciptakan produk bermanfaat yang layak mendapatkan kepercayaan pengguna.”

Satu hal lagi! Kami sekarang ada di Saluran WhatsApp! Ikuti kami di sana agar Anda tidak ketinggalan update apa pun dari dunia teknologi. ‎Untuk mengikuti saluran HT Tech di WhatsApp, klik Di Sini untuk bergabung sekarang!

You might also like