Pelapor Microsoft membunyikan alarm tentang generator gambar AI kepada pejabat AS dan dewan direksi perusahaan

Pelapor Microsoft membunyikan alarm tentang generator gambar AI kepada pejabat AS dan dewan direksi perusahaan

Road.co.id

Seorang insinyur Microsoft membunyikan alarm mengenai gambar-gambar yang menyinggung dan berbahaya yang menurutnya terlalu mudah dibuat oleh alat pembuat gambar dengan kecerdasan buatan milik perusahaan, dan mengirimkan surat pada hari Rabu kepada regulator AS dan dewan direksi raksasa teknologi tersebut untuk mendesak mereka mengambil tindakan.

Shane Jones mengatakan kepada The Associated Press bahwa dia menganggap dirinya sebagai pelapor dan dia juga bertemu bulan lalu dengan staf Senat AS untuk menyampaikan keprihatinannya.

Komisi Perdagangan Federal mengkonfirmasi pihaknya menerima surat tersebut pada hari Rabu tetapi menolak berkomentar lebih lanjut.

Microsoft mengatakan pihaknya berkomitmen untuk mengatasi kekhawatiran karyawan mengenai kebijakan perusahaan dan menghargai upaya Jones dalam mempelajari dan menguji teknologi terbaru kami untuk lebih meningkatkan keamanannya. Dikatakan bahwa pihaknya merekomendasikan agar dia menggunakan “saluran pelaporan internal yang kuat” milik perusahaan untuk menyelidiki dan mengatasi masalah tersebut. CNBC adalah pihak pertama yang melaporkan tentang surat-surat tersebut.

Jones, seorang pemimpin rekayasa perangkat lunak utama yang pekerjaannya melibatkan pengerjaan produk AI untuk pelanggan ritel Microsoft, mengatakan bahwa dia telah menghabiskan tiga bulan mencoba mengatasi masalah keamanannya tentang Copilot Designer Microsoft, sebuah alat yang dapat menghasilkan gambar baru dari perintah tertulis. Alat ini berasal dari generator gambar AI lainnya, DALL-E 3, yang dibuat oleh mitra bisnis dekat Microsoft, OpenAI.

“Salah satu risiko yang paling mengkhawatirkan dengan Copilot Designer adalah ketika produk menghasilkan gambar yang menambahkan konten berbahaya meskipun ada permintaan yang baik dari pengguna,” katanya dalam suratnya yang ditujukan kepada Ketua FTC Lina Khan. “Misalnya, ketika hanya menggunakan prompt, 'kecelakaan mobil', Copilot Designer memiliki kecenderungan untuk secara acak memasukkan gambar seorang wanita yang tidak pantas dan diobjektifikasi secara seksual dalam beberapa gambar yang dibuatnya.”

Konten berbahaya lainnya melibatkan kekerasan serta “bias politik, penggunaan minuman beralkohol dan narkoba di bawah umur, penyalahgunaan merek dagang dan hak cipta perusahaan, teori konspirasi, dan agama,” katanya kepada FTC. Jones mengatakan dia berulang kali meminta perusahaan tersebut untuk menghentikan produk tersebut dari pasaran sampai produk tersebut lebih aman, atau setidaknya mengubah peringkat usia pada ponsel pintar untuk memperjelas bahwa produk tersebut ditujukan untuk khalayak dewasa.

Suratnya kepada dewan direksi Microsoft memintanya untuk meluncurkan penyelidikan independen yang akan melihat apakah Microsoft memasarkan produk yang tidak aman “tanpa mengungkapkan risiko yang diketahui kepada konsumen, termasuk anak-anak.”

Ini bukan pertama kalinya Jones mengungkapkan kekhawatirannya secara terbuka. Dia mengatakan Microsoft pada awalnya menyarankan dia untuk membawa temuannya langsung ke OpenAI.

Ketika hal itu tidak berhasil, dia juga secara terbuka memposting surat kepada OpenAI di LinkedIn milik Microsoft pada bulan Desember, mengarahkan seorang manajer untuk memberi tahu dia bahwa tim hukum Microsoft “meminta saya menghapus postingan tersebut, yang dengan enggan saya lakukan,” menurutnya. surat kepada dewan.

Selain Komite Perdagangan Senat AS, Jones telah menyampaikan kekhawatirannya kepada jaksa agung negara bagian di Washington, tempat Microsoft berkantor pusat.

Jones mengatakan kepada AP bahwa meskipun “masalah inti” ada pada model DALL-E OpenAI, mereka yang menggunakan ChatGPT OpenAI untuk menghasilkan gambar AI tidak akan mendapatkan keluaran berbahaya yang sama karena kedua perusahaan melapisi produk mereka dengan perlindungan yang berbeda.

“Banyak masalah dengan Copilot Designer telah diatasi dengan perlindungan ChatGPT sendiri,” katanya melalui SMS.

Sejumlah generator gambar AI yang mengesankan pertama kali hadir pada tahun 2022, termasuk DALL-E 2 OpenAI generasi kedua. Hal tersebut — dan rilis selanjutnya dari chatbot OpenAI ChatGPT — memicu daya tarik publik yang memberikan tekanan komersial pada raksasa teknologi seperti Microsoft dan Google akan merilis versi mereka sendiri.

Namun tanpa perlindungan yang efektif, teknologi ini dapat menimbulkan bahaya, termasuk kemudahan yang dapat digunakan oleh pengguna untuk menghasilkan gambar “deepfake” yang berbahaya dari tokoh politik, zona perang, atau ketelanjangan non-konsensual yang secara keliru memperlihatkan orang-orang nyata dengan wajah yang dapat dikenali. Google untuk sementara menangguhkan kemampuan chatbot Gemini untuk menghasilkan gambar orang-orang menyusul kemarahan atas cara mereka menggambarkan ras dan etnis, seperti dengan memasukkan orang kulit berwarna ke dalam seragam militer era Nazi.

You might also like