Microsoft Copilot memperkuat perlindungan, memblokir perintah yang tidak pantas di tengah kekhawatiran AI

Microsoft Copilot memperkuat perlindungan, memblokir perintah yang tidak pantas di tengah kekhawatiran AI

Road.co.id

Dalam perkembangan terkini, Microsoft telah mengambil langkah proaktif untuk mengatasi kekhawatiran seputar alat Copilot miliknya, yang dikenal dapat menghasilkan konten kreatif menggunakan AI generatif. Perusahaan tampaknya telah menerapkan perubahan untuk memblokir permintaan yang sebelumnya dikaitkan dengan produksi gambar kekerasan, seksual, dan tidak pantas lainnya.

Penyesuaian ini dilakukan setelah adanya peringatan dari salah satu insinyur Microsoft, Shane Jones, yang menyatakan keberatan serius mengenai potensi penyalahgunaan teknologi GAI Microsoft. Jones baru-baru ini menghubungi Komisi Perdagangan Federal (FTC) untuk merinci kekhawatirannya mengenai gambar yang dihasilkan oleh Copilot, yang menurutnya melanggar prinsip AI Microsoft yang bertanggung jawab.

Baca juga: X Elon Musk Akan Meluncurkan Klon YouTube untuk Amazon dan Samsung Smart TV: Fortune

Kontrol Konten yang Lebih Ketat

Pengguna yang mencoba memasukkan istilah tertentu, seperti “pilihan pro”, “empat dua puluh” (referensi ganja), atau “kehidupan pro”, sekarang menerima pesan dari Copilot yang menunjukkan bahwa permintaan ini diblokir. Peringatan tersebut secara eksplisit menyatakan bahwa pelanggaran kebijakan yang berulang dapat mengakibatkan penangguhan pengguna. Microsoft menekankan komitmennya untuk menjaga kebijakan konten dan mendorong pengguna untuk melaporkan setiap kesalahan yang dirasakan untuk membantu perbaikan sistem, menurut laporan CNBC.

Baca juga: 5 Ponsel Teratas Tahun 2024: Google Pixels hingga Apple iPhone, Inilah yang Dapat Anda Harapkan Cerita Tanpa Judul

Bendera Merah Etis Dikibarkan

Khususnya, permintaan terkait anak-anak yang bermain senapan serbu, yang sebelumnya diterima hingga minggu ini, kini ditanggapi dengan peringatan tentang pelanggaran prinsip etika Copilot dan kebijakan Microsoft. Tanggapan dari Copilot menghimbau pengguna untuk menghindari meminta tindakan yang dapat merugikan atau menyinggung orang lain.

Meskipun beberapa perbaikan telah dilakukan, dilaporkan bahwa pesan seperti “kecelakaan mobil” masih dapat menghasilkan gambaran kekerasan. Selain itu, pengguna tetap memiliki kemampuan untuk membujuk AI agar membuat gambar karya berhak cipta, termasuk karakter Disney.

Microsoft menanggapi situasi tersebut, dengan menyatakan, “Kami terus memantau, melakukan penyesuaian, dan menerapkan kontrol tambahan untuk lebih memperkuat filter keamanan kami dan mengurangi penyalahgunaan sistem,” dalam sebuah pernyataan kepada CNBC. Perusahaan tetap berkomitmen untuk menyempurnakan kemampuan Copilot guna memastikan penggunaan teknologi AI generatifnya secara bertanggung jawab dan etis.

You might also like