Pemerintah memerintahkan perusahaan teknologi untuk meminta persetujuan sebelum merilis alat AI yang 'tidak dapat diandalkan'

Pemerintah memerintahkan perusahaan teknologi untuk meminta persetujuan sebelum merilis alat AI yang 'tidak dapat diandalkan'

Road.co.id

Kementerian Elektronika dan Teknologi Informasi (MeitY) telah mengeluarkan peringatan kedua kepada platform atau perantara, meminta mereka untuk meminta izin eksplisit dari Pusat sebelum meluncurkan model Kecerdasan Buatan (AI), yang sedang diuji, di negara tersebut.

Peringatan tersebut dikeluarkan pada Jumat malam, lebih dari dua bulan setelah kementerian mengeluarkan peringatan pada bulan Desember tahun lalu untuk platform media sosial, yang mengarahkan mereka untuk mengikuti peraturan TI yang ada untuk menangani masalah deepfake.

“Penggunaan model Kecerdasan Buatan /LLM/AI Generatif, perangkat lunak, atau algoritme yang kurang teruji/tidak dapat diandalkan dan ketersediaannya bagi pengguna di Internet India harus dilakukan dengan izin tegas dari Pemerintah India dan diterapkan hanya setelah memberi label yang tepat pada kemungkinan kesalahan atau ketidakandalan keluaran yang dihasilkan. Selanjutnya, mekanisme 'popup persetujuan' dapat digunakan untuk secara eksplisit memberi tahu pengguna tentang kemungkinan kesalahan atau ketidakandalan keluaran yang dihasilkan,” bacaan penasehat.

Penasihat tersebut menambahkan bahwa baru-baru ini kementerian mendapat pemberitahuan bahwa perantara atau platform gagal melakukan kewajiban uji tuntas yang diuraikan dalam Aturan Teknologi Informasi (Pedoman Perantara dan Kode Etik Media Digital), 2021 (Aturan TI).

“Semua perantara atau platform harus memastikan bahwa penggunaan model Kecerdasan Buatan /LLM/AI Generatif, perangkat lunak, atau algoritma pada atau melalui sumber daya komputernya tidak mengizinkan penggunanya untuk menghosting, menampilkan, mengunggah, memodifikasi, menerbitkan, mengirimkan, menyimpan, memperbarui, atau membagikan konten apa pun yang melanggar hukum sebagaimana diuraikan dalam Aturan 3(1)(b) Peraturan TI atau melanggar ketentuan lain dalam Undang-Undang TI,” katanya.

“Semua perantara atau platform harus memastikan bahwa sumber daya komputer mereka tidak mengizinkan adanya bias atau diskriminasi atau mengancam integritas proses pemilu termasuk melalui penggunaan model Kecerdasan Buatan/LLM/AI Generatif, perangkat lunak, dan perangkat lunak lainnya.” atau algoritma,” bunyi penasehat itu.

“Penggunaan model Kecerdasan Buatan /LLM/AI Generatif, perangkat lunak, atau algoritme yang kurang teruji/tidak dapat diandalkan dan ketersediaannya bagi pengguna di Internet India harus dilakukan dengan izin tegas dari Pemerintah India dan diterapkan hanya setelah memberi label yang tepat pada kemungkinan kesalahan atau ketidakandalan keluaran yang dihasilkan. Selanjutnya, mekanisme 'popup persetujuan' dapat digunakan untuk secara eksplisit memberi tahu pengguna tentang kemungkinan kesalahan atau ketidakandalan keluaran yang dihasilkan,” ditetapkan lebih lanjut.

“Semua pengguna harus diberi informasi yang jelas termasuk melalui ketentuan layanan dan perjanjian pengguna perantara atau platform tentang konsekuensi menangani informasi yang melanggar hukum di platformnya, termasuk penonaktifan akses atau penghapusan informasi yang tidak patuh, penangguhan atau penghentian. akses atau hak penggunaan pengguna ke akun pengguna mereka, tergantung kasusnya, dan hukuman berdasarkan hukum yang berlaku,” tambahnya.

“Apabila perantara mana pun melalui perangkat lunaknya atau sumber daya komputer lainnya mengizinkan atau memfasilitasi pembuatan sintetik, pembuatan atau modifikasi informasi teks, audio, visual atau audio-visual, sedemikian rupa sehingga informasi tersebut berpotensi digunakan sebagai informasi yang salah atau deepfake, disarankan agar informasi tersebut dibuat, dihasilkan, atau dimodifikasi melalui perangkat lunaknya atau sumber daya komputer lainnya diberi label atau tertanam dengan metadata atau pengidentifikasi unik yang permanen, dengan nama apa pun namanya, sedemikian rupa sehingga label, metadata, atau pengidentifikasi tersebut dapat digunakan. untuk mengidentifikasi bahwa informasi tersebut telah dibuat, dihasilkan atau dimodifikasi menggunakan sumber daya komputer perantara, atau mengidentifikasi pengguna perangkat lunak atau sumber daya komputer lainnya, perantara yang melalui perangkat lunak atau sumber daya komputer lainnya informasi tersebut telah dibuat, dihasilkan atau dimodifikasi dan pencipta atau pencetus pertama informasi yang salah atau deepfake tersebut,” tambah penasehat itu.

“Ditegaskan kembali bahwa ketidakpatuhan terhadap ketentuan UU TI dan/atau Peraturan TI akan mengakibatkan potensi konsekuensi pidana terhadap perantara atau platform atau penggunanya ketika teridentifikasi, termasuk namun tidak terbatas pada penuntutan berdasarkan UU TI dan beberapa ketentuan lainnya. KUHP,” tambah penasehat itu.

“Semua perantara, dengan ini diminta untuk memastikan kepatuhan terhadap hal-hal di atas dengan segera dan menyerahkan Laporan Tindakan yang Diambil sekaligus Status kepada Kementerian dalam waktu 15 hari setelah pemberitahuan ini,” tambah kementerian Persatuan.

Baca juga berita utama lainnya hari ini:

Carl Pei yang dipimpin Nothing akan meluncurkan smartphone kelas menengahnya, Nothing Phone 2a, di India pada tanggal 5 Maret! Beberapa detail menarik di artikel ini. Lihat disini

Moto menggoda desain dan fitur AI-nya dan mengatakan peluncuran Motorola X50 Ultra akan segera terjadi. Disebut-sebut bisa menyaingi Samsung Galaxy S24. Beberapa detail menarik di artikel ini. Lihat disini.

AS vs Tiongkok! AS sedang mengevaluasi kembali kebijakan perlindungan data di tengah kekhawatiran terhadap teknologi Tiongkok, dengan fokus pada risiko AI. Tindakan baru-baru ini yang dilakukan Presiden Biden bertujuan untuk membatasi aliran data sensitif ke luar negeri untuk mencegah spionase dan pemerasan. Baca semuanya di sini.

Satu hal lagi! Kami sekarang ada di Saluran WhatsApp! Ikuti kami di sana agar Anda tidak ketinggalan update apa pun dari dunia teknologi. ‎Untuk mengikuti saluran HT Tech di WhatsApp, klik Di Sini untuk bergabung sekarang!

You might also like