Inisiatif AI Pentagon mempercepat keputusan sulit mengenai senjata otonom yang mematikan

Inisiatif AI Pentagon mempercepat keputusan sulit mengenai senjata otonom yang mematikan

Road.co.id

Kecerdasan buatan yang digunakan oleh militer AS telah mengemudikan drone pengintai berukuran kecil dalam misi pasukan operasi khusus dan membantu Ukraina dalam perang melawan Rusia. Fitur ini melacak kebugaran prajurit, memprediksi kapan pesawat Angkatan Udara memerlukan perawatan, dan membantu mengawasi lawan di luar angkasa.

Saat ini, Pentagon bermaksud untuk mengirimkan ribuan kendaraan otonom berkemampuan AI yang relatif murah dan dapat dibuang pada tahun 2026 untuk mengimbangi Tiongkok. Inisiatif ambisius ini – yang diberi nama Replicator – berupaya untuk “menggalakkan kemajuan dalam peralihan inovasi militer AS yang terlalu lambat untuk memanfaatkan platform yang kecil, cerdas, murah, dan banyak lagi,” kata Wakil Menteri Pertahanan Kathleen Hicks pada bulan Agustus.

Meskipun pendanaannya tidak pasti dan rinciannya tidak jelas, Replicator diharapkan dapat mempercepat keputusan sulit mengenai teknologi AI mana yang sudah matang dan cukup dapat dipercaya untuk diterapkan – termasuk pada sistem persenjataan.

Ada sedikit perselisihan di antara para ilmuwan, pakar industri, dan pejabat Pentagon bahwa dalam beberapa tahun mendatang AS akan memiliki senjata otonom yang sepenuhnya mematikan. Meskipun para pejabat bersikeras bahwa manusia akan selalu memegang kendali, para ahli mengatakan kemajuan dalam kecepatan pemrosesan data dan komunikasi mesin-ke-mesin pasti akan menurunkan peran manusia ke dalam peran pengawasan.

Hal ini terutama berlaku jika, seperti yang diperkirakan, senjata mematikan dikerahkan secara massal dalam kawanan drone. Banyak negara sedang mengerjakannya – dan baik Tiongkok, Rusia, Iran, India, atau Pakistan belum menandatangani janji yang diprakarsai AS untuk menggunakan AI militer secara bertanggung jawab.

Tidak jelas apakah Pentagon saat ini secara resmi sedang mengkaji sistem senjata otonom yang sepenuhnya mematikan untuk ditempatkan, seperti yang disyaratkan dalam arahan tahun 2012. Seorang juru bicara Pentagon tidak mau mengatakannya.

Pergeseran paradigma

Replicator menyoroti tantangan teknologi dan personel yang sangat besar bagi pengadaan dan pengembangan Pentagon seiring dengan revolusi AI yang berjanji untuk mengubah cara perang dilakukan.

“Departemen Pertahanan sedang berjuang untuk mengadopsi perkembangan AI dari terobosan pembelajaran mesin terakhir,” kata Gregory Allen, mantan pejabat tinggi AI di Pentagon yang kini bekerja di lembaga think tank Pusat Kajian Strategis dan Internasional.

Portofolio Pentagon mencakup lebih dari 800 proyek yang tidak diklasifikasikan terkait AI, dan sebagian besar masih dalam tahap pengujian. Biasanya, pembelajaran mesin dan jaringan saraf membantu manusia memperoleh wawasan dan menciptakan efisiensi.

“AI yang kami miliki di Departemen Pertahanan saat ini sangat dimanfaatkan dan menambah jumlah manusia,” kata Missy Cummings, direktur pusat robotika Universitas George Mason dan mantan pilot pesawat tempur Angkatan Laut.” “Tidak ada AI yang berjalan dengan sendirinya. Orang-orang menggunakannya untuk mencoba memahami kabut perang dengan lebih baik.”

Luar angkasa, perbatasan baru perang

Salah satu bidang tempat alat bantu AI melacak potensi ancaman adalah luar angkasa, yang merupakan garda terdepan dalam persaingan militer.

Tiongkok berencana menggunakan AI, termasuk pada satelit, untuk “membuat keputusan mengenai siapa yang menjadi musuh dan siapa yang bukan musuh,” kata kepala teknologi dan inovasi Angkatan Luar Angkasa AS Lisa Costa, dalam konferensi online bulan ini.

AS bertujuan untuk mengimbanginya.

Sebuah prototipe operasional bernama Machina yang digunakan oleh Angkatan Luar Angkasa mengawasi secara mandiri lebih dari 40.000 objek di luar angkasa, mengatur ribuan pengumpulan data setiap malam dengan jaringan teleskop global.

Algoritma Machina mengatur sensor teleskop. Visi komputer dan model bahasa besar memberi tahu mereka objek apa yang harus dilacak. Dan koreografi AI langsung mengambil data astrodinamika dan fisika, kata Kolonel Wallace ‘Rhet’ Turnbull dari Komando Sistem Luar Angkasa pada konferensi di bulan Agustus.

Proyek AI lainnya di Space Force menganalisis data radar untuk mendeteksi peluncuran rudal musuh, katanya.

Memelihara pesawat dan tentara

Di tempat lain, kemampuan prediksi AI membantu Angkatan Udara menjaga armadanya tetap terbang, mengantisipasi kebutuhan pemeliharaan lebih dari 2.600 pesawat termasuk pembom B-1 dan helikopter Blackhawk.

Model pembelajaran mesin mengidentifikasi kemungkinan kegagalan puluhan jam sebelum terjadi, kata Tom Siebel, CEO C3 AI yang berbasis di Silicon Valley, yang memegang kontrak. Teknologi C3 juga memodelkan lintasan rudal untuk Badan Pertahanan Rudal AS dan mengidentifikasi ancaman orang dalam dalam angkatan kerja federal untuk Badan Kontra Intelijen dan Keamanan Pertahanan.

Salah satu upaya yang berhubungan dengan kesehatan adalah proyek percontohan yang melacak kebugaran seluruh Divisi Infanteri Ketiga Angkatan Darat – lebih dari 13.000 tentara. Pemodelan prediktif dan AI membantu mengurangi cedera dan meningkatkan kinerja, kata Mayor Matt Visser.

Kami sekarang ada di WhatsApp. Klik untuk bergabung.

Membantu Ukraina

Di Ukraina, AI yang disediakan oleh Pentagon dan sekutu NATO-nya membantu menggagalkan agresi Rusia.

Sekutu NATO berbagi intelijen dari data yang dikumpulkan oleh satelit, drone, dan manusia, beberapa di antaranya dikumpulkan dengan perangkat lunak dari kontraktor AS, Palantir. Beberapa data berasal dari Maven, proyek AI pencari jalan Pentagon yang sekarang sebagian besar dikelola oleh Badan Intelijen Geospasial Nasional, kata para pejabat termasuk pensiunan Jenderal Angkatan Udara Jack Shanahan, direktur AI Pentagon yang pertama,

Maven dimulai pada tahun 2017 sebagai upaya untuk memproses video dari drone di Timur Tengah – yang didorong oleh pasukan Operasi Khusus AS yang memerangi ISIS dan al-Qaeda – dan sekarang mengumpulkan dan menganalisis beragam data yang berasal dari sensor dan manusia.

AI juga telah membantu Kelompok Bantuan Keamanan-Ukraina yang dibentuk AS untuk membantu mengatur logistik bantuan militer dari koalisi 40 negara, kata para pejabat Pentagon.

Komando dan Kontrol Seluruh Domain

Untuk bertahan di medan perang saat ini, unit militer harus berukuran kecil, sebagian besar tidak terlihat, dan bergerak cepat karena jaringan sensor yang berkembang secara eksponensial memungkinkan siapa pun “melihat di mana saja di dunia kapan saja,” kata Ketua Gabungan Jenderal Mark Milley dalam sebuah pernyataan. pidato bulan Juni. “Dan apa yang bisa Anda lihat, Anda bisa memotretnya.”

Untuk menghubungkan para kombatan dengan lebih cepat, Pentagon telah memprioritaskan pengembangan jaringan pertempuran yang saling terkait – yang disebut Komando dan Kontrol Seluruh Domain Bersama – untuk mengotomatiskan pemrosesan data optik, inframerah, radar, dan data lainnya di seluruh angkatan bersenjata. Namun tantangannya sangat besar dan penuh dengan birokrasi.

Christian Brose, mantan direktur staf Komite Angkatan Bersenjata Senat yang sekarang bekerja di perusahaan teknologi pertahanan Anduril, termasuk di antara pendukung reformasi militer yang percaya bahwa mereka “mungkin akan menang dalam hal ini sampai batas tertentu.”

“Argumennya mungkin bukan mengenai apakah hal ini benar untuk dilakukan, namun lebih pada bagaimana kita benar-benar melakukannya – dan mengenai jangka waktu cepat yang diperlukan,” ujarnya. Buku Brose yang terbit tahun 2020, “The Kill Chain,” berpendapat untuk segera melakukan perombakan guna menandingi Tiongkok dalam perlombaan mengembangkan sistem persenjataan berjaringan yang lebih cerdas dan lebih murah.

Untuk mencapai tujuan tersebut, militer AS sedang bekerja keras dalam “kerja sama manusia-mesin.” Lusinan kendaraan udara dan laut tanpa awak saat ini mengawasi aktivitas Iran. Marinir dan Pasukan Khusus AS juga menggunakan helikopter mini Ghost otonom Anduril, menara sensor, dan teknologi anti-drone untuk melindungi pasukan Amerika.

Kemajuan industri dalam visi komputer sangatlah penting. Shield AI memungkinkan drone beroperasi tanpa GPS, komunikasi, atau bahkan pilot jarak jauh. Itu adalah kunci Nova, sebuah quadcopter, yang digunakan unit operasi khusus AS di daerah konflik untuk mengintai bangunan.

Di masa depan: Program “loyal wingman” Angkatan Udara bermaksud untuk memasangkan pesawat berawak dengan pesawat otonom. Seorang pilot F-16 mungkin, misalnya, mengirimkan drone untuk mengintai, menarik tembakan musuh, atau menyerang sasaran. Para pemimpin Angkatan Udara berencana melakukan debut pada akhir dekade ini.

Perlombaan menuju otonomi penuh

Garis waktu “loyal wingman” tidak sesuai dengan Replicator, yang dianggap terlalu ambisius oleh banyak orang. Sementara itu, ketidakjelasan Pentagon mengenai Replicator mungkin bertujuan untuk membuat para pesaingnya terus menebak-nebak, meskipun para perencana mungkin masih memikirkan fitur dan tujuan misinya, kata Paul Scharre, pakar AI militer dan penulis “Four Battlegrounds.”

Anduril dan Shield AI, masing-masing didukung oleh pendanaan modal ventura senilai ratusan juta, termasuk di antara perusahaan yang bersaing untuk mendapatkan kontrak.

Nathan Michael, chief technology officer di Shield AI, memperkirakan mereka akan memiliki kelompok otonom yang terdiri dari setidaknya tiga pesawat tak berawak yang siap dalam satu tahun menggunakan drone udara V-BAT miliknya. Militer AS saat ini menggunakan V-BAT – tanpa kecerdasan AI – di kapal Angkatan Laut, dalam misi anti-narkoba, dan untuk mendukung Unit Ekspedisi Marinir, kata perusahaan tersebut.

Diperlukan waktu sebelum kawanan yang lebih besar dapat diterjunkan, kata Michael. “Semuanya merangkak, berjalan, berlari — kecuali Anda mempersiapkan diri untuk gagal.”

Satu-satunya sistem senjata yang saat ini dipercaya oleh Shanahan, yang menjabat sebagai kepala AI Pentagon untuk beroperasi secara mandiri, adalah sistem pertahanan sepenuhnya, seperti sistem anti-rudal Phalanx di kapal. Dia tidak begitu khawatir mengenai senjata otonom yang dapat mengambil keputusan sendiri, melainkan mengenai sistem yang tidak berfungsi seperti yang diiklankan atau membunuh pasukan non-tempur atau sekutu.

Kepala digital dan AI departemen saat ini, Craig Martell, bertekad untuk tidak membiarkan hal itu terjadi.

“Terlepas dari otonomi sistem, akan selalu ada agen yang bertanggung jawab yang memahami keterbatasan sistem, telah terlatih dengan baik dengan sistem, memiliki keyakinan yang kuat mengenai kapan dan di mana sistem dapat diterapkan — dan akan selalu mengambil tanggung jawab,” kata Martell, yang sebelumnya mengepalai pembelajaran mesin di LinkedIn dan Lyft. “Itu tidak akan pernah terjadi.”

Mengenai kapan AI akan cukup andal untuk melakukan otonomi yang mematikan, Martell mengatakan tidak masuk akal untuk menggeneralisasikannya. Misalnya, Martell memercayai kendali jelajah adaptif mobilnya, tetapi tidak mempercayai teknologi yang mencegahnya berpindah jalur. “Sebagai agen yang bertanggung jawab, saya tidak akan mengerahkan itu kecuali dalam situasi yang sangat terbatas,” katanya. “Sekarang ekstrapolasi hal itu ke militer.”

Kantor Martell sedang mengevaluasi potensi kasus penggunaan AI generatif – kantornya memiliki satuan tugas khusus untuk hal tersebut – namun lebih berfokus pada pengujian dan evaluasi AI dalam pengembangan.

Salah satu tantangan mendesak, kata Jane Pinelis, kepala insinyur AI di Lab Fisika Terapan Universitas Johns Hopkins dan mantan kepala jaminan AI di kantor Martell, adalah merekrut dan mempertahankan talenta yang diperlukan untuk menguji teknologi AI. Pentagon tidak dapat bersaing dalam hal gaji. Gelar PhD di bidang ilmu komputer yang memiliki keterampilan terkait AI dapat memperoleh penghasilan lebih besar daripada jenderal dan laksamana berpangkat tinggi di militer.

Standar pengujian dan evaluasi juga belum matang, seperti yang disoroti dalam laporan National Academy of Sciences baru-baru ini tentang AI Angkatan Udara.

Mungkinkah itu berarti suatu hari nanti AS akan mengerahkan senjata otonom di bawah tekanan yang tidak sepenuhnya dapat diterima?

“Kami masih beroperasi dengan asumsi bahwa kami punya waktu untuk melakukan ini seketat dan serajin mungkin,” kata Pinelis. “Saya pikir jika kita kurang siap dan tiba waktunya untuk mengambil tindakan, seseorang akan terpaksa mengambil keputusan.”

Satu hal lagi! HT Tech sekarang ada di Saluran WhatsApp! Ikuti kami dengan mengklik link tersebut agar Anda tidak ketinggalan update apapun dari dunia teknologi. Klik Di Sini untuk bergabung sekarang!

You might also like