Foto: Angkatan Darat AS Spc. Jaaron Tolley
Departemen Pertahanan AS telah mengintip ke masa depan, dan melihat dunia yang penuh dengan senjata perang otomatis. Dalam pembaruan pertamanya sejak 2012, panduan DoD yang mengawasi pengembangan, pengujian, dan penggunaan senjata otonom dan semi-otonom memperingatkan “peningkatan peran” kecerdasan buatan dalam perang yang akan datang.
Lebih dari satu dekade telah berlalu sejak Pentagon terakhir memperbarui arahan kebijakannya tentang senjata-senjata ini, yang berjudul “Otonomi dalam Sistem Senjata,” tetapi hal itu berubah minggu ini. Pejabat DoD menyatakan komitmen mereka untuk mengejar sistem otonom dan mengintegrasikan kecerdasan buatan canggih ke dalam upaya militer di masa depan. Dengan pembaruan kebijakan, militer AS memperkuat pendiriannya tentang otonomi bahkan ketika negara dan aktivis lain bersatu untuk membatasi proliferasinya.
Pembaruan baru mempertimbangkan kemajuan dalam AI selama 10 tahun terakhir dan memperkenalkan grup pengawasan tingkat senior yang baru. Sekarang, dalam banyak kasus, senjata otonom perlu mendapatkan persetujuan formal dari wakil ketua Kepala Staf Gabungan, wakil menteri pertahanan untuk kebijakan, dan wakil menteri pertahanan untuk penelitian dan rekayasa sebelum dapat memasuki pengembangan formal.
“Petunjuk tersebut sekarang menetapkan bahwa mereka, seperti sistem apa pun yang menggunakan kecerdasan buatan, apakah sistem senjata atau tidak, perlu mengikuti pedoman itu juga,” kata Direktur Departemen Kebijakan Kemampuan Berkembang Michael Horowitz dalam wawancara baru-baru ini dengan Breaking Defense. . “Ini adalah bagian dari apa yang kami anggap sebagai tata kelola yang baik.”
Apa pendapat Pentagon tentang senjata berkemampuan AI?
Arahan baru ini juga mengambil prinsip etika AI yang bertanggung jawab dari Pentagon, yang pertama kali diluncurkan pada tahun 2020, dan menerapkannya pada sistem senjata otonom. Singkatnya, prinsip-prinsip tersebut mengharuskan alat AI DoD untuk “bertanggung jawab, adil, dapat dilacak, andal, dan dapat diatur”. Pentagon merilis dokumen tindak lanjut tahun lalu yang menguraikan jalan yang dapat diambil untuk mewujudkan prinsip-prinsip itu sambil tetap bersaing dengan ancaman yang dirasakan dari kekuatan global asing (baca: China.) Di luar pembaruan pengawasan itu dan lainnya, sebagian besar arahan baru menyerupai pendahulunya, dengan seorang pejabat DoD menyebutnya sebagai “klarifikasi, bukan perubahan besar”.
G/O Media dapat memperoleh komisi
Meskipun tidak lengkap secara keseluruhan, pembaruan tersebut menyatakan, secara gamblang, visi departemen yang berfokus pada teknologi untuk masa depan. Dalam sebuah pernyataan yang menyertai arahan tersebut, Wakil Menteri Pertahanan Kathleen Hicks mengatakan Pentagon berkomitmen untuk “mengembangkan dan menggunakan semua sistem senjata, termasuk yang memiliki fitur dan fungsi otonom, dengan cara yang bertanggung jawab dan sesuai hukum.”
Menantikan masa depan, Hicks mengakui sistem yang mendukung AI, “kemungkinan akan memainkan peran yang semakin meningkat dalam berbagai sistem dan kemampuan.” Dalam wawancara sebelumnya dengan Gizmodo, Hicks berbicara tentang apa yang dia pandang sebagai pentingnya mempertahankan pendekatan “manusia dalam lingkaran” di mana operator manusia masih mempertahankan peran terakhir dalam memutuskan kapan sistem AI menjalankan tujuannya.
Dunia terbagi: Haruskah kita melarang senjata AI dan perang otonom?
Tidak semua orang berbagi pandangan cerah Pentagon terhadap senjata otonom. Secara total, setidaknya 30 negara telah menyuarakan dukungan untuk melarang teknologi secara langsung. Seruan itu bahkan mendapat dukungan dari Sekretaris Jenderal PBB António Guterres yang, pada 2019 mengeluarkan pernyataan yang mengatakan bahwa sistem seperti itu harus dilarang berdasarkan hukum internasional.
“Mesin otonom dengan kekuatan dan keleluasaan untuk memilih target dan mengambil nyawa tanpa keterlibatan manusia secara politik tidak dapat diterima dan menjijikkan secara moral,” kata Guterres.
Demikian pula, mayoritas dari 125 negara yang diwakili dalam Konvensi PBB tentang Senjata Konvensional Tertentu menyatakan minatnya pada undang-undang baru yang pada dasarnya melarang pengembangan senjata otonom selama konferensi tahun lalu. Upaya itu gagal, catat CNBC, karena tentangan dari Rusia, China, Amerika Serikat, dan beberapa negara lain yang diposisikan di garis depan teknologi senjata otonom.
Kritikus sistem senjata otonom, dari Amnesty International hingga Human Rights Watch, telah membandingkan perkembangannya dengan senjata nuklir dan bubuk mesiu sebelumnya. Mereka khawatir ekspansi yang tidak terkendali dapat menyebabkan perlombaan senjata berbahaya yang dapat meningkatkan risiko konflik geopolitik.