Foto: Pfc. Rhita Daniel/Korps Marinir AS
Militer AS mengintensifkan komitmennya untuk pengembangan dan penggunaan senjata otonom, seperti yang dikonfirmasi oleh pembaruan arahan Departemen Pertahanan. Pembaruan, dirilis 25 Januari 2023, adalah yang pertama dalam satu dekade untuk fokus pada senjata otonom kecerdasan buatan. Ini mengikuti rencana implementasi terkait yang dirilis oleh NATO pada 13 Oktober 2022, yang bertujuan untuk melestarikan “keunggulan teknologi” aliansi dalam apa yang kadang-kadang disebut “robot pembunuh”.
Kedua pengumuman tersebut mencerminkan pelajaran penting yang telah dipelajari oleh militer di seluruh dunia dari operasi tempur baru-baru ini di Ukraina dan Nagorno-Karabakh: Kecerdasan buatan yang dipersenjatai adalah masa depan peperangan.
“Kami tahu bahwa para komandan melihat nilai militer dalam amunisi yang berkeliaran di Ukraina,” kata Richard Moyes, direktur Article 36, sebuah organisasi kemanusiaan yang berfokus pada pengurangan bahaya senjata, kepada saya dalam sebuah wawancara. Senjata-senjata ini, yang merupakan persilangan antara bom dan drone, dapat melayang dalam waktu lama sambil menunggu target. Untuk saat ini, rudal semi-otonom semacam itu umumnya dioperasikan dengan kendali manusia yang signifikan atas keputusan-keputusan penting, katanya.
Tekanan perang
Tetapi ketika korban meningkat di Ukraina, begitu pula tekanan untuk mencapai keuntungan medan perang yang menentukan dengan senjata yang sepenuhnya otonom – robot yang dapat memilih, memburu, dan menyerang target mereka sendiri, tanpa memerlukan pengawasan manusia.
Bulan ini, pabrikan utama Rusia mengumumkan rencana untuk mengembangkan versi tempur baru dari robot pengintai Marker, kendaraan darat tanpa awak, untuk menambah kekuatan yang ada di Ukraina. Drone yang sepenuhnya otonom sudah digunakan untuk mempertahankan fasilitas energi Ukraina dari drone lain. Wahid Nawabi, CEO kontraktor pertahanan AS yang memproduksi drone Switchblade semi-otonom, mengatakan teknologi tersebut sudah dalam jangkauan untuk mengubah senjata ini menjadi sepenuhnya otonom.
Mykhailo Fedorov, menteri transformasi digital Ukraina, berpendapat bahwa senjata yang sepenuhnya otonom adalah “langkah logis dan tak terelakkan berikutnya” perang dan baru-baru ini mengatakan bahwa tentara mungkin melihatnya di medan perang dalam enam bulan ke depan.
Pendukung sistem senjata yang sepenuhnya otonom berpendapat bahwa teknologi tersebut akan menjauhkan tentara dari bahaya dengan menjauhkan mereka dari medan perang. Mereka juga akan memungkinkan keputusan militer dibuat dengan kecepatan manusia super, memungkinkan peningkatan kemampuan pertahanan secara radikal.
Saat ini, senjata semi-otonom, seperti amunisi berkeliaran yang melacak dan meledakkan diri pada sasaran, membutuhkan “manusia dalam lingkaran”. Mereka dapat merekomendasikan tindakan tetapi meminta operator mereka untuk memulainya.
Sebaliknya, drone yang sepenuhnya otonom, seperti yang disebut “pemburu drone” yang sekarang dikerahkan di Ukraina, dapat melacak dan menonaktifkan kendaraan udara tak berawak siang dan malam, tanpa perlu intervensi operator dan lebih cepat daripada sistem senjata yang dikendalikan manusia.
Memanggil untuk waktu tunggu
Kritikus seperti Kampanye untuk Menghentikan Robot Pembunuh telah mengadvokasi selama lebih dari satu dekade untuk melarang penelitian dan pengembangan sistem senjata otonom. Mereka menunjuk ke masa depan di mana sistem senjata otonom dirancang khusus untuk menargetkan manusia, bukan hanya kendaraan, infrastruktur, dan senjata lainnya. Mereka berpendapat bahwa keputusan masa perang atas hidup dan mati harus tetap berada di tangan manusia. Mengubahnya menjadi algoritme sama dengan bentuk akhir dari dehumanisasi digital.
Bersama dengan Human Rights Watch, The Campaign to Stop Killer Robots berpendapat bahwa sistem senjata otonom tidak memiliki penilaian manusia yang diperlukan untuk membedakan antara warga sipil dan target militer yang sah. Mereka juga menurunkan ambang perang dengan mengurangi risiko yang dirasakan, dan mereka mengikis kendali manusia yang berarti atas apa yang terjadi di medan perang.
Foto: Urusan Publik AMRDEC Angkatan Darat AS
Organisasi tersebut berpendapat bahwa militer yang berinvestasi paling besar dalam sistem senjata otonom, termasuk AS, Rusia, China, Korea Selatan, dan Uni Eropa, meluncurkan dunia ke dalam perlombaan senjata baru yang mahal dan tidak stabil. Salah satu konsekuensinya adalah teknologi baru yang berbahaya ini jatuh ke tangan teroris dan pihak lain di luar kendali pemerintah.
Arahan Departemen Pertahanan yang diperbarui mencoba mengatasi beberapa masalah utama. Ini menyatakan bahwa AS akan menggunakan sistem senjata otonom dengan “tingkat penilaian manusia yang sesuai atas penggunaan kekuatan.” Human Rights Watch mengeluarkan pernyataan yang mengatakan bahwa arahan baru tersebut gagal menjelaskan apa arti frasa “tingkat yang sesuai” dan tidak menetapkan pedoman bagi siapa yang harus menentukannya.
Tetapi seperti yang dikatakan Gregory Allen, seorang ahli dari think tank pertahanan nasional dan hubungan internasional Pusat Studi Strategis dan Internasional, bahasa ini menetapkan ambang batas yang lebih rendah daripada “kontrol manusia yang berarti” yang dituntut oleh para kritikus. Kata-kata Departemen Pertahanan, dia menunjukkan, memungkinkan kemungkinan bahwa dalam kasus-kasus tertentu, seperti dengan pesawat pengintai, tingkat kontrol manusia yang dianggap tepat “mungkin tidak ada sama sekali.”
Arahan yang diperbarui juga mencakup bahasa yang menjanjikan penggunaan etis dari sistem senjata otonom, khususnya dengan menetapkan sistem pengawasan untuk mengembangkan dan menggunakan teknologi, dan dengan menegaskan bahwa senjata akan digunakan sesuai dengan hukum perang internasional yang ada. Tetapi Moyes dari Pasal 36 mencatat bahwa hukum internasional saat ini tidak memberikan kerangka yang memadai untuk memahami, apalagi mengatur, konsep otonomi senjata.
Kerangka hukum saat ini tidak memperjelas, misalnya, bahwa komandan bertanggung jawab untuk memahami apa yang akan memicu sistem yang mereka gunakan, atau bahwa mereka harus membatasi wilayah dan waktu pengoperasian sistem tersebut. “Bahayanya adalah tidak ada garis terang antara di mana kita sekarang dan di mana kita telah menerima hal yang tidak dapat diterima,” kata Moyes.
Keseimbangan yang mustahil?
Pembaruan Pentagon menunjukkan komitmen simultan untuk menyebarkan sistem senjata otonom dan untuk mematuhi hukum humaniter internasional. Bagaimana AS akan menyeimbangkan komitmen-komitmen ini, dan apakah keseimbangan semacam itu mungkin, masih harus dilihat.
Komite Palang Merah Internasional, penjaga hukum humaniter internasional, menegaskan bahwa kewajiban hukum komandan dan operator “tidak dapat dialihkan ke mesin, algoritme, atau sistem senjata”. Saat ini, manusia bertanggung jawab untuk melindungi warga sipil dan membatasi kerusakan akibat pertempuran dengan memastikan penggunaan kekuatan sebanding dengan tujuan militer.
Jika dan ketika senjata kecerdasan artifisial dikerahkan di medan perang, siapa yang harus bertanggung jawab ketika terjadi kematian warga sipil yang tidak perlu? Tidak ada jawaban yang jelas untuk pertanyaan yang sangat penting itu.
James Dawes adalah profesor bahasa Inggris di Macalester College. Artikel ini diterbitkan ulang dari The Conversation di bawah lisensi Creative Commons. Baca artikel aslinya.