Foto: Sean Gallup (Getty Images)
Ketika delegasi dari 50 negara bertemu di Belanda minggu ini untuk membahas masa depan kecerdasan buatan militer, aktivis hak asasi manusia dan pakar non-proliferasi melihat peluang. Selama bertahun-tahun, kelompok hak asasi telah mendesak negara-negara untuk membatasi pengembangan senjata AI dan menandatangani perjanjian yang mengikat secara hukum untuk membatasi penggunaannya karena khawatir pengembangan mereka yang tidak dibatasi dapat mencerminkan perlombaan senjata nuklir abad lalu. Sebaliknya, hasil dari apa yang bisa menjadi pertemuan puncak bersejarah hanyalah “kedok kecil”, kata kelompok-kelompok hak asasi manusia.
Setelah dua hari pembicaraan mendalam, panel, dan presentasi yang dihasilkan oleh sekitar 2.500 pakar AI dan pemimpin industri, KTT REAIM (mengerti?) berakhir dengan “ajakan bertindak” yang tidak mengikat secara hukum atas pengembangan, penyebaran, dan tanggung jawab yang bertanggung jawab. penggunaan AI militer. Para peserta juga sepakat untuk membentuk “Komisi Global AI.” Itu mungkin terdengar tinggi, namun pada kenyataannya, inisiatif tersebut terbatas pada “meningkatkan kesadaran” tentang bagaimana teknologi dapat diproduksi secara bertanggung jawab. Pembicaraan yang berarti untuk benar-benar mengurangi atau membatasi senjata AI pada dasarnya tidak masuk akal.
Hentikan Kampanye Robot Pembunuh, salah satu kelompok hak asasi terkemuka yang mengadvokasi AI dalam peperangan, mengatakan kepada Gizmodo bahwa tindakan seruan tersebut menawarkan “visi yang kabur dan salah” tentang penggunaan AI oleh militer tanpa alasan untuk kejelasan aturan atau batasan. Safe Ground, sebuah kelompok hak asasi Australia, menyebut seluruh KTT itu sebagai “kesempatan yang terlewatkan.”
Pada saat yang sama Amerika Serikat, yang merupakan pemimpin dunia dalam sistem senjata AI dan secara historis salah satu suara terdepan yang menentang perjanjian senjata AI internasional, mengungkapkan deklarasi politik 12 poin yang menguraikan strategi sistem otonomnya yang “bertanggung jawab”. Deklarasi tersebut, yang muncul hanya beberapa minggu setelah arahan Departemen Pertahanan baru yang kontroversial tentang AI, mengatakan semua sistem AI harus mematuhi undang-undang hak asasi manusia internasional dan memiliki “tingkat penilaian manusia yang sesuai.” Meskipun pejabat Departemen Luar Negeri dengan penuh kemenangan mengiklankan deklarasi tersebut sebagai langkah maju yang penting, kelompok hak asasi yang berjuang untuk membatasi sistem senjata AI mengatakan bahwa itu adalah bencana total.
“Sekarang bukan waktunya bagi negara-negara untuk mengutak-atik deklarasi politik yang cacat,” kata Direktur Advokasi Senjata Human Rights Watch Mary Wareham dalam sebuah tweet. Manajer Hubungan Pemerintah Stop Killer Robots Ousman Noor melangkah lebih jauh dan menyebut deklarasi itu “posisi paling terbelakang yang terlihat dari negara bagian mana pun, dalam beberapa tahun.”
“Deklarasi ini sangat jauh dari kerangka kerja internasional yang diminta oleh mayoritas negara dalam diskusi PBB,” kata Stop Killer Robots dalam sebuah pernyataan. “Itu tidak melihat perlunya aturan yang mengikat secara hukum, dan sebaliknya mengizinkan pengembangan dan penggunaan Sistem Senjata Otonom, tidak ada garis penerimaan.”
Bagi para skeptis militer AI, KTT pertama dari jenisnya sebenarnya dilihat sebagai langkah ke arah yang salah. Sebelum KTT, mayoritas dari 125 negara yang diwakili dalam Konvensi PBB tentang Senjata Konvensional Tertentu menyatakan minatnya pada undang-undang baru yang pada dasarnya melarang pengembangan senjata otonom selama konferensi tahun lalu. Sekretaris Jenderal PBB António Guterres mengeluarkan pernyataan pada waktu yang hampir bersamaan yang mengatakan bahwa sistem seperti itu harus dilarang berdasarkan hukum internasional. Upaya tersebut sebagian besar gagal karena AS, China, dan Rusia, yang semuanya mendukung pengembangan senjata ini. Pandangan dari ketiga negara ini sebelumnya merupakan outlier di PBB Sekarang, di bawah kerangka kerja baru, tampaknya sistem senjata otonom diperlukan dan tidak dapat dihindari.
Satu negara terkenal yang tidak terwakili di antara 50 atau lebih negara di KTT REAIM? Rusia, karena perang yang sedang berlangsung dengan Ukraina. Hadir atau tidak, Rusia dan Ukraina dibahas sepanjang KTT sebagai salah satu tempat pengujian potensial untuk teknologi militer baru yang sepenuhnya otonom. Ukraina dilaporkan menggunakan drone serang semi-otonom dan layanan pengenalan wajah Clearview AI untuk mengidentifikasi pasukan Rusia yang tewas.
Inilah beberapa sorotan utama dari puncak.