Eksekutif dan pakar teknologi militer yang berbicara di depan Komite Angkatan Bersenjata Senat pada hari Rabu mengatakan seruan yang meningkat untuk “jeda” pada sistem kecerdasan buatan yang baru salah arah dan tampaknya “hampir tidak mungkin” untuk diterapkan. Para ahli, yang berbicara atas nama dua perusahaan teknologi militer serta kontraktor pertahanan terkenal Rand Corporation, mengatakan pembuat AI China kemungkinan tidak akan mematuhi jeda dan sebaliknya akan memanfaatkan jeda pengembangan untuk merebut keunggulan Amerika Serikat saat ini. dalam perlombaan AI internasional. Dunia berada pada “titik belok” AI, kata seorang ahli, dan inilah saatnya untuk menginjak gas untuk “menakut-nakuti musuh kita”.
Menghasilkan Video Melalui Teks? | Teknologi Masa Depan
“Saya pikir akan sangat sulit untuk menengahi kesepakatan internasional untuk menghentikan sementara pengembangan AI yang benar-benar dapat diverifikasi,” kata Presiden dan CEO Rand Corporation Jason Matheny selama sidang Senat hari Rabu. Shyam Sankar, CTO firma analitik Palantir yang didirikan Peter Thiel, setuju, mengatakan jeda pengembangan AI di AS dapat membuka jalan bagi China untuk menetapkan standar internasional seputar penggunaan dan pengembangan AI. Jika itu terjadi, Sankar mengatakan dia khawatir pedoman peraturan China baru-baru ini yang melarang model AI menyajikan konten yang mengkritik pemerintah berpotensi menyebar ke negara lain.
“Sampai standar itu menjadi standar dunia sangat bermasalah,” kata Sankar. “AI Demokrat sangat penting.”
‘Kita harus menghabiskan setidaknya 5% dari anggaran kita untuk kemampuan yang akan menakuti musuh kita’
Peringatan dramatis itu datang hanya satu bulan setelah ratusan pakar AI terkemuka mengirim surat terbuka yang dibaca secara luas yang meminta laboratorium AI untuk segera menghentikan pelatihan sistem AI apa pun yang lebih kuat daripada GPT-4 OpenAI yang baru-baru ini dirilis selama enam bulan. Sebelumnya, organisasi hak asasi manusia telah menghabiskan waktu bertahun-tahun mengadvokasi perjanjian yang mengikat atau tindakan lain yang dimaksudkan untuk membatasi pengembangan senjata otonom. Para ahli yang berbicara di depan Komite Angkatan Bersenjata Senat setuju bahwa sangat penting bagi AS untuk menerapkan peraturan pintar yang memandu pengembangan AI, tetapi memperingatkan jeda penuh akan lebih merugikan daripada kebaikan bagi Departemen Pertahanan, yang secara historis berjuang untuk tetap di depan. inovasi AI.
Sankar, yang berbicara kritis tentang pendekatan militer yang relatif berhati-hati dalam mengadopsi teknologi baru, mengatakan kepada anggota parlemen bahwa saat ini lebih mudah bagi perusahaannya untuk membawa alat AI canggih ke raksasa perbankan AIG daripada ke Angkatan Darat atau Angkatan Udara. CTO Palantir membandingkan adopsi yang lamban itu dengan militer Ukraina, yang menurutnya belajar untuk mendapatkan perangkat lunak baru hanya dalam beberapa hari atau minggu untuk melawan pasukan Rusia yang menyerang. CEO Palantir Alex Karp sebelumnya mengatakan perusahaannya menawarkan layanan kepada militer Ukraina.
Tidak mengherankan, Sankar mengatakan dia ingin melihat DoD membelanjakan lebih banyak lagi dari anggaran kolosalnya sebesar $768 miliar untuk solusi teknologi seperti yang ditawarkan oleh Palantir.
“Jika kita ingin secara efektif menghalangi mereka yang mengancam kepentingan AS, kita harus menghabiskan setidaknya 5% dari anggaran kita untuk kemampuan yang akan menakuti musuh kita,” kata Sankar kepada anggota parlemen.
Lainnya, seperti Pendiri dan CEO Shift5 Josh Lospinoso mengatakan militer kehilangan kesempatan untuk menggunakan data yang sudah dibuat oleh armada kapal, tank, perahu, dan pesawatnya. Data itu, kata Lospinoso, dapat digunakan untuk melatih sistem AI baru yang kuat yang dapat memberi militer AS keunggulan dan memperkuat pertahanan keamanan sibernya. Sebaliknya, sebagian besar saat ini “segera menguap dalam eter”.
“Mesin-mesin ini sedang berbicara, tetapi Departemen Pertahanan tidak dapat mendengarnya,” kata Lospinoso, “Sistem senjata Amerika sama sekali belum siap untuk AI.”
Para ahli tidak menyukai AI open source, tetapi mereka terbuka untuk AI China yang ‘meracuni data’
Mempertahankan keunggulan kompetitif militer juga dapat bergantung pada penopang data yang dihasilkan oleh perusahaan teknologi swasta AS. Matheny berbicara kritis tentang perusahaan AI yang terbuka dan menginginkan bahwa pengejaran informasi yang mengalir bebas dengan niat baik dapat secara tidak sengaja berakhir dengan membantu sistem AI militer di negara lain. Demikian pula, alat AI lain yang diyakini “jinak” oleh perusahaan teknologi AS dapat disalahgunakan oleh orang lain. Matheny mengatakan alat AI di atas ambang batas tertentu yang tidak ditentukan mungkin harus diizinkan untuk dijual ke pemerintah asing dan harus memasang beberapa pagar pembatas di istana sebelum dirilis ke publik.
Dalam beberapa kasus, para ahli mengatakan militer AS harus mempertimbangkan untuk melangkah lebih jauh dan terlibat dalam tindakan ofensif untuk membatasi kemampuan militer asing dalam mengembangkan sistem AI yang unggul. Sementara tindakan ofensif itu bisa terlihat seperti pembatasan perdagangan atau sanksi pada peralatan berteknologi tinggi, Lospinoso dan Matheny mengatakan AS juga dapat mempertimbangkan untuk melangkah lebih jauh dengan “meracuni” data musuh. Secara sengaja memanipulasi atau merusak kumpulan data yang digunakan untuk melatih model AI militer, setidaknya di dalamnya, dapat memberi Pentagon lebih banyak waktu untuk membangunnya sendiri.
Ingin tahu lebih banyak tentang AI, chatbots, dan masa depan pembelajaran mesin? Lihat liputan lengkap kami tentang kecerdasan buatan, atau telusuri panduan kami ke Generator Seni AI Gratis Terbaik dan Semua yang Kami Ketahui Tentang ChatGPT OpenAI.