Organisasi hak asasi manusia global terkemuka Amnesty International membela pilihannya untuk menggunakan generator gambar AI untuk menggambarkan protes dan kebrutalan polisi di Kolombia. Amnesty memberi tahu Gizmodo bahwa mereka menggunakan generator AI untuk menggambarkan pelanggaran hak asasi manusia untuk menjaga anonimitas para pengunjuk rasa yang rentan. Namun, para ahli khawatir bahwa penggunaan teknologi dapat merusak kredibilitas kelompok advokasi yang sudah dikepung oleh pemerintah otoriter yang meragukan keaslian rekaman asli.
Peringatan! Microsoft Ingin ChatGPT Mengontrol Robot Selanjutnya
Akun regional Amnesty International Norwegia memposting tiga gambar dalam utas tweet selama akhir pekan mengakui peringatan dua tahun protes besar di Kolombia di mana polisi menganiaya pengunjuk rasa dan melakukan “pelanggaran berat hak asasi manusia,” tulis organisasi itu. Satu gambar menggambarkan kerumunan petugas polisi berbaju baja, yang lain menampilkan seorang petugas dengan bercak merah di wajahnya. Gambar lain menunjukkan seorang pengunjuk rasa diseret dengan kasar oleh polisi. Gambar-gambar tersebut, yang masing-masing menampilkan artefak jelas dari gambar yang dihasilkan AI juga memiliki catatan kecil di sudut kiri bawah yang mengatakan: “Ilustrasi yang dihasilkan oleh kecerdasan buatan.”
Komentator bereaksi negatif terhadap gambar-gambar tersebut, dengan banyak yang mengungkapkan kegelisahan atas penggunaan teknologi oleh Amensty yang paling sering dikaitkan dengan seni eksentrik dan meme untuk menggambarkan pelanggaran hak asasi manusia. Amnesty menolak, memberi tahu Gizmodo bahwa mereka memilih untuk menggunakan AI untuk menggambarkan peristiwa “tanpa membahayakan siapa pun yang hadir”. Amnesty mengklaim telah berkonsultasi dengan organisasi mitra di Kolombia dan akhirnya memutuskan untuk menggunakan teknologi tersebut sebagai alternatif yang menjaga privasi untuk menunjukkan wajah pengunjuk rasa yang sebenarnya.
“Banyak orang yang berpartisipasi dalam Mogok Nasional menutupi wajah mereka karena takut menjadi sasaran represi dan stigmatisasi oleh pasukan keamanan negara,” kata juru bicara Amnesti dalam email. “Mereka yang menunjukkan wajah mereka masih berisiko dan beberapa sedang dikriminalisasi oleh otoritas Kolombia.”
Amnesty melanjutkan dengan mengatakan gambar yang dihasilkan AI adalah pengganti yang diperlukan untuk mengilustrasikan peristiwa tersebut karena banyak kutipan pelanggaran hak yang diduga terjadi di bawah penutup kegelapan setelah pasukan keamanan Kolombia memutus akses listrik. Juru bicara itu mengatakan organisasi menambahkan penafian di bagian bawah gambar yang mencatat bahwa mereka dibuat menggunakan AI dalam upaya untuk menghindari menyesatkan siapa pun.
“Kami yakin jika Amnesty International menggunakan wajah asli dari mereka yang mengambil bagian dalam protes, itu akan menempatkan mereka pada risiko pembalasan,” tambah juru bicara itu.
Kritikus mengatakan pelanggar hak dapat menggunakan gambar AI untuk mendiskreditkan klaim otentik
Pakar hak asasi manusia kritis yang berbicara dengan Gizmodo membalas Amnesti, mengklaim penggunaan AI generatif dapat menjadi preseden yang meresahkan dan semakin merusak kredibilitas pembela hak asasi manusia. Sam Gregory, yang memimpin WITNESS, jaringan hak asasi manusia global yang berfokus pada penggunaan video, mengatakan bahwa citra AI Amnesti lebih banyak merugikan daripada kebaikan.
“Kami telah menghabiskan lima tahun terakhir berbicara dengan 100-an aktivis dan jurnalis dan lainnya secara global yang telah menghadapi delegitimasi gambar dan video mereka dengan klaim bahwa itu palsu,” kata Gregory kepada Gizmodo. Semakin banyak, kata Gregory, para pemimpin otoriter mencoba mengubur potongan rekaman audio atau video yang menggambarkan pelanggaran hak asasi manusia dengan segera mengklaim bahwa rekaman itu dipalsukan.
“Ini memberi tekanan pada jurnalis dan pembela hak asasi manusia untuk ‘membuktikan nyata’,” kata Gregory. “Ini juga dapat terjadi sebelumnya, dengan pemerintah mempersiapkannya sehingga jika rekaman yang membahayakan keluar, mereka dapat mengklaim bahwa mereka mengatakan akan ada ‘rekaman palsu’.”
Gregory mengakui pentingnya menganonimkan individu yang digambarkan dalam media hak asasi manusia, tetapi mengatakan ada banyak cara lain untuk menampilkan pelanggaran secara efektif tanpa menggunakan generator gambar AI atau “memanfaatkan siklus hype media”. Sarjana media dan penulis Roland Meyer setuju dan mengatakan penggunaan AI oleh Amnesty sebenarnya dapat “merendahkan” pekerjaan yang dilakukan oleh reporter dan fotografer yang telah mendokumentasikan pelanggaran di Kolombia.
Sebuah preseden yang berpotensi berbahaya
Amnesty memberi tahu Gizmodo saat ini tidak memiliki kebijakan untuk atau menentang penggunaan gambar yang dihasilkan AI meskipun seorang juru bicara mengatakan para pemimpin organisasi menyadari kemungkinan penyalahgunaan dan mencoba menggunakan teknologi tersebut dengan hemat.
“Kami saat ini hanya menggunakannya untuk kepentingan melindungi pembela hak asasi manusia,” kata juru bicara itu. “Amnesty International menyadari risiko kesalahan informasi jika alat ini digunakan dengan cara yang salah.”
Gregory mengatakan aturan atau kebijakan apa pun yang diterapkan Amnesty sehubungan dengan penggunaan AI dapat terbukti signifikan karena dapat dengan cepat menjadi preseden yang akan diikuti oleh orang lain.
“Penting untuk memikirkan tentang peran organisasi hak asasi manusia global yang besar dalam hal menetapkan standar dan menggunakan alat dengan cara ini yang tidak menimbulkan kerugian tambahan bagi kelompok lokal yang lebih kecil yang menghadapi tekanan yang jauh lebih ekstrem dan menjadi sasaran berulang kali oleh pemerintah mereka. untuk mendiskreditkan mereka, kata Gregory.