Pengisi suara mengatakan bahwa mereka telah dibanjiri dengan contoh orang yang menggunakan generator suara AI untuk menyalin karya mereka. Ilustrasi: shuttersv (Shutterstock)
Tentu, ada banyak perhatian yang diberikan pada selebriti palsu dan figur publik utama. Namun, dengan munculnya perangkat lunak sintesis suara berbasis AI gratis atau murah, siapa pun yang audionya diunggah ke internet berisiko dipalsukan.
Vice pertama kali melaporkan bahwa pengisi suara dan orang biasa lainnya menjadi sasaran pelecehan online dan serangan doxxing menggunakan suara mereka sendiri. Secara khusus, serangan ini menargetkan orang-orang dengan saluran, podcast, atau streaming YouTube. Beberapa dari upaya doxxing ini juga mengenai pengisi suara, beberapa di antaranya sangat kritis tentang konten yang dihasilkan AI di masa lalu.
Pengisi suara Zane Schacht dan Tom Schalk termasuk di antara beberapa yang menjadi sasaran video di Twitter yang berisi audio palsu yang membagikan alamat rumah mereka saat menggunakan cercaan rasis. Schacht, yang telah melakukan pekerjaan suara untuk properti seperti Kejatuhan 4, memberi tahu Gizmodo bahwa dia dan pengisi suara lainnya menjadi sasaran setelah memposting antipati mereka yang terang-terangan terhadap AI generatif. Schalk, yang telah menjadi pengisi suara di beberapa video game indie dan serial animasi, juga mengatakan orang-orang yang menjadi sasaran tweet jahat telah berbicara blak-blakan tentang AI.
Beberapa dari akun ini dan tweet yang menyinggung telah diblokir dan dihapus dari Twitter, meskipun beberapa dari tweet jahat tersebut tetap online selama beberapa waktu. Gizmodo tidak dapat memverifikasi secara independen apakah tweet atau akun yang melanggar tetap online. Schalk memberi tahu Gizmodo melalui telepon bahwa menurutnya para pengguna “hanya troll yang menjadi troll” yang mencoba melakukan kampanye kotor terhadap aktor yang peduli dengan suara yang dihasilkan AI.
“[The doxxing video] tidak persis terdengar seperti saya, butuh waktu untuk melakukan itu, ”katanya. “Tetapi jika seseorang berhasil meniru suara saya, Anda tahu saya akan mengambil tindakan terhadapnya terutama jika mereka menggunakannya dalam skala komersial yang besar.”
G/O Media dapat memperoleh komisi
Pre-order sekarang
Galaxy Buku 3 Seri
Tersedia 24 Februari
Setiap model laptop baru hadir dengan peningkatan penyimpanan gratis. Versi 1TB masing-masing dihargai sama dengan versi 512GB yang pada dasarnya berarti versi 1TB adalah diskon $200.
Beberapa postingan yang dilaporkan secara eksplisit mengatakan bahwa postingan tersebut dibuat menggunakan teknologi yang tersedia dari ElevenLabs. Perangkat lunak Voice Lab perusahaan memungkinkan pengguna mengkloning suara dan kemudian menghasilkan audio baru berdasarkan prompt teks. Tentu saja, program gratis ini memungkinkan pengguna menghasilkan audio palsu yang dalam dari orang-orang terkemuka seperti Joe Rogan dan Justin Roiland yang mengatakan julukan seksis atau rasis. Setelah pengguna melaporkan contoh pemalsuan mendalam tersebut kepada perusahaan, ElevenLabs mengumumkan bahwa mereka membuat VoiceLab hanya tersedia untuk pengguna versi berbayar dan memperkenalkan lebih banyak verifikasi identitas untuk akun baru.
Schacht memberi tahu Gizmodo melalui email bahwa dia khawatir akan ada masalah besar dengan informasi yang salah setelah teknologi ini menjadi lebih produktif.
“Tetapi bahkan di luar hipotesis hukum, tindakan menggunakan program komputer untuk mengambil, memanipulasi, dan menggunakan suara seseorang terasa sangat keji bagi saya,” tulis pengisi suara itu. “Rasanya seperti sesuatu dari dongeng mimpi buruk.” “Suara manusia adalah hal yang indah.” dia melanjutkan dengan mengatakan.
Dalam pernyataan email, juru bicara ElevenLabs memberi tahu Gizmodo, “Kami mengetahui kasus perangkat lunak teks ke audio yang digunakan untuk membuat konten yang menyinggung atau tidak menyenangkan yang kemudian secara salah dikaitkan dengan teknologi kami. Kami dapat mengidentifikasi semua konten yang dibuat menggunakan perangkat lunak kami dan, dalam penyelidikan, semua kecuali satu klip yang ditandai dibuat menggunakan platform lain.”
Wakil menunjukkan bahwa beberapa korban tweet menerima DM Twitter dari ElevenLabs meminta maaf atas pelecehan tersebut, selanjutnya mengatakan “kami memiliki alamat IP orang itu,” mengacu pada akun peleceh.
Juru bicara lebih lanjut menegaskan kembali perlindungan baru ElevenLabs terhadap pengguna jahat dan “pendekatan tanpa toleransi” untuk penyalahgunaan “teks apa pun ke perangkat lunak audio untuk menyakiti atau melecehkan orang lain.” Mereka menambahkan: “kami memiliki keyakinan bahwa perlindungan yang ada dan yang akan datang akan terus mengatasi hal ini dan memungkinkan sebagian besar orang untuk terus menggunakan alat teks ke audio untuk selamanya.”
Pengisi Suara Seperti Mike Pollock Mengatakan Salinan yang Dihasilkan AI Adalah Masalah yang Berkelanjutan
Tentu saja, ada perusahaan lain yang juga mengizinkan pengguna membuat suara yang dihasilkan AI. Situs seperti UberDuck, FakeYou, dan Storyteller dapat membuat suara palsu berdasarkan klip audio. Aktor suara memberi tahu kami bahwa mereka harus memainkan permainan wack-a-mole yang tidak pernah berakhir untuk menghadapi versi palsu dari suara karakter mereka yang digunakan di media sosial.
Ketika suara khas Anda adalah aspek dari mata pencaharian Anda, pengisi suara dihadapkan pada tugas berat untuk membuat media sosial menghapus versi palsu yang dalam dari suara mereka sendiri. Mike Pollock, pengisi suara aktor yang paling dikenal karena memberikan intonasi megalomaniakal Doctor Eggman untuk franchise Sonic the Hedgehog, menulis bahwa ada banyak contoh pemalsuan mendalam menggunakan suaranya yang diunggah ke YouTube.
Dalam sebuah wawancara telepon, Pollock memberi tahu Gizmodo bahwa dia telah berurusan dengan orang-orang yang mengunggah versi karakternya yang dibuat oleh AI, seperti Doctor Eggman, selama lebih dari setahun. Dia menghubungi UberDuck dan FakeYou agar perusahaan menghapus suaranya dari sistem mereka, tetapi dia masih sering berkomentar di video YouTube yang mereplikasi suaranya, meminta mereka untuk menghapus video tersebut.
Schalk mengatakan dia percaya bahwa serikat aktor suara akan segera perlu terlibat dan mengarahkan percakapan untuk perusahaan besar mana pun yang berpikir bahwa suara buatan AI adalah cara untuk “menggantikan aktor demi menghemat dolar.”
Pollock mengatakan dia telah bergabung dengan pengisi suara lainnya di Vocal Variant, sebuah kelompok perdagangan yang mewakili pengisi suara dan pemain lain yang mencoba melawan suara yang dihasilkan AI dan mempromosikan kontrak kerja yang masih memungkinkan aktor untuk memiliki hak suara mereka. Dia dan pengisi suara lainnya mengatakan hal terbaik berikutnya untuk perdagangan mereka adalah undang-undang yang mengkodifikasi hak mereka atas kemiripan vokal mereka.
“Saya melakukan yang terbaik yang saya bisa,” kata Pollock. “Saya senang mengetahui bahwa jika klien mendengar saya mengatakan sesuatu yang buruk, saya dapat mengatakan bahwa itu bukan saya. Tetap saja, saya tidak punya banyak hal baik untuk dikatakan tentang orang-orang yang menganggap merusak mata pencaharian seseorang itu menyenangkan.