China Menetapkan Standar Regulasi Deepfake

Program pengenalan wajah 3D didemonstrasikan selama pameran dan konferensi Biometrics 2004 14 Oktober 2004 di London Foto: an Waldie (Getty Images)

Dalam satu tahun yang ditandai dengan kemajuan mingguan dalam kemampuan AI, otoritas pemerintah dan anggota parlemen di seluruh dunia telah berjuang untuk mengikutinya. Namun, mulai bulan depan, regulator China akan memberlakukan aturan baru yang membatasi salah satu kasus penggunaan AI yang paling menegangkan: deepfake.

Pada 10 Januari, menurut The South China Morning Post, China’s Cyberspace Administration akan menerapkan aturan baru yang dimaksudkan untuk melindungi orang dari penyamaran suara atau gambar mereka secara digital tanpa persetujuan mereka. Regulator menyebut platform dan layanan yang menggunakan teknologi untuk mengedit suara atau gambar seseorang sebagai, “penyedia sintesis mendalam”.

Teknologi sintesis mendalam tersebut dapat mencakup penggunaan algoritme pembelajaran mendalam dan augmented reality untuk menghasilkan teks, audio, gambar, atau video. Kami telah melihat banyak contoh selama bertahun-tahun teknologi ini digunakan untuk menyamar sebagai individu terkenal, mulai dari selebritas dan eksekutif teknologi hingga tokoh politik.

Di bawah pedoman baru, perusahaan dan teknolog yang menggunakan teknologi tersebut harus terlebih dahulu menghubungi dan menerima persetujuan dari individu sebelum mereka mengedit suara atau gambar mereka. Aturan tersebut, yang secara resmi disebut Ketentuan Administratif tentang Sintesis Mendalam untuk Layanan Informasi Internet, datang sebagai tanggapan atas kekhawatiran pemerintah bahwa kemajuan teknologi AI dapat digunakan oleh aktor jahat untuk menjalankan penipuan atau mencemarkan nama baik orang dengan menyamar sebagai identitas mereka. Dalam menyajikan pedoman, regulator juga mengakui bidang-bidang di mana teknologi ini terbukti bermanfaat. Alih-alih memberlakukan larangan grosir, regulator mengatakan akan benar-benar mempromosikan penggunaan hukum teknologi dan, “memberikan perlindungan hukum yang kuat untuk memastikan dan memfasilitasi,” perkembangannya.

Namun, seperti banyak kebijakan teknologi yang diusulkan China, pertimbangan politik tidak dapat dipisahkan. Menurut South China Morning Post, berita yang diposting ulang menggunakan teknologi harus berasal dari daftar outlet berita yang disetujui pemerintah. Demikian pula, aturan mengharuskan semua yang disebut penyedia sintesis mendalam mematuhi hukum setempat dan mempertahankan “arah politik yang benar dan orientasi opini publik yang benar”. Benar di sini tentu ditentukan secara sepihak oleh negara.

G/O Media dapat memperoleh komisi

Diskon 40%.

Samsung 65-inci 4K OLED Smart TV

waktu TV
Smart TV 4K OLED ini dilengkapi dengan Alexa built-in, dapat menjalankan Xbox Game Pass, memiliki gambar yang luar biasa, dan bahkan memiliki Dolby Atmos & Object Tracking Sound juga.

Meskipun negara bagian AS tertentu seperti New Jersey dan Illinois telah memperkenalkan undang-undang privasi lokal yang menangani deepfake, kurangnya undang-undang privasi federal yang berarti membatasi kemampuan regulator untuk menangani teknologi di tingkat nasional. Di sektor swasta, platform utama AS seperti Facebook dan Twitter telah menciptakan sistem baru yang dimaksudkan untuk mendeteksi dan menandai deepfake, meskipun mereka terus-menerus berusaha untuk selangkah lebih maju dari aktor jahat yang terus mencari cara untuk menghindari filter tersebut.

Jika aturan baru China berhasil, itu bisa meletakkan kerangka kebijakan yang dapat dibangun dan diadaptasi oleh negara lain. Ini bukan pertama kalinya China memimpin reformasi teknologi yang ketat. Tahun lalu, China memperkenalkan undang-undang privasi data baru yang secara radikal membatasi cara perusahaan swasta dapat mengumpulkan identitas pribadi seseorang. Aturan tersebut dibuat dari Regulasi Perlindungan Data Umum Eropa dan meningkatkan volumenya menjadi 11. Seperti regulasi deep syntheses atau deepfake yang baru, aturan privasi tahun lalu secara khusus mengharuskan perusahaan untuk mendapatkan persetujuan sebelum mengumpulkan data pribadi. Untuk data sensitif seperti sidik jari seseorang atau detail keuangan, penyedia harus mendapatkan persetujuan lagi.

Kedengarannya bagus, tetapi undang-undang privasi China memiliki satu celah mencolok yang terselip di dalamnya. Meskipun undang-undang tersebut melindungi orang dari perusahaan swasta yang memanfaatkan data mereka, undang-undang tersebut hampir tidak melakukan apa pun untuk mencegah kerugian yang sama dilakukan oleh pemerintah. Demikian pula, dengan deepfake, tidak jelas bagaimana peraturan yang baru diusulkan, misalnya, melarang lembaga milik negara untuk memalsukan atau memanipulasi teks atau audio tertentu untuk memengaruhi narasi seputar peristiwa politik yang kontroversial atau sensitif.