Lebih dari setahun setelah Meta meminta Dewan Pengawas untuk mempertimbangkan aturan pemeriksaan silang, grup tersebut akhirnya menerbitkan penasehat kebijakan lengkapnya tentang topik tersebut. Dewan menemukan bahwa program, yang membuat proses moderasi konten terpisah untuk pengguna profil tinggi tertentu, memprioritaskan bisnis perusahaan di atas hak penggunanya.
“Dalam ulasan kami, kami menemukan beberapa kekurangan dalam program pemeriksaan silang Meta,” tulis dewan dalam penilaiannya. “Sementara Meta memberi tahu Dewan bahwa pemeriksaan silang bertujuan untuk memajukan komitmen hak asasi manusia Meta, kami menemukan bahwa program tersebut tampaknya lebih terstruktur secara langsung untuk memenuhi kepentingan bisnis.” Khususnya, kritik tersebut menggemakan pelapor Frances Haugen, yang mengungkapkan detail eksplosif tentang pemeriksaan silang tahun lalu, dan mengatakan bahwa Meta “memilih keuntungan daripada keamanan”.
Pemeriksaan silang, atau xcheck, adalah program internal di Facebook dan Instagram yang melindungi selebritas, politisi, dan pengguna terkenal lainnya dari sistem moderasi konten otomatis perusahaan. Meta telah mencirikannya sebagai “tinjauan lapis kedua” untuk menghindari kesalahan menghapus posting. Tetapi pengungkapan yang dibuat oleh Haugen menunjukkan bahwa program tersebut mencakup jutaan akun, dan telah memungkinkan miliaran tampilan pada postingan yang seharusnya dihapus. Dewan Pengawas sendiri menuduh Meta tidak “sepenuhnya terbuka” tentang program tersebut, yang merupakan masalah utama dalam penanganan dewan terhadap penangguhan mantan Presiden Donald Trump.
Pendapat penasehat kebijakan Dewan Pengawas, atau PAO, pada program ini adalah yang paling detail untuk dilihat hingga saat ini pada aturan pemeriksaan silang yang berkembang dari Meta. Dewan menulis panjang lebar tentang dua proses pemeriksaan silang yang terpisah: Tinjauan Sekunder Respons Awal (ERSR), yang dicadangkan untuk pengguna profil tinggi tertentu yang ditentukan oleh Meta, dan Tinjauan Sekunder Umum (GSR), sistem yang lebih baru yang menggunakan algoritme untuk secara otomatis menandai beberapa jenis postingan dari seluruh platformnya untuk peninjauan tambahan. GSR, yang dapat diterapkan pada konten dari pengguna Facebook atau Instagram mana pun, dimulai pada tahun 2021 “sebagai tanggapan atas kritik” terkait pengungkapan Haugen di Facebook Papers.
Namun menurut Dewan Pengawas, kedua sistem pemeriksaan silang tersebut memiliki masalah serius. Keduanya beroperasi dengan “simpanan kasus yang konsisten”, yang memperpanjang jumlah waktu tersisa konten yang berpotensi melanggar aturan. “Meta memberi tahu Dewan, bahwa, rata-rata, dibutuhkan lebih dari lima hari untuk mencapai keputusan tentang konten dari pengguna di daftar pemeriksaan silang,” catat grup tersebut. “Ini berarti, karena pemeriksaan silang, konten yang teridentifikasi melanggar aturan Meta dibiarkan di Facebook dan Instagram saat paling viral dan dapat menyebabkan bahaya.”
Dewan menyoroti kasus seperti itu, merujuk pada insiden tahun 2019 di mana bintang sepak bola Brasil Neymar memposting video yang menunjukkan foto telanjang seorang wanita yang menuduhnya melakukan pelecehan seksual. Karena pemeriksaan silang, postingan tersebut dibiarkan lebih dari satu hari dan menerima lebih dari 56 juta tampilan sebelum akhirnya dihapus. Menurut pendapatnya, dewan mengajukan pertanyaan tentang mengapa atlet tersebut tidak diskors, dan dengan tegas mencatat bahwa insiden tersebut terungkap hanya sebagai akibat dari pengungkapan Haugen.
“Perusahaan akhirnya mengungkapkan bahwa satu-satunya konsekuensi adalah penghapusan konten, dan hukuman normalnya adalah penonaktifan akun … Meta kemudian mengumumkan telah menandatangani kesepakatan ekonomi dengan Neymar baginya untuk ‘streaming game secara eksklusif di Facebook Gaming dan berbagi konten video kepada lebih dari 166 juta penggemar Instagram-nya.'”
Dewan Pengawas juga kritis terhadap faktor “bisnis” lain yang berperan dalam aturan pemeriksaan silang Meta. Misalnya, dikatakan bahwa Meta condong ke arah penegakan konten yang diperiksa silang karena “persepsi penyensoran” dan pengaruhnya terhadap perusahaan. “Dewan menafsirkan ini berarti bahwa, untuk alasan bisnis, menangani ‘persepsi penyensoran’ dapat diprioritaskan daripada tanggung jawab hak asasi manusia lainnya yang relevan untuk moderasi konten,” tulis kelompok tersebut.
Dalam sebuah pernyataan, kepala kebijakan Meta Nick Clegg mengatakan perusahaan telah melakukan perbaikan untuk pemeriksaan silang, termasuk penambahan tinjauan tahunan, tetapi tidak secara langsung menanggapi kritik dewan bahwa program tersebut dirancang untuk melindungi kepentingan bisnis perusahaan. “Kami membangun sistem pemeriksaan silang untuk mencegah potensi penegakan berlebihan (ketika kami mengambil tindakan terhadap konten atau akun yang sebenarnya tidak melanggar kebijakan kami) dan untuk memeriksa ulang kasus di mana mungkin ada risiko kesalahan yang lebih tinggi atau ketika dampak potensial dari kesalahan sangat parah,” tulis Clegg.
Tidak mengherankan, dewan memiliki banyak rekomendasi untuk Meta tentang cara meningkatkan pemeriksaan silang. Dewan mengatakan Meta harus menggunakan “tim khusus yang independen dari pengaruh politik atau ekonomi, termasuk dari tim kebijakan publik Meta,” untuk menentukan akun mana yang mendapat perlindungan pemeriksaan silang. Ini juga menunjukkan bahwa harus ada “sistem teguran transparan” untuk mencabut status pemeriksaan silang dari akun yang menyalahgunakan aturan perusahaan.
Dewan juga merekomendasikan agar Meta memberi tahu semua akun yang merupakan bagian dari pemeriksaan silang, dan “menandai secara publik halaman dan akun entitas yang menerima perlindungan berbasis daftar dalam kategori berikut: semua aktor negara dan kandidat politik, semua mitra bisnis, semua media aktor, dan semua figur publik lainnya dimasukkan karena keuntungan komersial bagi perusahaan.” Meta juga ingin melacak dan melaporkan statistik kunci tentang akurasi pemeriksaan silang, dan mengambil langkah-langkah untuk menghilangkan backlog dalam kasus.
Secara total, Oversight Board menghasilkan 32 rekomendasi terperinci, yang Meta sekarang memiliki waktu 90 hari untuk menanggapinya. Seperti saran kebijakan lainnya dari dewan, perusahaan tidak berkewajiban untuk menerapkan sarannya, meskipun diharapkan untuk menanggapi setiap saran.
Perbarui 12/6 11:17 ET: Menambahkan pernyataan Meta dari Nick Clegg tentang pemeriksaan silang.
Koreksi: Video Neymar ditonton lebih dari 56 juta kali sebelum dihapus, bukan 100 juta.
Semua produk yang direkomendasikan oleh Engadget dipilih oleh tim editorial kami, terlepas dari perusahaan induk kami. Beberapa cerita kami menyertakan tautan afiliasi. Jika Anda membeli sesuatu melalui salah satu tautan ini, kami dapat memperoleh komisi afiliasi. Semua harga adalah benar pada saat penerbitan.