Hampir tujuh bulan telah berlalu sejak Meta setuju untuk menyelesaikan gugatan Departemen Kehakiman yang menuduh perusahaan mengizinkan diskriminasi secara ilegal terhadap penggunanya berdasarkan ras dan karakteristik lain dalam sistem periklanan perumahannya. Sekarang perusahaan mengatakan akhirnya siap untuk merilis teknologi pembelajaran mesin baru yang diklaim akan mendistribusikan iklan dengan cara yang lebih adil dan mengurangi diskriminasi algoritmik. Teknologi baru, yang oleh Meta disebut sebagai Variance Reduction System (VRS), akan dimulai dengan iklan perumahan, tetapi diperkirakan akan berkembang dan berlaku untuk iklan ketenagakerjaan dan kredit AS pada akhir tahun 2023.
Meta mengatakan VRS akan memastikan audiens di platformnya melihat iklan yang ditargetkan lebih dekat ke audiens target yang memenuhi syarat untuk iklan tersebut. VRS menggunakan metode pengukuran yang disebut Bayesian Improved Surname Geocoding untuk mengukur agregat usia, jenis kelamin, dan perkiraan distribusi ras atau etnis dari pengguna yang telah melihat iklan tersebut. Semua info demografis agregat tersebut, yang diinformasikan oleh statistik Sensus AS, kemudian dibandingkan dengan distribusi demografis audiens target yang dipilih oleh pengiklan. Perubahan tersebut, menurut DOJ, seharusnya, “secara substansial mengurangi perbedaan antara penonton yang memenuhi syarat dan yang sebenarnya berdasarkan jenis kelamin dan perkiraan ras/etnis dalam pengiriman iklan perumahan.”
“Perkembangan ini menandai langkah penting dalam upaya Departemen Kehakiman untuk meminta pertanggungjawaban Meta atas bias algoritmik yang melanggar hukum dan pengiriman iklan yang diskriminatif pada platformnya,” Asisten Jaksa Agung Divisi Hak Sipil DOJ Kristen Clarke mengatakan dalam sebuah pernyataan. “Departemen Kehakiman akan terus meminta pertanggungjawaban Meta dengan memastikan Sistem Pengurangan Varian menangani dan menghilangkan pengiriman iklan yang diskriminatif di platformnya.”
Dalam gugatannya, DOJ mengklaim Meta melanggar Undang-Undang Perumahan Adil dengan mendorong pengiklan untuk menargetkan penerima iklan berdasarkan karakter seperti ras, agama, dan jenis kelamin. Keluhan tersebut menuduh alat periklanan “Special Ad Audience” Meta sebelumnya menimbulkan bias saat menayangkan iklan. Selain itu, DOJ mengatakan sistem Meta memasukkan data karakteristik yang dilindungi FHA ke dalam sistem pengirimannya dan menggunakan data tersebut untuk memprediksi iklan perumahan mana yang paling relevan bagi pengguna.
Meta akhirnya membayar denda sipil sebesar $115.054 sebagai bagian dari penyelesaian dan setuju untuk menghentikan penggunaan alat Audiens Iklan Khusus. Perusahaan juga setuju untuk mengganti alat tersebut dengan sistem baru yang akhirnya menjadi VRS, meski perusahaan tidak pernah mengakui kesalahan. Guidehouse, review pihak ketiga, sekarang akan menyelidiki Meta secara berkelanjutan untuk memastikan VRS memenuhi metrik kepatuhan.
G/O Media dapat memperoleh komisi
Pre-order diskon $50
Cincin Mobil Cam
Ini kamera. Untuk mobil Anda.
Kamera HD dual-facing Ring Car Cam menangkap aktivitas di dalam dan sekitar mobil Anda dalam detail HD.
“Di seluruh industri, pendekatan keadilan algoritmik masih berkembang, terutama yang berkaitan dengan periklanan digital,” kata Meta dalam postingan blog. Namun kami tahu bahwa kami tidak dapat menunggu konsensus untuk membuat kemajuan dalam mengatasi masalah penting tentang potensi diskriminasi—terutama jika menyangkut iklan perumahan, pekerjaan, dan kredit, di mana efek abadi dari perlakuan tidak setara secara historis masih memiliki kecenderungan untuk membentuk peluang ekonomi. .”
DOJ, di sisi lain, mengatakan penyelesaian Meta dan pengembangan alternatif VRS selanjutnya harus berfungsi sebagai tanda peringatan bagi perusahaan teknologi lain dengan algoritme mereka yang meragukan.
“Pemantauan federal Meta harus mengirimkan sinyal kuat ke perusahaan teknologi lain bahwa mereka juga akan dimintai pertanggungjawaban karena gagal mengatasi diskriminasi algoritmik yang bertentangan dengan undang-undang hak sipil kami,” kata Clarke.