Mahkamah Agung dapat segera mendefinisikan kembali aturan internet seperti yang kita kenal. Minggu ini, pengadilan akan menyidangkan dua kasus, Gonzalez v. Google dan Twitter v. Taamneh, yang memberikan kesempatan untuk mengubah aturan berbicara online secara drastis.
Kedua kasus tersebut membahas bagaimana platform online menangani konten teroris. Dan keduanya telah memicu kekhawatiran mendalam tentang masa depan moderasi konten, algoritme, dan penyensoran.
Bagian 230 dan Gonzalez v. Google
Jika Anda telah menghabiskan waktu mengikuti berbagai perang budaya yang terkait dengan kebebasan berbicara online selama beberapa tahun terakhir, Anda mungkin pernah mendengar Bagian 230. Kadang-kadang disebut sebagai “dua puluh enam kata yang menemukan internet,” Bagian 230 adalah klausul Undang-Undang Kesusilaan Komunikasi yang melindungi platform online dari tanggung jawab atas tindakan penggunanya. Ini juga melindungi kemampuan perusahaan untuk memoderasi apa yang muncul di platform mereka.
Tanpa perlindungan ini, pembela Bagian 230 berpendapat, internet seperti yang kita tahu tidak akan ada. Namun undang-undang tersebut juga mendapat sorotan beberapa tahun terakhir di tengah perhitungan yang lebih besar dengan dampak Big Tech pada masyarakat. Secara umum, mereka yang di kanan mendukung pencabutan Bagian 230 karena mereka mengklaim itu memungkinkan penyensoran, sementara beberapa di kiri mengatakan itu memungkinkan raksasa teknologi untuk menghindari tanggung jawab atas kerugian sosial yang disebabkan oleh platform mereka. Tetapi bahkan di antara mereka yang ingin mengubah atau membongkar Pasal 230, hanya ada sedikit kesepakatan tentang reformasi khusus.
Bagian 230 juga merupakan inti dari Gonzalez v. Google, yang akan disidangkan oleh Mahkamah Agung pada tanggal 21 Februari. Kasus tersebut, yang diajukan oleh anggota keluarga korban serangan teroris Paris 2015, berpendapat bahwa Google melanggar undang-undang anti-terorisme AS ketika video ISIS muncul di rekomendasi YouTube. Perlindungan pasal 230, menurut gugatan itu, seharusnya tidak berlaku karena algoritme YouTube menyarankan video tersebut.
“Pada dasarnya intinya mengatakan bahwa platform tidak bertanggung jawab atas konten yang diposting oleh ISIS, tetapi mereka bertanggung jawab atas algoritme rekomendasi yang mempromosikan konten tersebut,” kata Daphne Keller, yang mengarahkan Program Regulasi Platform di Pusat Kebijakan Cyber Stanford, baru-baru ini. panel yang membahas kasus tersebut.
Itu mungkin tampak seperti perbedaan yang relatif sempit, tetapi algoritme mendukung hampir setiap aspek internet modern. Jadi keputusan Mahkamah Agung dapat berdampak besar tidak hanya pada Google, tetapi pada hampir semua perusahaan yang beroperasi secara online. Jika pengadilan memihak Google, maka “itu bisa berarti bahwa platform online harus mengubah cara mereka beroperasi untuk menghindari tanggung jawab atas konten yang dipromosikan di situs mereka,” Pusat Kebijakan Bipartisan, sebuah wadah pemikir yang berbasis di Washington. , menjelaskan. Beberapa berspekulasi bahwa platform dapat dipaksa untuk menghilangkan peringkat apa pun, atau harus terlibat dalam moderasi konten yang begitu agresif sehingga akan menghilangkan semua kecuali konten yang paling dangkal dan paling tidak kontroversial.
“Menurut saya benar bahwa pendapat ini akan menjadi pendapat Mahkamah Agung yang paling penting tentang internet, mungkin selamanya,” kata profesor hukum Universitas Minnesota Alan Rozenshtein dalam panel yang sama, yang diselenggarakan oleh Brookings Institution.
Itulah mengapa lusinan platform lain, kelompok masyarakat sipil, dan bahkan penulis asli Bagian 230 telah mempertimbangkan, melalui pengarahan “teman pengadilan”, untuk mendukung Google. Singkatnya, Reddit berpendapat bahwa mengikis 230 perlindungan untuk algoritme rekomendasi dapat mengancam keberadaan platform apa pun yang, seperti Reddit, bergantung pada konten buatan pengguna.
“Bagian 230 melindungi Reddit, serta moderator dan pengguna sukarela Reddit, saat mereka mempromosikan dan merekomendasikan, atau menghapus, konten digital yang dibuat oleh orang lain,” kata Reddit dalam pengarsipannya. “Tanpa perlindungan Bagian 230 yang kuat, pengguna Internet — bukan hanya perusahaan — akan menghadapi lebih banyak tuntutan hukum dari penggugat yang mengaku dirugikan oleh keputusan moderasi konten sehari-hari.”
Yelp, yang telah menghabiskan beberapa tahun terakhir mengadvokasi tindakan antimonopoli terhadap Google, berbagi keprihatinan yang sama. “Jika Yelp tidak dapat menganalisis dan merekomendasikan ulasan tanpa menghadapi tanggung jawab, biaya pengiriman ulasan palsu akan hilang,” bantah perusahaan. “Jika Yelp harus menampilkan setiap ulasan yang dikirimkan, tanpa kebebasan editorial yang diberikan Bagian 230 untuk secara algoritme merekomendasikan beberapa ulasan kepada konsumen, pemilik bisnis dapat mengirimkan ratusan ulasan positif untuk bisnis mereka sendiri dengan sedikit usaha atau risiko penalti.”
Meta, di sisi lain, berpendapat bahwa temuan keputusan 230 tidak berlaku untuk algoritme rekomendasi akan menyebabkan platform menekan lebih banyak ucapan “tidak populer”. Menariknya, argumen ini tampaknya berperan dalam kecemasan kelompok kanan tentang penyensoran. “Jika layanan online berisiko bertanggung jawab besar untuk menyebarkan konten pihak ketiga … tetapi tidak untuk menghapus konten pihak ketiga, mereka pasti akan melakukan kesalahan dengan menghapus konten yang mendekati garis kewajiban potensial,” tulis perusahaan itu. “Insentif tersebut akan berdampak sangat besar pada konten yang menantang konsensus atau mengungkapkan sudut pandang yang tidak populer.”
Twitter v.Taamneh
Sehari setelah Mahkamah Agung mendengar argumen di Gonzalez v. Google, itu akan mendengar kasus lain dengan potensi konsekuensi besar untuk cara pidato online dimoderasi: Twitter v. Taamneh. Dan meskipun kasusnya tidak secara langsung berhubungan dengan Pasal 230, kasusnya serupa dengan Gonzalez v. Google dalam beberapa hal penting.
Seperti Gonzalez, kasus tersebut dibawa oleh keluarga korban serangan teroris. Dan, seperti Gonzalez, anggota keluarga korban menggunakan undang-undang anti-terorisme AS untuk meminta pertanggungjawaban Twitter, Google, dan Facebook, dengan alasan bahwa platform tersebut membantu organisasi teroris dengan gagal menghapus konten ISIS dari layanan mereka. Seperti kasus sebelumnya, kekhawatiran dari platform teknologi dan kelompok advokasi adalah keputusan terhadap Twitter akan memiliki konsekuensi besar bagi platform dan penerbit media sosial.
“Ada implikasi pada moderasi konten dan apakah perusahaan dapat bertanggung jawab atas kekerasan, kriminal, atau aktivitas memfitnah yang dipromosikan di situs web mereka,” kata Pusat Kebijakan Bipartisan tentang kasus tersebut. Jika Mahkamah Agung setuju bahwa platform bertanggung jawab, maka “kebijakan moderasi konten yang lebih besar dan pembatasan penerbitan konten perlu diterapkan, atau ini akan mendorong platform untuk tidak menerapkan moderasi konten untuk menghindari kesadaran.”
Dan, seperti yang dicatat oleh Electronic Frontier Foundation dalam pengarsipannya untuk mendukung Twitter, platform “akan dipaksa untuk mengambil langkah-langkah ekstrem dan mengerikan untuk melindungi diri mereka dari potensi tanggung jawab.”
Bahkan mungkin ada konsekuensi potensial bagi perusahaan yang layanannya sebagian besar dioperasikan secara offline. “Jika sebuah perusahaan dapat dimintai pertanggungjawaban atas tindakan organisasi teroris hanya karena memungkinkan anggota organisasi tersebut untuk menggunakan produknya dengan persyaratan yang sama seperti konsumen lainnya, maka implikasinya bisa mencengangkan,” tulis Vox.
Apa berikutnya
Ini akan memakan waktu beberapa bulan lagi sebelum kita mengetahui hasil dari salah satu dari kasus ini, meskipun analis akan mengamati prosesnya dengan cermat untuk mendapatkan petunjuk ke mana arah para hakim. Perlu juga dicatat bahwa ini bukan satu-satunya kasus penting terkait media sosial dan pidato online.
Ada dua kasus lain, terkait dengan undang-undang media sosial yang membatasi dari Florida dan Texas, yang mungkin juga akan berakhir di Mahkamah Agung. Keduanya juga dapat memiliki konsekuensi yang signifikan untuk moderasi konten online.
Sementara itu, banyak advokat berpendapat bahwa reformasi Bagian 230 sebaiknya diserahkan kepada Kongres, bukan pengadilan. Seperti yang baru-baru ini ditulis Jeff Kosseff, seorang profesor hukum di Akademi Angkatan Laut AS yang secara harfiah menulis buku tentang Bagian 230, kasus seperti Gonzalez “menantang kita untuk melakukan percakapan nasional tentang pertanyaan sulit yang melibatkan kebebasan berbicara, moderasi konten, dan bahaya online.” Namun, menurutnya, keputusan harus sampai ke cabang pemerintahan di mana undang-undang itu berasal.
“Mungkin Kongres akan menentukan bahwa terlalu banyak kerugian telah berkembang biak berdasarkan Bagian 230, dan mengubah undang-undang untuk meningkatkan tanggung jawab atas konten yang dipromosikan secara algoritme. Proposal semacam itu akan menghadapi biaya dan keuntungannya sendiri, tetapi itu adalah keputusan Kongres, bukan pengadilan.
Semua produk yang direkomendasikan oleh Engadget dipilih oleh tim editorial kami, terlepas dari perusahaan induk kami. Beberapa cerita kami menyertakan tautan afiliasi. Jika Anda membeli sesuatu melalui salah satu tautan ini, kami dapat memperoleh komisi afiliasi. Semua harga adalah benar pada saat penerbitan.