Di mana kesenangan berhenti dan kerusakan sosial dimulai? Perusahaan kecerdasan buatan di belakang pembuat gambar dan teks tampaknya bergulat dengan pertanyaan itu secara waktu nyata, karena produk mereka mendapatkan daya tarik di internet. Secara bersamaan, perusahaan yang sama juga menghadapi beberapa masalah internet yang sangat standar — seperti pengguna yang ingin memanfaatkan penawaran uji coba gratis.
Menjadikan Makalah Facebook Publik
Generator gambar AI populer, Midjourney, menghentikan akses uji coba gratisnya minggu ini, seperti yang pertama kali dilaporkan oleh Washington Post. Pengumuman itu datang dalam posting Discord Selasa pagi dari CEO Midjourney, David Holz mengutip “permintaan luar biasa dan penyalahgunaan percobaan.”
Pengumuman dari CEO Midjourney, David Holz, di Discord perusahaan, menangguhkan uji coba gratis. Tangkapan layar: Gizmodo / Discord
Menurut postingan lanjutan, Holz dan rekannya mencoba mengatasi masalah penyalahgunaan dengan tambalan keamanan. Namun, perubahan yang dicoba tidak cukup untuk memperbaiki masalah. “Kami mencoba mengaktifkan kembali uji coba dengan keamanan baru untuk penyalahgunaan tetapi tampaknya tidak cukup.. kami mematikannya lagi,” CEO memposting Rabu sore. Layanan berbayar perusahaan tetap tersedia dan sementara uji coba gratis tetap dihentikan untuk saat ini, mereka dapat kembali kapan saja.
G/O Media dapat memperoleh komisi
Penjelasan tambahan tentang jeda uji coba gratis. Tangkapan layar: Gizmodo / Perselisihan
Meskipun laporan Washington Post awalnya menyindir bahwa “penyalahgunaan” yang dipermasalahkan terkait dengan serangkaian viral deepfake baru-baru ini, perusahaan menyangkal akun tersebut. “Ada beberapa kesalahpahaman yang cukup besar di [WaPo] artikel,” Holz menulis kepada Gizmodo melalui email. “Kami menghentikan uji coba karena sejumlah besar orang membuat akun sekali pakai untuk mendapatkan gambar gratis… Ini terjadi bersamaan dengan kekurangan GPU sementara. Kedua hal itu bersatu dan menurunkan layanan untuk pengguna berbayar, ”tambahnya.
“Keamanan baru” yang dirujuk dalam postingan Wednesday Discord? Menurut Holz, ini juga tentang mencoba membatasi pengguna untuk masing-masing satu percobaan gratis. “Kami masih mencoba mencari cara untuk mengembalikan uji coba gratis, kami mencoba meminta email aktif tetapi itu tidak cukup, jadi kami kembali ke papan gambar,” katanya kepada Gizmodo.
Berkat ledakan AI generatif baru-baru ini, penggunaan generator gambar untuk membuat deepfake mengalami momen. Umpan media sosial menjadi tersumbat dengan gambar-gambar yang tidak nyata, tetapi cukup meyakinkan, tentang hal-hal seperti Paus Francis AF yang menetes keluar dan mengenakan jaket puffer Balenciaga atau menandatangani kap mobil sport mirip Ferrari.
Berbagai kepalsuan Donald Trump ditangkap di berbagai posisi beredar luas setelah tersiar kabar dakwaan yang diharapkan mantan presiden tersebut.
Di tempat lain, Anda mungkin menemukan gambar seperti Presiden Rusia Vladimir Putin menghadapi pengadilan Den Haag, atau mungkin John F. Kennedy mengarahkan senapan ke luar jendela. Semua gambar ini dibuat menggunakan Midjourney, salah satu AI terpopuler yang tersedia untuk umum.
Namun gambar-gambar itu tidak cukup alasan untuk membatasi atau menutup akses Midjourney, tersirat Holz. Sebaliknya, perusahaan mengklaim larangan uji coba gratis saat ini adalah bentuk perlindungan keuntungan. Itu ingin pengguna beralih dari uji coba gratis ke langganan berbayar, bukan uji coba gratis lainnya.
Holz lebih lanjut menyiratkan bahwa rangkaian terbaru dari gambar politik yang bermasalah adalah produk dari Midjourney v5 — yang hanya tersedia untuk pengguna yang membayar. Saat dibuka, pendaftaran uji coba gratis membatasi pengguna hingga v4 berusia 5 bulan, kata Holz.
Meskipun demikian, CEO masih mengatakan bahwa Midjourney sedang mengerjakan moderasi yang lebih baik. “Saya pikir kami masih mencoba mencari tahu apa kebijakan moderasi yang tepat. Kami menerima umpan balik dari para ahli dan komunitas dan berusaha untuk benar-benar bijaksana. Kami sudah memiliki beberapa sistem baru yang akan segera dikirimkan, ”tulisnya.
Upaya terbatas perusahaan sejauh ini untuk menghentikan munculnya gambar palsu yang menghibur, namun berpotensi berbahaya dan menipu, menunjukkan masalah keruh regulasi AI yang telah kami hadapi. Bagaimana pengembang perangkat lunak AI generatif menyeimbangkan tekanan untuk akses, “kebebasan berbicara”, dan membuat produk yang benar-benar ingin digunakan orang dengan tanggung jawab sosial dan risiko penyalahgunaan yang mencolok? Dan apakah ada agen AS yang akan turun tangan?
Untuk saat ini, jawabannya masih belum jelas, untuk semua orang—termasuk CEO teknologi.
Dibandingkan dengan beberapa rekannya seperti OpenAI’s DALL-E, yang memiliki kebijakan yang melarang pengguna membuat konten seksual atau kekerasan apa pun dan termasuk tokoh politik nyata, standar Midjourney jauh lebih permisif. Namun dibandingkan dengan Difusi Stabil, di mana pengguna dapat mengunduh perangkat lunak sumber terbuka dan secara efektif melakukan apa pun yang mereka suka, Midjourney memiliki lebih banyak pagar pembatas.
Anda tidak dapat, misalnya, menggunakan Midjourney untuk menghasilkan gambar presiden China Xi Jinping, meskipun para pemimpin dunia lainnya tetap adil. Holz menjelaskan keputusan ini dengan postingan Discord tahun lalu. “Satire politik di [China] tidak apa-apa, ”tulis CEO, per Washington Post. “Kemampuan orang-orang di China untuk menggunakan teknologi ini lebih penting daripada kemampuan Anda menghasilkan sindiran,” tambahnya.
Dan perusahaan baru-baru ini menambahkan istilah “ditangkap” ke dalam daftar frasa cepat yang dilarang, menurut The Verge, kemungkinan sebagai tanggapan atas gambar Trump yang disebutkan di atas.
Tapi tetap saja, menavigasi pusat yang luas dan samar tentang apa yang seharusnya dan tidak boleh diizinkan di internet jelas terbukti sulit bagi Holz. Pada hari Rabu, selama sesi Discord langsung, eksekutif mengatakan kepada ribuan penonton bahwa dia mengalami kesulitan untuk fokus pada aturan konten — terutama seputar penggunaan gambar orang sungguhan, menurut WaPo. “Ada argumen untuk menjadi Disney sepenuhnya atau menjadi Wild West sepenuhnya, dan segala sesuatu di tengahnya agak menyakitkan,” kata CEO tersebut. “Kami agak di tengah sekarang, dan aku tidak tahu bagaimana perasaannya tentang itu.”
Moratorium akses Midjourney gratis tidak menyelesaikan masalah. Dan, sekali lagi, CEO mengklaim keputusan untuk menghentikan uji coba gratis sama sekali bukan hasil dari penyebaran deepfake. Tapi mungkin, mungkin, itu bisa memperlambat masalah dengan membatasi jumlah orang yang dapat menghasilkan gambar palsu yang menakutkan dari hampir apa pun yang mereka inginkan. Untuk $10, $30, atau $60 per bulan, siapa pun yang bersedia membayar masih dapat memilih kekacauan konten.
Ingin tahu lebih banyak tentang AI, chatbots, dan masa depan pembelajaran mesin? Lihat liputan lengkap kami tentang kecerdasan buatan, atau telusuri panduan kami ke Generator Seni AI Gratis Terbaik dan Semua yang Kami Ketahui Tentang ChatGPT OpenAI.