Pemasaran AI berada di puncaknya, menjanjikan bahwa gelombang baru alat AI generatif ini, yang didukung oleh model bahasa besar, dapat membantu kita melakukan segalanya mulai dari menavigasi kontrak hukum hingga menghemat ratusan tagihan telepon kita. Ketika seorang pemimpin seperti CEO Alphabet Sundar Pichai menyebut AI “lebih mendalam daripada api atau listrik”, sulit untuk tidak tertarik dengan potensinya. Namun sebagai CEO Consumer Reports, saya tahu beberapa objek paling bersinar di pasar tidak selalu sesuai dengan hype-nya. Nafsu rakus akan keuntungan triwulanan terlalu sering menjadi pendorong di balik AI generatif yang mengubah masyarakat saat ini, dan konsumen harus berjuang untuk mendapatkan keuntungan yang adil. Hanya ketika revolusi AI memusatkan transparansi, akurasi, dan keadilan, kita dapat memastikan bahwa itu sesuai dengan potensi sebenarnya bagi kita, konsumen sehari-hari, bukan hanya pemegang saham perusahaan.
Jika AI Mengolah Ulang Gambar Hak Cipta, Apakah Itu Seni? | Teknologi Masa Depan
Pendekatan yang mengutamakan konsumen tidak pernah dijamin. Ketika Consumer Reports didirikan pada tahun 1936, hanya ada sedikit informasi yang tersedia secara publik untuk membantu orang Amerika menilai keamanan dan kinerja produk. Itu adalah era klaim iklan yang tidak terkekang, kemajuan teknologi yang pesat, dan peraturan tambal sulam. Terdengar familiar? Saat ini, produk transformatif kami tidak memiliki sifat fisik seperti pada tahun 1936 — atau bahkan 1996 — tetapi meskipun demikian, ketegasan yang harus mereka uji dan tanggung jawab perusahaan tetap sama.
Kita hanya perlu melihat ke masa lalu untuk memahami masalah apa yang mungkin kita alami dengan revolusi AI yang kita alami. Serangan media sosial dan transformasi digital pasar online membuat banyak janji serupa yang dilakukan revolusi AI saat ini — koneksi instan, peningkatan kecepatan dan akurasi informasi, demokratisasi kekuasaan. Namun alat-alat ini juga melahirkan varian baru manipulasi dan diskriminasi — yang masih kami perjuangkan untuk diatasi sepenuhnya dengan hasil yang beragam.
Masalah mendasarnya bukanlah hal baru, tetapi diperparah oleh AI Selama bertahun-tahun, penipu telah menggunakan internet untuk memanfaatkan konsumen. Sekarang mereka menggunakan AI untuk meniru suara orang tersayang, menipu kakek-nenek untuk “membantu” dengan mengirimkan uang atau memberikan informasi sensitif. Perusahaan sudah menggunakan mesin pencari untuk mengaburkan batas antara jawaban atas pertanyaan kami dan iklan untuk menjual produk kepada kami. Dengan alat pencarian AI generatif, konsumen dapat diadu dengan superkomputer, didukung oleh data pribadi Anda, yang memprioritaskan keuntungan perusahaan, bukan jawaban jujur atau kepentingan terbaik Anda.
Bisa dibilang masalah yang paling berbahaya untuk dicabut adalah data bias yang berpotensi mendukung teknologi inovatif ini. Bahkan sebelum ledakan baru AI generatif, para ahli telah mengungkap bagaimana teknologi algoritmik yang mendukung dunia kita saat ini dapat melakukan diskriminasi. Misalnya, investigasi bersama oleh Consumer Reports dan ProPublica menemukan bahwa beberapa perusahaan asuransi mobil berpotensi menggunakan algoritme yang membebankan premi rata-rata 30% lebih tinggi dalam kode pos dengan sebagian besar penduduk minoritas daripada di lingkungan yang lebih putih dengan biaya kecelakaan serupa. Meskipun AI generatif adalah bidang yang lebih baru, sudah ada contoh yang melanggengkan bias, seperti memberikan nasihat tentang cara menyebarkan antisemitisme secara online. Apa yang akan terjadi jika lebih banyak lagi pasar – dalam kehidupan kita sehari-hari – ditangani oleh teknologi yang tidak transparan yang mempromosikan ketidakadilan sistemik di seluruh masyarakat kita?
Kita harus mengajukan pertanyaan penting: apakah kita menciptakan dunia di mana teknologi ini melayani kita atau di mana kita melayani teknologi ini? Saat kami merangkul manfaat AI, kami harus memastikan bahwa inovasi di ruang ini didorong oleh nilai-nilai yang mengutamakan konsumen.
AI generatif harus transparan – kunci akuntabilitas. Agar advokat dan regulator dapat meninjau potensi bahaya, mereka memerlukan wawasan tentang data yang digunakan untuk menginformasikan AI apa pun, dengan model yang terbuka bagi peneliti pihak ketiga untuk pengujian. Banyak penyedia model bermitra dengan lembaga penelitian untuk mengevaluasi dan menghilangkan risiko – tetapi kami tidak dapat mengandalkan pengaturan mandiri dan pengungkapan sukarela saja ketika keuntungan mendorong kepentingan perusahaan. Untuk konsumen individu, transparansi berarti harus sangat jelas jika seseorang membayar untuk informasi yang kami peroleh dan apakah kami terlibat dengan orang sungguhan atau buatan.
Model AI generatif juga perlu memastikan akurasi berdasarkan desain. Konsumen harus dapat berasumsi bahwa informasi yang mereka peroleh adalah benar dan akurat, bukan kata-kata kosong atau iklan yang disamarkan. Hal ini memerlukan uji tuntas dan pengawasan dari perusahaan, serta proses bagi orang-orang untuk mengoreksi atau membantah informasi yang diberikan AI.
Dan keadilan harus menjadi inti dari AI, dikembangkan dan diterapkan dengan mempertimbangkan kesetaraan. Itu berarti meninjau bias dalam data yang dimasukkan, selama desain, dan sepanjang umur produk, memastikan manfaat teknologi ini dinikmati oleh semua masyarakat.
Pitch AI sangat menjanjikan – dan saya yakin akan potensinya. Namun dengan diluncurkannya kelas teknologi baru ini, muncullah kelas baru tanggung jawab, transparansi, dan akuntabilitas. Perlindungan konsumen patut diperjuangkan, dan bersama-sama, kita dapat memastikan era baru revolusi AI ini dipandu oleh era baru hak-hak konsumen.
Marta Tellado telah menjadi CEO Consumer Reports sejak 2014.
Ingin tahu lebih banyak tentang AI, chatbots, dan masa depan pembelajaran mesin? Lihat liputan lengkap kami tentang kecerdasan buatan, atau telusuri panduan kami ke Generator Seni AI Gratis Terbaik dan Semua yang Kami Ketahui Tentang ChatGPT OpenAI.