Ilustrasi: Foto Phonlamai (Shutterstock)
Model akses dan pengambilan informasi yang menonjol sebelum mesin telusur menjadi norma – pustakawan dan subjek atau pakar penelusuran memberikan informasi yang relevan – bersifat interaktif, personal, transparan, dan berwibawa. Mesin pencari adalah cara utama kebanyakan orang mengakses informasi saat ini, tetapi memasukkan beberapa kata kunci dan mendapatkan daftar hasil yang diberi peringkat oleh beberapa fungsi yang tidak diketahui tidaklah ideal.
Generasi baru sistem akses informasi berbasis kecerdasan buatan, yang mencakup Bing/ChatGPT Microsoft, Google/Bard, dan Meta/LLaMA, meningkatkan mode input dan output pencarian mesin pencari tradisional. Sistem ini dapat mengambil kalimat lengkap dan bahkan paragraf sebagai masukan dan menghasilkan respons bahasa alami yang dipersonalisasi.
Pada pandangan pertama, ini mungkin tampak seperti yang terbaik dari kedua dunia: jawaban yang sesuai dan disesuaikan dengan keluasan dan kedalaman pengetahuan di internet. Tetapi sebagai seorang peneliti yang mempelajari sistem pencarian dan rekomendasi, saya yakin gambarannya paling beragam.
Sistem AI seperti ChatGPT dan Bard dibangun di atas model bahasa besar. Model bahasa adalah teknik pembelajaran mesin yang menggunakan sejumlah besar teks yang tersedia, seperti artikel Wikipedia dan PubMed, untuk mempelajari pola. Secara sederhana, model-model ini mencari tahu kata apa yang akan muncul selanjutnya, dengan memberikan serangkaian kata atau frasa. Dengan demikian, mereka dapat menghasilkan kalimat, paragraf, dan bahkan halaman yang sesuai dengan kueri dari pengguna. Pada 14 Maret 2023, OpenAI mengumumkan teknologi generasi berikutnya, GPT-4, yang bekerja dengan input teks dan gambar, dan Microsoft mengumumkan bahwa Bing percakapannya didasarkan pada GPT-4.
G/O Media dapat memperoleh komisi
diskon 35%.
TV Samsung Q70A QLED 4K
Hemat banyak dengan obral Samsung ini
Jika Anda siap untuk mengeluarkan uang tunai di TV, sekarang adalah waktu yang tepat untuk melakukannya. Anda bisa mendapatkan TV Samsung Q70A QLED 4K 75 inci dengan diskon $800. Itu menurunkan harga menjadi $1.500 dari $2.300, yang merupakan diskon 35%. Ini banyak TV untuk uang, dan itu juga merupakan salah satu TV 4K terbaik yang dapat Anda beli sekarang, menurut Gizmodo.
’60 Menit’ melihat baik dan buruknya ChatGPT.
Berkat pelatihan tentang kumpulan teks yang besar, penyetelan halus, dan metode berbasis pembelajaran mesin lainnya, jenis teknik pencarian informasi ini bekerja dengan cukup efektif. Sistem berbasis model bahasa yang besar menghasilkan respons yang dipersonalisasi untuk memenuhi permintaan informasi. Orang-orang telah menemukan hasil yang sangat mengesankan sehingga ChatGPT mencapai 100 juta pengguna dalam sepertiga dari waktu yang dibutuhkan TikTok untuk mencapai pencapaian tersebut. Orang-orang telah menggunakannya tidak hanya untuk menemukan jawaban tetapi juga untuk menghasilkan diagnosis, membuat rencana diet, dan membuat rekomendasi investasi.
Opacity ChatGPT dan ‘halusinasi’ AI
Namun, ada banyak kerugian. Pertama, pertimbangkan apa yang menjadi inti dari model bahasa besar – sebuah mekanisme yang menghubungkan kata-kata dan mungkin artinya. Ini menghasilkan keluaran yang sering tampak seperti respons yang cerdas, tetapi sistem model bahasa yang besar diketahui menghasilkan pernyataan yang hampir dibeokan tanpa pemahaman yang sebenarnya. Jadi, meskipun keluaran yang dihasilkan dari sistem semacam itu mungkin tampak cerdas, itu hanyalah cerminan dari pola dasar kata-kata yang ditemukan AI dalam konteks yang sesuai.
Keterbatasan ini membuat sistem model bahasa besar rentan terhadap jawaban yang dibuat-buat atau “berhalusinasi”. Sistemnya juga tidak cukup pintar untuk memahami premis pertanyaan yang salah dan tetap menjawab pertanyaan yang salah. Misalnya, ketika ditanya siapa wajah presiden AS pada uang kertas $100, ChatGPT menjawab Benjamin Franklin tanpa menyadari bahwa Franklin tidak pernah menjadi presiden dan bahwa premis bahwa uang kertas $100 memiliki gambar presiden AS adalah salah.
Masalahnya adalah meskipun sistem ini hanya salah 10% dari waktu, Anda tidak tahu 10% yang mana. Orang juga tidak memiliki kemampuan untuk memvalidasi respons sistem dengan cepat. Itu karena sistem ini kurang transparan – mereka tidak mengungkapkan data apa yang mereka latih, sumber apa yang mereka gunakan untuk memberikan jawaban atau bagaimana tanggapan itu dihasilkan.
Misalnya, Anda dapat meminta ChatGPT untuk menulis laporan teknis dengan kutipan. Tapi seringkali itu membuat kutipan-kutipan ini – “berhalusinasi” judul-judul makalah ilmiah serta penulisnya. Sistem juga tidak memvalidasi keakuratan tanggapan mereka. Ini menyerahkan validasi kepada pengguna, dan pengguna mungkin tidak memiliki motivasi atau keterampilan untuk melakukannya atau bahkan mengenali kebutuhan untuk memeriksa respons AI. ChatGPT tidak tahu kapan pertanyaan tidak masuk akal, karena tidak mengetahui fakta apa pun.
AI mencuri konten – dan lalu lintas
Meskipun kurangnya transparansi dapat membahayakan pengguna, ini juga tidak adil bagi penulis, artis, dan pembuat konten asli yang telah dipelajari oleh sistem, karena sistem tidak mengungkapkan sumbernya atau memberikan atribusi yang memadai. Dalam kebanyakan kasus, pencipta tidak diberi kompensasi atau kredit atau diberi kesempatan untuk memberikan persetujuan mereka.
Ada sudut ekonomi untuk ini juga. Dalam lingkungan mesin pencari biasa, hasilnya ditampilkan dengan tautan ke sumber. Ini tidak hanya memungkinkan pengguna untuk memverifikasi jawaban dan memberikan atribusi ke sumber tersebut, tetapi juga menghasilkan lalu lintas untuk situs tersebut. Banyak dari sumber ini mengandalkan lalu lintas ini untuk pendapatan mereka. Karena sistem model bahasa yang besar menghasilkan jawaban langsung tetapi bukan sumber yang mereka ambil, saya percaya bahwa situs tersebut cenderung melihat aliran pendapatan mereka berkurang.
Model bahasa yang besar dapat menghilangkan pembelajaran dan kebetulan
Akhirnya, cara baru dalam mengakses informasi ini juga dapat melemahkan orang dan menghilangkan kesempatan mereka untuk belajar. Proses pencarian tipikal memungkinkan pengguna menjelajahi berbagai kemungkinan untuk kebutuhan informasi mereka, seringkali memicu mereka untuk menyesuaikan apa yang mereka cari. Itu juga memberi mereka kesempatan untuk mempelajari apa yang ada di luar sana dan bagaimana berbagai informasi terhubung untuk menyelesaikan tugas mereka. Dan itu memungkinkan untuk pertemuan yang tidak disengaja atau kebetulan.
Ini adalah aspek pencarian yang sangat penting, tetapi ketika sebuah sistem memberikan hasil tanpa menunjukkan sumbernya atau memandu pengguna melalui suatu proses, sistem itu merampas kemungkinan-kemungkinan ini.
Model bahasa besar adalah lompatan besar ke depan untuk akses informasi, memberi orang cara untuk melakukan interaksi berbasis bahasa yang alami, menghasilkan respons yang dipersonalisasi, dan menemukan jawaban dan pola yang seringkali sulit untuk dibuat oleh pengguna biasa. Tetapi mereka memiliki keterbatasan yang parah karena cara mereka belajar dan membangun tanggapan. Jawaban mereka mungkin salah, beracun atau bias.
Sementara sistem akses informasi lainnya juga dapat mengalami masalah ini, sistem AI model bahasa besar juga kurang transparan. Lebih buruk lagi, tanggapan bahasa alami mereka dapat membantu memicu rasa kepercayaan dan otoritas palsu yang dapat berbahaya bagi pengguna yang tidak mendapat informasi.
Ingin tahu lebih banyak tentang AI, chatbots, dan masa depan pembelajaran mesin? Lihat liputan lengkap kami tentang kecerdasan buatan, atau telusuri panduan kami ke Generator Seni AI Gratis Terbaik dan Semua yang Kami Ketahui Tentang ChatGPT OpenAI.
Chirag Shah, Profesor Ilmu Informasi, Universitas Washington
Artikel ini diterbitkan ulang dari The Conversation di bawah lisensi Creative Commons. Baca artikel aslinya.