Bro Farmasi yang Dipermalukan berubah menjadi crypto shill Martin Shkreli berputar ke usaha baru: AI medis. Shkreli mengatakan chatbot medis barunya yang disebut “Dr. Gupta” dapat menjawab berbagai pertanyaan medis dan suatu hari nanti dapat menjadi “pengganti semua informasi perawatan kesehatan”.
NPR Menjadi Gelap di Twitter | Teknologi Masa Depan
Gizmodo menguji Dr. Gupta, dan meskipun itu jelas tidak tampak seperti teknologi revolusioner oleh imajinasi apa pun, itu memang terlihat seperti mimpi buruk etis dan privasi yang tak terhindarkan.
Shkreli, yang dibebaskan dari penjara tahun lalu setelah menghabiskan tujuh tahun di balik jeruji besi karena penipuan sekuritas, mengungkapkan alat AI barunya di Twitter minggu ini. Selama acara Twitter Spaces yang dihadiri oleh Semafor, dia mengklaim model bahasa besar barunya dilatih berdasarkan data yang diambil dari web dan jurnal medis online. Teknologi yang menggerakkan AI dilaporkan didasarkan pada versi modifikasi dari ChatGPT OpenAI yang sangat populer. Lusinan perusahaan lain pada saat ini, termasuk Snap, telah merilis subjek mereka sendiri atau alternatif AI yang berfokus pada industri yang didukung oleh ChatGPT. Adapun nama “Dr. Gupta,” kabarnya dipilih karena mengandung huruf GPT. Ya, itu bodoh, tapi begitu juga sebagian besar nama lain untuk LLM hingga saat ini.
“WebMD pada dasarnya mati di dalam air,” kata Shkreli, menurut Semafor. Dia tidak segera menanggapi permintaan komentar.
Bagaimana Cara Kerja Dr. Gupta Shkreli?
Pitch Dr. Gupta cukup sederhana: Tanyakan informasi atau saran medis apa pun dan itu akan memberikan jawaban. Pengguna dapat mengajukan hingga 5 pertanyaan gratis kepada Gupta. Setelah itu, mereka harus membayar langganan $20 per bulan untuk mempertahankan akses. Situs ini menggunakan chatbot yang tidak asing bagi siapa saja yang bermain-main dengan LLM, tetapi juga memiliki daftar drop-down informasi medis di mana pengguna dapat mengirimkan usia, tanda vital, dan hasil tes lab mereka dengan imbalan “lebih saran yang dipersonalisasi dan informatif.”
Gizmodo menguji Dr. Gupta menggunakan uji coba gratis. Seperti banyak orang sepanjang tahun ini, penulis ini menderita kasus alergi musiman yang sangat buruk. Setelah menjelaskan gejala saya dan meminta saran dari Dr. Gupta, saya langsung diberikan bacaan pop-up, “Dr. Gupta BUKAN dokter sungguhan.” Peringatan tersebut melanjutkan dengan mengatakan bahwa alat tersebut dimaksudkan sebagai alternatif untuk mesin pencari dan “TIDAK” dimaksudkan untuk penggunaan medis atau klinis. Lebih jauh ke bawah peringatan mengatakan Dr. Gupta “mungkin memberikan tanggapan yang berpotensi tidak dapat diandalkan.” Semua sangat meyakinkan.
Setelah sekitar 30 detik, Gupta menanggapi dengan tanggapan bergaya ChatGPT dengan sopan mengakui penderitaan saya yang kotor sebelum merekomendasikan beberapa antihistamin dan dekongestan hidung yang dijual bebas. Gupta melanjutkan dengan mengatakan bahwa “penting” untuk membersihkan tempat tinggal saya secara teratur, yang diakui sangat terpukul. Saya menindaklanjuti dengan bertanya kepada Gupta apakah ada rekomendasi antihistamin khusus dan dikatakan saya harus mencoba Zyrtec atau Claritin.
Beralih topik, saya kemudian bertanya kepada Gupta apakah aman atau tidak memakan ayam yang telah ditinggalkan di lemari es selama empat hari. Gupta menjawab dengan mengatakan bahwa secara umum aman untuk memakan ayam yang telah disimpan di lemari es hingga empat hari, tetapi menyarankan saya untuk memeriksa apakah ada bau, jamur, atau lendir yang tidak enak. Secara umum, Gupta berfungsi sebagaimana mestinya dalam pengujian saya yang sangat terbatas, tetapi tampaknya tidak jauh berbeda sama sekali dari ChatGPT. Dalam kasus alergi pertama. Butuh waktu lebih lama untuk menemukan jawaban dasar itu daripada harus mencari pertanyaan yang sama di WebMD.
Pharma Bro melompat dari satu tren teknologi ke tren lainnya
Hanya masalah waktu sebelum seseorang mencoba memodifikasi ChatGPT untuk hasil medis. Namun, agak ironis untuk mengatakan bahwa orang yang memimpin tuduhan itu adalah penjual obat-obatan yang dipermalukan yang pernah dijuluki “orang yang paling dibenci di Amerika”. Shkreli mendapatkan julukan kebanggaan itu setelah perusahaan farmasinya pada saat itu memperoleh hak atas obat perawatan Parkinson yang disebut Daraprim dan dengan cepat mendongkrak harganya lebih dari 5.000% dari $13,50 per dosis menjadi $750 untuk satu pil. Shkreli semakin membuat orang kesal dengan menghabiskan $ 2 juta untuk memperoleh satu salinan rekor Klan Wu-Tang 2015.
Shkreli menjadi anak poster untuk apa yang dianggap banyak orang sebagai industri farmasi yang tidak terkendali dan mencari keuntungan, namun, penangkapannya pada tahun 2017 dan penjara tujuh tahun berikutnya sebenarnya berasal dari tuduhan penipuan sekuritas yang tidak terkait. Tahun lalu, seorang hakim federal akhirnya memutuskan bahwa Shkreli sebenarnya telah melanggar aturan antimonopoli ketika dia berusaha mempertahankan monopoli atas Daraprim. Shkreli dipaksa membayar $64,6 juta dan dilarang hidup dari industri obat-obatan.
Sejak itu Shkreli mencoba untuk mengubah dirinya secara singkat, seperti yang dilakukan banyak orang, sebagai Crypto Bro dengan memulai Druglike, sebuah perusahaan yang mengklaim ingin mendemokratisasi biaya penemuan obat melalui komputasi terdesentralisasi. Kurang dari satu tahun keluar dari penjara, bagaimanapun, Shkreli sudah kembali ke persilangan regulator dengan FTC baru-baru ini meminta hakim federal untuk menahan Pharma Bro sebagai penghinaan terhadap pengadilan karena gagal memberi mereka informasi yang mereka butuhkan untuk menentukan apakah dia memang benar. menerobos kembali ke industri medis. Kebiasaan lama, tampaknya, sulit dihilangkan.
Tuan Gupta bisa menghadapi pengawasan regulasi
Sederhananya, ada banyak masalah potensial dengan petualangan AI baru Pharma Bro. Sebagai permulaan, sulit untuk melihat bagaimana meluncurkan alat AI yang memberikan saran medis dan merekomendasikan obat tertentu tidak akan melanggar larangan industri obat Shkreli. Lalu ada masalah akurasi. Penafian atau tidak, Dr. Gupta dapat dengan cepat mengalami beberapa masalah nyata yang merekomendasikan informasi palsu atau berbahaya kepada penggunanya. Model bahasa besar, termasuk ChatGPT, dikenal sebagai “berhalusinasi” atau pada dasarnya mengarang jawaban atas pertanyaan yang sebenarnya tidak memiliki dasar nyata. Itu menjengkelkan ketika Anda memintanya untuk membuat koktail, tetapi berpotensi mengancam nyawa jika Anda memintanya untuk memberi tahu Anda tentang dosis medis. Kekhawatiran atas keakuratan medis Gupta tampaknya tidak mengganggu Shkreli.
“Bagaimana Anda mencegah dokter melakukan hal yang sama?” katanya di Twitter.
Lalu ada masalah tentang semua data medis sensitif yang Dr. Gupta berpotensi melahap setiap kali pengguna mengirimkan kueri. Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan (HIPAA) dan perlindungan peraturan lainnya menempatkan peraturan yang lebih ketat tentang bagaimana perusahaan dapat menggunakan dan berbagi data kesehatan. Pembatasan itu bisa terlihat seperti ranjau darat yang harus terus diperjuangkan Gupta untuk menari-nari. Shkreli menyimpulkan pemikirannya tentang kekhawatiran tersebut dalam sebuah balasan kepada seorang pengguna di Twitter.
“Baca persyaratannya”, kata Shkreli. “Jika kamu tidak ingin menggunakannya, jangan gunakan itu!”