Microsoft saat ini sedang dalam proses menyematkan kecerdasan buatan penghasil teks ke dalam setiap produk yang dapat dilakukannya. Dan mulai bulan ini, perusahaan akan melanjutkan amukan AI-nya tanpa tim yang didedikasikan untuk memastikan fitur-fitur AI tersebut secara internal memenuhi standar etika Microsoft, menurut laporan Senin malam dari Platformer.
Microsoft telah memberhentikan seluruh tim Etika dan Masyarakat dalam sektor AI perusahaan, sebagai bagian dari PHK yang sedang berlangsung yang akan berdampak pada total 10.000 karyawan, per Platformer. Perusahaan mempertahankan AI Kantor yang Bertanggung Jawab, yang menciptakan prinsip-prinsip Microsoft yang luas untuk mengatur pengambilan keputusan AI perusahaan. Tapi satuan tugas etika dan masyarakat, yang menjembatani kesenjangan antara kebijakan dan produk, dilaporkan tidak ada lagi.
Gizmodo menghubungi Microsoft untuk mengonfirmasi berita tersebut. Sebagai tanggapan, juru bicara perusahaan mengirimkan pernyataan berikut:
Microsoft tetap berkomitmen untuk mengembangkan dan merancang produk dan pengalaman AI dengan aman dan bertanggung jawab. Karena teknologi telah berkembang dan diperkuat, begitu pula investasi kami, yang terkadang berarti menyesuaikan struktur tim agar lebih efektif. Misalnya, selama enam tahun terakhir kami telah meningkatkan jumlah orang dalam tim produk kami yang berdedikasi untuk memastikan bahwa kami mematuhi prinsip AI kami. Kami juga telah meningkatkan skala dan cakupan AI Kantor yang Bertanggung Jawab, yang memberikan dukungan lintas perusahaan untuk hal-hal seperti meninjau kasus penggunaan yang sensitif dan mengadvokasi kebijakan yang melindungi pelanggan.
Kepada Platformer, perusahaan dilaporkan sebelumnya membagikan versi yang sedikit berbeda dari pernyataan yang sama:
Microsoft berkomitmen untuk mengembangkan produk dan pengalaman AI dengan aman dan bertanggung jawab… Selama enam tahun terakhir kami telah meningkatkan jumlah orang di seluruh tim produk kami di dalam Kantor AI yang Bertanggung Jawab yang, bersama kami semua di Microsoft, bertanggung jawab atas memastikan kami menerapkan prinsip-prinsip AI kami…Kami menghargai pekerjaan luar biasa yang dilakukan oleh tim etika dan masyarakat untuk membantu kami dalam perjalanan AI kami yang bertanggung jawab.
G/O Media dapat memperoleh komisi
Perhatikan bahwa, dalam versi yang lebih lama ini, Microsoft secara tidak sengaja mengonfirmasi bahwa tim etika dan masyarakat tidak ada lagi. Perusahaan juga sebelumnya menetapkan peningkatan staf di Kantor AI yang Bertanggung Jawab vs orang yang umumnya “berdedikasi untuk memastikan kami mematuhi prinsip AI kami”.
Namun, terlepas dari jaminan Microsoft, mantan karyawan mengatakan kepada Platformer bahwa tim Etika dan Masyarakat memainkan peran kunci dalam menerjemahkan gagasan besar dari kantor tanggung jawab menjadi perubahan yang dapat ditindaklanjuti di tingkat pengembangan produk.
Dari outlet:
“Orang-orang akan melihat prinsip-prinsip yang keluar dari kantor AI yang bertanggung jawab dan berkata, ‘Saya tidak tahu bagaimana penerapannya,’” kata seorang mantan karyawan. “Tugas kami adalah menunjukkan kepada mereka dan membuat aturan di area yang sebelumnya tidak ada.”
Pada saat eliminasi tim AI Etika dan Masyarakat, dilaporkan hanya terdiri dari tujuh karyawan. Namun, sebelumnya jauh lebih kuat. Yang terbesar, kelompok itu terdiri dari 30 pekerja dari berbagai disiplin ilmu (termasuk filsuf). Pada Oktober 2022, tim dipangkas menjadi tujuh sebagai bagian dari reorganisasi. Di reorg itu, sebagian besar karyawan tidak di-PHK, melainkan dipindahkan ke tempat lain.
VP AI perusahaan memberi tahu etika yang tersisa dan pekerja masyarakat bahwa tim mereka tidak “pergi”, melainkan “berkembang”, per Platformer. Namun, hanya sekitar lima bulan kemudian, tim itu pergi. Karyawan dilaporkan diberitahu dalam rapat Zoom pada 6 Maret.
Ini adalah pilihan perusahaan yang memprihatinkan mengingat Microsoft (bersama dengan Google dan hampir setiap perusahaan teknologi lainnya di bawah matahari) sedang mendorong untuk memperluas teknologi kecerdasan buatannya dengan cepat dan menambahkannya ke setiap sektor produk yang dapat dilakukannya. Bulan lalu, perusahaan mengumumkan akan menjejalkan Bing AI-nya ke dalam pengolah kata, dan bahkan mungkin email Outlook.
Sementara itu, karena terburu-buru membawa generator teks AI yang ditenagai ChatGPT ke pasar pencarian, Microsoft telah membuat beberapa kesalahan yang mengkhawatirkan. Demo pertama chatbot perusahaan penuh dengan kesalahan finansial dan saran yang salah (Google juga kacau). Kemudian, ada “kepribadian” yang meresahkan dari alter-ego Bing Sydney, yang harus dihapus oleh perusahaan setelah membuat pengguna ketakutan.
Memang, ketika tim Etika dan Masyarakat masih ada, para eksekutif Microsoft mungkin tidak terlalu mendengarkan kekhawatiran mereka. Tentu, perusahaan akhirnya mundur dari teknologi pengenalan emosi bertenaga AI. Tetapi mantan karyawan mengatakan kepada Platformer bahwa Microsoft sebagian mengabaikan memo yang mengungkapkan kekhawatiran tentang Pencipta Gambar Bing perusahaan (belum tersedia di AS), dan cara itu akan mencuri dari dan merugikan artis.
Tim Etika dan Masyarakat dilaporkan menawarkan daftar strategi mitigasi, termasuk bahwa pembuat gambar dapat memblokir pengguna untuk memasukkan nama artis yang masih hidup sebagai permintaan, atau membuat pasar untuk mendukung artis yang karyanya muncul di penelusuran. Tak satu pun dari saran ini dimasukkan ke dalam alat AI, kata sumber kepada Platformer. Namun, kekhawatiran yang disoroti oleh Ethics and Society pasti muncul, karena beberapa tuntutan hukum AS terhadap perusahaan lain yang menjajakan pembuatan citra AI telah muncul dalam beberapa bulan terakhir.
Perbarui 14/3/2023, 13:21 ET: Posting ini telah diperbarui dengan pernyataan dari Microsoft.