Microsoft menyarankan pengguna alat AI, waspadai potensi AI untuk memberikan jawaban yang salah, dan untuk mengedit di sekitar mereka.
Selama presentasi online yang menguraikan fitur Copilot, teknologi obrolan bertenaga AI baru Microsoft untuk aplikasi kantor seperti PowerPoint, tim, dan Outlook, perusahaan membahas masalah AI sebelumnya dalam memberikan jawaban yang salah. Misalnya, pada bulan Februari ketika Microsoft memulai debutnya sebuah demo alat obrolan Bing -nya yang dibuat menggunakan OpenAi, ada beberapa contoh di mana ia ditemukan memberikan jawaban yang salah.
Seperti yang dilaporkan oleh CNBC, para peneliti sudah mulai menyebut fenomena ini terlihat dengan AI sebagai "halusinasi." Ini tentu saja cara yang menarik untuk menggambarkannya. Namun, Microsoft baru -baru ini melangkah lebih jauh, dalam menggambarkan jawaban yang salah ini sebagai "salah berguna." Microsoft juga menunjukkan bahwa, selama orang -orang menyadari potensi kopilot untuk memberikan tanggapan yang tidak akurat, mereka dapat mengedit di sekitar mereka dan masih menggunakan alat untuk mengirim email dengan cepat atau menyelesaikan slide presentasi.
“Misalnya, jika seseorang ingin membuat email yang berharap anggota keluarga selamat ulang tahun, kopilot masih dapat membantu bahkan jika itu menyajikan tanggal lahir yang salah. Dalam tampilan Microsoft, hanya fakta bahwa alat yang dihasilkan dari teks menghemat waktu seseorang dan karenanya berguna. Orang hanya perlu lebih berhati -hati dan memastikan teks tidak mengandung kesalahan, "Laporan CNBC menjelaskan.
CNBC juga mengutip bahwa ilmuwan Kepala Microsoft Jaime Teevan sebelumnya meyakinkan bahwa Microsoft memiliki "mitigasi di tempat" ketika Copilot salah, memiliki bias, atau disalahgunakan. "Kami akan membuat kesalahan, tetapi ketika kami melakukannya, kami akan mengatasinya dengan cepat," kata Teevan.
Akan menarik untuk melihat ke depan bagaimana Microsoft bekerja di sekitar AI memiliki potensi untuk memberikan informasi yang tidak akurat, dan membuat kesalahan. Senang mendengar meskipun Microsoft menyadari masalahnya, dan bekerja untuk mengatasinya.
Untuk lebih lanjut tentang usaha Microsoft ke AI pastikan untuk mengejar ketinggalan dengan liputan kami sebelumnya termasukMicrosoft memamerkan 365 Alat Kantor yang Didukung AI-nyapada presentasi AI -nya, dan bagaimanaBing membatasi obrolan AI dengan lima balasanuntuk mencegah percakapan yang panjang dan aneh.
Morgan adalah seorang penulis dari gurun beku Maine yang menikmati musik metal, kpop, horor, dan game indie. Mereka juga seorang fanatik Tetris yang sangat kompetitif dalam permainan seperti Tetris 99 ... dan semua game secara umum. Tetapi kebanyakan tetris. Anda dapat mengikuti Morgan di Twitter@Author_mshaver.
