Kesan-kesan Chatbot Bing: Narsis, Merayu dan Manipulatif
Kesan-kesan pertama para pengguna chatbot AI Bing tidak semuanya positif. Ada banyak kejadian negatif yang membuat ambisi Microsoft seperti gol bunuh diri.
Bagaimana tidak? Dilansir The Conversation, Senin (20/2/2023) Microsoft dinilai membuat penggunanya ketar-ketir. Chatbot mereka lebih cenderung mengancam pengguna, alih-alih melakukan percakapan secara berkelanjutan.
Chatbot pencarian berbasis AI tujuan sejatinya adalah memudahkan pengguna. Microsoft sekarang ini menjadi yang terdepan dalam pencarian di chatbot. Ada kolaborasi senilai USD 10 miliar (Rp 151,6 triliun) dengan OpenAI yang mengembangkan ChatGPT yang fenomenal.
Hasil kolaborasi Microsoft dan ChatGPT adalah melahirkan Sydney, chatbot yang dipasang di situs pencarian Bing. Dalam 48 jam, 1 juta pengguna mendaftar untuk akses ke Chatbot ini.
Namun, ada beberapa kejadian yang membuat proyek ambisius Microsoft ini dipandang miring. Bing dilaporkan mengancam membunuh profesor di Australian National University, merayu wartawan New York Times yang sudah menikah dan bertengkar dengan pengguna supaya berpikir ini masih tahun 2022.
Chatbot ini nampaknya merespons dengan apa yang mungkin, bukan apa yang benar. Sebenarnya dia diberi pagar agar tidak mengakses informasi yang ofensif, namun tampaknya pagar itu mudah dilompati. Bahkan, chatbot mengakui namanya Sydney, walaupun itu bertentangan dengan aturan programnya.
Ironisnya, Microsoft belum memberi tanggapan terkait hal itu. Microsoft masih menikmati perhatian, dikarenakan Sydney di 169 negara dinilai cukup baik oleh para penggunanya.
Para pakar kini khawatir chatbot seperti Sydney, jika tidak diperbaiki akan mengakses informasi hoax, teori konspirasi dan misinformasi di internet. Khawatirnya, informasi yang salah diterima chatbot AI sebagai kebenaran.
Teknologi baru seharusnya tidak membahayakan para pengguna. Detikers juga harus kritis ketika mengakses sebuah chatbot, bahwa AI semacam ini pun tidak luput dari kesalahan.
