WALAUPUN CANGGIH, GENERATIVE AI SEPERTI BARD DAN CHATGPT MASIH SUKA 'BERHALUSINASI’, KENAPA BEGITU?

FROYONION.COM - Kecanggihan sebuah teknologi tidak akan pernah luput dari sebuah kekurangan. Begitupun dengan teknologi generative AI (Artificial Intelligence) seperti Bard dan ChatGPT. Keduanya adalah AI chatbot yang paling sering digunakan banyak orang akhir-akhir ini. 

Beberapa orang mengaku sangat terbantu dengan kehadiran teknologi generative AI seperti Bard dan ChatGPT. Menyusun kalimat baru, mengerjakan tugas sekolah, hingga membuat baris kode pemrograman dapat dilakukan dengan sekejap oleh teknologi AI chatbot ini.

BACA JUGA: DISRUPSI ARTIFICIAL INTELLIGENCE DI INDUSTRI MUSIK, APA MANFAATNYA BAGI MUSISI?

Namun, dibalik kecanggihan yang bisa dinikmati oleh banyak orang, AI chatbot masih menyimpan sisi gelap yang tanpa sadar bisa merugikan manusia sebagai penggunanya. Salah satu sisi gelap yang bisa merugikan penggunanya adalah ‘berhalusinasi’.

HALUSINASI PADA AI CHATBOT

Halusinasi pada teknologi generative AI bukanlah sebuah masalah yang baru. Sejak awal dirancang, masalah ini sudah menjadi tantangan besar bagi para ahli AI hingga saat ini. 

Ketika berhalusinasi, AI chatbot dapat memberikan sebuah pernyataan atau informasi yang sebenarnya tidak sesuai dengan fakta. Layaknya orang yang sedang berhalusinasi, AI chatbot bisa dengan pintar mengarang dan menyusun kata-kata untuk meyakinkan si pengguna, walaupun pernyataan atau informasi yang diberikan sebenarnya keliru.

Misalnya, saat pengguna memasukkan input “Berikan saya rekomendasi buku-buku tentang sejarah Indonesia!” AI chatbot terkadang bisa saja menampilkan judul-judul buku yang sebenarnya tidak pernah ada dan mungkin kurang relevan dengan perintah yang diminta. Hal itu yang membuat AI chatbot masih dianggap memiliki sifat berhalusinasi atau mengada-ngada.

PENYEBAB AI CHATBOT SUKA BERHALUSINASI

Walaupun AI chatbot sering disebut sebagai teknologi dengan mesin yang cerdas, sebuah mesin akan tetap menjadi mesin. Sebuah mesin umumnya akan berperilaku sesuai program yang telah diinstruksikan oleh pembuat, tanpa memikirkan kebenaran hingga perasaan manusia sebagai penggunanya.

Karena kurangnya dataset yang tersedia, AI chatbot masih suka memberikan informasi palsu yang mengada-ngada dan seadanya. Hal itu terjadi karena AI chatbot dilatih untuk menjawab semua pertanyaan dan input yang diberikan oleh pengguna.

AI chatbot biasanya enggan mengakui kalau data yang dimilikinya belum cukup untuk memberikan jawaban kepada perintah yang diminta oleh pengguna, dan biasanya AI chatbot lebih memilih untuk membuat pernyataan dan informasi mengada-ngada dari data yang dikarang olehnya sendiri.

BAHAYA DARI HALUSINASI AI CHATBOT

Halusinasi yang terjadi pada generative AI dalam bentuk chatbot juga membawa sebuah bahaya, terutama untuk penggunanya. Kesesatan informasi yang diberikan oleh AI chatbot bisa berdampak sangat besar.

Melihat dari antusias dari penggunaan AI chatbot yang semakin besar, membuat kesulitan sendiri untuk mengontrol kesesuaian informasi yang diberikan oleh AI chatbot dengan fakta yang ada.

Misalnya, seorang pengguna yang mungkin minim pengetahuan akan dengan mudah percaya dan menelan informasi yang diberikan oleh AI chatbot tanpa mengecek faktanya terlebih dahulu.

Bahaya lain jika seorang pengguna yang tanpa sadar telah tertipu dengan informasi dari AI chatbot, membagikan dan menyebarluaskan informasi tersebut kepada orang lain. Kesesatan informasi akan dengan mudah menyebar secara luas.

CARA MENGATASI KESESATAN OLEH AI CHATBOT

Beberapa perusahaan yang mengembangkan teknologi generative AI seperti Google hingga OpenAI telah menyarankan pengguna untuk memeriksa kembali informasi yang diberikan oleh AI chatbot dengan fakta yang ada.

AI chatbot buatan Google seperti Bard juga selalu menyediakan tombol ‘Google it’ untuk setiap output yang diberikan oleh Bard. Fungsinya agar pengguna dapat mengecek kebenaran fakta yang diberikan oleh AI chatbot melalui sumber lain.

Cara pengguna menggunakan AI chatbot juga harus diperhatikan. Akhir-akhir ini banyak pengguna yang justru memanfaatkan teknologi generative AI dengan cara yang salah.

Misalnya, seorang pengguna yang malas biasanya akan menyerahkan semua tugasnya kepada AI chatbot tanpa melakukan pemeriksaan kembali. Padahal AI chatbot dibuat hanya untuk membantu pekerjaan-pekerjaan ringan, dan sangat disarankan hanya untuk alat mencari ide inspirasi.

Perusahaan pengembang teknologi generative AI seperti Google juga masih terus melakukan pembaruan dan perbaikan kepada teknologi AI chatbot-nya, agar halusinasi yang sering terjadi pada AI chatbot dapat berkurang. Walaupun demikian, risiko dari AI chatbot melakukan halusinasi masih akan tetap ada.

Penggunaan suatu alat dengan bijak juga bisa membantu mengurangi dampak dari kekurangan sebuah teknologi, khususnya pada teknologi generative AI.

Menggunakan suatu alat dengan bijak merupakan pengetahuan dasar yang harus dimiliki oleh semua orang. Karena semua alat memiliki kekurangannya masing-masing, apalagi jika tidak digunakan dengan bijak.

Bila tidak digunakan dengan bijak, alat yang harusnya mempermudah pekerjaan justru bisa menjadi ancaman bagi penggunanya.

Maka, tetap berhati-hatilah menggunakan AI chatbot dan jangan pernah menyerahkan semua pekerjaan kepada mesin yang dari awal tidak dirancang sedemikian. (*/)