Halusinasi (kecerdasan buatan)

Artikel ini bukan mengenai Imajinasi buatan.

Halusinasi kecerdasan buatan (disebut juga halusinasi AI atau fabrikasi AI) adalah respons yang dihasilkan oleh model kecerdasan buatan yang mengandung informasi palsu atau menyesatkan tetapi disajikan sebagai fakta. Halusinasi ini termasuk ketika sebuah bot percakapan yang dihasilkan oleh model bahasa besar (LLM), seperti ChatGPT atau Gemini, dapat mengandung kebohongan acak yang terdengar masuk akal pada respons yang dihasilkan. Bagi pengguna, fenomena ini menimbulkan kekhawatiran atas kebenaran sebuah informasi.

Terminologi

Terminologi "halusinasi" pada kecerdasan buatan mulai dikenal luas selama tren kecerdasan buatan meledak, ditandai dengan peluncuran bot percakapan. Terminologi ini berasal dari terminologi "halusinasi" dalam psikologi manusia yang umumnya melibatkan pengalaman persepsi yang salah. Namun, pada halusinasi dalam kecerdasan buatan justru berkaitan dengan kesalahan-kesalahan pada respons daripada pengalaman dalam persepsi.

Pada Juli 2021, Meta mendefinisikan "halusinasi" sebagai "pernyataan yang seolah-olah meyakinkan, padahal tidak benar". Pada November 2022, ketika OpenAI merilis versi beta ChatGPT, beberapa pengguna mengajukan komplain atas kebohongan-kebohongan acak yang nampak masuk akal pada respons yang dihasilkan oleh bot percakapan. Pada Mei 2023, The New York Times mulai menggunakan terminologi "halusinasi" untuk mendeskripsikan model-model yang biasanya memberikan respons yang salah atau tidak konsisten.

Studi

Studi terhadap tiga juta ulasan pengguna mobile Al, ditemukan fakta bahwasanya ketika pengguna mendapati halusinasi pada mobile Al nya tingkat kepuasan mereka anjlok drastis. Aplikasi yang dilaporkan halusinasi cenderung mendapat rating rendah (1,8/5) sedangkan aplikasi yang tidak ada laporan halusinasi mendapatkan rating cukup tinggi (3,5/5) yang mana menunjukkan bahwa, aplikasi yang terlapor tanpa adanya halusinasi memiliki rating lebih tinggi daripada yang terlapor halusinasi yang mengindikasi frustrasi ekstrem.

Riset empiris skala besar dalam studi yang menganalisis tiga juta ulasan pengguna dari 90 aplikasi mobile berbasis AI mengidentifikasi tiga bahaya utama halusinasi AI: pertama, ketidakakuratan faktual yang dapat menyesatkan pengambilan keputusan dan tindakan pengguna; kedua, keluaran yang tidak masuk akal atau tidak relevan yang mengganggu pengalaman pengguna secara serius; dan ketiga, informasi yang difabrikasi atau dikarang dapat mengurangi kepercayaan terhadap teknologi AI itu sendiri. Studi ini juga mengkategorikan tujuh jenis halusinasi AI berbasis data pengguna dalam tingkatan: Ketidakakuratan Faktual (H1) sebagai jenis paling sering dilaporkan dengan proporsi 38%, diikuti Keluaran Tidak Masuk Akal/Tidak Relevan (H3) sebesar 25%, Informasi Fabrikasi (H2) sebesar 15%, Inkonsistensi Logis (H4), Deviasi Persona (H5), Fabrikasi Visual untuk AI generatif (H6), dan Keluaran Repetitif (H7).

Sistem RAG

Terdapat beberapa cara untuk mengurangi halusinasi AI, salah satu diantaranya adalah dengan menambahkan beberapa sumber pengetahuan eksternal sebagai langkah tambahan bersama dengan output model. Proses ini dikenal dengan sistem RAG. Temuan ini menunjukkan bahwa sistem RAG, terutama ketika didukung oleh agen AI, mampu mengoptimalkan pencarian secara mandiri dan menghasilkan respons yang adaptif, memiliki potensi besar untuk menyediakan informasi yang handal, relevan, dan tepat.

Penyebab

Halusinasi atau kesalahan respons yang dibuat oleh kecerdasan buatan dapat disebabkan oleh beberapa faktor yang berkaitan dengan data latih, di antaranya data yang digunakan untuk melatih model tidak memadai, bias, atau ada kesalahan prediksi yang dibuat oleh model. Sebab akurasi model kecerdasan buatan bergantung pada kelengkapan dan kualitas data latih ketika mempelajari sebuah pola. Apabila data latih gagal mempelajari pola dengan tepat, maka respons yang dihasilkan oleh model menjadi tidak akurat atau halusinasi. Selain itu, rujukan yang tidak memadai bagi model untuk memahami pengetahuan di dunia nyata dapat menyebabkan model menghasilkan respons yang seolah masuk akal, padahal sebetulnya mengandung informasi yang tidak faktual (fiktif), tidak relevan, atau tidak koheren.

Dampak

Halusinasi pada kecerdasan buatan merupakan fenomena yang dapat menimbulkan berbagai dampak negatif, baik pada individu maupun dunia profesional. Ketika model bahasa besar (Large Language Models) menghasilkan informasi yang tidak akurat tetapi terdengar meyakinkan, hal ini dapat memperkuat penyebaran misinformasi di ruang digital. Situasi ini bukan hanya menyesatkan pengguna, tetapi juga berpotensi merusak kepercayaan publik terhadap teknologi AI secara keseluruhan. Dalam dunia akademik, halusinasi AI sering muncul dalam bentuk kutipan atau referensi yang dibuat-buat serta kesalahan interpretasi terhadap data penelitian, yang akhirnya dapat menurunkan kualitas dan kredibilitas karya ilmiah. Di sisi lain, di bidang medis, kesalahan informasi yang dihasilkan AI dapat berdampak jauh lebih serius, seperti memunculkan risiko kesalahan diagnosis atau rekomendasi klinis yang tidak sesuai. Lebih jauh lagi, ketergantungan berlebihan terhadap sistem AI yang sering berhalusinasi dapat memengaruhi kemampuan berpikir kritis dan pengambilan keputusan mandiri pengguna. Kondisi ini juga menimbulkan trust issue, rasa cemas, stres, serta menurunkan kepercayaan diri terhadap kemampuan sendiri.

Menurunnya kepercayaan publik terhadap teknologi AI turut memicu kecemasan digital, sebab kemajuan AI membuat penyebaran informasi palsu semakin mudah dan meningkatkan potensi penipuan, serta menimbulkan ancaman sosial-ekonomi. Akibatnya, pengguna semakin khawatir akan kebenaran informasi dan kesulitan membedakan antara informasi yang valid dan palsu yang dihasilkan oleh AI. Selain itu, identitas diri dalam komunikasi digital yang sebelumnya dibentuk oleh pilihan pribadi kini turut dipengaruhi oleh algoritma AI yang mampu memberi saran respons dan menghasilkan konten personal. AI memang dapat membantu individu menampilkan versi terbaik dirinya, tetapi hal ini juga menimbulkan ketidakaslian identitas digital. Ketika AI mulai mengatur cara seseorang berinteraksi dan menampilkan diri, keaslian identitas menjadi kabur, dan individu merasa tertekan mempertahankan citra buatan AI.

Kemampuan AI dalam menciptakan konten yang sangat realistis turut menimbulkan kecemasan akibat ketidakpastian dan ketidakpercayaan terhadap informasi yang dihadapi individu. Paparan terhadap halusinasi AI yang menghasilkan informasi ambigu membuat individu harus terus memverifikasi keaslian data, sehingga memicu kelelahan mental, penurunan kepercayaan, dan menurunnya kesejahteraan psikologis. Selain itu, bias dalam kecerdasan buatan menjadi faktor signifikan yang memicu kecemasan terhadap AI. Ketimpangan dalam pengambilan keputusan, seperti pada proses perekrutan, pemberian pinjaman, dan kepolisian prediktif, menyebabkan individu dari kelompok terpinggirkan merasa diperlakukan tidak adil dan kehilangan kepercayaan. Dari sisi psikologis, diskriminasi yang dihasilkan algoritma dapat menimbulkan perasaan tidak berdaya, frustrasi, penurunan harga diri, serta memperburuk stres dan kecemasan, terutama bagi mereka yang rentan akibat ketidaksetaraan sistemik.

Solusi

Beberapa solusi yang telah dikembangkan, yaitu pengawasan manusia untuk memverifikasi hasil AI guna memastikan keakuratan informasi sebelum disebarkan secara luas, pentingnya pelatihan model dengan data yang lebih akurat dan beragam untuk mengurangi bias dan meningkatkan kemampuan model dalam memahami konteks, serta pemantauan berkala terhadap performa model supaya sistem dapat terus dievaluasi dan disesuaikan dengan kebutuhan pengguna dan perkembangan teknologi. Selain itu, penggunaan algoritma filter dan sistem verifikasi otomatis dapat membantu mendeteksi serta meminimalkan keluaran yang salah sebelum disampaikan kepada penggunanya.