Halusinasi (kecerdasan buatan): Perbedaan antara revisi
Impor teks terkontrol dari Wikipedia bahasa Indonesia; revisi 28803307; atribusi sumber disertakan. |
Presentation V4: sitasi, referensi, Math, Wikimedia Commons, dan atribusi |
||
| Baris 1: | Baris 1: | ||
'''Halusinasi kecerdasan buatan''' (disebut juga '''halusinasi AI''' atau '''fabrikasi AI''') adalah respons yang dihasilkan oleh model kecerdasan buatan yang mengandung informasi palsu atau menyesatkan tetapi disajikan sebagai fakta. Halusinasi ini termasuk ketika sebuah [[bot percakapan]] yang dihasilkan oleh [[model bahasa besar]] (LLM), seperti [[ChatGPT]] atau [[Gemini (bot percakapan)|Gemini]], dapat mengandung kebohongan acak yang terdengar masuk akal pada respons yang dihasilkan. Bagi pengguna, fenomena ini menimbulkan kekhawatiran atas kebenaran sebuah informasi. | '''Halusinasi kecerdasan buatan''' (disebut juga '''halusinasi AI''' atau '''fabrikasi AI'''<ref name=":0">Yujie Sun. [https://www.nature.com/articles/s41599-024-03811-x AI hallucination: towards a comprehensive classification of distorted information in artificial intelligence-generated content]. ''Humanities and Social Sciences Communications''. 2024-09-27. Vol. 11 (1). hlm. 1–14. doi:10.1057/s41599-024-03811-x.</ref>) adalah respons yang dihasilkan oleh model kecerdasan buatan yang mengandung informasi palsu atau menyesatkan tetapi disajikan sebagai fakta.<ref>Jeff Christensen. [https://www.tandfonline.com/doi/full/10.1080/13683500.2023.2300032 Understanding the role and impact of Generative Artificial Intelligence (AI) hallucination within consumers’ tourism decision-making processes]. ''Current Issues in Tourism''. 2024-01-17. hlm. 1–16. doi:10.1080/13683500.2023.2300032.</ref><ref>Ahmad M. Ramli. [https://tekno.kompas.com/read/2023/11/29/10385297/halusinasi-ai-dan-pentingnya-regulasi?page=all Halusinasi AI dan Pentingnya Regulasi]. ''Kompas.com''. 29 November 2023.</ref> Halusinasi ini termasuk ketika sebuah [[bot percakapan]] yang dihasilkan oleh [[model bahasa besar]] (LLM), seperti [[ChatGPT]] atau [[Gemini (bot percakapan)|Gemini]], dapat mengandung kebohongan acak yang terdengar masuk akal pada respons yang dihasilkan. Bagi pengguna, fenomena ini menimbulkan kekhawatiran atas kebenaran sebuah informasi.<ref name=":0" /> | ||
== Terminologi == | == Terminologi == | ||
Terminologi "halusinasi" pada kecerdasan buatan mulai dikenal luas selama tren kecerdasan buatan meledak, ditandai dengan peluncuran bot percakapan. Terminologi ini berasal dari terminologi "halusinasi" dalam psikologi manusia yang umumnya melibatkan pengalaman [[persepsi]] yang salah. Namun, pada halusinasi dalam kecerdasan buatan justru berkaitan dengan kesalahan-kesalahan pada respons daripada pengalaman dalam persepsi. | Terminologi "halusinasi" pada kecerdasan buatan mulai dikenal luas selama tren kecerdasan buatan meledak, ditandai dengan peluncuran bot percakapan. Terminologi ini berasal dari terminologi "halusinasi" dalam psikologi manusia yang umumnya melibatkan pengalaman [[persepsi]] yang salah. Namun, pada halusinasi dalam kecerdasan buatan justru berkaitan dengan kesalahan-kesalahan pada respons daripada pengalaman dalam persepsi.<ref name=":1">Ziwei Ji. [https://dl.acm.org/doi/abs/10.1145/3571730 Survey of Hallucination in Natural Language Generation]. ''ACM Comput. Surv''. 2023-03-03. Vol. 55 (12). hlm. 248:1–248:38. doi:10.1145/3571730.</ref> | ||
Pada Juli 2021, [[Meta Platforms|Meta]] mendefinisikan "halusinasi" sebagai "pernyataan yang seolah-olah meyakinkan, padahal tidak benar". Pada November 2022, ketika [[OpenAI]] merilis versi beta ChatGPT, beberapa pengguna mengajukan komplain atas kebohongan-kebohongan acak yang nampak masuk akal pada respons yang dihasilkan oleh bot percakapan. Pada Mei 2023, ''[[The New York Times]]'' mulai menggunakan terminologi "halusinasi" untuk mendeskripsikan model-model yang biasanya memberikan respons yang salah atau tidak konsisten. | Pada Juli 2021, [[Meta Platforms|Meta]] mendefinisikan "halusinasi" sebagai "pernyataan yang seolah-olah meyakinkan, padahal tidak benar".<ref>[https://www.zdnet.com/article/meta-warns-its-new-chatbot-may-not-tell-you-the-truth/ Meta warns its new chatbot may forget that it's a bot]. ''ZDNET''.</ref> Pada November 2022, ketika [[OpenAI]] merilis versi beta ChatGPT, beberapa pengguna mengajukan komplain atas kebohongan-kebohongan acak yang nampak masuk akal pada respons yang dihasilkan oleh bot percakapan.<ref>Charles Seife. [https://slate.com/technology/2022/12/davinci-003-chatbot-gpt-wrote-my-obituary.html The Alarming Deceptions at the Heart of an Astounding New Chatbot]. ''Slate''. 2022-12-13.</ref> Pada Mei 2023, ''[[The New York Times]]'' mulai menggunakan terminologi "halusinasi" untuk mendeskripsikan model-model yang biasanya memberikan respons yang salah atau tidak konsisten.<ref>Karen Weise. [https://www.nytimes.com/2023/05/01/business/ai-chatbots-hallucination.html When A.I. Chatbots Hallucinate]. ''The New York Times''. 1 Mei 2023.</ref> | ||
== Studi == | == Studi == | ||
Studi terhadap tiga juta ulasan pengguna mobile Al, ditemukan fakta bahwasanya ketika pengguna mendapati halusinasi pada mobile Al nya tingkat kepuasan mereka anjlok drastis. Aplikasi yang dilaporkan halusinasi cenderung mendapat rating rendah (1,8/5) sedangkan aplikasi yang tidak ada laporan halusinasi mendapatkan rating cukup tinggi (3,5/5) yang mana menunjukkan bahwa, aplikasi yang terlapor tanpa adanya halusinasi memiliki rating lebih tinggi daripada yang terlapor halusinasi yang mengindikasi frustrasi ekstrem. | Studi terhadap tiga juta ulasan pengguna mobile Al, ditemukan fakta bahwasanya ketika pengguna mendapati halusinasi pada mobile Al nya tingkat kepuasan mereka anjlok drastis.<ref name=":2">Rhodes Massenon. [https://www.nature.com/articles/s41598-025-15416-8 ”My AI is Lying to Me”: User-reported LLM hallucinations in AI mobile apps reviews]. ''Scientific Reports''. 2025-08-19. Vol. 15 (1). hlm. 30397. doi:10.1038/s41598-025-15416-8.</ref> Aplikasi yang dilaporkan halusinasi cenderung mendapat rating rendah (1,8/5) sedangkan aplikasi yang tidak ada laporan halusinasi mendapatkan rating cukup tinggi (3,5/5) yang mana menunjukkan bahwa, aplikasi yang terlapor tanpa adanya halusinasi memiliki rating lebih tinggi daripada yang terlapor halusinasi yang mengindikasi frustrasi ekstrem. | ||
Riset empiris skala besar dalam studi yang menganalisis tiga juta ulasan pengguna dari 90 aplikasi mobile berbasis AI mengidentifikasi tiga bahaya utama halusinasi AI: pertama, ketidakakuratan faktual yang dapat menyesatkan pengambilan keputusan dan tindakan pengguna; kedua, keluaran yang tidak masuk akal atau tidak relevan yang mengganggu [[pengalaman pengguna]] secara serius; dan ketiga, informasi yang difabrikasi atau dikarang dapat mengurangi kepercayaan terhadap teknologi AI itu sendiri. Studi ini juga mengkategorikan tujuh jenis halusinasi AI berbasis data pengguna dalam tingkatan: Ketidakakuratan Faktual (H1) sebagai jenis paling sering dilaporkan dengan proporsi 38%, diikuti Keluaran Tidak Masuk Akal/Tidak Relevan (H3) sebesar 25%, Informasi Fabrikasi (H2) sebesar 15%, Inkonsistensi Logis (H4), Deviasi Persona (H5), Fabrikasi Visual untuk AI generatif (H6), dan Keluaran Repetitif (H7). | Riset empiris skala besar dalam studi yang menganalisis tiga juta ulasan pengguna dari 90 aplikasi mobile berbasis AI mengidentifikasi tiga bahaya utama halusinasi AI: pertama, ketidakakuratan faktual yang dapat menyesatkan pengambilan keputusan dan tindakan pengguna; kedua, keluaran yang tidak masuk akal atau tidak relevan yang mengganggu [[pengalaman pengguna]] secara serius; dan ketiga, informasi yang difabrikasi atau dikarang dapat mengurangi kepercayaan terhadap teknologi AI itu sendiri.<ref name=":2" /> Studi ini juga mengkategorikan tujuh jenis halusinasi AI berbasis data pengguna dalam tingkatan: Ketidakakuratan Faktual (H1) sebagai jenis paling sering dilaporkan dengan proporsi 38%, diikuti Keluaran Tidak Masuk Akal/Tidak Relevan (H3) sebesar 25%, Informasi Fabrikasi (H2) sebesar 15%, Inkonsistensi Logis (H4), Deviasi Persona (H5), Fabrikasi Visual untuk AI generatif (H6), dan Keluaran Repetitif (H7). | ||
== Sistem RAG == | == Sistem RAG == | ||
Terdapat beberapa cara untuk mengurangi halusinasi AI, salah satu diantaranya adalah dengan menambahkan beberapa sumber pengetahuan eksternal sebagai langkah tambahan bersama dengan output model. Proses ini dikenal dengan sistem [[Retrieval-augmented generation|RAG]]. Temuan ini menunjukkan bahwa sistem RAG, terutama ketika didukung oleh agen AI, mampu mengoptimalkan pencarian secara mandiri dan menghasilkan respons yang adaptif, memiliki potensi besar untuk menyediakan informasi yang handal, relevan, dan tepat. | Terdapat beberapa cara untuk mengurangi halusinasi AI, salah satu diantaranya adalah dengan menambahkan beberapa sumber pengetahuan eksternal sebagai langkah tambahan bersama dengan output model. Proses ini dikenal dengan sistem [[Retrieval-augmented generation|RAG]]. Temuan ini menunjukkan bahwa sistem RAG, terutama ketika didukung oleh agen AI, mampu mengoptimalkan pencarian secara mandiri dan menghasilkan respons yang adaptif, memiliki potensi besar untuk menyediakan informasi yang handal, relevan, dan tepat.<ref>Antony James. [https://www.mdpi.com/2076-3417/15/11/6247 Retrieval-Augmented Generation to Generate Knowledge Assets and Creation of Action Drivers]. ''Applied Sciences''. 2025-06-01. Vol. 15 (11). hlm. 6247. doi:10.3390/app15116247.</ref> | ||
== Penyebab == | == Penyebab == | ||
Halusinasi atau kesalahan respons yang dibuat oleh kecerdasan buatan dapat disebabkan oleh beberapa faktor yang berkaitan dengan [[data latih]], di antaranya data yang digunakan untuk melatih model tidak memadai, bias, atau ada kesalahan prediksi yang dibuat oleh model. Sebab akurasi model kecerdasan buatan bergantung pada kelengkapan dan kualitas data latih ketika mempelajari sebuah pola. Apabila data latih gagal mempelajari pola dengan tepat, maka respons yang dihasilkan oleh model menjadi tidak akurat atau halusinasi. Selain itu, rujukan yang tidak memadai bagi model untuk memahami pengetahuan di dunia nyata dapat menyebabkan model menghasilkan respons yang seolah masuk akal, padahal sebetulnya mengandung informasi yang tidak faktual (fiktif), tidak relevan, atau tidak koheren. | Halusinasi atau kesalahan respons yang dibuat oleh kecerdasan buatan dapat disebabkan oleh beberapa faktor yang berkaitan dengan [[data latih]], di antaranya data yang digunakan untuk melatih model tidak memadai, bias, atau ada kesalahan prediksi yang dibuat oleh model. Sebab akurasi model kecerdasan buatan bergantung pada kelengkapan dan kualitas data latih ketika mempelajari sebuah pola. Apabila data latih gagal mempelajari pola dengan tepat, maka respons yang dihasilkan oleh model menjadi tidak akurat atau halusinasi. Selain itu, rujukan yang tidak memadai bagi model untuk memahami pengetahuan di dunia nyata dapat menyebabkan model menghasilkan respons yang seolah masuk akal, padahal sebetulnya mengandung informasi yang tidak faktual (fiktif), tidak relevan, atau tidak koheren.<ref>[https://cloud.google.com/discover/what-are-ai-hallucinations Apa itu halusinasi AI?]. ''Google Cloud''.</ref> | ||
== Dampak == | == Dampak == | ||
Halusinasi pada kecerdasan buatan merupakan fenomena yang dapat menimbulkan berbagai dampak negatif, baik pada individu maupun dunia profesional. Ketika model bahasa besar (Large Language Models) menghasilkan informasi yang tidak akurat tetapi terdengar meyakinkan, hal ini dapat memperkuat penyebaran misinformasi di ruang digital. Situasi ini bukan hanya menyesatkan pengguna, tetapi juga berpotensi merusak kepercayaan publik terhadap teknologi AI secara keseluruhan. Dalam dunia akademik, halusinasi AI sering muncul dalam bentuk kutipan atau referensi yang dibuat-buat serta kesalahan interpretasi terhadap data penelitian, yang akhirnya dapat menurunkan kualitas dan kredibilitas karya ilmiah. Di sisi lain, di bidang medis, kesalahan informasi yang dihasilkan AI dapat berdampak jauh lebih serius, seperti memunculkan risiko kesalahan diagnosis atau rekomendasi klinis yang tidak sesuai. Lebih jauh lagi, ketergantungan berlebihan terhadap sistem AI yang sering berhalusinasi dapat memengaruhi kemampuan [[berpikir kritis]] dan pengambilan keputusan mandiri pengguna. Kondisi ini juga menimbulkan trust issue, rasa cemas, stres, serta menurunkan kepercayaan diri terhadap kemampuan sendiri. | Halusinasi pada kecerdasan buatan merupakan fenomena yang dapat menimbulkan berbagai dampak negatif, baik pada individu maupun dunia profesional. Ketika model bahasa besar (Large Language Models) menghasilkan informasi yang tidak akurat tetapi terdengar meyakinkan, hal ini dapat memperkuat penyebaran misinformasi di ruang digital.<ref name=":1" /><ref>Lei Huang. [https://doi.org/10.1145/3703155 A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions]. ''ACM Trans. Inf. Syst''. 2025-01-24. Vol. 43 (2). hlm. 42:1–42:55. doi:10.1145/3703155.</ref> Situasi ini bukan hanya menyesatkan pengguna, tetapi juga berpotensi merusak kepercayaan publik terhadap teknologi AI secara keseluruhan.<ref name=":1" /> Dalam dunia akademik, halusinasi AI sering muncul dalam bentuk kutipan atau referensi yang dibuat-buat serta kesalahan interpretasi terhadap data penelitian, yang akhirnya dapat menurunkan kualitas dan kredibilitas karya ilmiah.<ref name=":1" /><ref>Amr Adel. [https://doi.org/10.1007/s00146-025-02406-7 Can generative AI reliably synthesise literature? exploring hallucination issues in ChatGPT]. ''AI & SOCIETY''. 2025-06-21. doi:10.1007/s00146-025-02406-7.</ref> Di sisi lain, di bidang medis, kesalahan informasi yang dihasilkan AI dapat berdampak jauh lebih serius, seperti memunculkan risiko kesalahan diagnosis atau rekomendasi klinis yang tidak sesuai.<ref>Dimitri Roustan. [https://www.i-jmr.org/2025/1/e59823 The Clinicians’ Guide to Large Language Models: A General Perspective With a Focus on Hallucinations]. ''Interactive Journal of Medical Research''. 2025-01-28. Vol. 14 (1). hlm. e59823. doi:10.2196/59823.</ref><ref>Fadi Aljamaan. [https://medinform.jmir.org/2024/1/e54345 Reference Hallucination Score for Medical Artificial Intelligence Chatbots: Development and Usability Study]. ''JMIR Medical Informatics''. 2024-07-31. Vol. 12 (1). hlm. e54345. doi:10.2196/54345.</ref> Lebih jauh lagi, ketergantungan berlebihan terhadap sistem AI yang sering berhalusinasi dapat memengaruhi kemampuan [[berpikir kritis]] dan pengambilan keputusan mandiri pengguna. Kondisi ini juga menimbulkan trust issue, rasa cemas, stres, serta menurunkan kepercayaan diri terhadap kemampuan sendiri. | ||
Menurunnya kepercayaan publik terhadap teknologi AI turut memicu kecemasan digital, sebab kemajuan AI membuat penyebaran informasi palsu semakin mudah dan meningkatkan potensi penipuan, serta menimbulkan ancaman sosial-ekonomi. Akibatnya, pengguna semakin khawatir akan kebenaran informasi dan kesulitan membedakan antara informasi yang valid dan palsu yang dihasilkan oleh AI. Selain itu, identitas diri dalam komunikasi digital yang sebelumnya dibentuk oleh pilihan pribadi kini turut dipengaruhi oleh algoritma AI yang mampu memberi saran respons dan menghasilkan konten personal. AI memang dapat membantu individu menampilkan versi terbaik dirinya, tetapi hal ini juga menimbulkan ketidakaslian identitas digital. Ketika AI mulai mengatur cara seseorang berinteraksi dan menampilkan diri, keaslian identitas menjadi kabur, dan individu merasa tertekan mempertahankan citra buatan AI. | Menurunnya kepercayaan publik terhadap teknologi AI turut memicu kecemasan digital, sebab kemajuan AI membuat penyebaran informasi palsu semakin mudah dan meningkatkan potensi penipuan,<ref name=":0" /> serta menimbulkan ancaman sosial-ekonomi.<ref name=":0" /> Akibatnya, pengguna semakin khawatir akan kebenaran informasi dan kesulitan membedakan antara informasi yang valid dan palsu yang dihasilkan oleh AI. Selain itu, identitas diri dalam komunikasi digital yang sebelumnya dibentuk oleh pilihan pribadi kini turut dipengaruhi oleh algoritma AI yang mampu memberi saran respons dan menghasilkan konten personal.<ref name=":3">Prabu Revolusi. [https://malque.pub/ojs/index.php/msj/article/view/9297 Human AI communication (HA-C): Transforming the role of technology in human interaction]. ''Multidisciplinary Science Journal''. 2026. Vol. 8 (3). hlm. 2026201–2026201. doi:10.31893/multiscience.2026201.</ref> AI memang dapat membantu individu menampilkan versi terbaik dirinya, tetapi hal ini juga menimbulkan ketidakaslian identitas digital. Ketika AI mulai mengatur cara seseorang berinteraksi dan menampilkan diri, keaslian identitas menjadi kabur, dan individu merasa tertekan mempertahankan citra buatan AI.<ref name=":3" /> | ||
Kemampuan AI dalam menciptakan konten yang sangat realistis turut menimbulkan kecemasan akibat ketidakpastian dan ketidakpercayaan terhadap informasi yang dihadapi individu. Paparan terhadap halusinasi AI yang menghasilkan informasi ambigu membuat individu harus terus memverifikasi keaslian data, sehingga memicu kelelahan mental, penurunan kepercayaan, dan menurunnya kesejahteraan psikologis. Selain itu, bias dalam kecerdasan buatan menjadi faktor signifikan yang memicu kecemasan terhadap AI. Ketimpangan dalam pengambilan keputusan, seperti pada proses perekrutan, pemberian pinjaman, dan kepolisian prediktif, menyebabkan individu dari kelompok terpinggirkan merasa diperlakukan tidak adil dan kehilangan kepercayaan. Dari sisi psikologis, diskriminasi yang dihasilkan algoritma dapat menimbulkan perasaan tidak berdaya, frustrasi, penurunan harga diri, serta memperburuk stres dan kecemasan, terutama bagi mereka yang rentan akibat ketidaksetaraan sistemik. | Kemampuan AI dalam menciptakan konten yang sangat realistis turut menimbulkan kecemasan akibat ketidakpastian dan ketidakpercayaan terhadap informasi yang dihadapi individu.<ref name=":4">Jeff Kim. [https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4573394 AI Anxiety: A Comprehensive Analysis of Psychological Factors and Interventions]. ''SSRN Electronic Journal''. 2023. doi:10.2139/ssrn.4573394.</ref> Paparan terhadap halusinasi AI yang menghasilkan informasi ambigu membuat individu harus terus memverifikasi keaslian data, sehingga memicu kelelahan mental, penurunan kepercayaan, dan menurunnya kesejahteraan psikologis.<ref name=":4" /> Selain itu, bias dalam kecerdasan buatan menjadi faktor signifikan yang memicu kecemasan terhadap AI.<ref name=":4" /> Ketimpangan dalam pengambilan keputusan, seperti pada proses perekrutan, pemberian pinjaman, dan kepolisian prediktif, menyebabkan individu dari kelompok terpinggirkan merasa diperlakukan tidak adil dan kehilangan kepercayaan. Dari sisi psikologis, diskriminasi yang dihasilkan algoritma dapat menimbulkan perasaan tidak berdaya, frustrasi, penurunan harga diri, serta memperburuk stres dan kecemasan, terutama bagi mereka yang rentan akibat ketidaksetaraan sistemik. | ||
== Solusi == | == Solusi == | ||
| Baris 28: | Baris 28: | ||
== Referensi == | == Referensi == | ||
<references /> | |||
== Sumber dan atribusi == | == Sumber dan atribusi == | ||
Konten artikel ini diadaptasi dari [https://id.wikipedia.org/w/index.php?title=Halusinasi+%28kecerdasan+buatan%29&oldid=28803307 Wikipedia bahasa Indonesia], revisi 28803307 (2026-01-12T01:50:01Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku. | |||
[https://id.wikipedia.org/w/index.php?title= | |||
revisi 28803307 (2026-01-12T01:50:01Z) | <!-- WIKI_UNISSULA_PRESENTATION_V4 --> | ||
Atribusi-BerbagiSerupa (CC BY-SA) | |||
Revisi terkini sejak 23 Agustus 2026 03.07
Halusinasi kecerdasan buatan (disebut juga halusinasi AI atau fabrikasi AI[1]) adalah respons yang dihasilkan oleh model kecerdasan buatan yang mengandung informasi palsu atau menyesatkan tetapi disajikan sebagai fakta.[2][3] Halusinasi ini termasuk ketika sebuah bot percakapan yang dihasilkan oleh model bahasa besar (LLM), seperti ChatGPT atau Gemini, dapat mengandung kebohongan acak yang terdengar masuk akal pada respons yang dihasilkan. Bagi pengguna, fenomena ini menimbulkan kekhawatiran atas kebenaran sebuah informasi.[1]
Terminologi
Terminologi "halusinasi" pada kecerdasan buatan mulai dikenal luas selama tren kecerdasan buatan meledak, ditandai dengan peluncuran bot percakapan. Terminologi ini berasal dari terminologi "halusinasi" dalam psikologi manusia yang umumnya melibatkan pengalaman persepsi yang salah. Namun, pada halusinasi dalam kecerdasan buatan justru berkaitan dengan kesalahan-kesalahan pada respons daripada pengalaman dalam persepsi.[4]
Pada Juli 2021, Meta mendefinisikan "halusinasi" sebagai "pernyataan yang seolah-olah meyakinkan, padahal tidak benar".[5] Pada November 2022, ketika OpenAI merilis versi beta ChatGPT, beberapa pengguna mengajukan komplain atas kebohongan-kebohongan acak yang nampak masuk akal pada respons yang dihasilkan oleh bot percakapan.[6] Pada Mei 2023, The New York Times mulai menggunakan terminologi "halusinasi" untuk mendeskripsikan model-model yang biasanya memberikan respons yang salah atau tidak konsisten.[7]
Studi
Studi terhadap tiga juta ulasan pengguna mobile Al, ditemukan fakta bahwasanya ketika pengguna mendapati halusinasi pada mobile Al nya tingkat kepuasan mereka anjlok drastis.[8] Aplikasi yang dilaporkan halusinasi cenderung mendapat rating rendah (1,8/5) sedangkan aplikasi yang tidak ada laporan halusinasi mendapatkan rating cukup tinggi (3,5/5) yang mana menunjukkan bahwa, aplikasi yang terlapor tanpa adanya halusinasi memiliki rating lebih tinggi daripada yang terlapor halusinasi yang mengindikasi frustrasi ekstrem.
Riset empiris skala besar dalam studi yang menganalisis tiga juta ulasan pengguna dari 90 aplikasi mobile berbasis AI mengidentifikasi tiga bahaya utama halusinasi AI: pertama, ketidakakuratan faktual yang dapat menyesatkan pengambilan keputusan dan tindakan pengguna; kedua, keluaran yang tidak masuk akal atau tidak relevan yang mengganggu pengalaman pengguna secara serius; dan ketiga, informasi yang difabrikasi atau dikarang dapat mengurangi kepercayaan terhadap teknologi AI itu sendiri.[8] Studi ini juga mengkategorikan tujuh jenis halusinasi AI berbasis data pengguna dalam tingkatan: Ketidakakuratan Faktual (H1) sebagai jenis paling sering dilaporkan dengan proporsi 38%, diikuti Keluaran Tidak Masuk Akal/Tidak Relevan (H3) sebesar 25%, Informasi Fabrikasi (H2) sebesar 15%, Inkonsistensi Logis (H4), Deviasi Persona (H5), Fabrikasi Visual untuk AI generatif (H6), dan Keluaran Repetitif (H7).
Sistem RAG
Terdapat beberapa cara untuk mengurangi halusinasi AI, salah satu diantaranya adalah dengan menambahkan beberapa sumber pengetahuan eksternal sebagai langkah tambahan bersama dengan output model. Proses ini dikenal dengan sistem RAG. Temuan ini menunjukkan bahwa sistem RAG, terutama ketika didukung oleh agen AI, mampu mengoptimalkan pencarian secara mandiri dan menghasilkan respons yang adaptif, memiliki potensi besar untuk menyediakan informasi yang handal, relevan, dan tepat.[9]
Penyebab
Halusinasi atau kesalahan respons yang dibuat oleh kecerdasan buatan dapat disebabkan oleh beberapa faktor yang berkaitan dengan data latih, di antaranya data yang digunakan untuk melatih model tidak memadai, bias, atau ada kesalahan prediksi yang dibuat oleh model. Sebab akurasi model kecerdasan buatan bergantung pada kelengkapan dan kualitas data latih ketika mempelajari sebuah pola. Apabila data latih gagal mempelajari pola dengan tepat, maka respons yang dihasilkan oleh model menjadi tidak akurat atau halusinasi. Selain itu, rujukan yang tidak memadai bagi model untuk memahami pengetahuan di dunia nyata dapat menyebabkan model menghasilkan respons yang seolah masuk akal, padahal sebetulnya mengandung informasi yang tidak faktual (fiktif), tidak relevan, atau tidak koheren.[10]
Dampak
Halusinasi pada kecerdasan buatan merupakan fenomena yang dapat menimbulkan berbagai dampak negatif, baik pada individu maupun dunia profesional. Ketika model bahasa besar (Large Language Models) menghasilkan informasi yang tidak akurat tetapi terdengar meyakinkan, hal ini dapat memperkuat penyebaran misinformasi di ruang digital.[4][11] Situasi ini bukan hanya menyesatkan pengguna, tetapi juga berpotensi merusak kepercayaan publik terhadap teknologi AI secara keseluruhan.[4] Dalam dunia akademik, halusinasi AI sering muncul dalam bentuk kutipan atau referensi yang dibuat-buat serta kesalahan interpretasi terhadap data penelitian, yang akhirnya dapat menurunkan kualitas dan kredibilitas karya ilmiah.[4][12] Di sisi lain, di bidang medis, kesalahan informasi yang dihasilkan AI dapat berdampak jauh lebih serius, seperti memunculkan risiko kesalahan diagnosis atau rekomendasi klinis yang tidak sesuai.[13][14] Lebih jauh lagi, ketergantungan berlebihan terhadap sistem AI yang sering berhalusinasi dapat memengaruhi kemampuan berpikir kritis dan pengambilan keputusan mandiri pengguna. Kondisi ini juga menimbulkan trust issue, rasa cemas, stres, serta menurunkan kepercayaan diri terhadap kemampuan sendiri.
Menurunnya kepercayaan publik terhadap teknologi AI turut memicu kecemasan digital, sebab kemajuan AI membuat penyebaran informasi palsu semakin mudah dan meningkatkan potensi penipuan,[1] serta menimbulkan ancaman sosial-ekonomi.[1] Akibatnya, pengguna semakin khawatir akan kebenaran informasi dan kesulitan membedakan antara informasi yang valid dan palsu yang dihasilkan oleh AI. Selain itu, identitas diri dalam komunikasi digital yang sebelumnya dibentuk oleh pilihan pribadi kini turut dipengaruhi oleh algoritma AI yang mampu memberi saran respons dan menghasilkan konten personal.[15] AI memang dapat membantu individu menampilkan versi terbaik dirinya, tetapi hal ini juga menimbulkan ketidakaslian identitas digital. Ketika AI mulai mengatur cara seseorang berinteraksi dan menampilkan diri, keaslian identitas menjadi kabur, dan individu merasa tertekan mempertahankan citra buatan AI.[15]
Kemampuan AI dalam menciptakan konten yang sangat realistis turut menimbulkan kecemasan akibat ketidakpastian dan ketidakpercayaan terhadap informasi yang dihadapi individu.[16] Paparan terhadap halusinasi AI yang menghasilkan informasi ambigu membuat individu harus terus memverifikasi keaslian data, sehingga memicu kelelahan mental, penurunan kepercayaan, dan menurunnya kesejahteraan psikologis.[16] Selain itu, bias dalam kecerdasan buatan menjadi faktor signifikan yang memicu kecemasan terhadap AI.[16] Ketimpangan dalam pengambilan keputusan, seperti pada proses perekrutan, pemberian pinjaman, dan kepolisian prediktif, menyebabkan individu dari kelompok terpinggirkan merasa diperlakukan tidak adil dan kehilangan kepercayaan. Dari sisi psikologis, diskriminasi yang dihasilkan algoritma dapat menimbulkan perasaan tidak berdaya, frustrasi, penurunan harga diri, serta memperburuk stres dan kecemasan, terutama bagi mereka yang rentan akibat ketidaksetaraan sistemik.
Solusi
Beberapa solusi yang telah dikembangkan, yaitu pengawasan manusia untuk memverifikasi hasil AI guna memastikan keakuratan informasi sebelum disebarkan secara luas, pentingnya pelatihan model dengan data yang lebih akurat dan beragam untuk mengurangi bias dan meningkatkan kemampuan model dalam memahami konteks, serta pemantauan berkala terhadap performa model supaya sistem dapat terus dievaluasi dan disesuaikan dengan kebutuhan pengguna dan perkembangan teknologi. Selain itu, penggunaan algoritma filter dan sistem verifikasi otomatis dapat membantu mendeteksi serta meminimalkan keluaran yang salah sebelum disampaikan kepada penggunanya.
Referensi
- ↑ 1,0 1,1 1,2 1,3 Yujie Sun. AI hallucination: towards a comprehensive classification of distorted information in artificial intelligence-generated content. Humanities and Social Sciences Communications. 2024-09-27. Vol. 11 (1). hlm. 1–14. doi:10.1057/s41599-024-03811-x.
- ↑ Jeff Christensen. Understanding the role and impact of Generative Artificial Intelligence (AI) hallucination within consumers’ tourism decision-making processes. Current Issues in Tourism. 2024-01-17. hlm. 1–16. doi:10.1080/13683500.2023.2300032.
- ↑ Ahmad M. Ramli. Halusinasi AI dan Pentingnya Regulasi. Kompas.com. 29 November 2023.
- ↑ 4,0 4,1 4,2 4,3 Ziwei Ji. Survey of Hallucination in Natural Language Generation. ACM Comput. Surv. 2023-03-03. Vol. 55 (12). hlm. 248:1–248:38. doi:10.1145/3571730.
- ↑ Meta warns its new chatbot may forget that it's a bot. ZDNET.
- ↑ Charles Seife. The Alarming Deceptions at the Heart of an Astounding New Chatbot. Slate. 2022-12-13.
- ↑ Karen Weise. When A.I. Chatbots Hallucinate. The New York Times. 1 Mei 2023.
- ↑ 8,0 8,1 Rhodes Massenon. ”My AI is Lying to Me”: User-reported LLM hallucinations in AI mobile apps reviews. Scientific Reports. 2025-08-19. Vol. 15 (1). hlm. 30397. doi:10.1038/s41598-025-15416-8.
- ↑ Antony James. Retrieval-Augmented Generation to Generate Knowledge Assets and Creation of Action Drivers. Applied Sciences. 2025-06-01. Vol. 15 (11). hlm. 6247. doi:10.3390/app15116247.
- ↑ Apa itu halusinasi AI?. Google Cloud.
- ↑ Lei Huang. A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions. ACM Trans. Inf. Syst. 2025-01-24. Vol. 43 (2). hlm. 42:1–42:55. doi:10.1145/3703155.
- ↑ Amr Adel. Can generative AI reliably synthesise literature? exploring hallucination issues in ChatGPT. AI & SOCIETY. 2025-06-21. doi:10.1007/s00146-025-02406-7.
- ↑ Dimitri Roustan. The Clinicians’ Guide to Large Language Models: A General Perspective With a Focus on Hallucinations. Interactive Journal of Medical Research. 2025-01-28. Vol. 14 (1). hlm. e59823. doi:10.2196/59823.
- ↑ Fadi Aljamaan. Reference Hallucination Score for Medical Artificial Intelligence Chatbots: Development and Usability Study. JMIR Medical Informatics. 2024-07-31. Vol. 12 (1). hlm. e54345. doi:10.2196/54345.
- ↑ 15,0 15,1 Prabu Revolusi. Human AI communication (HA-C): Transforming the role of technology in human interaction. Multidisciplinary Science Journal. 2026. Vol. 8 (3). hlm. 2026201–2026201. doi:10.31893/multiscience.2026201.
- ↑ 16,0 16,1 16,2 Jeff Kim. AI Anxiety: A Comprehensive Analysis of Psychological Factors and Interventions. SSRN Electronic Journal. 2023. doi:10.2139/ssrn.4573394.
Sumber dan atribusi
Konten artikel ini diadaptasi dari Wikipedia bahasa Indonesia, revisi 28803307 (2026-01-12T01:50:01Z), yang tersedia berdasarkan lisensi Creative Commons Atribusi-BerbagiSerupa (CC BY-SA). Mohon gunakan konten ini secara bijak serta sesuai dengan ketentuan lisensi yang berlaku.