Kenapa LLM Berhalusinasi — dan Grounding Memperbaikinya

Tanyakan ke LLM berapa saldo piutang bulan lalu, dan ia bisa berhalusinasi menjawabnya: satu angka yang cepat, percaya diri, dan berkalimat lengkap yang sebenarnya tidak pernah ia cari. Jawabannya bahkan bisa mendekati benar. Tidak ada yang dicek untuk sampai ke situ; model menyusun kata-kata yang paling mungkin mengikuti pertanyaan Anda, persis seperti cara ia menyusun baris berikutnya kalau Anda minta puisi.

Itu bukan cacat yang bersembunyi di dalam sistem yang sebenarnya andal. Itulah sistemnya. Tugas model bahasa cuma satu: memprediksi token berikutnya. Semua yang ia katakan, benar maupun salah, keluar dari proses yang sama persis. Tidak ada jalur terpisah "saya memang tahu ini" yang mati saat model sedang menebak dan menyala saat ia benar-benar tahu.

Untuk draf pertama atau brainstorming, tebakan yang masuk akal adalah titik awal yang bagus. Untuk "berapa stok SKU 4021 sekarang," itu tidak cukup. Jarak antara dua situasi itulah seluruh masalah halusinasi AI di enterprise, dan prompt yang lebih hati-hati tidak menutup jarak itu.

Apa sebenarnya yang terjadi saat LLM berhalusinasi

Cara paling mudah memahaminya: LLM adalah autocomplete yang sangat mumpuni, dilatih dengan cukup banyak teks sehingga hasilnya terbaca seperti penalaran. Tanyakan sesuatu di ranah yang banyak muncul saat pelatihannya (pengetahuan umum, pola kode yang lazim, sejarah yang terdokumentasi rapi) dan prediksinya cenderung sesuai kenyataan, karena kenyataan itu memang banyak terwakili di data yang ia pelajari.

Tanyakan sesuatu yang tidak pernah dilihatnya — angka Q3 perusahaan Anda yang sebenarnya, metrik yang didefinisikan tim keuangan Anda dengan cara khusus, apa pun yang berubah setelah masa pelatihannya atau yang hanya ada di dalam sistem internal Anda — dan ia tidak punya cabang "saya tidak punya ini." Ia tetap memprediksi. Hasilnya terlihat identik entah model sedang mengingat sesuatu yang benar atau mengarang sesuatu yang salah, karena kelancaran bahasa dan kebenaran fakta lahir dari dua sumber yang berbeda, dan model hanya pernah dioptimalkan untuk yang pertama.

Inilah juga alasan halusinasi tidak bisa sepenuhnya "dilatih hilang." Model yang lebih besar dan lebih baik berhalusinasi lebih jarang pada pertanyaan yang memang ia punya informasinya, dan tetap sama percaya dirinya pada pertanyaan yang tidak, karena mekanisme yang menyusun kalimatnya tidak pernah berubah. Sebagian peneliti berpendapat batas ini bersifat mendasar: sebuah analisis formal berjudul "Hallucination is Inevitable" menyatakan bahwa model tidak bisa mempelajari setiap fungsi yang mungkin, sehingga selalu ada pertanyaan yang hanya bisa ia tebak. Apa pun batas teoretis persisnya, poin praktisnya tetap: model tidak sedang berbohong maupun rusak; ia melakukan persis yang dirancang untuknya, diterapkan pada pertanyaan yang tidak punya jawaban berpijak.

Dua jenis halusinasi

Tidak semua halusinasi gagal dengan cara yang sama, dan bedanya menentukan cara Anda menangkapnya. Ada baiknya membaginya menjadi dua jenis.

Halusinasi intrinsik bertentangan dengan sumber yang benar-benar diberikan ke model. Beri ia laporan yang menyebut revenue Juli adalah Rp 4,1 miliar lalu ia meringkas laporan yang sama itu sebagai Rp 4,6 miliar, dan jawabannya salah terhadap bahan yang ada persis di depannya. Jenis ini lebih mudah ditangkap, karena kebenarannya hadir dan pemeriksaannya bisa diotomasi.

Halusinasi ekstrinsik menambahkan sesuatu yang tidak disebut maupun dibantah sumbernya. Tanyakan angka yang tidak muncul di mana pun dalam data yang terhubung, dan model mengisi kekosongan itu dengan karangan yang masuk akal, lalu tidak ada yang bisa dipakai untuk mengeceknya, dan justru itulah yang membuatnya berbahaya. Kebanyakan kegagalan enterprise yang layak dikhawatirkan bersifat ekstrinsik: sistem diminta sesuatu yang tidak pernah diberikan kepadanya, dan ia tetap menjawab.

Kenapa ini tidak bisa ditoleransi untuk angka bisnis

Fakta karangan di draf materi marketing masih bisa ditangkap editor sebelum tayang. Angka karangan di jawaban soal revenue, stok, atau rasio kovenan langsung ditindaklanjuti, karena ia datang dengan nada percaya diri yang sama fasihnya dengan jawaban yang benar. Tidak ada tanda bintang di angka hasil halusinasi. Tidak ada nada ragu dalam kalimatnya. "Net revenue Juli adalah Rp 4,2 miliar" terbaca persis sama, entah angka itu berasal dari buku besar atau dari udara.

Yang lebih berbahaya, kesalahannya jarang ekstrem. Model yang diminta angka yang tidak ia punya cenderung menghasilkan sesuatu di rentang yang masuk akal: cukup dekat sehingga direktur yang sibuk tidak mengecek ulang, cukup meleset untuk jadi salah. Itulah pola kegagalan yang benar-benar merugikan: bukan jawaban yang tidak dipercaya siapa pun, tapi jawaban yang diam-diam ditindaklanjuti semua orang.

Kenapa prompt yang lebih pintar tidak menyelesaikannya

Reaksi paling wajar adalah meminta model lebih hati-hati — "hanya sebutkan fakta yang kamu yakin," "sertakan sumbernya," "bilang 'saya tidak tahu' kalau tidak yakin." Instruksi seperti ini membantu di pinggiran: bisa mengurangi sebagian kesalahan format dan mendorong bahasa yang lebih hati-hati. Yang tidak bisa dilakukannya adalah memberi model fakta yang memang tidak pernah diberikan padanya. Model tidak punya akses introspektif yang andal untuk membedakan apakah suatu keluaran adalah ingatan yang benar atau karangan yang masuk akal. Keduanya dihasilkan dari proses prediksi token yang sama, sehingga memintanya melaporkan sendiri mana yang baru saja ia hasilkan sama saja memintanya menilai PR-nya sendiri tanpa kunci jawaban.

Perbaikan yang benar-benar bekerja bersifat arsitektural, bukan soal kalimat prompt: taruh faktanya di depan model pada saat ia menjawab, alih-alih berharap fakta itu selamat di suatu tempat dalam bobot hasil pelatihannya.

Perangkat grounding

Grounding berarti model menjawab dari data yang disodorkan padanya saat itu juga, bukan dari apa yang kebetulan ia hafal. Praktiknya, perangkat ini punya empat bagian:

• Retrieval. Ambil dulu catatan, dokumen, atau potongan data yang relevan dengan pertanyaan sebelum model menulis satu kata pun, sehingga ia meringkas sesuatu yang nyata, bukan mengingat sesuatu yang kira-kira.
• Query langsung. Untuk angka operasional, retrieval dari ekspor yang sudah basi tidak cukup: model harus meng-query sistem sumbernya sendiri, saat pertanyaan diajukan, sehingga "stok hari ini" memang berarti hari ini, bukan sinkronisasi Selasa lalu.
• Sitasi. Setiap angka dalam jawaban harus bisa dilacak ke asalnya — sebuah tabel, laporan, atau timestamp — sehingga manusia bisa memverifikasinya dalam hitungan detik, bukan mempercayainya begitu saja.
• Menolak menjawab saat data tidak ada. Perilaku paling penting dari semuanya: saat sistem yang terhubung memang tidak punya jawabannya, sistem yang grounded akan mengatakan itu, alih-alih mengisi kekosongan dengan tebakan yang fasih. Ini pilihan desain, dan kebanyakan produk chat konsumen tidak mengambilnya.

Tidak ada yang eksotis dari semua ini, tapi ini rekayasa yang nyata: menghubungkan sistem yang hidup, memodelkan arti datanya, dan menegakkan siapa boleh melihat apa. Itulah tugas yang dijalankan sebuah AI intelligence layer, dan ini layak dibandingkan secara jujur dengan alternatifnya: retrieval, fine-tuning, dan intelligence layer menyelesaikan bagian masalah yang berbeda, dan kebanyakan setup yang matang memakai lebih dari satu. Grounding juga hanya berfungsi kalau semua orang sepakat soal arti angkanya lebih dulu, dan itulah fungsi semantic layer.

Menjawab tanpa grounding vs. menjawab dengan grounding

Bagaimana menilai klaim grounding dari vendor?

Hampir semua vendor AI enterprise sekarang mengklaim produknya "grounded" atau "bebas halusinasi." Kedua klaim itu tidak bertahan lima menit uji coba kalau memang tidak benar, dan ujinya sederhana:

Minta angka yang nilai sebenarnya sudah Anda ketahui, lalu minta sistemnya menunjukkan dari mana angka itu berasal. Jawaban yang grounded menyebut sumber dan waktu; yang tidak grounded memberi angka percaya diri tanpa cara untuk mengeceknya. Lalu tanyakan sesuatu tentang data yang jelas tidak terhubung ke demo vendor tersebut. Sistem yang grounded akan mengatakannya terus terang; yang tidak grounded akan tetap mencoba menjawab. Terakhir, kalau demonya memungkinkan, ajukan pertanyaan yang sama sebagai dua peran berbeda: jawaban yang tidak berubah tergantung siapa yang bertanya sejak awal memang tidak sadar izin akses, artinya juga tidak pernah benar-benar grounded. Kesadaran izin akses ini masuk daftar yang sama dengan pertanyaan keamanan data yang layak diajukan ke vendor AI mana pun sebelum meneken kontrak, bukan sekadar renungan belakangan.

Ini sebenarnya pertanyaan yang sama dengan apakah data Anda sendiri sudah siap untuk dijadikan pijakan AI. Vendor hanya bisa men-ground jawaban pada sistem yang benar-benar terhubung, terkini, dan terpetakan. Tanyakan apa arti "terhubung" di demo mereka sebelum menanyakan apa yang bisa dilakukan modelnya.

Di mana posisi Nalar

Nalar men-ground setiap jawaban pada sistem yang sudah dijalankan perusahaan (ERP, CRM, point of sale, HRIS, database, spreadsheet) dengan query langsung, sumber yang ditampilkan, dan izin akses per pengguna yang ditegakkan di setiap jawaban. Saat data yang terhubung memang tidak punya jawabannya, Nalar mengatakan itu apa adanya alih-alih menebak, di keenam arketipe industri yang didukungnya.

Kalau Anda ingin melihat jawaban yang grounded bekerja sebelum bicara dengan siapa pun, demo interaktifnya berjalan di atas perusahaan tiruan yang realistis. Kalau Anda ingin tahu apakah sistem Anda sendiri sudah cukup terhubung dan terkini untuk jadi pijakan jawaban AI, BARI, diagnostik kesiapan AI kami, akan menjawab dengan jujur, termasuk saat jawabannya "belum."