Apa Itu RAG? Cara AI Membaca Dokumenmu Dulu Sebelum Menjawab, dan Kenapa Hasilnya Lebih Bisa Dicek

Ambil satu contoh yang akrab bagi banyak mahasiswa: jam 23.40, dua hari sebelum kuis, seorang mahasiswa semester 3 bertanya ke chatbot tentang kesimpulan bab 3 modul Manajemen Proyek. Jawabannya rapi, lengkap dengan tiga poin bernomor. Namun begitu modulnya dibuka, ternyata tidak satu pun dari tiga poin itu tertulis di halaman 41 sampai 58, bab yang dia tanyakan.

Kejadian seperti ini terjadi karena kebanyakan chatbot menjawab dari ingatan hasil latihannya, bukan dari modul yang sedang kamu pegang. Justru di sinilah RAG masuk. Teknik ini memaksa AI membaca dokumen dulu sebelum menjawab, sehingga setiap klaim punya alamat halaman yang bisa dicek balik dalam 1 sampai 2 menit.

RAG (Retrieval-Augmented Generation) adalah teknik yang membuat model AI mencari potongan informasi yang relevan dari kumpulan dokumen lebih dulu, lalu menyusun jawaban berdasarkan potongan tersebut. Istilah ini diperkenalkan Patrick Lewis dan 11 rekannya pada 2020. Hasilnya, jawaban AI lebih mudah diperbarui dan bisa ditelusuri ke sumbernya, walau tetap bisa keliru.

Daftar Isi

• Apa itu RAG dan dari mana asalnya?
• Bagaimana cara kerja RAG dalam 3 langkah?
• Kenapa jawaban RAG lebih bisa dicek?
• RAG, model biasa, dan fine-tuning: apa bedanya?
• Apakah RAG bebas halusinasi?
• Cara mempraktikkan ujian buka buku di kakak.ai
• FAQ

Apa itu RAG dan dari mana asalnya?

RAG adalah cara memberi AI "buku contekan resmi" sebelum menjawab. Model bahasa biasa menyimpan pengetahuan di dalam parameternya selama latihan, mirip mahasiswa yang menghafal. Kini dengan RAG, model itu juga diberi akses ke kumpulan dokumen luar yang bisa dicari kapan saja, mirip mahasiswa yang boleh membuka buku saat ujian.

Gagasan ini lahir dari makalah Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks yang dikirim ke arXiv pada 22 Mei 2020 dan terbit di konferensi NeurIPS 2020. Penulisnya 12 peneliti dari Facebook AI Research (kini Meta AI), University College London, dan New York University. Mereka mencatat model bahasa sulit menunjukkan asal-usul jawabannya, dan pengetahuannya sulit diperbarui.

Salah satu detail eksperimennya justru gampang dibayangkan. Tim memakai satu salinan Wikipedia edisi Desember 2018, lalu memotong tiap artikel menjadi potongan 100 kata. Totalnya sekitar 21 juta potongan, ibarat 21 juta kartu catatan yang siap dicari setiap kali ada pertanyaan masuk.

Nama "RAG" sendiri sebenarnya tidak direncanakan sebagus itu. Dalam wawancara dengan blog NVIDIA pada November 2023, sang penulis utama mengaku agak menyesal dengan singkatannya.

"Kami pasti akan memikirkan namanya lebih serius seandainya tahu karya kami akan menyebar seluas ini," ujar Patrick Lewis, penulis utama makalah RAG 2020 yang saat wawancara itu memimpin tim RAG di perusahaan AI Cohere. Kutipan ini diterjemahkan dari wawancara berbahasa Inggris.

Lewis juga bercerita bahwa sejak awal timnya membayangkan model yang punya indeks pencarian di tengah sistemnya. Menurut blog NVIDIA, ide sederhana itu kemudian dikutip ratusan makalah lanjutan dan kini dipakai puluhan layanan komersial. Salah satu jenis layanan itu adalah alat riset hukum, yang dibahas di bagian batasan nanti.

Bagaimana cara kerja RAG dalam 3 langkah?

RAG bekerja dalam 3 langkah berurutan: ambil, tambah, lalu hasilkan. Ketiganya berlangsung dalam hitungan detik setelah pertanyaan dikirim, dan pengguna biasanya hanya melihat langkah terakhir berupa jawaban beserta rujukannya.

Langkah 1: Ambil (retrieve)

Pertama, sistem mencari potongan dokumen yang paling mirip maknanya dengan pertanyaan. Kalau kamu bertanya soal "kesimpulan bab 3", pencarian akan menyaring ratusan potongan modul lalu mengambil beberapa yang paling relevan, misalnya 3 sampai 5 potongan dari halaman akhir bab itu.

Langkah 2: Tambah (augment)

Kedua, potongan yang ditemukan disisipkan ke dalam pertanyaan sebagai bahan bacaan. Ibaratnya, dosen menyodorkan fotokopi 2 halaman yang relevan sebelum mahasiswa mulai menulis jawaban. Alhasil, AI tidak lagi menebak dari ingatan hasil latihan yang bisa jadi sudah usang berbulan-bulan sebelum kamu bertanya.

Langkah 3: Hasilkan (generate)

Terakhir, model menulis jawaban berdasarkan bahan tersebut, idealnya sambil menyebut halaman atau bagian asalnya. Menurut penjelasan AWS tentang RAG, kemampuan menyertakan rujukan ini membuat pengguna bisa memeriksa sendiri dokumen sumbernya.

Kenapa jawaban RAG lebih bisa dicek?

Jawaban RAG lebih bisa dicek karena tiap klaim bersandar pada potongan dokumen yang nyata, bukan pada ingatan model yang tidak terlihat. Padahal, chatbot tanpa pencarian sering memberi jawaban yang terdengar meyakinkan tetapi tidak bisa ditelusuri ke halaman mana pun.

Di makalah 2020 itu, tim Lewis melaporkan RAG mencetak hasil terbaik di 3 tugas tanya jawab terbuka. Untuk tugas menulis, jawabannya dinilai lebih spesifik, lebih beragam, dan lebih faktual dibanding model tanpa pencarian. Bahkan pengetahuan sistem bisa diperbarui cukup dengan mengganti kumpulan dokumennya, tanpa perlu melatih ulang model dari awal.

Bagi mahasiswa, manfaatnya terasa sangat praktis. Kalau AI menulis "lihat halaman 47", kamu cukup membuka halaman 47 dan mencocokkan kalimatnya dalam 30 detik. Sementara itu, jawaban tanpa rujukan memaksa kamu membaca ulang seluruh bab 18 halaman hanya untuk memastikan satu klaim.

RAG, model biasa, dan fine-tuning: apa bedanya?

Ketiganya sering tertukar, padahal cara memperoleh pengetahuannya berbeda jauh. Tabel berikut merangkum perbedaannya dalam 5 aspek yang paling sering ditanyakan mahasiswa.

Apakah RAG bebas halusinasi?

Tidak, RAG mengurangi halusinasi tetapi tidak menghapusnya. Bukti paling gamblang datang dari studi Stanford RegLab dan Stanford HAI yang menguji alat riset hukum berbasis RAG milik LexisNexis dan Thomson Reuters dengan lebih dari 200 pertanyaan hukum yang disusun dan didaftarkan sebelum pengujian.

Hasilnya mengejutkan untuk produk yang dipasarkan "bebas halusinasi". Dalam makalah Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools (2024), alat-alat itu tetap berhalusinasi pada 17% sampai 33% kasus uji. Angka ini memang lebih rendah dari chatbot umum, tetapi konteksnya riset hukum Amerika Serikat, sehingga tidak bisa digeneralisasi ke semua sistem RAG.

"Dalam praktiknya, kami menunjukkan bahwa sistem RAG sekalipun tidak bebas halusinasi," tulis Faiz Surani, peneliti Stanford RegLab, dan Daniel E. Ho, Direktur RegLab Stanford, dalam ulasan studi itu di situs Stanford HAI pada Mei 2024. Kalimat ini diterjemahkan dari laporan berbahasa Inggris.

Masalah kedua berasal dari dokumen yang panjang. Studi Lost in the Middle oleh Nelson F. Liu dari Stanford dan rekan-rekannya (2023) menemukan kinerja model sering paling baik saat informasi penting ada di awal atau akhir bahan bacaan, lalu turun cukup tajam saat informasi itu terselip di tengah. Artinya, kalau bahan bacaan yang disodorkan ke AI sangat panjang, informasi di bagian tengahnya lebih rawan terlewat, sehingga pertanyaan yang spesifik jauh lebih membantu.

Masalah ketiga lebih membumi, yaitu kualitas dokumen itu sendiri. PDF hasil pindai tanpa pengenalan teks, tabel yang berantakan, atau modul edisi lama akan menghasilkan jawaban yang sama kelirunya. Makanya, prinsip "sampah masuk, sampah keluar" tetap berlaku sekalipun AI sudah membuka buku.

Cara mempraktikkan ujian buka buku di kakak.ai

Prinsip ujian buka buku ini bisa kamu praktikkan lewat fitur Tanya Dokumen di kakak.ai. Kamu mengunggah modul, jurnal, atau laporan, lalu bertanya tentang isinya, dan jawabannya dilengkapi rujukan halaman. Penjelasan lebih lengkap soal fiturnya ada di artikel panduan Tanya Dokumen untuk jurnal dan PDF panjang.

Berikut 5 langkah supaya hasilnya benar-benar bisa dipertanggungjawabkan di tugas kuliah:

1. Siapkan dokumen yang bersih. Pakai PDF berbasis teks, bukan hasil pindai tanpa pengenalan teks. Format yang diterima antara lain PDF, DOC, DOCX, XLSX, PPTX, TXT, dan CSV, dengan batas 10 MB per berkas untuk akun gratis dan 100 MB untuk Gold dan Platinum.
2. Unggah lewat Tanya Dokumen. Klik "Tanya Dokumen PDF dan Office" di kolom chat, lalu pilih "Unggah Dokumen" atau "Pilih dari Pustaka" kalau berkasnya sudah pernah diunggah. Ringkasan pendek akan muncul otomatis setelah unggahan selesai.
3. Pecah dokumen yang terlalu tebal. Panduan resmi menyarankan dokumen idealnya di bawah 200 halaman, dan dokumen 100 halaman lebih sebaiknya dipecah menjadi bagian yang lebih kecil, misalnya per bab.
4. Bertanya spesifik dan minta nomor halaman. Daripada "rangkum modul ini", tanyakan "apa 3 kesimpulan bab 3, sebutkan halamannya".
5. Buka halaman aslinya sebelum mengutip. Cocokkan kalimat AI dengan teks sumber, lalu tulis sitasi dari dokumen aslinya, bukan dari jawaban chat.

Langkah kelima paling sering dilewati, padahal paling menentukan. Kalau kamu ingin tahu cara membedakan rujukan asli dan palsu, artikel tentang sitasi halusinasi AI membahas cara mengeceknya satu per satu. Sementara itu, untuk menyimpan semua modul semester ini di satu tempat, baca panduan Pustaka Pengetahuan kakak.ai.

Satu hal lagi sebelum mengunggah apa pun: periksa apakah dokumennya memuat data pribadi atau rahasia. Daftar periksanya ada di artikel keamanan data saat memakai AI.

FAQ: Pertanyaan Umum tentang RAG

Apakah RAG sama dengan pencarian web?

Tidak persis. Pencarian web hanyalah salah satu sumber yang bisa dipakai pada langkah "ambil". RAG bisa mencari di dokumen apa saja, termasuk modul kuliah atau jurnal yang kamu unggah sendiri, lalu memakai potongan itu sebagai bahan jawaban.

Apa beda RAG dan fine-tuning?

Fine-tuning melatih ulang model dengan data baru sehingga pengetahuannya menempel di dalam model. RAG tidak mengubah model, melainkan memberinya bahan bacaan setiap kali ada pertanyaan. Karena itu RAG lebih mudah diperbarui dan bisa menunjukkan sumber.

Apakah jawaban RAG pasti benar?

Tidak. Studi Stanford 2024 pada alat riset hukum Amerika Serikat masih menemukan halusinasi pada 17% sampai 33% kasus uji. Pencarian bisa mengambil potongan yang salah, dan model bisa menyimpulkan melebihi isi dokumen. Selalu cek halaman yang dirujuk.

Apakah Tanya Dokumen di kakak.ai bisa dipakai gratis?

Bisa. Akun gratis mendapat kredit harian dan dapat mengunggah dokumen hingga 10 MB per berkas, sedangkan paket Gold dan Platinum hingga 100 MB. Pemakaian chat memakai kredit, dan rincian tiap paket bisa dilihat di halaman harga kakak.ai.

Dokumen apa yang paling cocok untuk ditanya dengan cara ini?

Dokumen berbasis teks dengan struktur jelas, misalnya modul kuliah, artikel jurnal, laporan praktikum, atau peraturan akademik kampus. PDF hasil pindai tanpa pengenalan teks dan tabel yang sangat rumit cenderung menghasilkan jawaban kurang akurat.

Mahasiswa yang tadi begadang jam 23.40 sebenarnya tidak butuh AI yang lebih pintar menghafal. Dia butuh AI yang mau membuka modulnya, menunjuk halaman 47, lalu membiarkan dia memeriksa sendiri. Kebiasaan kecil itu, bertanya spesifik lalu mengecek halaman, kini jadi pembeda antara jawaban kuis yang benar dan jawaban yang sekadar terdengar benar.

Coba Tanya Dokumen Sekarang, Gratis