Apakah itu RAG (Retrieval-Augmented Generation)

Nota: Dokumen ini adalah terjemahan automatik daripada versi asal bahasa Inggeris.

Apakah itu RAG (Retrieval-Augmented Generation)

Bayangkan seorang pelajar menduduki peperiksaan buku terbuka. Daripada menjawab setiap soalan dari ingatan semata-mata, pelajar itu membelek buku teks, mencari halaman yang paling relevan, membacanya, dan kemudian menulis jawapan yang menggabungkan pengetahuan yang diingati dengan fakta yang baru dicari. Retrieval-Augmented Generation (RAG) berfungsi dengan cara yang sama bagi model bahasa besar. Model itu tidak bergantung semata-mata pada apa yang dihafalnya semasa latihan — ia terlebih dahulu mencari pangkalan pengetahuan luaran, mendapatkan semula dokumen yang paling relevan, dan menggunakannya sebagai konteks tambahan semasa menjana responsnya.

Teknik ini penting kerana LLM yang paling berkuasa sekalipun mempunyai tarikh henti pengetahuan, boleh "berhalusinasi" (menghasilkan kenyataan yang munasabah tetapi salah), dan mungkin kekurangan pengetahuan domain khusus. RAG menangani ketiga-tiga kelemahan ini sekaligus dengan memberi model akses kepada sumber yang terkini, khusus domain, dan boleh disahkan setiap kali ia menjawab soalan.

Ringkasnya: RAG ialah corak seni bina yang menggabungkan sistem dapatan semula dengan LLM. Ia bukan jenis model yang berasingan — ia cara bekerja dengan pengetahuan dan konteks luaran.

Cara ia berfungsi

Saluran paip RAG mengikut jujukan lima langkah yang jelas. Memahami setiap langkah membantu anda menilai sama ada projek yang mendakwa RAG mempunyai lapisan dapatan semula yang benar-benar berfungsi atau sekadar membalut panggilan LLM standard.

Langkah 1 — Pertanyaan pengguna

Proses bermula apabila pengguna menghantar soalan, arahan, atau prom. Pertanyaan ini ialah titik permulaan untuk segala yang berikut. Contohnya, pengguna mungkin bertanya: "Apakah cadangan tadbir urus utama di Ethereum dalam sebulan yang lalu?" Sistem tidak cuba menjawab dari ingatan LLM semata-mata — sebaliknya, ia menganggap pertanyaan itu sebagai arahan carian.

Langkah 2 — Pembenaman pertanyaan

Pertanyaan teks mentah ditukar kepada perwakilan berangka yang dipanggil pembenaman (embedding) — vektor nombor yang menangkap makna semantik pertanyaan itu. Langkah ini menggunakan model pembenaman khusus (seperti text-embedding-ada-002 daripada OpenAI atau alternatif sumber terbuka seperti E5 atau BGE). Vektor yang terhasil membolehkan sistem melakukan carian semantik — mencari dokumen berdasarkan makna dan bukannya padanan kata kunci yang tepat.

Langkah 3 — Dapatan semula daripada pangkalan pengetahuan

Pembenaman pertanyaan dibandingkan dengan pangkalan data vektor (juga dipanggil stor vektor) yang menyimpan pembenaman prakira bagi dokumen, petikan, atau cebisan data. Pangkalan data itu memulangkan k item teratas yang paling serupa secara semantik. Pangkalan data vektor yang biasa termasuk Pinecone, Weaviate, Qdrant, Milvus, dan Chroma.

Kualiti dapatan semula bergantung pada beberapa faktor:

Strategi pencebisan — bagaimana dokumen asal dipecahkan kepada kepingan yang lebih kecil. Cebisan yang terlalu besar mencairkan relevans; cebisan yang terlalu kecil kehilangan konteks. Mencari saiz cebisan yang tepat ialah salah satu keputusan kejuruteraan paling berimpak dalam saluran paip RAG.
Model pembenaman — sejauh mana tepatnya makna ditangkap dalam vektor. Model pembenaman yang lemah membawa kepada dapatan semula yang lemah tanpa mengira pangkalan data.
Penarafan relevans — sama ada carian memulangkan hasil yang benar-benar relevan atau sekadar serupa di permukaan. Sesetengah sistem menambah langkah penarafan semula yang menggunakan pengekod silang untuk menskor semula hasil awal.

Langkah 4 — Suntikan konteks

Dokumen yang didapatkan semula digabungkan dengan pertanyaan asal pengguna ke dalam satu prom (kadangkala dipanggil "prom teraugmentasi") yang dihantar kepada LLM. Prom itu biasanya mengarahkan model untuk menjawab soalan menggunakan konteks yang disediakan dan menunjukkan apabila konteks itu tidak mengandungi maklumat yang mencukupi.

Langkah 5 — Penjanaan LLM dan output

LLM membaca prom teraugmentasi dan menjana respons yang berasaskan kedua-dua pengetahuan pralatihnya dan bukti yang didapatkan semula. Sistem RAG yang direka dengan baik mungkin juga menyertakan lapisan sitasi yang memautkan bahagian jawapan kembali kepada dokumen sumber tertentu, memberi pengguna cara untuk mengesahkan dakwaan.

Peringkat	Input	Output	Komponen utama
Pertanyaan	Teks pengguna	Pertanyaan mentah	Antara muka pengguna
Pembenaman	Pertanyaan mentah	Vektor pertanyaan	Model pembenaman
Dapatan semula	Vektor pertanyaan	Dokumen relevan	Pangkalan data vektor
Suntikan konteks	Pertanyaan + dokumen	Prom teraugmentasi	Templat prom
Penjanaan	Prom teraugmentasi	Jawapan akhir	LLM

Mengapa RAG penting

RAG menangani tiga batasan LLM tersendiri yang terkenal:

Halusinasi. LLM boleh menghasilkan jawapan yang yakin tetapi salah. RAG mengurangkan ini dengan mengasaskan respons pada dokumen sebenar. Apabila model boleh merujuk petikan tertentu, risiko fabrikasi menurun dengan ketara.
Pengetahuan lapuk. Model pralatih mempunyai tarikh henti pengetahuan. RAG membolehkan akses kepada data segar yang dikemas kini secara berterusan — pangkalan data luaran boleh disegarkan setiap hari atau bahkan secara masa nyata.
Kekhususan domain. Menala halus LLM untuk domain yang sempit adalah mahal dan memakan masa. RAG membolehkan model tujuan umum bekerja dengan pangkalan pengetahuan khusus tanpa latihan semula, menjadikannya lebih pantas dan lebih murah untuk menggunakan aplikasi khusus domain.

RAG vs penalaan halus

Kedua-dua RAG dan penalaan halus bertujuan meningkatkan prestasi LLM pada tugas tertentu, tetapi ia berfungsi dengan cara yang berbeza secara asasnya.

Aspek	RAG	Penalaan halus
Bila pengetahuan ditambah	Pada masa inferens (setiap pertanyaan)	Pada masa latihan (sekali, kemudian statik)
Kos untuk mengemas kini	Rendah — kemas kini pangkalan pengetahuan	Tinggi — latih semula atau tala halus semula model
Kesegaran pengetahuan	Boleh hampir masa nyata	Beku pada tarikh henti latihan
Memerlukan infrastruktur latihan	Tidak	Ya (GPU, set data, saluran paip latihan)
Paling sesuai untuk	Ingatan fakta, Soal Jawab dokumentasi	Gaya, nada, format, pengoptimuman tugas sempit
Kebolehauditan	Tinggi — sumber yang didapatkan semula boleh dilog	Rendah — pengetahuan terbenam dalam pemberat

Dalam praktiknya, banyak sistem produksi menggabungkan kedua-duanya: model yang ditala halus menyediakan nada dan tingkah laku tugas yang betul, sementara RAG membekalkan asas fakta yang terkini.

Corak RAG lanjutan

Saluran paip lima langkah asas yang diterangkan di atas kadangkala dipanggil RAG naif. Apabila teknik ini matang, jurutera telah membangunkan varian yang lebih canggih:

RAG berbilang langkah (iteratif). Daripada mendapatkan semula sekali, sistem mendapatkan semula, menjana jawapan perantaraan, mengenal pasti jurang pengetahuan, mendapatkan semula sekali lagi dengan pertanyaan yang diperhalusi, dan mengulang sehingga jawapannya cukup lengkap. Pendekatan ini mengendalikan soalan kompleks yang tidak dapat dijawab daripada satu laluan dapatan semula.
RAG agentik. Langkah dapatan semula dibalut di dalam kerangka ejen AI. Ejen memutuskan bila untuk mendapatkan semula, pangkalan pengetahuan mana untuk ditanya, sama ada untuk merumuskan semula pertanyaan, dan bila ia mempunyai konteks yang mencukupi untuk menjana jawapan akhir. Corak ini mengaburkan garis antara RAG dan ejen autonomi.
Carian hibrid. Menggabungkan carian semantik berasaskan vektor dengan carian kata kunci tradisional (BM25) dalam langkah dapatan semula yang sama. Carian hibrid menangkap padanan berasaskan makna dan berasaskan istilah, meningkatkan dapatan bagi pertanyaan yang mengandungi istilah teknikal khusus atau kata nama khas.
Graph RAG. Daripada cebisan dokumen rata, pangkalan pengetahuan distrukturkan sebagai graf pengetahuan — entiti dan hubungan. Dapatan semula mengikuti tepi graf dan bukannya (atau sebagai tambahan kepada) keserupaan vektor, membolehkan penaakulan berbilang lompatan ke atas data berstruktur. Corak-corak ini penting untuk penilaian: projek yang menerangkan saluran paip graph-RAG dengan dapatan semula iteratif membuat dakwaan yang lebih khusus (dan lebih sukar dipalsukan) berbanding yang sekadar berkata "kami menggunakan RAG."

Contoh dunia sebenar RAG

RAG bukan konsep teori — ia menjana sebahagian daripada produk AI yang paling banyak digunakan hari ini.

Bing Chat (Microsoft Copilot). Apabila anda bertanya soalan kepada Bing Chat, ia mencari web, mendapatkan semula halaman yang relevan, dan menggunakan halaman tersebut sebagai konteks untuk jawapan LLM. Sitasi sebaris yang anda lihat dalam respons ialah hasil langsung langkah dapatan semula.
Perplexity. Perplexity dibina di sekeliling seni bina RAG: setiap pertanyaan pengguna mencetuskan carian web, hasilnya disuap kepada LLM, dan jawapannya menyertakan rujukan sumber bernombor. Pengguna boleh klik untuk mengesahkan setiap dakwaan.
Pembantu pengetahuan perusahaan. Syarikat menggunakan sistem RAG dalaman untuk membolehkan pekerja menanyakan dasar HR, dokumentasi kejuruteraan, atau kontrak undang-undang menggunakan bahasa semula jadi. Lapisan dapatan semula mencari stor dokumen dalaman syarikat dan bukannya web terbuka. Contoh-contoh ini menunjukkan bahawa RAG ialah teknologi arus perdana. Apabila projek AI kripto berkata "kami menggunakan RAG," persoalannya bukan sama ada RAG ialah teknologi sebenar tetapi sama ada pelaksanaan khusus projek itu kukuh: data apa yang didapatkan semula, bagaimana ia diindeks, dan sama ada kualiti dapatan semula telah diukur.

Mengapa RAG muncul dalam projek AI kripto

Banyak projek AI kripto menggunakan RAG atau mendakwa menggunakannya dalam seni bina mereka. Kes penggunaan biasa termasuk:

Pembantu dokumentasi — mendapatkan semula dokumen protokol, kertas putih, atau cadangan tadbir urus untuk menjawab soalan pengguna tentang peraturan atau parameter sesuatu protokol.
Alat perisikan kripto — menarik data pasaran masa nyata, peristiwa di atas rantaian, atau artikel berita untuk menjana ringkasan analisis atau makluman.
Pangkalan pengetahuan untuk ejen — membina repositori berstruktur yang boleh ditanya oleh ejen AI sebelum bertindak, memastikan keputusan dimaklumkan oleh data terkini.
Pengasasan data di atas rantaian — menyambungkan lapisan dapatan semula kepada pengindeks blockchain supaya LLM boleh menjawab soalan tentang baki dompet, sejarah transaksi, atau keadaan kontrak pintar dengan maklumat semasa dan bukannya petikan masa latihan.

Nilai AI component tipikal dalam kad projek DecAIHub yang melibatkan corak RAG termasuk: "3D AI agents (RAG/memory/LLM catalog)", "AI summaries + crypto intelligence terminal", dan "AgentData (real-time data streams for AI agents)".

RAG bukan model

Salah faham yang biasa ialah menganggap RAG sebagai jenis model AI. Ia bukan. RAG ialah corak seni bina — cara menggabungkan sistem dapatan semula dengan LLM. Model di dalam saluran paip RAG boleh jadi GPT, DeepSeek, Mistral, atau mana-mana LLM lain. Komponen dapatan semula boleh jadi pangkalan data vektor, API carian, atau graf pengetahuan berstruktur.

Berkata "kami menggunakan RAG" memberitahu anda bagaimana sistem itu disusun. Ia tidak memberitahu anda model mana yang digunakan, sama ada ia proprietari, atau sebaik mana kualiti dapatan semulanya. Dua projek boleh sama-sama mendakwa RAG sambil mempunyai tahap kecanggihan yang sangat berbeza — satu dengan pangkalan pengetahuan yang dikurasi dengan teliti dan pembenaman tersuai, satu lagi dengan prototaip yang disusun tergesa-gesa yang jarang memulangkan dokumen yang relevan.

Apa yang tidak dibuktikan oleh RAG

Menggunakan RAG tidak membuktikan LLM tersendiri itu proprietari atau ditala halus. Projek itu mungkin memanggil API pihak ketiga.
Membina saluran paip RAG tidak membuktikan kualiti dapatan semula itu tinggi. Kualiti bergantung pada pangkalan pengetahuan, strategi pencebisan, model pembenaman, dan relevans carian.
Mempunyai seni bina RAG tidak membuktikan jawapannya tepat. Dapatan semula yang lemah boleh menyuap konteks yang tidak relevan, dan LLM masih boleh berhalusinasi.
Menyebut RAG di halaman pendaratan tidak membuktikan sistem itu benar-benar melakukan dapatan semula. Tanpa bukti Tier-1 — kod, rajah seni bina, log demo — dakwaan itu kekal tidak disahkan. Apabila menilai projek AI kripto yang mendakwa RAG, cari butiran khusus: pangkalan pengetahuan apa yang dicari, model pembenaman apa yang digunakan, bagaimana relevans diukur, dan sama ada mana-mana metrik kualiti diterbitkan.

Di mana ia muncul dalam kad projek DecAIHub

RAG biasanya dirujuk dalam medan AI component — sama ada secara langsung atau melalui penerangan yang membayangkan saluran paip dapatan-semula-tambah-penjanaan. Bendera AI_1 menyemak sama ada AI component diterangkan dengan kekhususan yang mencukupi. Sekadar menulis "RAG" tidak memadai; kad itu harus menerangkan apa yang didapatkan semula, dari mana, dan untuk tujuan apa.

Jangan kelirukan dengan

LLM — enjin penjanaan di dalam saluran paip RAG. RAG menambah dapatan semula di atasnya.
Latihan — RAG ialah corak masa inferens. Ia tidak melatih semula model; ia mengaugmentasi prom dengan konteks yang didapatkan semula.
Ejen AI — ejen mungkin menggunakan RAG sebagai salah satu alatnya, tetapi RAG sahaja tidak menjadikan sistem itu ejen.
Penalaan halus — penalaan halus melaraskan pemberat model semasa fasa latihan. RAG menyuntik pengetahuan luaran pada masa inferens tanpa mengubah suai model.
Lapisan dapatan semula / pengetahuan — komponen dapatan semula ialah separuh daripada RAG. RAG menambah langkah penjanaan di atas dapatan semula tulen.

Soalan lazim

Apakah perbezaan antara RAG dan penalaan halus?

Penalaan halus mengubah pemberat model secara kekal dengan melatihnya pada set data khusus. Pengetahuan baharu menjadi sebahagian daripada model itu sendiri. RAG membiarkan model tidak disentuh dan sebaliknya membekalkan dokumen yang relevan pada masa pertanyaan. Penalaan halus lebih baik untuk mengajar model gaya atau format tugas baharu; RAG lebih baik untuk memastikan jawapan berasaskan fakta yang segar dan boleh disahkan. Banyak sistem produksi menggunakan kedua-duanya — model yang ditala halus mengendalikan nada dan format sementara RAG menyediakan asas fakta yang terkini.

Adakah RAG menjadikan LLM lebih tepat?

RAG boleh mengurangkan halusinasi dengan ketara dengan mengasaskan output model pada bukti yang didapatkan semula. Walau bagaimanapun, ketepatan bergantung pada kualiti dapatan semula. Jika sistem dapatan semula memulangkan dokumen yang tidak relevan atau lapuk, LLM mungkin menghasilkan jawapan yang salah dengan yakin — kini disokong oleh bukti yang salah. RAG menaikkan siling ketepatan tetapi tidak menjaminnya. Mengukur kepersisan dan dapatan semula ialah keperluan asas bagi mana-mana penggunaan RAG yang serius.

Apakah itu pangkalan data vektor?

Pangkalan data vektor ialah stor data khusus yang direka untuk menyimpan dan mencari vektor berangka berdimensi tinggi (pembenaman). Apabila pembenaman pertanyaan dihantar, pangkalan data melakukan carian keserupaan — biasanya menggunakan algoritma seperti HNSW atau IVF — untuk mencari vektor yang paling hampir sepadan. Ini membolehkan carian semantik: mencari dokumen berdasarkan makna dan bukannya padanan kata kunci yang tepat. Pangkalan data vektor yang popular termasuk Pinecone, Weaviate, Qdrant, Milvus, dan Chroma.

Bagaimana RAG digunakan dalam projek AI kripto?

Projek AI kripto menggunakan RAG untuk menghubungkan LLM dengan data khusus blockchain: dokumentasi protokol, cadangan tadbir urus, sejarah transaksi di atas rantaian, suapan harga masa nyata, dan kod sumber kontrak pintar. Lapisan dapatan semula mencari sumber khusus ini supaya LLM boleh menjawab soalan khusus domain dengan data semasa dan bukannya bergantung pada pengetahuan latihan yang lapuk. Kualiti sistem sebegini berbeza-beza dengan luas — daripada pangkalan pengetahuan yang diindeks dengan baik dan dikurasi hinggalah kepada persediaan minimum yang mendapatkan semula sedikit konteks yang berguna.

Bolehkah RAG berfungsi dengan data di atas rantaian?

Ya. Lapisan dapatan semula dalam saluran paip RAG boleh bersambung kepada pengindeks blockchain, subgraf, atau API analitik di atas rantaian. Apabila pengguna bertanya tentang baki dompet, sejarah transaksi, atau keadaan kontrak pintar, sistem dapatan semula mengambil data di atas rantaian yang relevan, dan LLM menjana penjelasan yang boleh dibaca manusia. Cabaran utamanya ialah kependaman (pertanyaan blockchain boleh lambat), pemformatan data (data mentah di atas rantaian mesti dihurai dan dicebis untuk pembenaman), dan kesegaran (indeks mesti dikemas kini dengan cukup kerap untuk mencerminkan keadaan rantaian semasa).

Lihat juga

Rujukan luaran

Lewis, P. et al. "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks." arXiv, 2020. https://arxiv.org/abs/2005.11401
Gao, Y. et al. "Retrieval-Augmented Generation for Large Language Models: A Survey." arXiv, 2024. https://arxiv.org/abs/2312.10997
AWS. "What is RAG?" https://aws.amazon.com/what-is/retrieval-augmented-generation/
Pinecone. "Retrieval-Augmented Generation (RAG)." https://www.pinecone.io/learn/retrieval-augmented-generation/
Microsoft. "Retrieval-Augmented Generation (RAG) in Azure AI Search." https://learn.microsoft.com/en-us/azure/search/retrieval-augmented-generation-overview