RAG
Ce este RAG și cum funcționează, pas cu pas
RAG (Retrieval-Augmented Generation) înseamnă că modelul caută întâi în documentele tale și scrie răspunsul din ce a găsit. Documentele se taie în bucăți, fiecare bucată devine un embedding într-un index, iar la fiecare întrebare bucățile cele mai apropiate ca sens intră în prompt, lângă întrebare.
Actualizat la
Cum funcționează RAG pas cu pas?
- Documentele se taie în bucăți mici de text.
- Un model de embedding transformă fiecare bucată într-un vector care îi codifică sensul, iar vectorii stau într-o bază de date vectorială.
- La o întrebare, baza găsește bucățile cele mai apropiate ca sens.
- Bucățile găsite intră în prompt lângă întrebare, iar modelul scrie răspunsul din ele.
Ce este un embedding?
Un vector, adică o listă de numere care codifică sensul unui text. Baza de date vectorială caută după similaritatea de sens, așa că găsește un paragraf chiar dacă întrebarea e formulată cu alte cuvinte decât documentul.
De ce mai greșește un RAG?
- Bucata tăiată își pierde contextul: o frază despre creșterea veniturilor nu mai spune despre ce firmă sau ce perioadă e vorba.
- Embeddings pot rata o potrivire exactă, cum e un cod de eroare. Acolo ajută căutarea pe cuvinte, BM25.
- Dacă nu îi ceri să folosească doar documentele, modelul poate completa din ce știe în general.
Cum ajunge sursa lângă răspuns?
Fiecare bucată găsită poate intra în cerere ca document separat. Cu funcția de citări, modelul întoarce pasajul exact care susține fiecare afirmație, iar cine citește poate deschide documentul și verifica.
Întrebări frecvente
RAG sau MCP?
Răspund la întrebări diferite. RAG e tehnica prin care modelul caută în documente înainte să răspundă. MCP e un standard deschis prin care o aplicație AI se conectează la sisteme externe. Un motor de căutare pe documente poate fi oferit unui agent chiar ca server MCP.
Ce face un reranker în RAG?
Mai filtrează o dată bucățile găsite, ca la model să ajungă doar cele mai relevante. Modelul citește mai puțin text, deci costă mai puțin; pasul de reranking adaugă însă puțină latență.
Am nevoie de RAG pentru câteva documente?
Nu neapărat. O bază mică de documente poate intra întreagă în prompt, iar prompt caching o face mai ieftină la întrebările repetate.
De unde știu că răspunsul e corect?
Din sursă: când răspunsul vine cu pasajul din document, îl poți verifica. Citările reduc mult greșelile, dar nu le elimină complet.
Ce este Contextual Retrieval?
O metodă descrisă de Anthropic: înainte de indexare, un model scrie pentru fiecare bucată o scurtă explicație despre locul ei în document, ca bucata să nu-și piardă contextul la căutare.
Surse
Citește și
Articole înrudite
Căutare hibridă: BM25 și vectori în aceeași căutare
Căutarea hibridă rulează aceeași întrebare de două ori: o dată cu BM25, care găsește cuvintele și codurile exacte, și o dată pe vectori, care găsesc textele apropiate ca sens. Cele două liste se unesc, de obicei prin Reciprocal Rank Fusion, iar un reranker alege la final ce ajunge la model.CiteșteCând nu ai nevoie de RAG
Nu ai nevoie de RAG când toate documentele încap în contextul modelului: le pui direct în prompt, iar prompt caching face întrebările repetate mai ieftine și mai rapide. Când nu încap, un agent poate căuta singur în fișiere, la nevoie. RAG cu index rămâne alegerea pe mult text, când viteza contează.CiteșteRăspuns cu sursa: cum reduci halucinațiile AI
Un răspuns cu sursa pune lângă fiecare afirmație pasajul din document care o susține. Modelul primește voie să spună „nu știu”, scoate întâi citatele și abia apoi răspunde, iar o afirmație fără citat se retrage. Halucinațiile scad mult, dar nu dispar, așa că deciziile importante le verifică un om.Citește
Studii de caz
Servicii legate
Vrei RAG pe documentele firmei?
Construim asistentul pe contractele, procedurile și arhiva ta, cu sursa lângă fiecare răspuns.
Vezi chatbotul pe documente