RAG
Când nu ai nevoie de RAG
Nu ai nevoie de RAG când toate documentele încap în contextul modelului: le pui direct în prompt, iar prompt caching face întrebările repetate mai ieftine și mai rapide. Când nu încap, un agent poate căuta singur în fișiere, la nevoie. RAG cu index rămâne alegerea pe mult text, când viteza contează.
Actualizat la
Dacă documentele încap în context, mai trebuie RAG?
Nu neapărat. Anthropic scrie că o bază de cunoștințe mică poate fi pusă întreagă în prompt. Nu mai ai index de întreținut, iar modelul vede tot textul în locul câtorva bucăți alese de căutare.
Ce este prompt caching?
Modelul reia un început de prompt deja procesat, în ordinea unelte, instrucțiuni, mesaje, până la marcajul de cache. Citirea din cache costă mai puțin decât inputul normal, așa că un set fix de documente pus la începutul promptului costă mai puțin la fiecare întrebare care urmează.
Ce este căutarea agentică?
Agentul ține la îndemână căi de fișiere, interogări și linkuri și încarcă datele abia când are nevoie de ele. Claude Code lucrează așa: CLAUDE.md intră în context de la început, iar fișierele le găsește pe parcurs cu glob și grep. Prețul e viteza, fiindcă explorarea la rulare e mai lentă decât un index pregătit dinainte.
Ce este „context rot”?
Cu cât pui mai mult text în fereastra de context, cu atât modelul își amintește mai greu ce scrie în ea. Anthropic descrie atenția modelului ca pe un buget limitat, deci faptul că documentele încap în context nu te obligă să le pui pe toate.
Întrebări frecvente
Cât de mare poate fi o bază pusă direct în prompt?
Cât încape în fereastra de context a modelului. Pe documentele tale, testul e simplu: dacă răspunsurile se înrăutățesc cu tot textul în prompt, treci la căutare.
Căutare agentică sau RAG?
Căutarea agentică nu cere index și citește direct fișierele, dar e mai lentă. RAG răspunde repede din date pregătite dinainte. Claude Code le combină: o parte stă în context de la început, restul îl caută la nevoie.
Ce este fereastra de context?
Tot textul pe care modelul îl vede la un apel: instrucțiuni, unelte, documente, istoricul conversației. Are o limită, iar modelul o folosește tot mai prost pe măsură ce o umpli.
Cât timp ține cache-ul?
Implicit, puțin, dar durata se reia la fiecare folosire, fără cost în plus. Pentru pauze mai lungi există o durată extinsă, contra cost.
Surse
Articole înrudite
Ce este RAG și cum funcționează, pas cu pas
RAG (Retrieval-Augmented Generation) înseamnă că modelul caută întâi în documentele tale și scrie răspunsul din ce a găsit. Documentele se taie în bucăți, fiecare bucată devine un embedding într-un index, iar la fiecare întrebare bucățile cele mai apropiate ca sens intră în prompt, lângă întrebare.CiteșteCăutare hibridă: BM25 și vectori în aceeași căutare
Căutarea hibridă rulează aceeași întrebare de două ori: o dată cu BM25, care găsește cuvintele și codurile exacte, și o dată pe vectori, care găsesc textele apropiate ca sens. Cele două liste se unesc, de obicei prin Reciprocal Rank Fusion, iar un reranker alege la final ce ajunge la model.Citește
Studii de caz
Servicii legate
Nu știi dacă îți trebuie RAG?
Spune-ne ce documente ai și ce întrebări primesc colegii. Îți spunem dacă ajunge promptul sau e nevoie de căutare.
Scrie-ne