RAG (retrieval-augmented generation, generovanie doplnené vyhľadávaním) je postup, pri ktorom si model k otázke najprv vyhľadá relevantné dokumenty a odpoveď zostaví z nich. Bez neho by čerpal len z trénovacích dát, ktoré majú dátumovú hranicu a nedajú sa priebežne dopĺňať.
Ako to prebieha
Otázka sa prevedie na embedding a systém v databáze nájde pasáže, ktoré sú jej významovo najbližšie. Model dostane tieto pasáže spolu so zadaním a odpoveď napíše na ich základe. Preto vie citovať zdroje aj pri téme, o ktorej sa počas trénovania neučil.
Takto pracujú vyhľadávacie funkcie v ChatGPT, Perplexity aj AI prehľady Googlu. Firmy rovnaký princíp používajú interne, keď chcú, aby model odpovedal z ich vlastných dokumentov.
Prečo na tom záleží pri obsahu
Do odpovede sa nedostáva celá stránka, ale konkrétna pasáž. Vyhráva text, ktorý odpovie priamo a dá sa z neho vybrať uzavretý úsek. Dlhý úvod, v ktorom sa odpoveď hľadá, je v tomto systéme nevýhoda.
Druhá vec je dostupnosť. Ak sa k stránke crawler nedostane, do vyhľadanej množiny sa nedostane ani obsah a model o nej nevie. Práca s touto viditeľnosťou je náplňou AI SEO.
Čo RAG nerieši
Model stále môže odpoveď sformulovať nepresne, aj keď má správny zdroj. Uvedená citácia preto neznamená, že veta nad ňou sedí, a pri faktoch sa oplatí zdroj otvoriť.
← Späť na marketingový slovník