29. července 2025

Bezstavové dotazování změnilo pravidla hry

Dříve se AI paměť řešila stylem „uložme co nejvíc historie a model ať si to nějak přebere“. Výsledek? Drahé dotazy, nekonzistentní odpovědi a chaos v tom, co bylo vlastně použito. Dnešní trend je jiný: bezstavové dotazování s chytrým výběrem kontextu.

Co je bezstavové dotazování v běžné firemní praxi

Co to znamená jednoduše? Každý dotaz začíná „načisto“, ale systém k němu doplní jen ty informace, které jsou opravdu potřeba. Žádné slepé přeposílání celé historie, žádné tahání irrelevantních dat.

Přesnost roste, náklady klesají.

V praxi pracujeme se třemi vrstvami paměti. Krátkodobá: co je potřeba pro aktuální úkol. Střednědobá: preference a opakující se pravidla. Dlouhodobá: firemní znalosti přes RAG.

Tento model je škálovatelnější než „nekonečný chat thread“.

Největší rozdíl dělá prioritizace. Každý kontextový blok dostane skóre: aktuálnost, relevanci, důvěryhodnost zdroje a citlivost dat. Do promptu jde jen to, co má nejvyšší hodnotu pro konkrétní rozhodnutí. Tím se eliminuje informační šum.

Příklad z call centra: operátor řeší zákazníka s otevřenou reklamací. Systém automaticky přidá poslední komunikaci, stav ticketu a relevantní interní pravidlo. Nepřidává všechen archiv. Operátor dostane přesný kontext za sekundy, ne po 10 minutách dohledávání.

Příklad z financí: controller se ptá na odchylku nákladů. AI dostane aktuální dataset, definici KPI a poslední schválené rozpočtové pravidlo. Nedostane stovky historických tabulek bez filtru. Výstup je rychlejší a méně „halucinační“.

Z pohledu vedení je zásadní auditovatelnost. U každé odpovědi musíte umět říct: z čeho AI čerpala, proč to vybrala, kdo měl přístup. To je důvod, proč paměť řešíme společně s AI governance. Bez toho se paměť stane neprůhlednou skříňkou.

Co je nejčastější chyba? Firmy chtějí, aby AI „věděla všechno“. To je slepá cesta. Správný cíl je, aby AI věděla to důležité pro konkrétní úkol. V tom je rozdíl mezi efektním demem a produkční AI.

Tři pravidla, která u paměti LLM fungují

• Paměť rozdělte podle horizontu: krátkodobá, střednědobá a dlouhodobá znalostní báze.
• Kontext skórujte před odesláním: aktuálnost, relevance, důvěryhodnost a citlivost dat.
• Každou odpověď udělejte auditovatelnou: kdo, kdy, z čeho a proč odpověď vznikla.

Kde firmy dělají nejdražší chybu

Nejčastěji vzniká chyba ve chvíli, kdy firma zamění „více dat“ za „lepší odpověď“. V produkci je to přesně naopak. Funguje méně dat, ale správně vybraných, ideálně přes řízenou vrstvu embeddingu a RAG.

Pokud to shrneme: budoucnost není v delší paměti, ale v lepším kurátorství kontextu. Kdo zvládne prioritizaci, zvládne i škálování. A to je dnes pro management klíčová konkurenční výhoda.