Preskočiť na obsah
VF Vladimir Fejdi
Prípadové štúdie EN Rezervovať hovor
← Všetky prípadové štúdie
Prípadová štúdia

AI chat asistent tohto webu — reliability inžinierstvo v produkcii

Súvisiaca služba: AI spoľahlivosť

Provider-agnostická architektúra

AI chat asistent tohto webu je živý, citovateľný príklad princípov linky AI Reliability v produkcii: provider-agnostický streaming proxy, ktorý dokáže prepnúť medzi LLM poskytovateľmi jedinou konfiguračnou hodnotou bez akejkoľvek zmeny na strane klienta, a pred ním deterministická security-harness brána, ktorá blokuje vysoko závažný obsah typu prompt injection a únik system promptu skôr, než sa vôbec dostane k modelu.

Nákladové guardraily a retencia

Asistent beží pod viacvrstvovými, nezávislými nákladovými guardrailmi — rate limit na návštevníka, denný rozpočet konverzácií, ktorý prežije reštart procesu, a strop na session — takže využitie zostáva ohraničené a predvídateľné, nie otvorené; vyčerpanie ktorejkoľvek vrstvy sa prejaví zdvorilou statickou správou, nikdy chybovou stránkou. Každá konverzácia sa uchováva obmedzený čas a potom ju automaticky zmaže plánovaný retention sweeper, presne podľa zverejneného privacy oznámenia tohto webu — mazanie vynucuje bežiaci kód, nie iba sľub na stránke s politikou. Konkrétne prahové hodnoty sa zámerne nezverejňujú: sú to prevádzkové ladiace parametre revidované podľa reálnej prevádzky, nie záväzky.

Skriptovaná evaluácia

Pred nasadením akejkoľvek zmeny promptu či modelu beží skriptovaná evaluácia proti živému endpointu s golden setom promptov v troch triedach asercií: faktická presnosť (odpovede o službách musia niesť presne tie čísla, ktoré sú zverejnené na stránke), anti-fabrikácia (otázky o neexistujúcich službách musia byť odmietnuté — nikdy nedostanú vymyslenú cenu) a korektnosť odmietnutí (pokusy o prompt injection musí zablokovať deterministický harness ešte pred volaním modelu, zatiaľ čo legitímne bezpečnostné otázky — „testujete odolnosť proti jailbreaku?" — sa NESMÚ blokovať nadmerne). Celý set musí prejsť pred nasadením zmeny a výsledky sa zapisujú do tuning journalu, takže každé rozhodnutie o modeli či prompte má písomný baseline. Asistent tiež zrkadlí jazyk návštevníka — akýkoľvek jazyk, overené naživo v nemeckých, poľských a českých konverzáciách po vydaní.

Riešite podobný problém?

Rezervovať hovor
VF © 2026 Vladimir Fejdi · TGS Consult s.r.o. · IČO 54 396 590
Služby Prípadové štúdie Ochrana súkromia LinkedIn