🎧 Poslouchej epizodu:
„Co vy budete dělat, až vám ta AI vypadne?” Tuhle otázku slyší Filip na workshopech i v komentářích pořád dokola a bereme ji vážně. Jen si myslíme, že většina lidí na ni odpovídá špatným způsobem: postaví lokální model za statisíce, aby pokryla dvě hodiny výpadku ročně, zatímco celý jejich e-shop stojí na jednom cloudovém provideru a to nikoho netrápí. 🤔 A přidáváme k tomu optiku, která z toho dělá víc než technickou debatu: být na někom závislý je pro nás často ekonomicky výhodné, ať už jde o ropu, elektřinu, nebo AI. Díl proto nehledá způsob, jak závislost zrušit. Hledá, kolik za její snížení stojí za to zaplatit.
Dvě závislosti, které se pletou dohromady 🧩
Hned na začátku jsme si téma rozdělili na dvě části, které spolu souvisí, ale řeší se úplně jinak.
Kognitivní závislost je to, že člověk přestane přemýšlet sám a myšlení offloaduje na model - spoléhá, že mu Claude nebo jakýkoli jiný asistent vyřeší logický problém za něj. Známe to i na sobě: úkoly lifrujeme na agenty a cítíme nechuť dělat manuálně věci, které za nás někdo udělá líp a rychleji. Na tohle chceme samostatný, delší díl, tady se mu vědomě vyhýbáme.
Infrastrukturní závislost je ta druhá, provozní. Firma si na AI postaví workflow a agentní automatizace (přesně ty, co jsme mapovali v #32 | Základy AI agentů), a když to vypadne, ztrácí objednávky. Všechno se dá nakonec přepočítat na peníze - a přesně tam to zabolí. 💡
Kognitivní závislost tě stojí schopnosti. Infrastrukturní tě stojí peníze. Díl je o té druhé.
Výpadek AI není problém AI 📌
Tohle je nosná teze celé epizody: když vypadne AI, není to problém té AI, ale infrastruktury pod ní. Model sám od sebe spadnout neumí. Spadne to, co ho hostuje, routuje a autorizuje. Je to úplně stejná příčina, jako když vypadne GitHub, Cloudflare nebo jakákoli jiná webová služba.
Vzpomněli jsme si na výpadek Cloudflare, kdy nefungovaly ani ty největší služby - a táhne se z toho formulace, která se dílem vrací: tvoje bezpečnost je stejně velká jako nejslabší článek tvého dodavatelského řetězce. ⚡
Zajímavá je i příčina. Většinou za tím nejsou útoky, ale malá chyba - typicky špatná konfigurace, která se rozlije celým systémem. Oprava bývá rychlá, ale než se rozšíří napříč internetem, trvá to hodiny - butterfly effect, jak to pojmenoval Jindřich. 🦋
Kde analogie s elektřinou přestává platit ⚡
Celý díl stojí na přirovnání k elektřině. Používáme ho, abychom ukázali, že závislost není nic nového - stejně dobře by sis mohl stěžovat, co budeš dělat, až vypadne proud. Nikdo kvůli tomu neřekne, že elektřinu používat nebude, protože benefit je větší než riziko. A obrany existují - záložní zdroje, víc typů elektráren, víc dodavatelů.
Pak jsme ale udělali něco, co se v podcastech o AI moc nevidí - tu analogii jsme si sami nabourali: 🔍
Zkrátka AI není jako AI, kdežto elektřina je jako elektřina.
U elektřiny je jedno, jestli přitekla z jádra, z větru nebo z uhlí - ze zásuvky teče totéž. U AI si sice stejný model můžeš vzít u víc poskytovatelů, ale jakmile přepneš na jiný model, chová se jinak. Máme to vyzkoušené na vlastním workflow: naše pipeline na články pro Substack je vyladěná na Opus, a když do ní pošleme model od OpenAI, výsledek prostě není ono - chová se trošku jinak. 👉 To je přesně ten důvod, proč fallback na jiného dodavatele není zadarmo. Kdy se vlastní model vyplatí a kdy je to jen dražší cesta ke stejnému výsledku, jsme rozebírali v #26 | Lokální AI modely.
Druhá vrstva, na kterou se často zapomíná: model nemusí jen vypadnout, on může taky skončit. Poskytovatel ho označí za deprecated a přestane ho nabízet. Připomněli jsme stažení GPT-4o a překvapivě silnou vlnu nevole, kterou spustilo. A spojuje se to zpátky s kognitivní rovinou - lidé si ten model přisvojili. 🤔
Lokální AI jako kanón na komára 🎯
Když někdo přijde s obavou z výpadku, nejčastější reflex zní: pořídíme si lokální AI. Souhlasíme, že to je směr, kam se to do budoucna posune - lepší modely, dostupnější hardware. Pro většinu firem je to ale dnes extrémně náročný úkol, s nadsázkou až ekonomická sebevražda.
Proč? Protože účet nekončí u nákupu hardwaru:
Provoz pro jednoho není provoz pro firmu. „Stáhneš Ollamu, dáš bum inference tududum, jedem easy” platí, když to zkoušíš sám. U firmy o padesáti lidech najednou řešíš load balancing, distribuci výkonu ve špičkách a správu clusterů. Hardware zastarává. Odvoláváme se na Matěje Nováka z ostravského superpočítačového centra, hosta #S08 | Národní superpočítač v Ostravě - životnost je v jednotkách let, tři až čtyři roky. Ceny komponent vystřelily. Při dnešních extrémních cenách pamětí i úložišť stojí totéž železo mnohem víc než před rokem nebo dvěma. Musíš si koupit know how. Někdo to musí umět nasadit tak, aby to nevypadlo, zálohovat, hlídat servery. Tím si do firmy přinášíš nová rizika, ne že je odstraňuješ.
A pak je tu poznámka, která bolí nejvíc: firmy to chtějí často řešit dřív, než AI vůbec adoptovaly. Ještě jim nefunguje ani základ, a už řeší lokální model - postup je přesně opačný, než by měl být. 💡
Co s tím tedy dělat, od nejlevnějšího 🚀
Díl nabízí konkrétní schodiště, po kterém se dá jít postupně.
1. Dvě předplatná místo jednoho. Nejjednodušší krok - platit Claude i ChatGPT a dát obojí lidem. Není to ideální, spíš takový baby step. Bonus navíc: lidi se naučí obecné principy místo toho, jak funguje jeden konkrétní nástroj.
2. LLM gateway. Funguje jako rozcestníček. Požádáš o model Opus, gateway to pošle primárně přes Claude API, a když je nedostupné, přesměruje požadavek přes Amazon Bedrock, pak na dalšího, případně až na fallback na úplně jiný model. Tím se dá vyřešit většina výpadků. Jindřich k tomu přidává OpenRouter jako dostupnou hotovou variantu - a hlavně, že přepnout model můžeš chtít z jakéhokoli důvodu, nejen kvůli výpadku.
Cena za to je ale reálná: přes Bedrock máš stejný model, jen typicky dráž, protože platíš per token. Redundance znamená opustit výhodné předplatné. 📌
3. Testovat workflow napříč modely. Nejnáročnější krok. Pustit své automatizace přes modely různých poskytovatelů, sledovat, kde se chovají jinak, a doladit systém tak, aby doběhl plus minus stejně. Nezastíráme, že to stojí režii - ale výměnou za to máš dostupnost, kterou ti nikdo nevypne.
A pak je tu čtvrtá možnost, na kterou se zapomíná: nedělat nic a vědomě to přijmout. Opravdu jsou ty dvě hodiny výpadku ročně takový problém? 🤔 Z druhé strany to potvrzujeme optikou byznysu - spousta firem nemá jasno, do jakého levelu vlastně backup chce, a chybí jim člověk, který by se zeptal, jestli to celé není jen proto, aby měl pan šéf pocit, že to poběží dvacet čtyři sedm.
TL;DR - co si z toho vzít 📌
Závislost na AI má dvě tváře. 🧩 Kognitivní (offloaduješ myšlení) a infrastrukturní (stojí na tom provoz). Díl řeší tu druhou, na tu první chystáme samostatnou epizodu.
Když vypadne AI, nespadl model. ⚡ Spadla infrastruktura pod ním - stejná příčina jako u GitHubu nebo Cloudflare. A obvykle za tím není útok, ale malá konfigurační chyba, která se propaguje systémem.
Analogie s elektřinou funguje jen do půlky. 🔌 Elektřina je zaměnitelná, AI model ne. Jiný model se chová jinak, takže fallback není přepnutí vlajky v konfiguraci.
Model může taky skončit, ne jen vypadnout. ⏳ Deprecace je plánované odstavení, na které se firmy připravují ještě míň než na výpadek.
Lokální AI dnes pro většinu firem nevychází. 🎯 Hardware, jeho zastarávání, drahé paměti, load balancing, know how. A hlavně: firmy to chtějí řešit dřív, než AI adoptovaly.
Postupuj od nejlevnějšího. 🚀 Dvě předplatná, pak LLM gateway s fallbackem, teprve pak testování napříč modely. Lokální model až nakonec.
U SLA platí, že poslední procento stojí nejvíc. 💸 Kupuješ si spolehlivost, ne funkce. A platíš za to i dedikovaného člověka na straně dodavatele.
Konzistence před panikou. 🔍 Nemá smysl stavět elaborátní fallback pro AI, když celá tvoje aplikace stejně visí na jednom cloudu a to neřešíš.
Líbí se ti Deeplink Show?
👉 Sleduj nás na YouTube - video verze každé epizody
🎧 Followni Deeplink Show na Spotify - pro poslech kdekoli
🌎 Mrkni na náš web - pro další detaily podcastu
📸 Sleduj nás na Instagramu - zkratky, tipy a zákulisí
Nebo nám napiš co si myslíš: studio@deeplink.show ✉️