🎧 Poslouchej epizodu:
Náš host seděl při natáčení v showroomu, kde má po levé ruce dvě velké svítící bedny. Na jedné je nápis Barbora NG, na druhé Karolina. 🖥️ Matěj Novák z IT4Innovations, Národního superpočítačového centra při VŠB - Technické univerzitě Ostrava, propojuje firmy s výpočetní infrastrukturou. A hned na začátku řekl větu, kvůli které stálo za to celý díl natočit: existuje něco jako výpočetní čas zadarmo, pojďte ho využít.
To jsme nevěděli. A Matěj sám říká, že ho po nástupu do IT4I překvapilo, jak málo lidí o té možnosti ví. 🤔 Udělal si z osvěty osobní cíl, tak jsme mu k ní pomohli - a zeptali se na všechno praktické. Kolik to stojí, když to zadarmo není. Jak dlouho se čeká. Co v žádosti musíš vyplnit. A co se v Ostravě chystá dál.
Výpočetní čas zdarma: tři balíčky a žádost na čtyři A4 🚀
Začneme tím nejpraktičtějším. Startupy a malé či střední firmy (SME) můžou k evropské výpočetní infrastruktuře přijít bezplatně, protože Evropská unie do toho cíleně sype peníze. 💶 Důvod je jednoduchý: aby AI startupy vznikaly a zůstávaly tady, a ne aby si výkon kupovaly někde v zámoří.
Bezplatný přístup je ve třech balíčcích a počítá se v GPU hodinách, tedy jedna karta po dobu jedné hodiny. Playground je 5 000 GPU hodin, Fast Lane 10 000 až 50 000 a Large Scale 50 000 a víc. 📌 Podle Matěje většině startupů bohatě stačí Playground a Fast Lane. U LUMI, finského superpočítače, se strop pohybuje někde přes dva miliony GPU hodin, ale to jsou čísla, do kterých se běžný startup nedostane.
Podmínky? Firma musí sídlit v zapojené zemi (což je prakticky každá, se kterou se v IT4I potkali) a musí to být startup nebo SME, orientačně do 250 zaměstnanců. Filip se zeptal na to, na co bych se zeptal i já: stačí IČO, nebo si musím zakládat s.r.o.? Podle Matěje si s.r.o. zakládat nemusíš - jen na IČO už někdo žádal a žádost mu schválili. ✅
A teď to hlavní překvapení. Samotná žádost jsou čtyři až pět A4: summary, abstrakt, tým, jaký kód používáte. Žádná povinnost něco uvolňovat jako Open Source.
Duševní vlastnictví zůstává na straně té firmy. Je to fakt šité tomu, ať jdeme rozvíjet ten byznys tady.
Lhůty na vyhodnocení jsou taky krátké: 2 pracovní dny u Playgroundu, 4 u Fast Lane, 10 u Large Scale. ⚡ Rekord v IT4I byly hodiny. Na druhé straně ale sedí člověk, ne skript - Matěj férově přiznal i případ firmy, která podala žádost před Vánoci a odpověď dostala až po Novém roce. Alokace jsou na tři měsíce nebo na rok a po vyčerpání se dá žádat znovu, takže to není jednorázová jízdenka.
Uzlohodina za 455 Kč a superpočítač, který není cloud ⚙️
Když nejsi startup ani SME, jde se komerční cestou. A tam je účtovací jednotka uzlohodina: jeden výpočetní uzel Karoliny, na kterém je osm karet NVIDIA A100, po dobu jedné hodiny. 💰 Cena k dnešnímu dni je zhruba 455 Kč bez DPH. CPU oddíl vyjde na nějakých padesát korun za uzlohodinu.
Zajímavější než cena je ale rozptyl. Velké firmy konzumují obrovské objemy, jiné si vezmou stovky uzlohodin a tím to pro ně končí, protože zjistí, že ta infrastruktura pro ně není. 🤔 A tady je ta nejdůležitější věta celého dílu pro každého, kdo je zvyklý na cloud: superpočítač se nechová jako cloud.
Na tom superpočítači je nějaký trychtýř, do kterého ty úlohy padají a skládají se na sebe.
Dole v trychtýři sedí dávkovač úloh, který rozhoduje, co se zrovna spočítá. Důsledek je kontraintuitivní: malá úloha se často spočítá dřív než velká, protože ji dávkovač propašuje do volného místa. 📌 Pro člověka, který je zvyklý kliknout a mít instanci, je to reálná bariéra. IT4I na jejím odbourávání pracuje, vyvíjí nástroje pro snazší přístup a chystá i demo přístupy, aby si firma mohla nejdřív osahat, kolik času vlastně potřebuje.
Zeptali jsme se taky, kdo tam vlastně počítá. Na CPU oddílech pořád hlavně věda: chemie, medicína, simulace. Na GPU oddílu je to u komerčních zákazníků prakticky celé AI - trénink, fine-tuning, inference a hodně benchmarking modelů, kdy firma zjišťuje, který model se pro její use case vyplatí. A pak je tu skupina firem, které vůbec nedělají AI produkt, jen nechtějí posílat svoje data kamkoliv ven. Požadavky na vlastní inferenci prý v IT4I odbavují v podstatě denně. 🔒
Když už jsme u toho: ekonomiku vlastního běhu modelů jsme rozebírali v #26 o lokálních AI modelech. Tenhle díl k tomu přidává třetí cestu vedle „lokálně u sebe” a „u poskytovatele”: veřejnou evropskou infrastrukturu, na které máš jako startup compute zdarma.
AI Factories: lidi a železo, ne jen hromada GPU 🏭
Termín AI Factories padal celý díl, tak jsme si ho nechali vysvětlit. Evropa si v momentě, kdy se rozhodla investovat do AI, položila otázku, kde začít. A došla k infrastruktuře - jenže ne na zelené louce. Podívala se na superpočítačová centra, která už dávno existovala, a postavila to na nich. Po Evropě jich takhle vzniklo devatenáct.
Matěj to s kolegou popisuje dvěma slovy: lidi a železo. 🎯 Železo jsou superpočítače, které v rámci projektů vznikají. Lidi jsou konzultace, školení a vývojáři nástrojů, které mají přístup k infrastruktuře zjednodušit. A taky experti, kteří si s firmou sednou a řeknou jí, že to dělá jinak, než by měla. Právě tahle druhá miska vah je to, co odlišuje AI Factory od „koupíme si pár GPU”.
Nad tím vším sedí EuroHPC JU, což je podle Matěje prodloužená ruka EU, oddělení, kde lidi na plný úvazek řeší jenom HPC. 🔍 IT4I je ve dvou projektech: LUMI AI Factory (v provozu zhruba od dubna 2025) a Czech AI Factory (od dubna 2026), v jehož rámci se pořizuje nová KarolAIna. A pak je tu ještě AI Gigafactory zaštítěná Českými radiokomunikacemi, kterou vypisuje ten samý EuroHPC JU a se kterou je IT4I v kontaktu.
Jestli tě zajímá druhá strana téhle rovnice, tedy jestli se vlastní infrastruktura vyplatí i střední firmě, mrkni na #S07 s Vratislavem Zimou. Tam jsme došli k tomu, že investice je zatím moc velká. Tenhle díl ukazuje cestu, kterou jsme tehdy nezvažovali: zažádat si o cizí. 💡
Karolina, Vlq a teplo, za které jsme vděční v zimě 🔥
Jména superpočítačů v Ostravě - Anselm, Salomon, Barbora, Karolina - pocházejí z havířské historie kraje, z názvů dolů. Přijde mi to jako pěkný oblouk: z uhelné minulosti vstříc něčemu, co jde naproti budoucnosti. ⛏️
Karolina je pořád vlajková loď a zároveň učebnicový příklad, jak rychle hardware stárne. Při uvedení do provozu byla podle Matěje 64. na žebříčku Top500, dneska je někde přes dvě stě padesáté.⚡ Zajímavé je, proč se hardware vyměňuje: ne kvůli tomu, že by karty odcházely horkem, ale prostě proto, že zastarají výkonem. Životnost vychází zhruba na pět let, letos se chystá Karolina NG.
Filip se zeptal na GPU Armageddon a nedostatek karet. Odpověď je hodně česká: superpočítač se pořizuje přes veřejnou soutěž, a od chvíle, kdy se čipy vyberou, do chvíle, kdy dorazí, může uběhnout rok. Rok je v hardwaru hodně. 😅 O ceně výkonu a čipech jsme přemýšleli i v #16 o zdražování AI, tady je stejná otázka z pozice veřejného zadavatele.
Na moji otázku po odpadním teple padla nejlidštější věta dílu: za superpočítače jsme nejvděčnější v zimě. 🥶 Teplo z nich předehřívá vzduch a přitápí budovu. U LUMI ve finském Kajaani vytápí odpadní teplo rovnou město. V létě je to naopak - protažená obnova chlazení poslala GPU část Karoliny mimo provoz, a to zrovna ve chvíli, kdy IT4I jelo šňůru workshopů s nástrojem, který má k té Karolině zjednodušit přístup. Superpočítač, který klekne na workshopu o superpočítači. 🙃
A pak je tu kvantový počítač Vlq. 24 kubitů, hvězdicové uspořádání, u čipu absolutní nula, výpočetní čas se nabízí v sekundách místo v hodinách. Rada od člověka, který ho provozuje, mě upřímně potěšila: nejdřív se zeptej, jestli ti nestačí klasický superpočítač. 🐺 Firmy podle Matěje kvantum zatím „jenom tak líznou”. Doložený příklad, který v dílu padl, je Jan Tyl, který benchmarkoval modely na LUMI, sešel se s vedoucím kvantového labu a k prvnímu září si zažádal o čas na Vlkovi. Ale i tady Matěj vypíchl slovo „hrát si” - je to experimentální platforma pro nadšence, ne produkční nasazení.
Data, procesy a lidi: co firmy podceňují nejvíc 🎯
Poslední otázka mířila na to, co firmy zaskočí. A odpověď nebyla o výkonu. 💡
U firem, jejichž core business je AI, je překvapením hlavně samotný přístup k infrastruktuře - to, že se musí vypsat žádost. To jsou ty bariéry, které se v IT4I snaží bourat. U firem, které mají core business jinde a chtějí s AI začít, jsou to podle Matěje data, procesy a lidi. Firmy často nevědí, kde jim data vůbec leží. Procesy nemá nikdo popsané, protože na to nikdy nebyl čas.
Vy první musíte vědět, jak byste to udělali bez té AI. Teprve pak můžete začít uvažovat, co dál.
Nejsilnější obraz celého dílu je ale analogie s brigádníkem. 👉 Nemůžeš si dotáhnout brigádníka, posadit ho k počítači a říct „udělej kapitolu čtyři”. Musí vědět, z čeho to má poskládat a jaká jsou vstupní data. S AI je to stejné, a proto se podle Matěje každý, kdo s ní začne pracovat, stává částečně manažerem. Zadávat úlohy tak, aby výstup vypadal, jak chceš, je fakt těžké - ať už na druhé straně sedí člověk, nebo model. Tenhle závěr sedí jedna ku jedné na to, k čemu jsme došli s Vojtou Tůmou v #S06: technologie není bottleneck, zadání ano.
Zeptali jsme se i na to, jak si Evropa stojí proti Americe a Číně. Matěj nekličkoval: nejsme napřed, ani vyrovnaní, jsme spíš pozadu, s nadějí, že se to dožene na lidech. V rámci HPC ale podle něj Česko v Evropě má slovo a je slyšet. A přidal osobní poznámku, kterou jsme si zapamatovali: uvidíme, jak dlouho to ta Amerika vydrží v té AI bublině.
TL;DR - co si z toho vzít 📌
Výpočetní čas zdarma existuje. 🚀 Startupy a SME do zhruba 250 zaměstnanců můžou přes evropské cally získat 5 000 až 50 000+ GPU hodin.
Žádost je kratší, než čekáš. 📝 Čtyři až pět A4, vyhodnocení za 2 až 10 pracovních dnů. Duševní vlastnictví zůstává firmě, žádná povinnost Open Source.
Superpočítač není cloud. ⚙️ Úlohy padají do dávkovače, takže malá úloha se často spočítá dřív než velká. Komerčně stojí uzlohodina osmi A100 zhruba 455 Kč bez DPH.
AI Factories jsou lidi a železo. 🏭 Devatenáct po Evropě, postavených na existujících HPC centrech. Nejde jen o compute, ale i o experty, kteří ti řeknou, že to děláš špatně.
Bottleneck nejsou gigawatty. 🎯 Firmám nechybí výkon, ale data, procesy a lidi. Nejdřív musíš vědět, jak bys to udělal bez AI.
Pokud tě zajímá konkrétní téma, o kterém bychom se měli v Deeplink Show pobavit, napiš nám. Čteme všechno. 👇
Líbí se ti Deeplink Show?
👉 Sleduj nás na YouTube - video verze každé epizody
🎧 Followni Deeplink Show na Spotify - pro poslech kdekoli
🌎 Mrkni na náš web - pro další detaily podcastu
📸 Sleduj nás na Instagramu - zkratky, tipy a zákulisí
Nebo nám napiš co si myslíš: studio@deeplink.show ✉️