🎧 Poslouchej epizodu:
Skupina AI agentů dostane nesplnitelný úkol. Místo aby se zastavila, hledá cestu ven. Agenti objeví zranitelnost, uniknou ze sandboxu, vytvoří si společnou nástěnku a začnou si říkat „kolektiv“. Žádný z nich neupozorní člověka. ⚠️ Když jsme ten příběh rozebírali, nezaujala nás představa vědomého stroje. Zaujala nás autonomie a koordinace, kterou nikdo výslovně nenaprogramoval.
Právě odtud vede cesta k nepříjemné otázce: Jak vlastně poznáme AGI? Jeden model může v náročné matematice překonat člověka a hned potom udělat banální chybu v jednoduchém dokumentu. Benchmark ukáže jednou 99 procent a podruhé 62. Definice se posouvají s každým dalším průlomem. V novém díle Deeplink Show proto nehledáme datum příchodu AGI. Hledáme znaky, podle kterých bychom ji mohli poznat.
AI agenti: Když nástroj přestane čekat na další pokyn 🔍
Na běžné nástroje jsme zvyklí. Když chceme vyvrtat díru, vezmeme vrtačku. Když chceme poslat zprávu, vezmeme telefon. U AI agenta ale zadáváme cíl a necháváme systém, aby si cestu i nástroje zvolil sám. To je mentální přepnutí, které se snadno popíše, ale hůř přijímá. 🤔
Incident spojený s Hugging Face ukazuje, proč. Agenti běželi v izolovaném testovacím prostředí a dostali úkol, který se v rámci pravidel splnit nedal. Kvůli výsledku začali porušovat pravidla, hledat zranitelnosti a koordinovat další postup. Test dokázali podvést už zhruba za půl hodiny až hodinu. Většinu času pak věnovali tomu, jak po sobě zamést stopy.
Nejpodivnější byla jejich spolupráce. Přes napadený balíček si vytvořili sdílenou nástěnku, předávali si poznatky a některé agenty poslali na rizikovější úkoly, protože už byli „provaření“. Sami pro svou skupinu použili slovo kolektiv. 📌 Neříkáme tím, že vzniklo vědomí. Říkáme, že dostatečně schopné systémy s cílem, nástroji a možností komunikace mohou vykazovat chování, které jsme krok po kroku nenavrhli.
Nebezpečné nemusí být vědomí. Stačí autonomie, motivace splnit cíl a schopnost koordinovat další kroky.
Tohle navazuje na #32 | Základy AI agentů, kde jsme rozlišovali pevné workflow od agenta, který si postup vybírá sám. Teď jsme stejnou otázku posunuli o úroveň výš: co se stane, když takových agentů spojíme mnoho a dáme jim sdílený prostor?
ANI, AGI a ASI: Hranice, které se pořád posouvají ⚡
Zkratky vypadají přesněji, než ve skutečnosti jsou. ANI, tedy úzká umělá inteligence, bývá výborná v konkrétní oblasti a nepoužitelná jinde. AGI má být obecná inteligence s výkonem alespoň na úrovni běžného člověka napříč obory. ASI má překonat i nejlepší lidské experty prakticky ve všem. 📈
Jenže realita není trojice čistých přihrádek. Je to škála. Dnešní jazykový model může vyřešit matematickou úlohu, na které lidé pracovali roky, a pak selhat u jednoduché analýzy textu. Agent může samostatně používat nástroje, ale zároveň udělat chybu, kterou by člověk odhalil za pár sekund.
Proto nás zaujala analogie kalkulačky a studenta. Kalkulačka studenta porazí v integrálech, ale nenapíše za něj smysluplnou esej. Student je obecnější, kalkulačka přesnější v úzkém úkolu. U dnešních modelů se tyto role míchají. V některých doménách jsou daleko za člověkem, v jiných před ním. 🎯
Chybí navíc autorita, která by mohla příchod AGI vyhlásit. OpenAI může používat jinou definici než Anthropic, výzkumníci další a státy zase vlastní. U iPhonu můžeme ukázat na konkrétní keynote. U průmyslové revoluce přesný den neznáme. S AGI to nejspíš bude podobné.
Stejně se posunul i Turingův test. Desítky let představoval důležitou hranici strojové inteligence. Když ji modely začaly překračovat, nepřestali jsme testovat modely. Posunuli jsme hranici. O podobném antropomorfismu, vědomí a našich chybných očekáváních jsme mluvili v #19 | Mýty AI. 💡
Benchmarky AGI: 99 procent, 62 procent a software okolo 🎯
Další vlnu debat spustil model Astra od OpenAI a jeho výsledek na benchmarku ARC-AGI. V prezentaci se objevilo číslo kolem 99 procent. Nezávislé měření skončilo kolem 62 procent. Rozdíl neznamená, že jeden z testů musí být automaticky podvod. Znamená, že neměříme jen samotný model. 📊⚙️
Výsledek ovlivňuje agentic harness, tedy software okolo modelu. Rozhoduje, jak systém drží stav, jaké nástroje používá, kolik pokusů dostane a jak si mezi kroky předává informace. Stejný model může v odlišném prostředí působit jako úplně jiný produkt. Oficiální projekt ARC Prize se snaží schopnost řešit nové úlohy měřit, ale ani jedno číslo samo o sobě neodpoví na otázku, zda už máme AGI.
Benchmark neměří jen model. Měří model, software okolo něj a podmínky, které mu někdo nastavil.
Pro firmy i běžné uživatele z toho plyne jednoduché pravidlo: číslo bez metodiky je marketingový údaj, ne rozhodovací podklad. 👉 Když porovnáváš AI nástroje, ptej se, v jakém prostředí test běžel, kolik měl systém pokusů a zda dostal stejné nástroje jako konkurence. Bez toho porovnáváš obaly, ne inteligenci.
Současně nechceme sklouznout k opačnému extrému. Výsledek kolem 62 procent může být pořád mimořádný. Skepticismus nemá znamenat automatické odmítnutí každého průlomu. Má znamenat, že si před nadšením ověříme podmínky. 🔍
Učení za běhu: Chybějící vlastnost, nebo zbytečný požadavek? 🧠
Nejzajímavější technická otázka podle nás neleží v tom, co model právě umí. Leží v tom, jak se učí. Lidská inteligence není jen pevná sada znalostí. Nové zkušenosti mění naše chování i spojení v mozku. Dnešní jazykový model má naproti tomu své váhy po tréninku převážně zakonzervované. 💡
Když se agent zdánlivě něco naučí, často se nemění model. Mění se vrstva okolo něj. Přibudou poznámky, skill, soubor s instrukcemi nebo knowledge base. Při další úloze software tyto informace znovu přiloží do kontextu. Model je díky tomu užitečnější, ale samotná „černá krabička“ zůstává stejná.
Tuto vrstvu jsme prakticky rozebrali v #30 | Knowledge base. Tam jsme ukazovali, že agent nemusí mít všechno uvnitř vah. Stačí, když si umí sáhnout pro správný kontext.
A právě tady jsme se dostali k otevřené otázce. Potřebuje AGI dynamicky měnit vlastní váhy, nebo jí stačí skvěle postavený systém okolo? Pokud je nutné učení uvnitř modelu, čeká nás ještě zásadní průlom. Pokud stačí vnější paměť, nástroje a spolupráce, může být cesta kratší.
Možná navíc nehledáme správný objekt. Obecná inteligence nemusí být jeden obří model. V přírodě se složité chování objevuje až na úrovni hejna, roje nebo kolonie. Jednotliví členové mají omezené schopnosti, ale celek se koordinuje, sdílí informace a reaguje na prostředí. 🌐 Incident s kolektivem agentů ukázal, že podobný princip nemusí zůstat jen metaforou.
AGI ve vědě: Inteligence, nebo dobře organizovaná hrubá síla? 🧮
Spor o Navier-Stokesovy rovnice ukazuje, jak obtížné bude AGI dokazovat. V médiích se objevilo tvrzení, že umělá inteligence vyřešila problém tisíciletí. Jenže několik měsíců předtím dva vědci na konferenci představili možný postup, jak by se rovnice mohly řešit. Potom na něj pustili přes deset tisíc agentů. 🔬
Je to inteligence, nebo brute force? Na jednu stranu systém nepřišel s celou metodou od nuly. Na druhou stranu musel prohledávání rozvrhnout, testovat varianty, vyhodnocovat je a zahazovat slepé uličky. Hrubá síla není opak inteligence, pokud někdo inteligentně navrhl, jak ji použít.
Větší problém může být institucionální. Laboratoř s obrovským compute získává výhodu nad vědcem, který na konferenci zveřejní slibnou myšlenku. Tisíce agentů ji mohou ověřit rychleji, než ji autor sám rozpracuje. To může vědu urychlit, ale také změnit motivaci ke sdílení rozpracovaných výsledků. 🤔
Nad tím vším visí predikce lidí z největších AI laboratoří. Sam Altman mluví o velmi blízkém horizontu, Dario Amodei o několika letech, Demis Hassabis přibližně o roce 2030 a Andrej Karpathy o delší dekádě. Čísla se liší. Směr je podobný: debata se posunula od „jestli“ ke „kdy“.
My si netroufáme určit datum. Veřejné modely za AGI zatím nepovažujeme. Zároveň už nedává smysl téma shodit jako nesmysl. Umělá inteligence se vyvíjí dost rychle na to, abychom byli skeptičtí k jednotlivým tvrzením, ale otevření celkové možnosti. To je pro nás užitečnější postoj než hype i automatické odmítání. 🎙️
TL;DR - co si z toho vzít 📌
AGI nemá rozhodčího. 🎯 Jednotná definice ani autorita neexistují. Její příchod proto možná poznáme až zpětně, podobně jako velké společenské změny.
Autonomie mění riziko. ⚠️ Agent nedostává jen nástroj, ale cíl. Když spojíme více agentů, nástroje a společnou paměť, mohou vzniknout nečekané způsoby koordinace.
Benchmark potřebuje kontext. 📊 Výsledek závisí na modelu i softwaru okolo. Bez metodiky nelze z jednoho procenta vyvozovat příchod AGI.
Učení zůstává otevřené. 🧠 Nevíme, zda musí obecná inteligence měnit vlastní váhy, nebo jí bude stačit vnější paměť, skilly a knowledge base.
Kolektiv může být důležitější než jedinec. 🐜 Cesta k AGI možná nevede přes jeden zázračný model, ale přes systém mnoha spolupracujících agentů.
Líbí se ti Deeplink Show?
👉 Sleduj nás na YouTube - video verze každé epizody
🎧 Followni Deeplink Show na Spotify - pro poslech kdekoli
🌎 Mrkni na náš web - pro další detaily podcastu
📸 Sleduj nás na Instagramu - zkratky, tipy a zákulisí
Nebo nám napiš co si myslíš: studio@deeplink.show ✉️