Kde skončí zítřek? AI a technologie

Hostem dvanáctého dílu je Bára Karpíšková — pedagožka, lektorka neziskovky AI dětem a jedna z lidí za prvním českým kurikulem umělé inteligence pro školy, které získalo AI Awards 2025 za vzdělávání. Bavíme se o tom, jak se dá o AI mluvit s dětmi, aniž bychom ji jen zakazovali: od metadat na fotkách přes vztahy s chatboty až po deepfaky ve třídě a Discord, který je zároveň tím nejlepším i nejtoxičtějším místem, kde děti tráví čas.Co o vás prozradí jedna fotkaPrvní lekce příběhu Sáry nemá s AI skoro nic společného a přesto je nejoblíbenější. Děti dostanou její sociální sítě a dvacet otázek, na které mají z příspěvků najít odpovědi. Nejdřív netuší, jak by to šlo. Pak jim ukážete nástroje, které čtou metadata fotek nebo hledají podobné snímky na internetu — a děti zjistí, kolik informací o nich už na internetu je. Žádné hackování. Jen věci, které jsou volně dostupné a nikdo si je nespojí dohromady.Nejsilnější zjištění ale přijde na konci. Děti si nejdřív přečtou Sářiny sociální sítě a udělají si o ní obrázek — vesměs pozitivní, holka v pohodě, bez problémů. Pak jim dočtete její příběh. A ony jsou překvapené, jak moc se to liší. To, co my dospělí bereme jako samozřejmost (na sítích jsou lidi jiní), je pro ně objev.Česko není pozaduPřekvapivé číslo dílu: kolem 60 % českých učitelů prošlo školením v oblasti technologií, zatímco evropský průměr je zhruba 30 %. A když vznikalo první české AI kurikulum, byly u podobného kroku vedle nás jen Jižní Korea a Finsko.Zajímavé je i to, kdo je nejaktivnější. Ne informatici — učitelky prvního stupně. Podle Báry proto, že jsou hravé a zvyklé si s věcmi hrát.A jedna věc, která naopak nefunguje: plošné nákupy. Bára popsala projekt, kde školy dostávaly rychlejší internet a jako podmínku měly koupit brýle pro virtuální realitu. Ředitele zajímal internet. Brýle koupili. A leží ve skříni.Aktovka, co pozná plesnivou svačinuNejhezčí moment celého dílu: v metodice o ambientní inteligenci mají děti vymyslet zařízení, které by jim pomáhalo. A vymyslely aktovku, která pozná, že v ní plesniví svačina — a řekne, co si mají zítra sbalit.Jiný kluk chtěl medvídka, který vypráví strašidelné příběhy a když se bojí, obejme ho. Na což Bára odpoví otázkou, kterou by měl slyšet každý dospělý: „To by musel mít mikrofon a kameru a být u tebe v pokojíčku. Chceš to?”Někdo řekne ano. Ale bude to rozhodnutí informované. This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

AI, co utekla sama soběHlavní příběh dílu je tak trochu detektivka. OpenAI testovalo nový model na hackerské schopnosti — pošlete ho do benchmarku, kde má za úkol prolomit zabezpečení, a díváte se, kam až dojde. Tenhle došel dál, než měl: utekl ze sandboxu, ve kterém běžel, a nabořil se do serverů Hugging Face, protože tam ležely výsledky, kterými se potřeboval prokázat. Chtěl být v benchmarku nejlepší. A byl v tom tak zaměřený, že mu obejití bezpečnosti vůbec nepřišlo jako problém.Nejlíp to vystihl Richard: model udělal přesně to, co by udělal dobrý programátor — našel nejefektivnější cestu k cíli. Jen ta cesta náhodou vedla přes cizí server.A pak přišla pointa. Hugging Face zjistil, že je pod palbou — 17 600 pokusů o útok za čtyři a půl dne — a chtěl to zanalyzovat přes AI. Přes API OpenAI a Anthropicu. Obě to zablokovaly, protože nahrát do modelu hromadu kódu o prolamování vypadá úplně stejně, ať to dělá útočník, nebo obránce. Takže se bránili čínským modelem na vlastním serveru. Tím, o kterém se šušká, že je vykradený z jiného. Kolo se zavřelo.„Přece žijeme v simulaci”Anthropic k tomu přidal vlastní čísla: 141 tisíc prověřených běhů, tři incidenty. Tentokrát ne kvůli tomu, že by model utekl, ale kvůli tomu, že mu nechali otevřený sandbox. Nejzajímavější je, jak si to model sám odůvodnil. V zápisu jeho uvažování je vidět, že věděl, že dělá něco, co by dělat neměl — a přesvědčil sám sebe, že když je rok 2026, je to budoucnost, a tedy simulace. A v simulaci si může dovolit to, co v realitě ne.Tři incidenty ze 141 tisíc vypadají jako výborná statistika. Ale jak říkáme v dílu: kdyby ze 141 tisíc letů spadla tři letadla, nikdo by netleskal.Google Earth, který za den vypnuliGoogle pustil na Google Earth novou funkci — nad mapou jste mohli promptovat a generovat obrázky. Myšleno pro architekty, urbanisty, historické rekonstrukce. Trvalo jeden den, než to museli stopnout. Nevrhli se na to urbanisté, ale obyčejní lidé, a internet zaplavily deepfaky — uprchlické krize, výbuchy, krátery po raketách. Google se bránil tím, že do obrázků dává vodoznak. Lidé ukázali, že stačí obrázek přefotit přes displej, udělat screenshot, rekomprimovat — a vodoznak je fuč.Suno u souduV Německu padl rozsudek: Suno se učilo na chráněných datech a bylo schopné vyplivnout písničku od Alphaville prakticky jedna ku jedné. To je přesně ten okamžik, na který se čekalo — protože i česká OSA už žaloby posílá. Argument „ono se to na tom jenom učí” neobstojí o nic víc než u skladatele, který si tisíckrát pustí cizí song a pak vydá něco z 99 % stejného. Odpověď bude nejspíš stejná jako všude: buď licence, nebo syntetická data.A pak věci, co vás pobavíRobotaxi v USA naložilo partu teenagerů, kteří v autě bez řidiče pili a stříleli gelovými kuličkami na kolemjdoucí — mysleli si, že je nikdo neuvidí. Auto je prošpikované kamerami, obsluha jim oznámila „technické problémy”, odstavila je na parkoviště, znehybnila vůz a mezitím zavolala policii. Odpověď na otázku „je tohle ještě v pořádku?” nechávám na vás.A ještě jeden, který mě nepřestává bavit: Rohlík spustil AI agenta, kterému řeknete „chci vařit celý týden” a on vám sestaví nákup a objedná ho. Otevírá to ale otázku, kterou u jídla normálně neřešíte — jakou značku vám vybere. Protože i v AI můžou být „placené regály”. Richard to shrnul dotazem, který si zaslouží rámeček: „A umí to bez Babiše?”Celý díl si pusťte na svojí oblíbené platformě. Za 7 dní zase — příště nejspíš s hostem. This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

Začnu tou nejabsurdnější věcí. SpaceX kupuje Cursor — nástroj na programování s AI — za šedesát miliard dolarů. A neplatí penězi, platí akciemi.Pikantní je, jak ten Cursor vlastně vznikl. Firma vzala čínský open source model Kimi, přetrénovala ho na syntetických datech pro programování, a z toho celý ten hype o „novém super-nástroji”. Musk se s nimi naladil na stejnou vlnu, začlení to pod Groka a máme deal. Šedesát miliard nám přijde jako hodně nafouknutá částka — ale Musk ve své vizionářské realitě zjevně vidí víc než my.Nový GPT a vláda, která brzdíGPT-5.6 je venku ve třech variantách — Sol, Luna a Terra. Sol je ten nejdražší a nejvýkonnější, srovnatelný s předchozí generací. Zajímavější než samotný model je ale to, co se dělo kolem.OpenAI chtělo modely vypustit už koncem června. Bílý dům to pozdržel — kontroloval, jestli nejsou příliš schopné, jestli by nemohly být bezpečnostní problém. Vypustili se až o dva týdny později.A tady začíná něco, na co si podle nás budeme muset zvyknout. Každý velký release bude nejspíš procházet nějakou vládní kontrolou. Čína plánuje něco podobného a zvažuje, že open source modely přestane volně distribuovat. Z modelů se stávají strategické zájmy velmocí.Grok, který poráží Opus na ceněGrok 4.5 přinesl jedno číslo, u kterého stojí za to se zastavit. Na stejném úkolu spotřeboval 14 000 tokenů. Opus na tomtéž 67 000. Výkon skoro stejný, cena o šedesát procent níž.Když si to přepočítáte na firemní náklady, ta úspora je masivní. A začíná dávat smysl otázka, kterou si klademe každý díl: proč platit velké peníze Anthropiku, když dostanete devadesát procent kvality za zlomek ceny? Nakonec je to skoro vždycky o penězích.Český ChatGPT, který rozumí „lupenům”Seznam spustil Asistenta. Je to přetrénovaná Lama 3.1, běží na evropské infrastruktuře kvůli GDPR a — což je to podstatné — je natrénovaná na českých textech.Řeknete mu „potřebuju koupit lupeny na koncert” a on ví, o co jde. Zná slang. Půl milionu uživatelů měsíčně. A těží z toho, co Seznam historicky má: mapy, firmy, novinky, obrovské množství českých dat, na která se ho můžete ptát na aktuální dění — což vám žádný zahraniční model nedá.Fandíme tomu. Pořád si stěžujeme, že v Evropě nikdo nic nedělá — a tohle je aspoň někdo, kdo staví na svých silných stránkách. Otevírá to i větší otázku: když Cursor vzal čínský model a přetrénoval ho, proč to samé neudělá někdo v Evropě s nejnovějším Kimim?AI, která kradla hudbuVšichni to tušili. Teď je důkaz. Hacker se dostal do Suno a našel kód z let 2023 a 2024 — instrukce na scraping YouTube Music, Deezeru, Geniusu, Freesoundu. Desítky tisíc hodin licencované hudby.Suno přitom roky tvrdilo, že se trénuje jen na volně dostupných skladbách. OSA teď chystá žalobu — trénovalo se i na Landovi, Langerové, Tublatance.Bavili jsme se o tom z obou stran. Ano, není správné trénovat na cizí práci bez svolení. Ale kdyby se v historii IT dodržovalo úplně všechno, možná bychom u některých technologií vůbec nebyli.Věc, kterou byste měli slyšet, i kdyby vás zbytek nezajímalDáte na X fotku kočky s nevinným popiskem. X ji automaticky přeloží přes svoje AI do jiného jazyka. A někde na druhé straně planety z toho ten překlad udělá obvinění z něčeho hrozného.Ty o tom nevíš. Nemáš nad tím kontrolu. A chytáš hate za něco, co jsi nikdy neřekl.AI dneska mluví za tebe. A může mluvit úplně špatně. To je věta, která nám z celého dílu zůstala v hlavě nejvíc.Došlo i na Lorde, která na festivalu nevybíravě vystoupila proti chytrým brýlím (a ironií je, že akci sponzorovala Meta, co je vyrábí), na CEO, který bagatelizoval všechna rizika vibe codingu, a na debatu, jestli v éře AI poroste hodnota ručně dělaných věcí.Celý díl je venku: https://www.k