ChatGPT jako svědek obžaloby. O umělé inteligenci, která nám někdy řekne přesně to, co chceme slyšet.

V diskusi pod článkem o chrudimském hospici se objevil příspěvek čtenáře s přezdívkou Kacafírek. Převzal rozsáhlé vyjádření publicisty Pavla Šafra, který se ostře pustil do Chrudimských novin kvůli jejich informování o sporu hospice s developerem Milanem Kuštou. Na tom by nebylo nic mimořádného. Noviny mají své kritiky, čtenáři své názory a diskuse od toho existují. Jenže tentokrát se do ní dostal ještě jeden účastník. ChatGPT. Pavel Šafr píše: „A tak není divu, že si pak zadáme do Chatu GPT, jaký je vztah mezi panem Kuštou a Chrudimskými novinami. Doporučuji to, je to naprosto výmluvné.“ A pokračuje, že minulost je tam popsána „naprosto jednoznačně“. Následuje ukázka odpovědi AI, která upozorňuje na příznivé formulace novin o Kuštově nabídce. Z toho Šafr nakonec dospívá k závěru, že si Kušta novinový článek „zjevně sám“ napsal. Kacafírek celý text přebírá a přidává vlastní osobní hodnocení. Co vlastně řekl ChatGPT? Zkusil jsem stejný experiment. Zeptal jsem se ChatGPT na vztah Milana Kušty a Chrudimských novin. A skutečně, Milan Kušta byl v letech 2011 až 2014 členem dozorčí rady vydavatelské společnosti Chrudimské noviny. . To je ověřitelný historický údaj, nikoli pomluva nebo výmysl umělé inteligence. Jenže od této informace k tvrzení, že dnes píše nebo řídí články novin, vede pořádně dlouhá cesta. ChatGPT mi žádný důkaz takového současného vlivu nepředložil. Takže ještě jednou pro místní konspirátory. Milan Kušta není majitelem novin, patří pouze do skupiny lidí, která Chrudimské noviny podporuje. A tady začíná problém. Umělá inteligence může vyhledat skutečný údaj, správně jej popsat, a přesto z něj člověk může vyvodit úplně nepodložený závěr. Dokonce i samotný ChatGPT může při zavádějící formulaci otázky nabídnout jiný výběr informací, jiné důrazy a někdy i závěr, který odpovídá spíše očekávání tazatele než skutečnosti. Otázkou totiž můžeme umělou inteligenci nasměrovat. Když se ptám na „podezřelé vztahy“, už jí předem naznačuji, co má hledat. A pokud její odpověď nekontroluji, mohu snadno získat zdánlivé potvrzení vlastního přesvědčení. Právě proto jsem před časem ChatGPT výslovně požádal, aby byl k mým názorům kritický. Aby mi neopakoval to, co si myslím, ale požadoval důkazy, hledal slabiny mých argumentů a upozorňoval mě na možné omyly. Napsal jsem mu dokonce, že jsem dostatečně silný, abych takovou kritiku unesl. Nepotřebuji totiž umělou inteligenci, která mi přikyvuje. Potřebuji nástroj, který mi pomáhá přiblížit se skutečnosti. Komu z vás je tento postoj sympatický, můžete si podobnou definici na svůj AI profil napsat. Ani takové nastavení samozřejmě nezaručuje neomylnost. Ostatně při našem experimentu ChatGPT nejprve historickou vazbu Kušty na vydavatele přehlédl a našel ji až při dalším dotazování. I to je dobrá připomínka, proč jeho odpovědi nelze přijímat bez ověřování. Mladý student a stará škola Před časem jsme v Chrudimských novinách přinesli rozhovor s mladým studentem Nickem Svobodou. Mimo jiné mluvil o tom, že by se děti už na základních školách měly učit prakticky pracovat s umělou inteligencí. Samotná myšlenka výuky mě zaujala natolik, že jsem ji později vyzdvihl i při rozboru volebního programu. Právě případ z diskuse pod hospicem ukazuje proč. Práce s AI totiž není jen schopnost položit otázku a přečíst si odpověď. Je to především schopnost přemýšlet, co jsem se dozvěděl, odkud informace pochází, co skutečně dokazuje a co už jsem si k ní přidal sám. Děti se to budou muset naučit. A podle toho, co dnes čteme na internetu, by podobným kurzem nepochybně prospělo projít i mnoha dospělým. [[img:chrn_fullwidth:29080:Ilustrace AI]] Nová autorita ve starém sporu Dříve člověk v diskusi napsal, že něco četl