Váš mozek na GPT: aneb proč nesmíme zhloupnout

Jsem studentem čtvrtého ročníku práv a zároveň pracuji v kanceláři, kde se draftují smlouvy v rámci minut a ne hodin, všechno je automatizované a práce s AI je každodenním chlebem. Zní to jako sen každého dnešního studenta práv. Tento článek je o tom, že tento přístup má taky druhou, méně příjemnou, stránku.

Při předchozí praxi v regionální advokátní kanceláři jsem trávil odpoledne procházením padesátistránkových smluv psaných pro jiné právníky, ne pro lidi. Žádné technologie, žádné zkratky – jen Arial 10, oboustranný tisk a spousta trpělivosti. Klienti text vzdali po třetí stránce. Junioři ho museli přečíst celý – a pokud znáte ten pocit, kdy vás u páté stránky přepadne taková mlha, že vnímáte každé třetí slovo – tak přesně tak to vypadalo. Nikdo to neřešil, nikdo si nestěžoval. Tak to prostě chodilo.

Poté jsem ale přestoupil jinam. Z regionálního, tvrdého a občas dosti konzervativního prostředí jsem se dostal do firmy na pomezí advokátní kanceláře a technologického startupu – Slack místo e-mailu, AI jako součást produkce. Najednou byl ten problém pryč. Drafty vznikají v rámci minut, nikoliv hodin, data roomy se procházejí automaticky, klient dostane dvoustránkové shrnutí místo nesrozumitelné padesátistránkové smlouvy. Říkal jsem si: konečně.

Pokud byste si měli vybrat jeden z těchto dvou přístupů, který by to byl? Hádám, že 99 % lidí by si vybralo ten druhý. Z jedné strany je to super, AI vygeneruje s dobrým promptem draft smlouvy za pár minut, data room projede během chvíle, což by jinak trvalo člověku hodiny, a celkově ušetří ohromné množství času.

S tím ale přichází velký háček – kognitivní dluh, popsaný Johnem Willshirem jakožto „Místo v procesu, kde by bylo myšlení, ale není.“ Tento dluh ležel u prvního příkladu na bedrech klienta, ale v rámci druhého se přesouvá, a to z klientských beder na ta naše. A tentokrát není vidět.

Nejnebezpečnější vlastností kognitivního dluhu je přitom to, co je nazýváno jako „nested structure“ – čím více dluhu naakumulujete, tím méně kapacity máte ho splácet. Dluh eroduje právě ty schopnosti, které by ho dokázaly rozpoznat a napravit. Je to past, která se utahuje sama od sebe.

Píšu to z pozice studenta práv, ale tohle není právnický problém. Je to problém každého, kdo pracuje s AI a přemýšlí u toho méně, než by měl. Lékaři, konzultanti, designéři, produktoví manažeři. Kdokoli, kdo si zvykl nechat model udělat první verzi a pak ji jen opravit. Mechanismus je stejný, jen sázky jsou různě vysoké.

Co se děje s mozkem, který přestane pracovat

Jak už bylo výše uvedeno, AI se čím dál častěji používá už při vypracování prvotního úkolu (např. vygenerování komplexní SaaS smlouvy nebo provedení prvního screeningu ESOP dokumentace). Tím se nám uvolňují ruce, ale na oplátku je ukolébávána naše pozornost.

Tento jev změřil výzkum z června 2025. MIT Media Lab publikoval studii „Your Brain on ChatGPT“ – první výzkum, který sledoval mozkovou aktivitu pomocí EEG přímo při práci s AI. Padesát čtyři účastníků rozdělených do tří skupin: jedni psali s ChatGPT, druzí s Googlem, třetí bez nástrojů. Čtyři měsíce, tři sezení, pak přehození skupin.

Skupina s ChatGPT vykazovala o 47 % nižší mozkovou konektivitu oproti těm, kteří psali sami. Víc než 80 % z nich si nedokázalo vybavit jediný přesný citát z textu, který sami „napsali“ jen minuty předtím. Zároveň tyto práce byly označovány jako „bez duše“ – dobře strukturované, gramaticky správné, ale bylo poznat, že za nimi nestojí skutečný člověk.

Nejsilnější nález ale přišel až ve čtvrtém sezení. Skupina, která celou dobu psala bez nástrojů a teprve teď dostala přístup k AI, si pamatovala víc než ti, kteří AI používali od začátku. Mozek, který si nejdříve udělal vlastní mentální mapu, si ji uchoval i poté, co AI přebrala pomyslný volant. Z toho vyplynulo hlavní zjištění: kognitivní dluh nenaakumulovaný předem se nezapomíná. Do třetího sezení přitom většina ChatGPT uživatelů přestala psát úplně. Jen zadávali prompty. „Kognitivní lenost“ se s každým sezením jen prohlubovala.

Kognitivní dluh ale není spojený jen s psaním textů. Studie publikovaná v Lancet Gastroenterology & Hepatology sledovala zkušené endoskopisty, kteří strávili roky trénováním oka na polypy. Po třech měsících práce s AI asistencí jim bez AI klesl záchyt adenomů z 28,4 % na 22,4 %. Dovednost fyzicky erodovala. Ruka, která přestala trénovat, zapomněla. Právníci nejsou jiní.

Microsoft ve stejném roce zkoumal 319 pracovníků znalostní ekonomiky a potvrdil přímou úměru: vyšší důvěra v AI koreluje s nižší mírou kritického myšlení. Naopak lidé, kteří věřili vlastním schopnostem, si kritické myšlení udrželi – i když AI používali stejně intenzivně.

Nejpřesněji to ale pojmenovala Whartonská studie z ledna 2026 – cognitive surrender. Autoři ukázali, že AI sice zesiluje individuální kreativitu, ale skupinu jako celek táhne ke stejnému středu. Každý draftuje rychleji, ale všichni draftují podobně. To se přímo přenáší do právního prostředí. Argumentační originalita je dovednost, která představuje obrovskou konkurenční výhodu. Pokud ale bude každý používat AI a nikdo nebude vymýšlet vlastní argumenty, dostáváme se do světa, kdy bude každý argument znít stejně. To doopravdy chceme?

Kognitivní dluh nepřepadá – přeskakuje

Stanford RegLab otestoval LLM modely na více než 800 000 ověřitelných právních otázkách. GPT-4 chyboval v 58 % případů. Specializované právní nástroje jsou lepší – Lexis+ AI v 17 % dotazů, Westlaw AI ve 33 % – ale ani zdaleka nejsou spolehlivé. Do roku 2026 bylo dokumentováno přes 700 soudních případů s AI halucinacemi nebo smyšlenými prameny. A to jsou jen ty, které se provalily.

LLM modely jsou trénovány primárně na anglosaských pramenech. Jejich znalost českého kontinentálního práva nebo procesních nuancí je řádově horší – a model to nedá najevo. Jeho sebejistota je statistická, nikoli právní. Willshire to nazývá Gell-Mannovou amnézií aplikovanou na LLM: v oblastech, kde si nejsme jistí, AI výstup přijímáme nekriticky – přesně tam, kde by myšlení bylo nejdůležitější. Pro juniorního právníka bez zakotveného know-how v M&A nebo procesním právu je to slepá skvrna s přímými dopady na klienta.

Willshire upozorňuje na efekt, který je v právní praxi obzvlášť zákeřný. AI v systému kognitivní dluh neodstraňuje, jen ho přesouvá.

Tady je dobré zmínit proslulý případ londýnského advokáta, který citoval před soudem neexistující rozsudek. Už to by se nemělo zkušenému advokátovi stávat. Ale co přišlo potom, byl úplný vrchol – o přestávce šel chybu ověřit, použil znovu ChatGPT, který ho ujistil o pravosti daného rozsudku. S tímto argumentem pak advokát vystoupil i před soudem.

Problém se tím nevyřešil, jen si ho odnesl někdo jiný – soud, protistrana, celý systém. Jak dnes všechno běží automaticky a bez drhnutí, chybí nám takové to přirozené zpomalení. Ta obyčejná chvíle, kdy by se normální člověk zarazil a řekl si: „Počkat, tady něco nehraje.“ A to je na tom to nejnebezpečnější.

Paradox naší generace

Zde nastává největší problém pro dnešní generaci paralegalů a juniorních pozic obecně. Nastoupili jsme do praxe přesně ve chvíli, kdy AI přebírá rutinní tvorbu dokumentů. Nemusíme se odnaučovat staré zvyky. Ale právě proto nám hrozí, že si návyky hlubokého myšlení nikdy nevytvoříme.

Dřív paralegal psal první draft smlouvy sám. V tomto procesu si vytvářel svůj „mentální“ model smlouvy – snažil se porozumět každé klauzuli, věděl, co kde je a proč to tam je, kde jsou rizika. Dnes dostane od AI draft za tři minuty. Tím ale úplně zanedbává návyky hlubokého čtení a systematického zpochybňování, přichází o zkušenost, která by z něj v budoucnosti dělala dobrého právníka.

V tomto ohledu bych zde rád zmínil i AI native law firms. Zde se juniorní právníci stávají tím, co se nazývá Legal Quality Analyst: nejenže ověřují výstupy AI, ale aktivně systém učí na základě opravených chyb. Každá chyba, kterou odhalíme a opravíme, vylepší pipeline trvale. To je obrovská příležitost – ale funguje jen tehdy, pokud jsme skutečnými editory, ne pasivními schvalovateli.

Přestáváme být tvůrci. Stáváme se editory. A to je jiná profese, než se zdá.

Co s tím dělám já

Zde jsou věci, které jsem sám do své praxe zavedl, abych se snažil kognitivní dluh minimalizovat:

Než pustím AI k jakémukoli dokumentu, napíšu si nejdřív vlastní rámec. Jaké otázky musí smlouva řešit? Kde jsou rizika? Trvá to deset minut a občas mi to přijde zbytečné. Ale mozek, který si nejdřív udělal vlastní mapu, si ji uchová – i když pak přijde model a přepíše všechno hezčí a uhlazenější češtinou.

Mám taky seznam otázek, které AI nikdy nepokládá sama. Je tohle v souladu s českou praxí? Odpovídá to tomu, co klient skutečně chce, nebo jen obecnému vzoru? Co tam chybí? Zní to jako byrokracie, ale je to jediný způsob, jak přinutit vlastní mozek zůstat v procesu místo toho, aby ho tiše přenechal modelu.

Část práce záměrně dělám bez AI. Analýzy, první přemýšlení o strategii, výzkum. Nedělám to z principu – je to stejné jako když sportovec nezávodí každý trénink. Mozek potřebuje místa, kde se namáhá sám.

A hluboká znalost práva není v protikladu s dobrou prací s AI. Je její nezbytnou podmínkou. Microsoftova studie ukázala, že lidé, kteří věřili vlastním schopnostem, si udrželi kritické myšlení i při intenzivním používání modelů. Čím víc toho vím sám, tím líp poznám, kdy model neví.

Účet přijde

Cílem moderní advokacie je systematické odstraňování kognitivního dluhu z ramen klientů. Měli by od nás dostávat jasná shrnutí, vizualizovaná data, srozumitelné výstupy – ne texty, které jsou testem čtenářské trpělivosti.

Abychom toho ale dosáhli, nesmíme dopustit, aby kognitivní dluh přeskočil na nás.

Willshire přirovnává kognitivní dluh k technickému dluhu v softwarovém vývoji: vědomě nebo nevědomě ho nakupíte, a pokud ho neřešíte, roste a jednoho dne předloží účet – i s úroky. Vývojáři se naučili technický dluh mapovat, řídit a splácet. Právníci se budou muset naučit totéž.

Protože na rozdíl od špatně napsaného kódu špatná právní rada má jméno a příjmení. A odpovědnost za ni nese člověk, ne model.

Někdy si říkám, jestli by mi ten Arial 10 ze staré kanceláře chyběl. Asi ne. Ale něco z toho nucení přečíst každou větu, pochopit každou klauzuli, unést celý ten text vlastní hlavou – to chybět bude, pokud si na to nedám pozor.

Nevím, jak tohle dopadne. Jestli si naše generace právníků vypěstuje nové návyky nebo jen nové závislosti. Ale zdá se mi důležité to pojmenovat – dřív, než přijde účet i s úroky.