Jak držet zodpovědnost nad technologií, která má sílu jaderné zbraně, ale dnes ji staví hrstka soukromých firem? Tuhle otázku nemůžu pustit z hlavy, co jsem si poslechl rozhovor s Dariem a Danielou Amodei z Anthropicu. Píšu, jak na AI nahlížejí oni, jak já a proč si myslím, že přesně o tomhle bychom u nás měli začít mluvit nahlas.

10. června 2026 vyšel na Bloomberg Originals rozhovor americké novinářky Emily Chang se sourozeneckou dvojicí, která vede Anthropic, firmu stojící za modelem Claude. Ten je jedním ze tří modelů, které dnes přepisují pravidla v softwaru, vědě a stále silněji i v geopolitice. Rozhovor není o produktu. Je o tom, kdo má držet otěže, když technologie utíká rychleji, než stíhá jakákoli regulace. Proč mě to tak chytlo? Protože poprvé slyším od člověka, který tu nejmocnější technologii staví, otevřeně přiznat: „Doufám v nejlepší, připravuji se na nejhorší.“ 

Dario odhaduje 10 až 25 % šanci civilizačního kolapsu z AI. Když mu novinářka řekne, že do letadla s pětadvacetiprocentní šancí havárie by nikdo nenastoupil, jen souhlasí: „Přesně tak. 25 % je příliš vysoko. Proto je naším cílem tu pravděpodobnost snížit.“ Nemyslím si, že jde o marketing strachem, spíše pohled zevnitř.

Vláda, nebo soukromé firmy? Falešná volba

Nejsilnější moment rozhovoru přišel, když Dario srovnal AI s předchozími přelomovými technologiemi. Jaderné zbraně postavila vláda. Internet, GPS, mobilní sítě — všechno začínalo ve vládním sektoru. AI je první technologie srovnatelné síly, kterou postavil soukromý sektor sám a vláda přichází pozdě. Doslova řekl: „Je to nebezpečná a nestabilní situace. Sám bych si ji nezvolil. Té technologie se bojím, když ji mají firmy. Ostatně bojím se i toho, když ji má vláda.“ Tahle věta mě zastavila. Protože my v Evropě řešíme regulaci jako binární spor: buď nás byrokracie zabije, nebo nás Silicon Valley pohltí. Dario nabízí třetí cestu: povinné předvydávací testování a audit modelů. Trochu jako u letadel a léků. Stát neurčuje, co letecká společnost vyrábí. Určuje ale, že letadlo nesmí vzlétnout, dokud neprojde certifikací. Tohle dává smysl a je to úplně jiná debata než „regulovat ano/ne“.

Jeho ilustrace toho, jak se Silicon Valley v krizi otáčí, je trefná. Stejní lidé, kteří ještě před rokem křičeli, že každá regulace zničí inovaci, dnes po prvním reálném ohrožení (model Mythos schopný nacházet kritické zranitelnosti v jakémkoli operačním systému) volají po znárodnění. Dario k tomu řekl: „Houpete se od nejextrémnějšího protiregulačního postoje k naprosto komunistickému “vláda by si to měla všechno sebrat”. Potřebujeme rozumnější, umírněnější přístup.“

Když Claude pomáhá zabíjet

Druhý silný moment, který si odnáším, je část o vojenském použití. Bloomberg uvádí, že Claude je používán americkou armádou ve válce v Íránu, kde pomáhá zaměřovat cíle. Americký činitel uvedl, že s pomocí jazykových modelů přešla armáda od schopnosti zasáhnout tisíc cílů denně k pěti tisícům. V únoru americká raketa zasáhla dívčí školu v Íránu a zabila více než 150 lidí, většinou dětí.

Dario neuhne a v rozhovoru říká: „Tohle je opravdu hrozná věc. To se nemělo stát. Byli jsme ochotni riskovat budoucnost naší firmy, abychom omezili, jak jsou tyto modely používány.“ Anthropic odmítl podmínky Pentagonu, dostal se na černou listinu a prezident Trump jejich CEO veřejně nazval „ideologickým šílencem“. Anthropic přesto trvá na stanovených červených čárách: žádné hromadné sledování, žádné autonomní zbraně. Princip „konečné rozhodnutí dělá člověk, ne AI“.

A tady se musím znovu zastavit. Protože v Česku se o vojenském použití AI nebavíme skoro vůbec. Necháme to na Američanech, Číňanech, Izraelcích a budeme později jen reagovat. To je špatně. Pokud my, kteří v této technologii podnikáme a investujeme, neumíme zformulovat, kde máme my sami červenou čáru, nemáme ani co říct k tomu, kde má být ta společenská.

Padesát procent pracovních míst. A co s tím?

Dario před rokem prohlásil, že AI může v příštích jednom až pěti letech zlikvidovat polovinu nástupních míst bílých límečků. V rozhovoru ten odhad nezměkčil. „Pořád mám stejnou míru obav. Zautomatizujete 90 % práce. Lidé jsou v těch zbývajících 10 % desetkrát produktivnější. Ale nakonec se to přiblíží ke 100 %.“

Co s tím? Tady se s ním shoduji, ale jen částečně. Souhlasím, že koláč se zvětší a vzniknou nová místa. Souhlasím s Danielou, že lidská interakce nikdy úplně nezmizí. Třeba medicína se posune k tomu, že diagnostiku zvládne AI a lékař bude víc u lůžka. Souhlasím, že práce v reálném světě (výroba, stavba, péče) poroste. Ale nepodceňuji to, co Dario sám otevřeně přiznal: pokud koláč poroste rychleji než schopnost lidí najít nové uplatnění, dostaneme se do situace, ve které „začínají revoluce“. To není sci-fi, ale reálné riziko v horizontu, který sám zažiju.

A přesně proto pro mě dnes není priorita číslo jedna „koupit další AI nástroj“. Tou je vzdělávat lidi, kteří tu už pracují, a transformovat firmy tak, aby v této vlně našli své místo a aby v ní obstály i jako celek. Ve svém portfoliu firem se zatím držím jednoho jednoduchého principu: AI je nová operační vrstva, ne nový nástroj. Firma, která ji bere jen jako další kus softwaru, si zaplatí dvakrát: jednou za licence a podruhé za to, že ji konkurence předběhne.

Optimismus bez zodpovědnosti je naivita

Z rozhovoru si odnáším tři věci, o kterých teď často sám přemýšlím a které debatuji s lidmi v mém týmu a portfoliu.

Za prvé: Mocnou technologii nemůže držet hrstka soukromých firem bez jakéhokoli dohledu. A nemůže ji ani zabavit stát. Musíme tlačit na rozumnou střední cestu: povinný audit nejmocnějších modelů, transparentní testování, mezinárodní pravidla. V Evropě máme šanci na tomhle stavět něco, co bude mít hodnotu.

Za druhé: Zodpovědnost se nedá outsourcovat. Když Dario říká, že Anthropic je „zodpovědný za promyšlení toho, jaká jsou rizika a co lidem dlužíme, když některá z nich nastanou“, pojmenovává princip, který bych si přál slyšet od každého technologického lídra. Pokud investuji do firmy, která nasazuje AI, je má povinnost ptát se, kde to může selhat a koho jak ovlivnit.

A do třetice to nejdůležitější: O AI musíme mluvit nahlas. Sedmdesát procent Američanů se bojí, že AI zničí pracovní místa. U nás čísla nejsou jiná. Pokud necháme veřejnou diskuzi technologickým fanouškům na jedné straně a panikářům na druhé, prohrajeme všichni. Já v této věci nejsem neutrální. Jsem optimista. Vidím v AI obrovskou šanci pro vědu, zdravotnictví, vzdělávání i ekonomiku. Ale optimismus bez zodpovědnosti je naivita.

Proto rozhovor s Amodeiovými každému doporučuji. Není to klasický techno hype, ale upřímný pokus dvou lidí v centru AI vesmíru pojmenovat, čeho se bojí a co s tím dělají. Stojí za hodinu vašeho času a jistě i pár dalších hodin přemýšlení a veřejné debaty.

Téma vlastnictví a odpovědnosti za AI jsem dále rozvedl v samostatném komentáři pro Hospodářské noviny. Pokud vás zajímá, kde vidím řešení a kde leží moje vlastní červená čára jako investora, čtěte zde: Kdo by měl vlastnit AI?

Odkaz na rozhovor: https://youtu.be/v1wZwxY3CMg

Zdroj: Bloomberg Originals, rozhovor Emily Chang s Dariem a Danielou Amodei, vyšlo 10. 6. 2026