HN.cz: Kdo by měl AI vlastnit? Když hrstka soukromých firem staví tak mocné technologie, musíme nastavit pravidla dřív, než vzniknou škody

Kdo má držet otěže nad technologií, která se vyvíjí rychleji, než stíhá jakákoli regulace?

Tohle je otázka, nad kterou v poslední době čím dál víc přemýšlím a kterou v českém byznysu postrádám. Zatímco ze zahraničí tyto úvahy čtu a slyším stále častěji, kolem sebe vnímám jen témata, jak AI nasadit, jak ušetřit náklady, nahradit lidi, získat výhodu. Debatu o tom, kdo za ni zodpovídá a jaká pravidla s jejím užitím mají platit, vedeme málokdy. Přitom už nejde jen o ekonomickou rovinu úvah, ale i etickou a společenskou.

Předchozí přelomové technologie srovnatelné síly, jaderné zbraně, GPS, internet, mobilní sítě, vznikaly ve státním sektoru nebo pod přímou vládní kontrolou. AI je první výjimka. Nejsilnější modely světa dnes staví hrstka soukromých firem bez jakéhokoli mandátu, bez voleb, bez demokratické kontroly. A vlády přichází pozdě.

Nechci říkat, že je to špatně. Říkám, že je to nestabilní situace. A že bychom měli nahlas mluvit o rizicích a připravit se na ně dřív, než nás dostihnou. Ne jako v případě sociálních sítí, kde negativní dopady v oblasti mentálního zdraví mladých, deepfake nebo sexualizovaného násilí řešíme až minutu po dvanácté.

Regulace jako certifikace

Poslední rok přinesl několik momentů, které potenciální rizika AI ukázaly v plné nahotě. Italský úřad pro ochranu dat dočasně zablokoval ChatGPT kvůli nakládání s osobními údaji. Evropská komise zahájila řízení proti několika poskytovatelům AI modelů v rámci nového AI Actu. Britský parlament otevřel debatu o algoritmické transparentnosti. A ve Spojených státech se nejedno kongresové slyšení točí kolem otázky: kdo je zodpovědným, když AI selže?

Nejsem zastáncem regulace jako brzdy, jako podnikatel a investor bych byl proti zájmu byznysu. Jsem ale zastáncem regulace v podobě certifikace. Stejně jako stát neurčuje, co má letecká společnost vyrábět, ale určuje, že letadlo nesmí vzlétnout bez certifikace, mohly by existovat povinné audity nejmocnějších AI modelů před jejich nasazením. Jiným příměrem může být certifikace léků a prokázání jejich bezpečnosti, než jsou povoleny k uvedení do oběhu. V případě AI by měla platit povinná transparentnost o tom, na jakých datech modely trénují. A mezinárodní pravidla, která zabrání tomu, aby se z regulace stal nástroj geopolitické výhody.

V Evropě na tohle máme šanci. AI Act je krok správným směrem, i když nedokonalý. 

Když AI pomáhá zabíjet

Nejtěžší část téhle debaty je vojenské užití. Nemůžu se jí vyhnout, protože právě tady je jasně položená červená čára odpovědnosti a etiky extrémně důležitá.

Za pozornost stojí příběh, který se v posledních měsících točí kolem Anthropicu a jejich modelu Claude. Americká armáda Claude používala nebo se o to pokoušela. Anthropic to odmítl za podmínek, které považoval za nepřijatelné, dostal se proto na černou listinu a čelil veřejnému tlaku, včetně slovních útoků od prezidenta Trumpa. Anthropic ale trval na principu: konečné rozhodnutí dělá člověk, nikoliv AI. Žádné autonomní zbraně, žádné hromadné sledování.

Právě takové skutečné příběhy ukazují, proč nestačí spoléhat na to, že firmy mají dobré úmysly. Co až se modely dostanou do rukou nedemokratických diktátorů nebo neetických firem? 

V Česku se o vojenském použití AI zatím skoro nebavíme. Přenecháme to Američanům, Číně, Izraelcům a pak budeme reagovat. Ale pokud my, kteří v téhle technologii podnikáme a investujeme, neumíme říct, kde je naše vlastní červená čára odpovědnosti, pak nemáme ani co říct k té společenské.

Odpovědnost za dopad na trh práce

Otázka vlastnictví AI a veřejné debaty o rizicích má ještě jednu, méně fatální, ale o to masivnější rovinu: kdo nese zodpovědnost za dopady na trh práce? Pokud nejsilnější modely staví a nasazuje několik soukromých firem, pak na nich leží i zodpovědnost za to, jaký dopad mají na naše životy a fungování společnosti. A to včetně trhu práce.

Odhady se různí, ale z žádného z nich nemůžeme být klidní. Část analytiků mluví o zániku desítek procent nástupních pozic bílých límečků v horizontu pěti let. Jiní upozorňují, že nová místa vzniknou. Obojí může být pravda zároveň. Problém nastane, když koláč poroste rychleji, než se lidé stihnou adaptovat. Nikdo se nezamýšlí, čí je to starost.

Pro mne z toho plyne jedna praktická věc: priorita číslo jedna dnes není koupit další AI nástroj. Tou je vzdělávat lidi, kteří tu pracují, a transformovat firmy tak, aby v téhle vlně obstály. Ve svém portfoliu firem se držím jednoho principu: AI je nová operační vrstva, ne nový kus softwaru. Firma, která to nepochopí, zaplatí dvakrát, jednou za licence a podruhé za to, že ji konkurence předběhne.

Mám-li shrnout, co bych jako investor a podnikatel rád v českém prostředí slyšel častěji, jsou to tři témata.

Za prvé: mocnou technologii nemůže bez dohledu držet ani hrstka soukromých firem, ani stát sám. Potřebujeme rozumnou střední cestu, povinný audit nejmocnějších modelů, transparentní testování, mezinárodní pravidla. V Evropě na tom můžeme stavit něco hodnotného a měli bychom tu příležitost řešit aktivně, nejen čekat, až pravidla přijdou odjinud.

Za druhé: zodpovědnosti se nezbavíme. Když investuji do firmy, která nasazuje AI, je má povinnost ptát se a řešit, kde to může selhat a koho to a jak ovlivní. 

A za třetí: o AI musíme mluvit nahlas. Nejen o možnostech, ale právě i o rizicích a hranicích. Pokud necháme veřejnou diskusi technologickým nadšencům na jedné straně a panikářům na druhé, prohrajeme všichni.

Osobně jsem optimista a v AI vidím obrovskou šanci pro vědu, zdravotnictví, vzdělávání i ekonomiku. Optimismus bez zodpovědnosti je ale naivita, a ta do byznysu a ani řízení věcí veřejných nepatří. 

Zdroj: HN.cz

Tento text vznikl jako reakce na rozhovor s Dariem a Danielou Amodei z Anthropicu. Celý rozbor rozhovoru a moje přímé komentáře najdete zde: https://investfor3.com/cs/dario-amodei-sance-kolapsu-civilizace-ai/