Co přinese umělá inteligence?

Technologický fenomén, kterému jsme si zvykli říkat „Umělá inteligence“ (AI), stále agresivněji vstupuje do našich životů a mezilidské komunikace. Někomu více, někomu méně, někomu dříve, někomu později. Ale už skoro není nikoho, kdo by byl tímto fenoménem nedotčen.

A jak už to bývá u dalších podobně rychle se etablujících technologických fenoménů, stává se z nich i fenomén společenský. A jako fenomén společenský nutně něco přináší, něco také
odnáší a zpochybňuje, leccos usnadňuje, ale přicházejí s ním i viditelná, nebo také zatím
neviditelná rizika.

Roku 1984 natočil americký režisér James Cameron film Terminátor. Šlo v něm o to, že
v roce 2029 převzal vládu nad lidstvem fiktivní počítačový systém umělé inteligence Skynet.
Tento systém vyslal v roce 2029 terminátora (tedy likvidátora lidí) zpět do roku 1984
s úkolem zabít matku Johna Connora, který jako dospělý zorganizuje povstání lidí proti
strojům. Máme se tzv. umělé inteligence bát? Může se něco podobného stát i dnes nám?
Když jsem přemýšlela, jak pojmout téma umělé inteligence, hlavou mi letěla spousta témat:
například evropská legislativa na ochranu umělé inteligence – nařízení, které stanoví pravidla AI používaná pro soudnictví – nebo etika jejího používání v justici. Těmito tématy se na své konferenci dne 20. listopadu 2024 zabýval Nejvyšší soud.

Vím, že velké advokátní kanceláře mají své specialisty na umělou inteligenci už roky. Ti se zabývají standardizovanými podáními a vyvíjejí nástroje, které umožňují zjednodušovat práci, kterou jinak mnohem déle a za více peněz provádějí praktikanti, studenti, koncipienti nebo mladší kolegové. Pak mě napadlo, že bych o umělé inteligenci měla vědět něco víc, a tak jsem si coby začátečník v oboru zaplatila aplikaci Textie a měsíc se ji učila používat. A po tom měsíci napevno vím, co jsem si o umělé inteligenci myslela předtím: je to jen nástroj. Něco jako sekera, automatická pistole nebo žehlička, dron nebo robotická sekačka, která nám na zahradě stříhá trávu. Nic víc a nic méně. Nástroj. Zatím. Co z tohoto poznání plyne? Čtyři závěry.

1. Je to nástroj, který se musíme naučit používat. Nejde o nic intuitivního. Když se
neumíte správně zeptat, nedostanete odpověď. Zeptáte-li se blbě, dostanete blbou
odpověď. Tuto zkušenost má každý, kdo se někdy pokoušel provolat přes robotického
operátora, který mu nabízel možnosti „Stiskněte jedničku, pokud chcete…“ a zejména
v situaci, kdy jste nebyli schopni si v nabídce vybrat. Umělá inteligence má vždycky
omezený výčet nabídek.

2. Je to nástroj, u něhož musíme respektovat omezení. Moje robotická sekačka neumí
létat, dron neumí sekat trávu. Určitě by bylo možné sestavit přístroj, který bude umět
obojí, ale nejde teď o to, co by sice snad mohla umět, ale co nikdy umět nebude.

3. Umělá inteligence zatím slouží výborně jako lepší vyhledávač. Je skvělá na data,
fakta, čísla, zdroje, definice, dotazníky, adresy, součty, statistiky, rešerše, například
soudních rozhodnutí. Je výborná a využitelná pro často se opakující situace, typické
varianty, nejčastější otázky či problémy. Jistě ji lze použít na rejstříkové, insolvenční
nebo exekuční návrhy či rozhodnutí, pro evidenci soudních věcí či různá vyhledávání.

4. Zatím je ale naprosto nepoužitelná všude tam, kde jsou potřeba emoce, kreativita,
práce s lidskou individualitou nebo nalezení adresného netypizovaného řešení.
Například u terapeuta, rodinného advokáta, trestního obhájce či trestního nebo opatrovnického soudce. Její tvůrci ji budou učit, aby emoce rozpoznávala, protože
emoce jsou součástí rozhodovacích procesů. A ona se bude pomalu zlepšovat. Umělá inteligence se bude dál učit ruku v ruce s tím, jak poroste objem dat, které jí – cíleně
nebo mimochodem – sdělujeme. Lidské mozky, lidské instinkty a lidskou zkušenost však
nenahradí.

Představte si, co vše umí váš stolní počítač, tzv. chytrý telefon nebo notebook. Obdivujete
možná, co v něm všechny ty obvody a desky dokážou, a jak rychle. Příští rok se začne
prodávat počítač s úložnou kapacitou 120 terrabajtů (TB). Víte, jak velký je lidský mozek?
Minimálně 3000 TB, tedy alespoň 22x tolik.

My právníci pracujeme s ajťáky ruku v ruce. Nejde to jinak, protože to právě oni se nás budou při programování ptát, zda samořiditelné auto má při kolizi spíš zabránit střetu také klidně tím, že nabourá do jaderné elektrárny nebo zabije matku s dítětem. A jiní právníci pak budou bádat nad tím, kdo za škodu způsobenou umělou inteligencí ponese odpovědnost. Zda výrobce, programátor, prodejce nebo uživatel, který ji kreativně aplikuje. Už dneska je zřejmé, že umělá inteligence mění náš svět – například školy ruší seminární a diplomové práce, protože prý už je mnohem častěji než student píše právě umělá inteligence.

Přesto my v Senátě každoročně odkládáme účinnost zákona o e-legislativě, protože technicky e-Sbírka zákonů ani jejich tvorba prostě nefunguje. Lidské mozky jsou stále ještě lepší. Jisté také je, že se na umělou inteligenci nikdy nesmíme spolehnout stoprocentně, abychom nepřišli o důležité údaje a informace. Zpackané stavební řízení je toho důkazem. Přesto se dá očekávat, že sama umělá inteligence zničení světa jako Skynet ve filmu Terminátor nepřinese. Že totiž podobně jako u sekery, pistole nebo auta bude za karamboly vždycky moci člověk, tedy lidský faktor.

Uvedu vám dva příklady. Minulý týden spadla počítačová síť v celém Senátě a několik dní
nefungoval intranet, takže nebylo možno rezervovat místnosti, dostat se na servery k vlastním dokumentům, tisknout na sdílených tiskárnách, objednávat si obědy v jídelně. Za tento karambol mohl externí technik 02, který jedním pokynem vymazal kompletní nastavení. O měsíc dříve jiný technik v Plzni jediným kliknutím vymazal nastavení pro 250 dálkových ovladačů od garážového vjezdu do jednoho domu, takže žádný ze zaměstnanců ani ubytovaných v onom velikém komplexu nebyl schopen se dostat domů. Já sama se v Senátě už řadu měsíců zabývám právem na život off-line a existují tací, co můj zájem dávají do souvislostí s mým postarším věkem, šedivým vlasem a rigiditou. A přitom je to právě mladá generace, která dnes u Českých drah požaduje zachování plastových slevových kartiček. Ví totiž z vlastní každodenní zkušenosti, že v místech bez datového signálu jim elektronická slevová karta nepomůže a slevu ve vlaku nedokážou uplatnit.

Na závěr jsem si nechala zjištění nejdůležitější: umělá inteligence pracuje s tím, co do ní
nacpeme. Pomineme-li vzorce, čísla nebo data, tahle věc neumí rozpoznat pravdivou
informaci od nepravdivé, fejkové. Zeptáte-li se jí na názor, pak nějaký určitě a vždycky
dostanete. Na rozdíl od početního výsledku však nebude neutrální. Kdo ho ovlivní? Kdo o tom rozhodne, zda bude kladný, nebo záporný? Kdoví? Možná… možná dostanete esenci
většinových informací z internetu. Ale míru většiny či menšiny lze ovlivnit množstvím
informací, které do všech sítí posíláme. Stačí poslat miliony jiných názorů, a hned se váha
promění. Já ani vy to asi nebudeme umět. Ale kdo by měl zájem názor umělé inteligence ovlivnit, ten to docela jistě umět bude. Pokusy o ovlivňování voleb pomocí sociálních sítí
jsme už koneckonců zaznamenali. A kriminální prostředí nám to předvádí na stále vyšší
úrovni každý den. Umí změnit hlas, fotku, e-mailovou adresu i video, aby vypadalo jako vaše
banka, jako vaše dítě či jako vaše matka. Každodenní hlášení poškozených důvěřivců jsou
toho důkazem.

Zacházejme s umělou inteligencí jako s nástrojem. Jako s dvoutunovým vozem, jako
s automatickou puškou, jako s žehličkou. Nezbožšťujme si ji. Nevěřme, že je něčím jiným.
Pak se jí nemusíme ani bát. Člověka s jeho osobností, zkušenostmi a smysly stejně nikdy
plnohodnotně nenahradí.

Z umělé inteligence obavu nemám. Jen z jejího zneužití. Pomocí AI lze totiž lidmi
manipulovat mnohem jednodušeji, než bylo možné kdykoliv dřív.

*

Daniela Kovářová -autorka je nezávislou senátorkou a prezidentkou Unie rodinných advokátů