Video, které vzniklo pro kampaň konference, ukazuje s nadsázkou, jak snadno se z AI může stát náš „šéf“. Stáváme se loutkami systémů?
Ano a není to nic nového. Lidé byli loutkami systémů odjakživa – ať už šlo o víru, politiku, nebo společenské rituály jako svatby či Vánoce. Naše mysl potřebuje rámce, do kterých může patřit, a identitu, kterou může sdílet. Je v zásadě jedno, jestli je to identita inovátora, filantropa, nebo fanouška Halloweenu. Rozdíl je ale v tom, že vyřezaná dýně na Halloween nesbírá vaše data a neposílá je do centrální databáze nadnárodní firmy. Umělá inteligence ano – a jakmile někdo vlastní váš digitální otisk, stáváte se mnohem snadněji manipulovatelnou loutkou.
Máte konkrétní příklady?
Vidíme to například v Číně u systému sociálních kreditů, kde algoritmy ovlivňují přístup lidí k půjčkám, cestování nebo zaměstnání. Ale i na Západě, třeba když Netflix nebo TikTok navrhují obsah, který formuje naše vnímání světa a naši pozornost. A nemějme iluze, že firmy s našimi daty nepracují. Minimálně interně, když na jejich základě trénují vlastní modely. Myslím, že je jen otázkou času, než se třeba části databází OpenAI objeví na darknetu. I proto mě fascinuje kombinace AI a blockchainu, ať už jde o decentralizaci výpočetní síly, nebo ověřování původu informací.
Edward Furlong a Arnold Schwarzenegger ve filmu Terminátor 2: Den zúčtování (1991)
Jak ale poznáme, že nám technologie opravdu pomáhá a kdy už začíná přebírat kontrolu a šmíruje nás?
Klíčové je, jestli máme pocit autonomie – jestli můžeme věci vypnout, odmítnout nebo se rozhodnout jinak. Pokud technologie nabízí doporučení, je to pomocník. Pokud nás uzavírá do jediné cesty, stává se z ní vládce. Je to jako s industrializací – tovární stroje lidem ulehčily práci, ale zároveň určily rytmus celých měst a rodin. Dnes nám AI doporučuje, koho potkáme na Tinderu nebo jakou hudbu posloucháme. Otázka zní: volíme to my, nebo jen sledujeme scénář napsaný algoritmem?
Máte naopak pozitivní příklady z českého prostředí, kde se s AI pracuje zodpovědně a přitom inovativně?
Určitě. Na CIIRC ČVUT mám možnost sledovat skvělé projekty: třeba VitiSpectr, který pomáhá vinařům sledovat kvalitu vinic pomocí AI. V Motole zase kolegyně Julie Skovierová zkoumá využití AI v diagnostice. Fascinující je také práce Jana Šedivého, který se věnuje konverzačním systémům. A samozřejmě obdivuji Tomáše Mikolova – jeho přístup je jednoduchý, bez marketingových nánosů, a přitom skutečně inovativní, protože přichází s úplně novými koncepty. A o to v AI i ve vědě jde – o vymýšlení zítřků, které si dnes ještě neumíme představit.
A není dnes důležitější než samotné ovládání technologií porozumět jejich vlivu na naše rozhodování a hodnoty?
Přesně tak. Většina z nás nerozumí detailně tomu, jak funguje elektřina, Wi-Fi nebo finanční systém – a přesto je používáme. AI je ale specifická tím, že v lidech vyvolává zároveň strach i fascinaci. Její algoritmy jsou tak složité, že úplná vysvětlitelnost není možná – a možná ani žádoucí. Podobně jako když lidé kdysi četli Sokrata a museli odhadovat, co byl skutečný záměr mezi řádky. U AI je to ještě komplikovanější, protože sama žádný záměr nemá – jen produkuje pravděpodobnostní výstupy, které mohou být stejně tak geniální, jako úplně nesmyslné. Lidé jsou ale mistři v hledání vzorců, dokážeme vidět tvář Ježíše v připáleném toastu. Proto není divu, že význam hledáme i ve výstupech velkých jazykových modelů.
Matrix - Trinity
Mluví se o tom, že AI nahradí mnoho profesí. Jaké nové role podle vás vzniknou?
Mě fascinuje třeba myšlenka role AI etnografa – člověka, který spojuje dovednosti datového analytika s hlubokým porozuměním lidem a kulturám a dokáže to využít při řízení změn ve firmách. A pak i role, o které mluvím už roky – AI archeolog. Někdo, kdo zkoumá principy vzniku a zániku civilizací a používá AI jako nástroj k pochopení dlouhodobých vzorců. Myslím, že i díky AI se obory jako archeologie paradoxně stávají obory budoucnosti. I proto, kromě toho, že to miluju, se jí pořád věnuju.
