V Plzni vymysleli AI asistenta, chrání před závislostí na sociálních sítích

„Mobilní aplikace se chová jako kognitivní antivirus,“ říká spoluzakladatel startupu Jan Romportl s tím, že Elin.ai chce chránit mladé před uváznutím v toxických myšlenkových a emocionálních vzorcích, které může způsobit škodlivý, manipulativní nebo extrémní obsah nebo záměrně zkreslené informace.

„Aplikace vznikla jako reakce na rostoucí potřebu podpory duševního zdraví mladých lidí v digitálním prostředí. Její vývoj spojil odborníky na umělou inteligenci, psychologii, etiku a vzdělávání s cílem nabídnout technologii, která nejen reaguje, ale i chápe,“ popsal Romportl.

Vznikla jako odpověď na alarmující nárůst duševních potíží u mladých lidí. Statistiky ukazují, že každé třetí dospívající dítě v Evropě zažívá úzkosti, stres nebo symptomy deprese a jen zlomek z nich vyhledá pomoc.

Jako se produkty umělé inteligence učí za pochodu, stejné je to podle Romportla i s aplikací Elin.ai, kterou si mohli mladí začít stahovat v listopadu 2024. Za více než rok ji má v mobilním telefonu 25 tisíc hlavně teenagerů. To je podle Romportla právě takové množství lidí, aby Elin.ai mohla využívat zpětné vazby od těchto uživatelů a mohla být stále kvalifikovanějším pomocníkem.

„Těch 25 tisíc uživatelů, to je jen maličký dílek, o který stojíme. Můj cíl je, aby Elin byla nainstalovaná na každém mobilním telefonu, který bude mít teenager v ruce, zkrátka cílíme na globální trh s desítkami milionů mladých lidí,“ říká Romportl.

Nejdříve aplikace fungovala tak, že využívala jazykové modely umělé inteligence k analýze libovolného screenshotu, tedy snímku mobilní obrazovky, od uživatele. Ve formě chatu pak pomáhala danému obsahu porozumět, případně dávala na míru šité rady, jak reagovat. Teď už je však dál. Je schopná také sledovat to, co teenager provádí na sociální síti Instagram, a snaží se preventivně zasahovat ve chvíli, kdy by činnost na síti mohla mladého člověka začít emocionálně rozleptávat.

„Směřujeme k tomu, aby rodiče dítěti řekli: budeš používat sociální sítě jen v tom případě, že si nainstaluješ aplikaci Elin.ai,“ poznamenal Romportl. Podle něj to však nebude lehké, protože mnoho rodičů patří, s nadsázkou řečeno, mezi analfabety sociálních sítí, takže bude nutné je edukovat třeba pomocí příkladů, jak sociální sítě dětem ubližují nebo jak Elin pomáhá.

„Nedá se říci, že design sociálních sítí je úplně zlý, ale je potřeba vědět, že ten, kdo je užívá, není zákazník, ale zboží. Moje dítě napojené na sociální sítě je tedy zboží a to nejcennější, co v životě má, což je čas, je prodáváno platícím inzerentům,“ vysvětluje Romportl.

Al asistent brání závislosti na sociálních sítích

Problémem podle něj je, že teenageři to nejhlubší, co v nich je, odevzdávají firmě v Silicon Valley nebo v případě TikToku firmě v Číně. „Tyto firmy pak využívají jejich evolučně vybudované slabosti. To totiž nejsou jejich osobnostní slabosti, to jsou slabosti v designu Homo sapiens,“ říká Romportl, který jedním dechem dodává, že Elin se nikdy reklamami živit nebude.

Jde cestou platících uživatelů, kteří za měsíc zaplatí 150 korun. „Ale vedle bude i základní verze Elin.ai, která bude pro všechny zdarma,“ dodává s tím, že mladí mají za 150 korun měsíčně nástroj, kterému mohou důvěřovat. „My ho dotrénováváme spolu s psychology, psychiatry a dalšími odborníky tak, aby bránil vytváření emoční závislosti na sociálních sítích,“ vysvětluje odborník na AI.

Elin.ai, jak říká Romportl, je sice zaměřená na mladé, ale sociální sítě ohrožují úplně všechny uživatele, protože algoritmy sociálních sítí je de facto neurohackují. „Anglicky se tomu říká compare and despair neboli porovnávej a zoufej si. Když teenage holka swipuje na Instagramu a vidí tam samé hezčí holky, které mají lepší postavu, mají výdrž, píli a peníze, také lepšího partnera, neustále reportují z posilovny, dívku to v podstatě emočně eroduje. Když tyto scény uvidí jednou, nic se neděje, ale když je uvidí tisíckrát každý den, rozleptává jí to emoční stabilitu,“ vypráví Romportl. „Jde o to udržet moji přítomnost na sociální síti co nejdéle, až jednou na nějakou tu reklamu kliknu,“ dodává odborník.

Swipování neboli jakési listování na Instagramu podle něj způsobuje podprahovou chronickou úzkost, kdy se mozek zaplavuje kortizolem. Následují různé kompenzační mechanismy v podobě úzkostí či sebepoškozování.

Vyhnout se smyčce závislostí

„Cílem Elin.ai je primární prevence, aby mladí nikdy v budoucnosti nepotřebovali terapeuta, který by je ze smyčky závislosti na sociálních sítích musel obtížně dostávat,“ vysvětlil Romportl.

Na otázku, jestli mladí nemohou Elin.ai považovat za nějaké sledovací zařízení, když je aplikace zasvěcena do všeho, co teenager na sociální síti zažívá, odpovídá, že když má teenager v počítači antivirus, ten také vidí úplně všechno, co na počítači dělá, a také neříká, že to je sledovací zařízení, ale zařízení ochranné. „Spamový filtr také přečte každý můj e-mail a neberu ho jako sledovací zařízení,“ dodává.

Zárukou důvěryhodnosti Elin.ai by mohlo být pro teenagery či rodiče třeba to, že spoluzakladatelem startupu je i ředitel Národního ústavu duševního zdraví profesor Jiří Horáček. „My data v mobilním zařízení čteme, ale nikde s nimi nekšeftujeme. Žádným temným způsobem je nevyužíváme, jen se snažíme v určité chvíli, kdy hrozí nebezpečí, teenagera upozorňovat, směrovat k jiné činnosti nebo mu poradit, ale zásadně nementorujeme, nechytračíme, nepřevychováváme,“ říká Romportl.

Připomíná, že kdo chce děti pustit na sociální sítě, měl by jim zajistit nějakou ochranu, a tou může být Elin.ai.