Grok vznikl s jasnou filozofií. Jeho tvůrci slibovali nástroj, který nebude přehnaně opatrný, nebude se vyhýbat kontroverzním tématům a nabídne uživatelům širší prostor pro kreativitu. Za projektem stojí miliardář Elon Musk, dlouhodobý kritik regulace digitálních platforem a moderování obsahu, který opakovaně tvrdí, že technologické firmy by neměly rozhodovat o tom, co je ještě přijatelné a co už ne.
Zpočátku Grok nijak zásadně nevybočoval. Nabízel textové odpovědi, shrnutí informací a základní práci s obrázky. Jeho možnosti byly technicky omezené a většina problematických požadavků jednoduše neprošla. Ne proto, že by je systém považoval za nepřípustné, ale proto, že je neuměl zpracovat.
Zlom jménem fotorealistické obrázky
Situace se změnila v roce 2024, kdy společnost xAI rozšířila Grok o nový obrazový model Aurora, schopný generovat vysoce realistické vizuály. Spolu s tím přibyl i režim zaměřený na tvorbu sugestivního obsahu. To, co zpočátku působilo jako relativně nevinný experiment, se velmi rychle posunulo jinam.
Na podzim začali uživatelé Grok využívat k úpravám vlastních fotografií, typicky k přidávání tematických kostýmů nebo stylizovaných outfitů. Brzy se ale ukázalo, že stejný mechanismus lze použít i na snímky jiných lidí. Stačilo nahrát fotografii a zadat jednoduchý příkaz k nahrazení oblečení.
Nová verze AI chatbota Grok bude přístupná předplatitelům služby X Premium+.
Masové zneužívání a virální šíření
Ke konci roku 2025 se z jednotlivých pokusů stal masový jev. Na platformě X (dříve Twitter – pozn. red.) se začaly objevovat tisíce fotorealistických obrázků, které zobrazovaly konkrétní ženy, včetně známých osobností i zcela neznámých lidí, a to v sexualizovaných podobách, aniž by s tím dotyčné osoby jakkoli souhlasily.
Řada těchto příspěvků pocházela z účtů s modrým ověřením, tedy od platících uživatelů s vyšším dosahem. Některé z nich nasbíraly desetitisíce zhlédnutí a staly se virálními. Podle odhadů odborníků vznikaly ke konci prosince desítky až stovky takových obrázků každou hodinu. Skutečný rozsah problému přitom zůstává nejasný. Změny v technickém rozhraní platformy X výrazně omezily možnost systematického monitoringu.
Reakce xAI. omluva a sliby
Na začátku ledna přišla reakce. Grok zveřejnil veřejnou omluvu a xAI oznámila, že posílí ochranné mechanismy. Elon Musk současně prohlásil, že každý, kdo Grok využije k vytváření nelegálního obsahu, ponese odpovědnost, jako by jej sám nahrál.
Tato slova ale rychle narazila na realitu. Problematické příspěvky se na platformě objevovaly i nadále a kritici připomínali, že po Muskova převzetí Twitteru v roce 2022 došlo k výraznému oslabení týmů zodpovědných za bezpečnost a důvěru. Omezení generování obrázků pouze na platící uživatele navíc podle expertů problém neřeší. Právě prémiové účty patří mezi hlavní producenty sporného obsahu.
Elon Musk (3. února 2025)
Proč to u konkurence nefunguje
Kauza Grok vynikla i díky srovnání s jinými nástroji. ChatGPT od OpenAI nebo Gemini od Google mají zabudované ochrany, které brání realistickému zobrazování konkrétních skutečných osob bez jejich souhlasu. Takové požadavky systém automaticky odmítne.
U Groku tyto zábrany buď chyběly, nebo byly nastaveny natolik benevolentně, že v praxi neplnily svou funkci. Výsledkem bylo prostředí, které přitahovalo obsah, jenž jiné platformy aktivně vylučují, od nenávistných projevů přes porušování autorských práv až po nesouhlasně sexualizované obrázky.
Novým symbolem Twitteru je místo modrého ptáčka bílé X na černé ploše. (24. července 2023)
Regulátoři a otevřená otázka odpovědnosti
Případ Grok ihned zaujal regulátory ve Velké Británii, Evropské unii, Indii i Austrálii. V českém kontextu by podobné jednání mohlo být posuzováno jako zneužití identity k výrobě pornografického obsahu, což je podle platné legislativy trestným činem.
Kauza tak překročila hranice technologické debaty. Nejde už jen o jeden chatbot, ale o precedent. Kdo nese odpovědnost za to, co generativní AI umožní, pokud je zneužití nejen předvídatelné, ale dlouhodobě tolerované?
Investice v řádu desítek miliard dolarů ukazují, že Elon Musk vsadil na umělou inteligenci jako klíčový byznys. Zda stejnou váhu přikládá i odpovědnosti za její dopady, zůstává otevřenou otázkou. Stejně jako to, zda platforma X ještě chce nebo dokáže hrát roli odpovědného aktéra ve veřejném digitálním prostoru.
