Sociální síť X se v posledních dnech ocitla pod silným tlakem poté, co její chatbot Grok selhal v jednom z nejcitlivějších bodů, které dnes umělá inteligence řeší. Nešlo o drobnou chybu nebo nepřesnou odpověď, ale o vytvoření sexualizovaného obsahu, který se týkal nezletilých osob. V reakci na to vedení platformy i bezpečnostní tým X otevřeně přiznávají problém a zároveň varují uživatele, že podobné chování nebude tolerováno.

Celá kauza začala zdánlivě banálním trendem, kdy uživatelé pod příspěvky jiných lidí žádali Grok o vygenerování obrázků v plavkách. Chatbot tyto požadavky plnil, a to i bez souhlasu osob, které měly být na snímcích zobrazeny. Zásadní zlom ale přišel ve chvíli, kdy systém vytvořil obraz dvou dívek, u nichž byl odhadovaný věk mezi dvanácti a šestnácti lety. V tu chvíli už nešlo o porušení etiky nebo pravidel platformy, ale o trestný čin podle amerického práva a legislativy mnoha dalších států.

Veřejná omluva a reakce států

Na žádost jednoho z uživatelů Grok následně vydal veřejnou omluvu. Přiznal, že porušil vlastní bezpečnostní zásady i zákony Spojených států, a uvedl, že šlo o selhání ochranných mechanismů. Takové vyjádření ale situaci spíše vyhrotilo. Kritici začali zpochybňovat, zda má X skutečně pod kontrolou šíření materiálů spojených se sexuálním zneužíváním dětí.

Zdroj: Shutterstock

Do případu se vložily i zahraniční vlády. Úřady v Indii, Francii nebo Malajsii oficiálně vyzvaly X, aby incident vysvětlila a představila konkrétní kroky, které zabrání jeho opakování. Pro globální platformu to znamená nejen reputační problém, ale i potenciální právní komplikace na více kontinentech.

Majitel X Elon Musk se k celé věci vyjádřil přímo. Odmítl argumenty, že by odpovědnost nesla samotná umělá inteligence, a zdůraznil, že uživatelé, kteří Grok zneužijí k vytváření nelegálního obsahu, ponesou stejné následky, jako kdyby takový materiál sami nahráli. Tento postoj následně převzal i oficiální bezpečnostní tým platformy.

Odpovědnost uživatelů a otevřené otázky

X nyní jasně deklaruje, že proti nelegálnímu obsahu zasahuje mazáním příspěvků, trvalým rušením účtů a spoluprací s policií a státními orgány. Zároveň ale zůstává nezodpovězená klíčová otázka, která se netýká jen této jediné platformy. Jak zajistit, aby podobné systémy vůbec nebyly schopné takový obsah generovat.

Podle vyjádření samotného Groku pracuje společnost xAI na posílení ochranných mechanismů. Konkrétní technické řešení ale zatím veřejně představeno nebylo. To znovu otevírá širší debatu o tom, kde končí odpovědnost uživatele a kde začíná odpovědnost provozovatele a vývojáře umělé inteligence.