Stačí pár kliknutí a máte hotovou seminárku, návrh projektu nebo rešerši. Právě tak dnes mnoho lidí používá nástroje jako ChatGPT. Z pomocníka se rychle stal nástroj, na který se někteří spoléhají víc, než by bylo zdrávo.

Problém je, že většina uživatelů neřeší, jak tyto systémy fungují. Výsledek vypadá dobře, jazyk je plynulý a text působí důvěryhodně. Jenže právě tady se skrývá riziko. Nový výzkum ukázal, že i u úplně stejné otázky může AI odpovědět pokaždé jinak.

V praxi to znamená, že jeden student může dostat správnou odpověď, zatímco druhý, který zadá stejný dotaz, dostane něco nepřesného nebo úplně špatného. A často to ani nepozná, protože výstup zní sebejistě.

To je zásadní rozdíl oproti klasickým zdrojům. Kniha nebo odborný článek zůstává stejný. AI ne. Ta generuje odpověď pokaždé znovu.

Pohodlí vítězí nad kontrolou

Masové používání AI přináší ještě jeden problém. Lidé si zvykají přebírat informace bez ověřování. Místo hledání zdrojů a porovnávání názorů stačí jeden dotaz. Výsledek je rychlý, ale často povrchní.

Výzkum ukázal, že jazykový model má problém zejména s rozpoznáním nepravdivých tvrzení. V těchto případech často chybuje, nebo si není jistý. Přesto odpověď podá tak, že působí přesvědčivě.

To vytváří falešný pocit jistoty. Uživatel má dojem, že dostal správnou informaci, i když to tak být nemusí. A právě to je v kombinaci s masovým používáním nebezpečné.

Otázkou zůstává i bezpečnost a důvěra v data. Málokdo řeší, kam se zadané texty ukládají, jak se s nimi pracuje nebo jestli mohou být použity pro další trénink. Přitom právě u školních nebo pracovních materiálů může jít o citlivý obsah.