Vědecký výzkum v prestižním časopise generovala AI s fiktivními daty
Tento článek, pojmenovaný „Buněčné funkce spermatogoniálních kmenových buněk ve vztahu k signální dráze JAK/STAT“, obsahoval několik alarmujících nedostatků, které se ukázaly jako práce umělé inteligence, nikoliv lidských výzkumníků.
Jedním z hlavních bodů diskuse byla neinterpretovatelná čísla, která byla součástí tohoto článku. Autoři přiznali, že tato čísla byla vygenerována pomocí technologie Midjourney AI a byla zcela nepoužitelná. Zvlášť šokující byl obrázek obsahující krysu s bizarně zveličenými genitáliemi a nesoucí záhadný textový štítek „dck“. Tato hrubá nedbalost odhalila vážné nedostatky v recenzním procesu, který má za úkol zajišťovat kvalitu a důvěryhodnost vědeckých prací.
Reakce vydavatele časopisu Frontiers byla opatrná a obezřetná. Vydavatel ve svém „vyjádření o znepokojení“ oznámil zahájení vyšetřování této záležitosti a slíbil následné oznámení nálezu veřejnosti. Tento incident však opět otevřel diskusi o efektivitě současného systému vědeckých publikací a recenzního procesu.
Zdroj: Shutterstock
Kromě problémů s čísly a obrázky někteří vědci dokonce zpochybňovali, zda byl samotný text článku vytvořen pomocí umělé inteligence. I když je tato otázka stále otevřená, ukazuje to na další potenciální problém s důvěryhodností vědeckého výzkumu v éře, kdy se AI stává stále více běžným nástrojem.
Tento skandál přináší do popředí diskusi o potřebě přezkoumání současného systému publikací a recenzního procesu. Vzhledem k rostoucímu využívání umělé inteligence ve vědeckém výzkumu je nezbytné, aby vědecká komunita přijala opatření k zajištění kvality, spolehlivosti a důvěryhodnosti výsledků. Nové pokyny pro autorství textů generovaných umělou inteligencí jsou správným směrem vpřed, ale zjevně existují mezery, které je třeba co nejdříve zaplnit.
Celkově tato událost poukazuje na naléhavou potřebu prohloubení diskuse o etice a integritě ve vědeckém výzkumu, stejně jako potřebu dalšího zdokonalování nástrojů a postupů pro kontrolu a ověřování vědeckých prací.