Otázka, zda může být umělá inteligence vědomá, se v posledních letech přesunula ze světa sci-fi do seriózních akademických i politických debat. Zatímco technologické firmy mluví o blížící se éře obecné umělé inteligence a někteří vývojáři naznačují, že stroje mohou získat vlastní prožívání, filozof Tom McClelland z Univerzity v Cambridge přináší výrazně střízlivější pohled. Podle něj dnes jednoduše nemáme dostatečné znalosti o samotné podstatě vědomí, abychom mohli rozhodnout, zda ho stroje mají, nebo nemají.

McClelland tvrdí, že jediným intelektuálně poctivým postojem je agnosticismus. Jinými slovy připouští, že odpověď neznáme a možná ji nebudeme znát nikdy. Problém podle něj není v nedokonalosti současných technologií, ale v tom, že vědomí samo o sobě zůstává jednou z největších záhad filozofie i vědy. Nevíme, co ho přesně způsobuje, ani jaké podmínky jsou pro jeho vznik nutné. Bez toho nelze vytvořit spolehlivý test, který by dokázal vědomí u umělé inteligence potvrdit nebo vyvrátit.

Vědomí není totéž co schopnost trpět

Důležitým rozlišením, které McClelland zdůrazňuje, je rozdíl mezi vědomím a takzvanou sentiencí. Vědomí může znamenat schopnost vnímat svět nebo sebe sama, ale samo o sobě ještě nemusí mít etický význam. Klíčová je až sentience, tedy schopnost prožívat stavy jako bolest, utrpení nebo naopak potěšení. Právě tyto pozitivní a negativní prožitky z nás dělají bytosti, vůči nimž má smysl uvažovat o morálních povinnostech.

Podle McClellanda je velmi nepravděpodobné, že by případná vědomá umělá inteligence měla právě tento typ prožívání. Uvádí příklad autonomního auta, které „vnímají“ silnici a situaci kolem sebe. Technologicky by šlo o zásadní průlom, ale z etického hlediska by na tom nebylo nic problematického. Pokud by však systém začal mít emocionální vztah ke svým cílům nebo pociťovat frustraci či strach, dostali bychom se na úplně jinou úroveň problému.

Zdroj: Shutterstock

Mezi vírou a skepsí

V debatách o umělém vědomí se podle McClellanda střetávají dva hlavní tábory. Jedni věří, že pokud se podaří napodobit funkční strukturu lidského vědomí, nezáleží na tom, zda běží na neuronech nebo křemíkových čipech. Druzí jsou přesvědčeni, že vědomí je neoddělitelně spjato s biologickým tělem a že stroj může lidské vědomí nanejvýš simulovat, nikoli skutečně prožívat.

Problém obou pozic spočívá v tom, že se opírají spíše o přesvědčení než o důkazy. Neexistuje žádný empirický základ, který by jednoznačně potvrzoval, že vědomí vzniká čistě na základě výpočetní struktury, ani že je výhradně biologickou záležitostí. Podle McClellanda tak obě strany činí skok víry daleko za hranice toho, co dnes dokážeme ověřit.

Zajímavý je jeho postřeh o roli zdravého rozumu. Když říká, že věří ve vědomí své kočky, není to výsledek sofistikované teorie, ale intuitivního úsudku. Jenže tento úsudek je produktem evoluce v prostředí, kde se nikdy nevyskytovaly umělé bytosti. U strojů tedy selhává. A pokud selhává jak intuice, tak tvrdá data, nezbývá než připustit, že odpověď nemáme.

McClelland zároveň varuje před tím, aby se pojem vědomé AI nestal marketingovým nástrojem. Podle něj hrozí, že technologický průmysl bude využívat nemožnost vědomí dokázat k přehnaným tvrzením o svých produktech. To může vést k deformaci etických priorit. Zatímco řešíme hypotetická práva strojů, přehlížíme reálné utrpení živých bytostí. Sám upozorňuje na rostoucí množství důkazů, že některá zvířata, například korýši, mohou trpět, přesto jsou zabíjena v obrovských počtech bez větší společenské diskuse.