Dohoda, která vznikla po summitu na University of Washington a byla zveřejněna nedávno, stanovuje 10 zásad, které mají vést výzkumníky k zabránění vytváření biologických zbraní využívajících umělou inteligenci. Klíčovým bodem dohody je, že výzkumníci by neměli vyvíjet žádné nebezpečné biologické zbraně s pomocí umělé inteligence.

Mezi závazky vědců patří například získávání služeb DNA pouze od těch, kteří mají screeningová opatření, která detekují potenciálně nebezpečné biomolekuly před jejich vytvořením. Dohoda také zdůrazňuje důležitost identifikace bezpečnostních rizik před uvedením softwaru poháněného umělou inteligencí na trh a podílení se na postupech pro odhalení možných problémů ve screeningových protokolech.

Zdroj: Shutterstock

Podpisem dohody se vědci zavazují dodržovat tyto principy a minimalizovat riziko využití umělé inteligence k nebezpečným účelům. Mezi signatáři jsou významné osobnosti z univerzit a institucí z celého světa, což ukazuje na širokou podporu této iniciativy.

Zástupci korporací jako Microsoft, ProteinQure, Menten AI a Profluent Bio také podepsali tuto dohodu, což svědčí o tom, že i soukromý sektor bere problematiku vážně. Zastánci dohody zdůrazňují, že umělá inteligence má potenciál pozitivně ovlivnit oblast biologie a lidstva, a proto je důležité zajistit, aby byla využívána odpovědně.

Přestože dohoda klade důraz na regulaci využití umělé inteligence v biologickém výzkumu, zůstává otázkou, zda existující právní předpisy jsou dostatečné k zajištění bezpečnosti v této oblasti. Bílý dům již navrhl zákon o právech AI a prezident Biden vydal výkonný příkaz zaměřený na dohled nad jejím používáním, což naznačuje rostoucí zájem o regulaci této technologie.

V každém případě je dohoda, kterou podepsalo více než 100 vědců a zástupců korporací, důležitým krokem k zajištění bezpečnosti v biologickém výzkumu využívajícím umělou inteligenci. Posílení bezpečnostních opatření a přijetí odpovědných postupů může pomoci minimalizovat rizika spojená s využitím této technologie a chránit jak národní bezpečnost, tak i veřejné zdraví a bezpečnost.