Svatý stolec: Umělá inteligence je příležitost i hrozba

V dokumentu s názvem Antiqua et Nova, o vztahu umělé a lidské inteligence, zveřejněném 28. ledna, který společně vydala dvě dikasteria, pro nauku víry a pro kulturu a vzdělávání, je objasňován potenciál i negativa umělé inteligence.

Varování papeže Františka před umělou inteligencí z posledních let se stala osnovou pro dokument s názvem „Antiqua et Nova“, o vztahu mezi umělou a lidskou inteligencí, který je výsledkem vzájemné reflexe mezi Dikasteriem pro nauku víry a Dikasteriem pro kulturu a vzdělávání. Je určen především „těm, kdo jsou pověřeni předáváním víry“, ale také „těm, kdo sdílejí přesvědčení, že vědecký a technický pokrok by měly směřovat ke službě lidské osobě a obecnému dobru“.

Ve 117 odstavcích „Antiqua et Nova“ zdůrazňuje výhody a hrozby plynoucí z rozvoje umělé inteligence (Al) v oblasti vzdělávání, ekonomiky, práce, zdraví, vztahů a válek. V posledně jmenované sféře dokument například varuje před potenciálem Al zvýšit „nástroje války daleko nad rámec lidského působení a urychlit tak ničivé rozsahy zbrojení s katastrofálními důsledky pro lidská práva“.

V souvislosti s válkou „Antiqua et Nova“ podtrhuje, že autonomní a smrtící zbrojní systémy schopné identifikovat a zasáhnout cíle bez přímého lidského přičinění jsou důvodem k vážným etickým obavám. Upozorňuje, že papež František vyzval k zákazu jejich používání, protože představují „existenční riziko“, neboť mají potenciál působit způsobem, který by mohl ohrozit rozsáhlé oblasti, nebo dokonce samotné lidstvo. „Toto nebezpečí vyžaduje vážnou pozornost,“ uvádí se v dokumentu, „což odráží dlouhodobé obavy z technologií, které dávají válce nekontrolovatelnou ničivou moc nad velkým počtem nevinných civilistů, přičemž nešetří ani děti“.

Pokud jde o mezilidské vztahy, dokument konstatuje, že Al může vést ke „škodlivé izolaci“ , představuje problém pro vývoj dětí a že chápání Al jako osoby je „závažným etickým pochybením“, pokud se tak děje za podvodnými účely. Podobně používání AI k podvodu v jiných kontextech - například ve vzdělávání nebo v lidských vztazích, včetně oblasti sexuality - je rovněž třeba považovat za nemorální.

Stejná ostražitost se vyžaduje i v ekonomické oblasti. „Antiqua et Nova“ upozorňuje, že zejména v oblasti práce AI sice slibuje zvýšení produktivity, ale současné přístupy k této technologii mohou paradoxně pracovníky deklasovat a vystavit je automatizovanému dohledu.

Dokument věnuje dostatek prostoru také problematice zdravotní péče. Připomíná „obrovský potenciál“ různých aplikací v oblasti medicíny a varuje, že pokud by umělá inteligence nahradila vztah mezi lékařem a pacientem, hrozilo by zhoršení osamělosti, která často provází nemoc. Upozorňuje také, že integrace umělé inteligence do zdravotní péče představuje riziko dalších existujících rozdílů v přístupu k lékařské péči, přičemž hrozí „posílení modelu medicíny pro bohaté, kdy ti, kteří mají finanční prostředky, využívají pokročilé preventivní nástroje a personalizované zdravotní informace, zatímco ostatní mají problém s přístupem i k základním službám“.

V oblasti vzdělávání „Antiqua et Nova" konstatuje, že umělá inteligence představuje příležitosti i výzvy. Pokud se AI používá uvážlivě, může zlepšit přístup ke vzdělávání a nabídnout studentům „okamžitou zpětnou vazbu“. Jedním z problémů je, že mnohé programy pouze poskytují odpovědi, místo aby studenty podněcovaly k tomu, aby sami dospěli k řešení nebo sami napsali text; to může vést k tomu, že se nerozvíjí schopnost kritického myšlení. Nóta také varuje před neobjektivními nebo vymyšlenými informacemi a falešnými zprávami, které mohou některé programy vytvářet.

V souvislosti s falešnými zprávami dokument varuje před vážným rizikem, že umělá inteligence „generuje zmanipulovaný obsah a nepravdivé informace“, což se zhoršuje, pokud jsou šířeny s cílem oklamat nebo způsobit škodu. Ti, kdo vytvářejí a sdílejí obsah generovaný Al, by měli vždy pečlivě ověřovat pravdivost toho, co šíří, a v každém případě by se měli vyvarovat sdílení slov a obrazů, které ponižují člověka, podporují nenávist a nesnášenlivost, znevažují dobrotu a intimitu lidské sexuality nebo zneužívají slabé a zranitelné.

Pokud jde o problematiku ochrany soukromí, dokument poukazuje na to, že některé typy údajů mohou jít tak daleko, že se dotýkají „nitra jednotlivce, možná i jeho svědomí“, přičemž hrozí, že se vše stane „jakousi podívanou, kterou je třeba zkoumat a kontrolovat“. Digitální dohled může být také zneužit k vykonávání kontroly nad životy věřících a nad tím, jak vyjadřují svou víru.

K tématu péče o stvoření „Antiqua et Nova“ uvádí, že „umělá inteligence má mnoho slibných aplikací pro zlepšení vztahu k našemu společnému domovu. „Současné modely umělé inteligence a hardware potřebný k jejich podpoře však zároveň spotřebovávají obrovské množství energie a vody, čímž významně přispívají k emisím CO2 a zatěžují přírodní zdroje“.

Závěrem nóta varuje před rizikem, že se lidstvo stane „otrokem své vlastní práce“. Umělá inteligence, zdůrazňuje dokument „Antiqua et Nova“, „by měla být používána pouze jako nástroj doplňující lidskou inteligenci, a ne jako náhrada jejího potenciálu“.

Zdroj: Vatican News, anglická sekce