Papež František: Lidská důstojnost se neměří algoritmy

Papež František vyzval k odpovědnému a etickému využívání umělé inteligence během každoročního setkání "Dialogy Minerva", které pořádalo Dikasterium pro kulturu a vzdělávání. Hodnota člověka nemůže záviset na řadě údajů, které jsou často shromažďovány skrytě, říká papež.

Papež František ocenil přínos technologií a umělé inteligence, pokud jsou využívány pro obecné dobro, ale varoval před neetickým nebo nezodpovědným využíváním umělé inteligence.

Učinil tak v pondělí ve Vatikánu, když promluvil na "Dialozích Minerva", každoročním setkání vědců a odborníků na vysoké úrovni, které pořádá vatikánské Dikasterium pro vzdělávání a kulturu.

Na tomto shromáždění se setkávají odborníci ze světa technologií – vědci, inženýři, podnikatelé, právníci a filozofové – a zástupci církve – kuriální úředníci, teologové a etici – s cílem studovat a podporovat větší povědomí o společenském a kulturním dopadu digitálních technologií, zejména umělé inteligence.  

Odpovědné využívání technologií

Papež diskusi označil jako "otevřenou náboženským hodnotám." Probíhajícího dialogu si velmi váží, zejména proto, že se hovoří o odpovědném využívání technologií. 

"Jsem přesvědčen, že dialog mezi věřícími a nevěřícími o základních otázkách etiky, vědy a umění a o hledání smyslu života je cestou k míru a k integrálnímu lidskému rozvoji."

Technologie je a byla, jak řekl, "nesmírně prospěšná" pro naši lidskou rodinu, zejména v oblasti medicíny, technologie a komunikace.

Při uznání praktického přínosu vědy a techniky poznamenal, že "jej také vnímáme jako důkaz tvořivosti lidských bytostí a ušlechtilosti jejich povolání zodpovědně se podílet na Božím tvůrčím působení".

Etické jednání

"Jsem přesvědčen, že rozvoj umělé inteligence a strojového učení má potenciál pozitivně přispět k budoucnosti lidstva."  

Papež František však upozornil, že "tento potenciál bude naplněn pouze tehdy, pokud budou vývojáři trvale a důsledně jednat eticky a odpovědně." 

"Je uklidňující vědět, že mnoho lidí v těchto oblastech pracuje na tom, aby technologie zůstaly zaměřené na člověka, eticky podložené a směřovaly k dobru."

Ocenil konsenzus, aby "vývojové procesy" "respektovaly takové hodnoty, jako je inkluze, transparentnost, bezpečnost, spravedlnost, soukromí a spolehlivost".  Také uvítal úsilí mezinárodních organizací o regulaci technologií, aby "podporovaly skutečný pokrok, tedy přispívaly k lepšímu světu a integrálně vyšší kvalitě života".

Neodmyslitelná důstojnost každého muže a ženy

"Proto bych vás chtěl povzbudit, abyste při svých úvahách učinili klíčovým kritériem při hodnocení nových technologií vnitřní důstojnost každého muže a ženy; ty se ukáží jako eticky správné do té míry, do jaké napomáhají respektovat tuto důstojnost a zvyšovat její projevy na všech úrovních lidského života.”

"Znepokojuje mě, že dosavadní poznatky naznačují, že digitální technologie v našem světě zvýšily nerovnost," postěžoval si.

Papež zdůraznil, že je třeba si položit určité otázky. 

"Jsou naše národní a mezinárodní instituce schopny pobídnout technologické společnosti k odpovědnosti za sociální a kulturní dopad jejich produktů?  Nehrozí, že by zvýšená nerovnost mohla podkopat náš smysl pro lidskou a sociální solidaritu?  Mohli bychom ztratit smysl pro to, že máme společný osud?" 

Naším skutečným cílem podle něj musí být, aby růst vědeckých a technologických inovací doprovázela větší rovnost a sociální začlenění. 

Data nemohou měřit lidskou důstojnost

"Koncept přirozené lidské důstojnosti vyžaduje, abychom uznali a respektovali skutečnost, že základní hodnotu člověka nelze měřit pouze údaji," řekl papež. "Při sociálním a ekonomickém rozhodování," pokračoval, "bychom měli být opatrní při delegování úsudků na algoritmy, které zpracovávají často skrytě shromážděné údaje o složení a předchozím chování jednotlivce. "

Varoval, že takové údaje mohou být "kontaminovány" společenskými předsudky a předpojatostí.  "Minulé chování člověka," poznamenal, "by nemělo být využíváno k tomu, aby mu byla upírána možnost změnit se, rozvíjet se a přispívat společnosti. "

"Nemůžeme připustit, aby algoritmy omezovaly nebo podmiňovaly úctu k lidské důstojnosti nebo vylučovaly soucit, milosrdenství, odpuštění a především naději, že lidé jsou schopni se změnit."