Papež pro G7: AI není ani objektivní, ani neutrální

V pátek 14. června odpoledne vystoupil papež František na summitu lídrů zemí G7 v italské Apulii. František je vůbec prvním papežem, který na tomto fóru, na němž se scházejí vedoucí představitelé USA, Spojeného království, Itálie, Francie, Kanady, Německa a Japonska, promluvil.

Svatý otec svůj projev na zasedání G7 věnoval tématu umělé inteligence. Na úvod uvedl, že zrod umělé inteligence představuje "skutečnou kognitivně-industriální revoluci", která povede ke "komplexním epochálním proměnám".

Tyto proměny, řekl papež, mají potenciál být jak pozitivní – například demokratizace přístupu ke znalostem, exponenciální rozvoj vědeckého výzkumu a snížení náročné a namáhavé práce, tak negativní - například větší nespravedlnost mezi vyspělými a rozvojovými zeměmi nebo mezi dominantními a utlačovanými společenskými třídami.

S poznámkou, že umělá inteligence je především nástrojem, hovořil papež o tom, co nazval "technicko-lidským stavem". Dle jeho slov byl vztah člověka k životnímu prostředí vždy zprostředkován nástroji, které člověk sám vytvořil. "Někteří to považují za slabost nebo nedostatek; ve skutečnosti je to však něco pozitivního. Vyplývá z toho, že jsme bytosti nakloněné tomu, co leží mimo nás, bytosti radikálně otevřené tomu, co nás přesahuje," uvedl papež. "Tato otevřenost je jak kořenem našeho technicko-lidského stavu, tak kořenem naší otevřenosti vůči druhým lidem a Bohu, stejně jako kořenem naší umělecké a intelektuální tvořivosti," pokračoval Svatý otec.

Poté papež přešel k tématu rozhodování. Podle Františka umělá inteligence je schopna činit "algoritmická rozhodnutí" - tedy "technické" volby "mezi několika možnostmi založenými buď na přesně definovaných kritériích, nebo na statistických závěrech.

"Lidé však nejen volí, ale ve svém srdci jsou schopni se rozhodovat. Je to proto, že jsou schopni moudrosti, toho, co staří Řekové nazývali fronesis (druh inteligence zabývající se praktickým jednáním), a naslouchání Písmu svatému. Je tedy velmi zásadní, aby důležitá rozhodnutí byla vždy ponechána na lidské osobě," vysvětlil František.

Jako příklad této zásady papež uvedl vývoj smrtících autonomních zbraní – které mohou připravit člověka o život bez lidského přičinění – a řekl, že musí být zakázány. Rovněž Svatý otec zdůraznil, že algoritmy, které umělá inteligence používá k rozhodování, nejsou ani objektivní, ani neutrální.

Poukázal na algoritmy, které mají soudcům pomáhat při rozhodování, zda vězňům udělit domácí vězení. Tyto programy podle něj rozhodují na základě údajů, jako je typ trestného činu, chování ve vězení, psychologický posudek a etnický původ vězně, dosažené vzdělání a úvěrová bonita. To je však, jak zdůraznil papež, reduktivní: "Lidské bytosti se stále vyvíjejí a jsou schopny nás překvapit svým jednáním. To je něco, čeho stroj není schopen.“

"Dalším problémem je, že algoritmy mohou zkoumat pouze skutečnosti formalizované v číselných termínech," zdůraznil papež František. Poté se věnoval skutečnosti, že mnoho studentů se stále více spoléhá na umělou inteligenci, která jim pomáhá při studiu, zejména při psaní esejí. "Je snadné zapomenout, že přísně vzato tzv. generativní umělá inteligence není ve skutečnosti generativní – nevyvíjí nové analýzy nebo koncepty, ale spíše opakuje ty, které najde, a dává jim přitažlivou formu," uvedl Svatý otec.

To podle papeže podkopává samotný vzdělávací proces. Vzdělávání by podle Svatého otce mělo nabízet možnost autentické reflexe, ale místo toho hrozí, že se omezí na opakování pojmů, které budou stále častěji hodnoceny jako nezpochybnitelné jen proto, že se neustále opakují.

Na závěr svého projevu papež zdůraznil, že umělá inteligence je vždy utvářena světonázorem těch, kteří ji vynalezli a vyvinuli. V tomto ohledu podle něj vzbuzuje zvláštní obavy skutečnost, že dnes je stále obtížnější nalézt shodu v hlavních otázkách týkajících se společenského života - stále méně shody tedy panuje ohledně filosofie, která by měla umělou inteligenci formovat. Proto je podle papeže nutné vypracovat "algoritmickou etiku", řadu globálních a pluralitních principů, které jsou schopny najít podporu kultur, náboženství, mezinárodních organizací i velkých korporací.

"Jestliže se snažíme definovat jednotný soubor globálních hodnot, můžeme alespoň najít společné principy, s jejichž pomocí lze řešit a vyřešit dilemata či konflikty týkající se způsobu života," řekl papež. Tváří v tvář této výzvě je podle papeže naléhavě zapotřebí politická akce. "Pouze zdravá politika, která zapojí nejrůznější sektory a dovednosti, je schopna vypořádat se s výzvami a přísliby umělé inteligence. Cílem není potlačit lidskou tvořivost a její ideály pokroku, ale spíše nasměrovat tuto energii novými kanály," uzavřel svou promluvu papež František.

Zdroj: Vatican News, anglická sekce