Tekoäly voi asettaa ihmiset eriarvoiseen asemaan. Se toimii tekijöidensä arvojen mukaisesti, mutta järjestelmät eivät ole läpinäkyviä.
Paavi Leo XIV ottaa kantaa teknologian kehityksen ja erityisesti tekoälyn tuomiin uusiin haasteisiin Magnifica Humanitas -kiertokirjeessään.
Paavi Leo XIV:n mukaan nopeassa teknologian, talouden tai tieteen kehityksessä on aina oltava mukana vahva moraalinen ja sosiaalinen ulottuvuus. Muuten kehitys voi kääntyä ihmiskuntaa vastaan. Siksi teknologinen kehitys, joka sinänsä on hyvä asia, tarvitsee vahvaa ihmislähtöistä visiota, jotta lopputulos ei olisi epätoivottu.
Paavi huomauttaa, että tekoälystä puhuttaessa siihen liittyvät riskit vanhentuvat nopeasti ja uusia tulee tilalle, koska kehitys kulkee hurjaa vauhtia eteenpäin. Ihmisillä – jopa tekoälyn kehittäjillä itsellään – on vain rajallinen ymmärrys sen toiminnasta. Tämän hetkisten AI-järjestelmien tekijät eivät suunnittele niiden jokaista yksityiskohtaa, vaan luovat ne puitteet, jonka sisällä teknologian älykkyys ”kasvaa”. Tämä johtaa siihen, että prosessit jäävät yleensä piiloon ja läpinäkyvyys puuttuu.
”Siksi on kiireellinen tarve kahdelle pyrkimykselle: toisaalta tieteellisen tutkimuksen syventämiselle ja toisaalta moraalisen ja hengellisen arvostelukyvyn harjoittamiselle”, paavi kirjoittaa.
Ihmisen äly ja tekoäly eri asioita
Tekoälylle on vaikeaa antaa yhtä tarkkaa määritelmää, sillä kyse on monimuotoisesta teknologiasta.
”Varmaksi voidaan kuitenkin sanoa, että on vältettävä väärinkäsitystä, jonka mukaan arvotamme tämän ’älykkyyden’ ihmisen älykkyyden kanssa samanveroiseksi. Järjestelmät vain imitoivat tiettyjä ihmisen älykkyyden toimintoja”, Leo XIV kirjoittaa.
Tekoäly kykenee kyllä voittamaan ihmisälyn nopeudessa ja laskentakapasiteetissa, mikä tarjoaakin konkreettisia hyötyjä monella alalla.
Niillä ole myöskään moraalista omaatuntoa, sillä ne eivät tunnista hyvää ja pahaa.
”Kuitenkin sen voima on täysin sidottu tiedonkäsittelyyn. Niin kutsutuilla keinotekoisilla älykkyyksillä ei ole kokemuksia, niillä ei ole ruumista, ne eivät tunne iloa tai kipua, eivät kypsy ihmissuhteissa eivätkä pysty myötäsyntyisesti tietämään, mitä rakkaus, työ, ystävyys tai vastuullisuus tarkoittavat.”
”Niillä ole myöskään moraalista omaatuntoa, sillä ne eivät tunnista hyvää ja pahaa, ymmärrä tilanteiden lopullista merkitystä tai kanna vastuuta seurauksista”, Leo XIV analysoi.
”Ne voivat matkia kieltä, käyttäytymistä ja analyyttisiä taitoja, ja jopa simuloida empatiaa ja ymmärrystä. Ne eivät kuitenkaan ymmärrä, mitä ne saavat aikaan, sillä niiltä puuttuu tunteisiin, ihmissuhteisiin ja hengellisyyteen liittyvä perspektiivi, jonka kautta ihmisyksilöt kasvavat viisaudessa.”
Vaikka teknologisten työkalujen sanottaisiin kykenevän ”oppimaan” asioita, se tapahtuu täysin eri tavalla kuin ihmisellä, joka oppii kokemustensa, virheidensä ja sisäisen kasvun kautta. Tekoälyn oppiminen on sen sijaan tilastollista mukautumista, joka perustuu täysin dataan ja palautteeseen.
Aidon ihmissuhteen korvaaja
Tekoälyn yksityinen käyttö on lisääntynyt merkittävästi viime vuosina ja sen helppous tiedonhaussa ja analysoinnissa on lyönyt itsensä läpi. Paavi Leo XIV:n mielestä olisi kuitenkin vältettävä asetelmaa, jossa ihminen on liian riippuvainen tekoälyn tuottamista tuloksista ja etsii valmiita vastauksia sen sijaan, että käyttäisi omaa luovuuttaan ja arviointikykyään.
On myös helppoa unohtaa, että tekoälyn antamat vastaukset ovat aina tekijänsä näköisiä: ne heijastelevat sen suunnittelijan kulttuurillisia lähtökohtia, vahvuuksia ja rajoituksia.
Tekoäly kykenee myös luomaan ihmistä imitoivaa kommunikointia ja jopa illuusion todellisesta ihmissuhteesta. Leo XIV:n mukaan sen tarjoama empaattisuus, ystävyys ja jopa rakkaus voivat tuoda ihmiselle joskus oikeaa apuakin. Kuitenkin etenkin helposti harhaan johdettavissa olevien ihmisten kohdalla tilanne voi koitua ongelmalliseksi. Kun sanat ovat simuloituja, kyse ei ole aidosta ihmissuhteesta. Keinotekoinen huolenpidon tai tuen simulointi voi olla erityisen vahingollista silloin, kun tosielämän ihmissuhteita ei ole.
”Suurin vaara tällaisessa tilanteessa ei ole niinkään se, että ihminen voi uskoa kommunikoivansa toisen ihmisen kanssa vaan se, että hän saattaa lakata haluamasta luoda todellisia ihmissuhteita”, Leo XIV kirjoittaa.
Tekoäly ei moraalisesti neutraali
Tekoälyä käytetään apuna erilaisissa ihmisen elämään konkreettisesti vaikuttavissa päätöksissä. Tällaisia ovat esimerkiksi työllistymiseen, luottotietoihin ja julkisiin palveluihin liittyvät tilanteet. Näihin liittyy Leo XIV:n mukaan riski ihmisten eriarvoisesta kohtelusta, mahdollisuuksien ja vapauksien menettämisestä. Niissä ei oteta myöskään huomioon myötätunnon, armahtavaisuuden ja anteeksiannon näkökulmia eikä ihmisen kykyä muutokseen.
Yksi merkittävä huolenaihe teknologian kehitykseen liittyen on, että siihen liittyy merkittävää vallankäyttöä. Useimmiten teknologiset keksinnöt ja erilaiset digitaaliset alustat, infrastruktuuri ja data ovat kaupallisten ja teknologisten toimijoiden hallussa. Nämä tahot päättävät esimerkiksi siitä, kenellä on oikeus ja mahdollisuus käyttää niiden palveluja, ja miten suuri osa tiedosta on julkista.
”Kun valta keskittyy muutamien käsiin, siitä tulee usein läpinäkymätöntä: se välttää julkisen arvioinnin, mikä nostaa riskiä kehityksen vääristymiseen. Tämä taas lisää uusia riippuvuussuhteita, ihmisten poissulkemista, manipulointia ja epätasa-arvoa”, Leo XIV argumentoi.
Erityisen vahingollista on illuusio tekoälyn objektiivisuudesta ja neutraaliudesta. Sen lisäksi, ettei se ota huomioon empaattisia ja inhimillisiä näkökulmia, se myös näennäisesti poistaa vastuun kaikilta mukana olevilta tahoilta.
Läpinäkymättömyys tulisi poistaa, sillä se tekee mahdottomaksi virheiden havaitsemisen.
”Haavoittuvaisten ihmisten ulossulkeminen näyttäytyy neutraalina ja objektiivisena ja siksi sitä on vaikeaa vastustaa.”
Tällä tavalla oikeudenmukaisuus, myötätunto, armahtavaisuus ja anteeksiantaminen konkreettisina poliittisina tekoina vähitellen katoavat näkyvistä.
”Tällä on yksinkertainen, mutta painokas seuraus: emme voi pitää tekoälyä moraalisesti neutraalina. Todellisuudessa jokainen tekninen työkalu edustaa valintoja ja prioriteetteja sen perusteella, mitä se mittaa, jättää huomiotta tai optimoi, ja kuinka se luokittelee ihmisiä ja tilanteita.”
”Jos järjestelmä on luotu niin, että se kohtelee joitain ihmisiä vähemmän arvokkaina tai sulkee heidät pois ilman valitusmahdollisuutta, silloin se ei ole vain väline ’jota on käytettävä hyvin’. Silloin se on jo muodostanut kriteerit, jotka ovat vastoin ihmisarvoa”, paavi kirjoittaa.
Siksi ei voida vain tyytyä kysymään, käytämmekö järjestelmää hyvään vai pahaan tarkoitukseen, vaan on tarkasteltava, miten koko järjestelmä on luotu ja minkälainen kuva ihmisestä ja yhteiskunnasta on sisällytetty sen dataan ja sitä ohjaaviin malleihin.
Kutsu vastuuseen
Paavin mukaan vastuullisuus olisi otettava tosissaan – sitä ei voi siirtää pois. Olisi määriteltävä kenelle vastuu milloinkin kuuluu ja oltava valmis ottamaan vastaan kritiikkiä. Läpinäkymättömyys tulisi poistaa, sillä se tekee mahdottomaksi virheiden havaitsemisen.
”Haluan osoittaa erityisen vetoomuksen tekoälyn kehittäjille”, paavi kirjoittaa.
”Eräässä mielessä teknologiset innovaatiot voivat edustaa ihmisen osallistumista Jumalan luomistyöhön. Siksi [tekoälyn] kehittäjillä on erityinen eettinen ja hengellinen vastuu, sillä jokainen ratkaisu heijastaa jotain ihmisyydestä.”
