De recente publicatie van paus Leo XIV, getiteld “Magnifica Humanitas”, markeert een belangrijk moment in de dialoog over kunstmatige intelligentie (AI) en zijn impact op de samenleving. Op 25 mei 2023 presenteerde de paus deze encycliek, die meer dan 240 paragrafen beslaat en zich richt op het noodzakelijke toezicht op grote technologiebedrijven. De boodschap is helder: algoritmen, data en digitale platforms dienen als gemeenschappelijke goederen te worden beschouwd, en mogen niet worden beheerd door een selecte groep privébedrijven.
Paus Leo plaatst AI als een van de belangrijkste morele uitdagingen van zijn pontificaat, vergelijkbaar met de sociale veranderingen tijdens de Industriële Revolutie. Dit doet hij door te stellen dat technologie nooit neutraal is; het weerspiegelt de waarden en economische prikkels van degenen die het ontwikkelen. Deze claim is cruciaal voor beleggers en analisten, aangezien de ethische implicaties van technologie niet alleen van moreel belang zijn, maar ook directe effecten hebben op investeringsbeslissingen en het bredere marktsentiment.
In zijn boodschap verlengt de paus de katholieke sociale leer – die de aarde beschouwt als een gemeenschappelijk bezit van de mensheid – naar de digitale ruimte. Hij beargumenteert dat data van vele bijdragers afkomstig is en niet moet worden gezien als iets dat kan worden verkocht aan een selecte groep. Dit idee herinnert ons eraan dat, hoewel de digitale economie nieuwe mogelijkheden biedt, deze ook gevaren met zich meebrengt die zorgvuldig moeten worden gemonitord om monopolisatie te voorkomen.
Deze verschuiving naar het beschouwen van data als een gemeenschappelijk goed heeft aanzienlijke implicaties voor investeerders. De waarde van technologiebedrijven kan veranderen, afhankelijk van hoe goed zij hun gegevens omgaan en hoe transparant zij zijn over hun algoritmen en processen. Investeerders die deze verschuiving begrijpen en zich aanpassen aan de nieuwe normen van transparantie en gemeenschappelijk beheer, kunnen een concurrentievoordeel behalen.
Een van de opvallende principes in “Magnifica Humanitas” is die van subsidiariteit, wat inhoudt dat beslissingen op het meest lokale niveau moeten worden genomen. De paus roept op tot transparante algoritmen en onafhankelijke audits vanuit gemeenschappen. Dit stelt mensen in staat om juridische stappen te ondernemen tegen geautomatiseerde systemen die hun levens beïnvloeden. Zonder deze verdeling van controle kunnen we in een vorm van digitale autoritarisme vervallen, een risico dat de algemene bevolking in gevaar kan brengen. Investeringen in technologieën die deze transparantie bevorderen, kunnen op termijn beter presteren in een steeds kritischer wordende markt.
De encycliek verwerpt het idee van transhumanisme, dat menselijke beperkingen zou moeten overwinnen. In plaats daarvan benadrukt paus Leo dat deze beperkingen de basis zijn voor empathie en moreel oordeel. Het punt dat hier gemaakt wordt, is dat systemen die alle kwetsbaarheden willen optimaliseren, uiteindelijk ons sociaal weefsel ondermijnen. Dit is een kritische observatie voor investeerders in AI en technologie: de ontwikkeling en implementatie van systemen moet niet alleen economisch of technologisch efficiënt zijn, maar ook ethische overwegingen moet meespelen.
Paus Leo waarschuwt dat AI-systemen die beslissingen nemen in processen zoals de werving van personeel of rechtszaken, geen compassie of genade bezitten. Deze systemen simuleren wel empathie, maar begrijpen niet de diepere menselijke ervaring. Dit betekent dat investeerders goed moeten nadenken over de bedrijven waarin zij investeren en hun benadering van deze ethische dilemma’s.
Christopher Olah, medeoprichter van Anthropic, die samen met de paus sprak, vestigde de aandacht op de interne prikkels die grote AI-laboratoria kunnen sturen naar conflicten met wat “juist is”. Hij koppelde dit aan de noodzaak van externe controle vanuit de overheid, religieuze instellingen en de samenleving. Dit roept vragen op over hoe AI-bedrijven zich verantwoorden zonder externe druk, wat van belang kan zijn voor het vertrouwen dat consumenten en investeerders in hen stellen.
De encycliek stelt ook dat een “meer ethische AI” niet voldoende is als die ethiek uitsluitend wordt bepaald door diegenen die de gegevens en rekenkracht beheersen. Dit benadrukt de noodzaak voor beleggers om niet alleen naar de technische kant van investeringen in AI te kijken, maar ook naar de ethische implicaties die met deze technologieën gepaard gaan.
De ontwikkeling van een interne AI-commissie binnen het Vaticaan is een duidelijke stap in de richting van gestructureerde governance rond AI. Dit kan een precedent scheppen dat inspirerend werkt voor de bredere techsector, en daarmee mogelijk ook voor Europese beleidsmakers die de kaderwetgeving voor cryptocurrency en blockchain-technologie aan het vormgeven zijn.
Vraag & Antwoord
Welke implicaties heeft de encycliek voor de investeringsstrategieën in technologiebedrijven?
De encycliek vraagt om een herwaardering van hoe technologiebedrijven omgaan met data en ethiek. Investeerders moeten zich richten op bedrijven die transparantie en gemeenschappelijk beheer bevorderen, wat kan leiden tot betere langdurige prestaties in een kritischere markt.
Hoe kan subsidiariteit toegepast worden in de techsector?
De principes van subsidiariteit kunnen worden toegepast door het creëren van lokale gemeenschapsmechanismen die toezicht houden op algoritmen en AI-systemen, wat gebruikers in staat stelt om invloed uit te oefenen op de impact van technologie op hun leven.
Wat zijn de risico’s van het negeren van ethische overwegingen in AI?
Het negeren van ethiek kan leiden tot digitale autoritarisme, verlies van vertrouwen in technologie en negatieve impact op de sociale samenhang, wat uiteindelijk de waarde van investeringen kan ondermijnen.
