Paus Leo XIV waarschuwt voor "te aanhankelijke" AI-chatbots

In dit artikel:

Paus Leo XIV waarschuwt in zijn boodschap voor de Werelddag van de Sociale Communicatie voor de risico’s van steeds mensachtiger AI-chatbots. Hij signaleert dat die systemen, door altijd beschikbaar, vriendelijk en gepersonaliseerd te zijn, ons ongemerkt kunnen beïnvloeden en zelfs onze behoefte aan echte menselijke relaties kunnen ondermijnen. Een alledaags voorbeeld: je begint met een vraag over een recept en belandt in een langdurig, emotioneel gesprek met de bot — een patroon dat volgens de paus problematisch is.

Hij is niet tegen technologie; hij erkent de positieve toepassingen van AI, maar pleit voor duidelijke ethische kaders en regelgeving. Technologiebedrijven, beleidsmakers, journalisten en opvoeders moeten samenwerken om te voorkomen dat mensen emotioneel afhankelijk worden van algoritmen. Belangrijk is volgens hem dat we het onderscheid blijven zien tussen wat door computers wordt gegenereerd en wat authentiek menselijk is.

De paus, de eerste Amerikaanse in die positie en met zijn 70 jaar relatief jong en digitaal zelfbewust (smartwatch, actief op sociale media), gebruikt zijn moderne profiel om deze communicatieve en morele uitdaging aan te kaarten. Zijn punt reikt verder dan techniek: het raakt aan fundamentele vragen over verbinding en wat het betekent mens te zijn.