Grote financiële instellingen, waaronder ING, komen met een raamwerk om vertrouwen te creëren in de nieuwe vorm van geautomatiseerde online aankopen, nu slechts 23 procent van de consumenten AI-transacties vertrouwt.
Een coalitie van zes toonaangevende banken, waaronder het Nederlandse ING, heeft een reeks principes vastgesteld om de groeiende zorgen over fraude, oplichting en gegevensprivacy in de wereld van ‘agentic commerce’ aan te pakken. Deze nieuwe vorm van e-commerce, aangedreven door artificiële intelligentie, laat consumenten en handelaren aarzelen, wat de banken nu willen wegnemen met een gestructureerde aanpak.
De bezorgdheid is niet onterecht, want slechts 23 procent van de Amerikaanse consumenten zegt voldoende vertrouwen te hebben in generatieve AI om namens hen betalingstransacties af te handelen. Dat blijkt uit recent onderzoek van Visa. De banken erkennen dat de technologie sneller evolueert dan de huidige industriestandaarden en consumentenbescherming, wat leidt tot een gebrek aan duidelijkheid over wie verantwoordelijk is wanneer AI-agenten fouten maken of het slachtoffer worden van oplichting.
Wat is agentic commerce?
Agentic commerce verwijst naar het gebruik van autonome AI-systemen, oftewel ‘AI-agenten’, die namens gebruikers aankopen kunnen doen, diensten kunnen boeken of andere financiële transacties kunnen uitvoeren. Deze systemen zijn ontworpen om proactief te handelen op basis van voorkeuren en instructies, zonder dat de gebruiker elke stap handmatig hoeft te bevestigen. Denk aan een AI die zelfstandig de beste vlucht en hotel boekt op basis van je agenda en budget, of die automatisch abonnementen opzegt en nieuwe afsluit.
De banken, waaronder Bank of America, NatWest, ASB Bank, Capital One, Commonwealth Bank of Australia en ING Groep, hebben de handen ineengeslagen om een fundament van vertrouwen te bouwen. Zij zien enerzijds het enorme potentieel van deze technologie voor consumenten en handelaren, die al enthousiasme tonen voor het gemak dat AI-aankopen bieden. Anderzijds zien wij de noodzaak om te anticiperen op de risico’s die inherent zijn aan autonome besluitvorming, zoals ongewenste aankopen, te hoge uitgaven, of erger nog, blootstelling aan fraude en oplichting. Dit initiatief van de banken, met hun centrale rol in het betalingsverkeer, is dan ook een poging om niet achter de feiten aan te lopen, maar proactief de kaders te scheppen voor een veilige digitale toekomst.
De vijf principes voor vertrouwen
De gezamenlijke principes die de banken hebben opgesteld, richten zich op vijf kerngebieden om vertrouwen in agentic commerce te bevorderen:
- Transparantie: Het moet altijd duidelijk zijn wanneer een AI-agent betrokken is bij een transactie en hoe deze tot beslissingen komt.
- Veiligheid: Robuuste mechanismen voor fraudepreventie en identiteitsverificatie zijn essentieel om consumenten te beschermen tegen oplichting.
- Privacy en data: Klantgegevens moeten veilig worden beheerd en beschermd, met duidelijke regels over hoe ze worden gebruikt en gedeeld.
- Keuzevrijheid: Consumenten en handelaren moeten de controle behouden over welke AI-gestuurde e-commerce diensten ze gebruiken en hoe deze functioneren.
- Interoperabiliteit: Verschillende AI-systemen en betalingsplatforms moeten naadloos met elkaar kunnen communiceren om een soepele gebruikerservaring te garanderen.
Mark Monaco, hoofd van Global Payments Solutions bij Bank of America, benadrukt dat het creëren van vertrouwen cruciaal is voor het succes op lange termijn. Hij wijst op de noodzaak van doordachte benaderingen voor identiteit, autorisatie, fraudepreventie en aansprakelijkheidsbeheer. Deze aanpak moet consumenten, handelaren en financiële instellingen geruststellen.
Risico’s en vooruitblik
De banken waarschuwen specifiek voor risico’s zoals AI-agenten die om kaartgegevens vragen en deze direct invoeren op websites, of gebruikers sturen naar betaalmethoden met zwakkere bescherming. Ook vrezen handelaren een toename van geschillen en terugvorderingen die buiten hun controle vallen, en een mogelijk verlies van directe connectie met hun klanten. Deze zorgen zijn begrijpelijk, zeker gezien de snelle ontwikkelingen in AI. Hoewel de bredere cryptomarkt, met Bitcoin die op 22 september om 16:31 op 75.159 euro noteert en Ethereum op 2.396 euro, momenteel relatief stabiel is, kunnen dergelijke technologische verschuivingen onverwachte nieuwe risico’s introduceren die de markten kunnen beïnvloeden.
De banken zijn van plan deze voorstellen te bespreken met beleidsmakers en andere spelers in de industrie om zo een breed gedragen raamwerk te ontwikkelen. De uitdaging ligt erin om enerzijds de innovatieve kracht van AI te benutten en anderzijds een veilige en betrouwbare omgeving te garanderen voor iedereen die deelneemt aan agentic commerce. Wij volgen dit dossier verder op, en kijken hoe deze principes zich zullen vertalen in concrete regelgeving en technologie, zowel in de Benelux als daarbuiten.