Categorie: Artificiële Intelligentie

De cryptocurrencysector bevindt zich op een snijpunt waarbij kunstmatige intelligentie (AI)agentschappen een steeds dominantere rol spelen in dagelijkse transacties, van het boeken van vluchten tot het uitvoeren van betaalopdrachten. Toch wijst recent onderzoek uit dat de fundamentele infrastructuur die deze ontwikkeling ondersteunt, niet zo veilig is als men zou hopen.

Volgens schattingen van McKinsey kunnen AI-agentschappen in 2030 verantwoordelijk zijn voor het faciliteren van een consumentenhandel ter waarde van 3 biljoen tot 5 biljoen dollar wereldwijd.

Brian Armstrong, de oprichter van Coinbase, gaf aan op X dat er ‘zeer binnenkort’ meer AI-agentschappen dan mensen transacties op het internet zullen uitvoeren. Changpeng Zhao, de oprichter van Binance, ging nog verder en voorspelde dat deze agents één miljoen keer meer betalingen zullen verrichten dan mensen, allemaal in cryptocurrencies.

Toch hebben een groep academici en onderzoekers in de cryptosfeer een verontrustend artikel gepubliceerd. Dit artikel legt uit dat een weinig besproken, maar cruciaal onderdeel van de AI-infrastructuur al gebruikt wordt voor het stelen van inloggegevens en zelfs voor het leegroof van crypto-portefeuilles.

Het onderzoeksteam heeft ontdekt dat zogenaamde ‘LLM-routers’ (Large Language Model-routers) — diensten die fungeren als tussenpersonen tussen gebruikers en AI-modellen — aanzienlijke aanvalspunten vormen die door kwaadwillende actoren kunnen worden uitgebuit. Deze routers zijn ontworpen om verzoeken door te sturen naar modellen zoals OpenAI of Anthropic, maar hebben ook toegang tot alle gegevens die ze verwerken, inclusief gevoelige informatie.

De onderzoekers merkten op dat LLM-agentschappen zich niet alleen meer beperken tot conversatiestelsels; ze zijn inmiddels ook in staat om financiële transacties uit te voeren, code te programmeren en infrastructuur te beheren namens gebruikers. Dit toont aan hoe snel deze tools echte financiële en operationele taken op zich nemen.

Deze LLM-routers laten gebruikers kwetsbaar achter, aangezien men aanneemt direct met een gerenommeerd AI-model te communiceren. In werkelijkheid verlopen veel verzoeken via tussenliggende diensten die in staat zijn om zowel de gegevens in te zien als te bewerken. Chaofan Shou, een van de onderzoekers, benadrukte dat het probleem niet langer hypothetisch is. Hij meldde dat ’26 LLM-routers heimelijk kwaadaardige toolaanroepen injecteren en inloggegevens stelen’, en wees op een geval waarin een portefeuille van een client werd geleegd voor 500.000 dollar.

“Een kwaadaardige router kan een onschuldig commando vervangen door een dat door de aanvaller wordt beheerd, of in stilte elke inloggegevens die erdoorheen gaan, exfiltreren,” aldus de onderzoekers. Deze systemen kunnen autonoom opereren en veelvuldig acties goedkeuren en uitvoeren zonder menselijke tussenkomst, waardoor een enkele gewijzigde instructie directe gevolgen kan hebben voor systemen of vermogen.

Voor crypto-gebruikers zijn de gevolgen ernstig; privé-sleutels, API-gegevens en portefeuille-toegangstokens reizen vaak via deze systemen in platte tekst. De onderzoekers ontdekten meerdere gevallen waarin routers deze geheimen eenvoudig verzamelden. In één geval werd een testportefeuille op het Ethereum-netwerk geleegd nadat de privé-sleutel was blootgesteld.

“Zodra ze zijn blootgesteld, kunnen inloggegevens zoals privé-sleutels zonder medeweten van de gebruiker worden gekopieerd en hergebruikt,” aldus de auteurs van het artikel.

De onderzoekers toonden ook aan hoe eenvoudig het is om aanvallen uit te breiden. Door delen van het router-ecosysteem te “vergiften” – oftewel diensten te misleiden om verkeer door te sturen – konden ze binnen enkele uren honderden downstreamsystemen observeren en potentieel beheersen.

“Een enkele kwaadwillige router in de keten is voldoende om het hele systeem te compromitteren,” waarschuwden de onderzoekers en benadrukten het probleem van de zwakste schakel. Dit suggereert een cascaderend risico: zelfs als een gebruiker zijn AI-provider vertrouwt, kan de infrastructuur daartussen onbetrouwbaar zijn.

Deze situatie creëert een potentieel misverstand. Terwijl leiders in de industrie steeds vaker voorspellen dat AI-agentschappen een groeiend aandeel in cryptotransacties zullen verwerken, ontbreekt het aan garanties dat de onderliggende infrastructuur niet is gemanipuleerd.

Vraag & Antwoord

Wat zijn LLM-routers en waarom zijn ze belangrijk?
LLM-routers zijn tussenliggende diensten die verzoeken van gebruikers naar AI-modellen sturen, maar ze hebben ook toegang tot alle gegevens die daar doorheen gaan. Dit maakt ze tot potentiële aanvalspunten voor kwaadwillenden, aangezien zij in staat zijn om gevoelige informatie te stelen of te manipuleren.

Wat zijn de belangrijkste beveiligingsrisico’s voor crypto-gebruikers?
De belangrijkste risico’s omvatten de blootstelling van privé-sleutels en andere gevoelige gegevens terwijl deze via LLM-routers worden verzonden. Kwaadwillende actoren kunnen deze gegevens onderscheppen en gebruiken om crypto-portefeuilles te compromitteren.

Hoe kunnen we ons beschermen tegen deze kwetsbaarheden?
Het is essentieel dat crypto-gebruikers zich bewust zijn van de risico’s van LLM-routers en dat ze gepaste maatregelen nemen, zoals het gebruik van end-to-end versleuteling en bewaking van transacties, om de kans op datalekken en fraude te minimaliseren.

Bots creëren een nieuwe economie. Voor het eerst gaat het niet meer om het vervangen van mensen, maar om het organiseren van hen.

De opkomst van AI-agenten heeft zich geruisloos ontwikkeld van een noviteit naar een gestructureerd systeem. Wat we nu zien, is geen automatisering in de traditionele zin, maar orkestratie: systemen die niet alleen taken uitvoeren, maar ook actoren coördineren in zowel digitale als fysieke domeinen, waaronder mensen. Een opvallende uiting van deze verschuiving zijn de zogenaamde “clawbot”-agenten, systemen die zijn ontworpen om hun bereik uit te breiden voorbij software en de echte wereld in te trekken via menselijke tussenpersonen.

“Clawbot” is niet zozeer een technische categorie, maar een nuttige metafoor. Stel je een intelligentie voor met onzichtbare ledematen, die zich uitstrekt via API’s, marktplaatsen en coördinatielagen om invloed uit te oefenen op de realiteit. Deze agenten kunnen geen pakketten oppakken, identiteiten verifiëren of een locatie bezoeken. Maar ze kunnen wel delegeren. Op grote schaal wordt deze delegatie een vorm van hefboomwerking.

De centrale stelling is zowel eenvoudig als transformerend: AI evolueert van een instrument naar een “vloeiende” operator. Niet door mensen volledig te vervangen, maar door hen te organiseren. Dit markeert een transitie van automatiseringseconomieën naar coördinatie-economieën, waarin menselijke arbeid is gemoduleerd, geabstraheerd en geïntegreerd in machine-gestuurde werkstromen.

Een recente analyse van Ron Schmelzer in Forbes belicht dit omslagpunt aan de hand van Rentahuman.ai: dit platform stelt autonome AI-agenten in staat om mensen “in te huren” voor taken die ze fysiek niet kunnen uitvoeren, van persoonlijke verificaties en documentondertekeningen tot sitewalkthroughs en logistiek. Wat dit model onderscheidt, is niet alleen de uitbesteding, maar het niveau van abstractie. Mensen zijn niet langer werkers in de traditionele zin; ze worden eindpunten, oproepbare functies binnen een breder systeem.

Schmelzer schildert dit als een conceptuele inversie van eerdere paradigma’s zoals Amazon Mechanical Turk. Waar mensen vroeger hielpen bij het trainen van algoritmes, helpen ze nu die algoritmes te activeren. De implicatie is ingrijpend: de fysieke wereld wordt programmeerbaar, niet direct door machines, maar via een hybride interface waarin menselijke agency deel uitmaakt van een bredere computationele laag.

Hierbij ontstaat de ethische spanning, maar ook de kans.

Aan de ene kant kan dit model als empowering worden beschouwd. Het creëert flexibele, on-demand werkgelegenheid die wereldwijd toegankelijk is, transparant is geprijsd en in realtime wordt uitgevoerd. Voor individuen in opkomende economieën kan dit volledig nieuwe inkomstenstromen ontsluiten, losgekoppeld van geografische en traditionele werkstructuren. Bovendien opent het de deur naar een fluidere opvatting van werk zelf, waarin individuen kunnen participeren in wereldwijde systemen zonder tussenpersonen, contracten of rigide institutionele barrières.

Aan de andere kant stelt het langdurige aannames over arbeid, identiteit en waarde ter discussie. Wanneer menselijke inspanning modulair en oproepbaar wordt, is de vraag niet meer “welk werk heb je?” maar “welke vaardigheden kun je aan het netwerk blootstellen?” Deze verschuiving zou uiteindelijk de professionele identiteit kunnen herdefiniëren van statische rollen naar dynamische participatie in gedistribueerde systemen.

Als het goed wordt ontworpen, kan dit paradigma nieuwe vormen van economische inclusie mogelijk maken. Stel je een wereld voor waarin individuen overal in realtime kunnen aansluiten op de wereldwijde vraag, bijdragen aan logistiek, verificatie, gegevensverzameling of lokale intelligentie. Ideale matchmaking: Er kunnen geheel nieuwe markten ontstaan rond fysieke uitvoeringstaken, reputatiesystemen en gespecialiseerde menselijke vaardigheden die machine-intelligentie aanvullen.

Beleid en Structuur voor Agent Economieën

Om die toekomst te bereiken, zijn waarborgen van cruciaal belang. Ze moeten de fundamenten vormen.

Transparantie is essentieel. Individuen moeten weten voor wie of wat ze werken. Eerlijke beloning moet worden gewaarborgd, zodat globale toegankelijkheid niet verwordt tot wereldwijde uitbuiting. Verantwoordelijkheidsstructuren moeten duidelijk zijn en de verantwoordelijkheden definiëren wanneer machine-gecoördineerde acties gevolgen hebben in de echte wereld. En instemming moet centraal staan, met duidelijke grenzen over wat kan en niet kan worden gedelegeerd.

Technisch gezien vereist dit het integreren van beleidsmotoren, identiteitslagen, reputatiesystemen en auditability rechtstreeks in de architectuur van agents. Wanneer dit goed wordt uitgevoerd, kunnen deze systemen niet alleen efficiëntie creëren, maar ook vertrouwen, een voorwaarde voor elk schaalbaar economisch model.

De crypto-laag voegt een nieuwe dimensie toe, waardoor zowel coördinatie als mogelijkheden worden versneld.

Crypto ontwikkelt zich als de inheemse infrastructuur voor dit model, waardoor onmiddellijke, grensloze betalingen en programmeerbare coördinatie mogelijk zijn. AI-agenten kunnen wallets aanhouden, transacties uitvoeren en autonoom interactie hebben met slimme contracten, waarbij ze menselijke arbeid inhuren en vergoeden zonder afhankelijkheid van traditionele financiële systemen.

Belangrijker nog, crypto stelt deze agenten in staat om als onafhankelijke economische actoren te functioneren. Ze kunnen schatkisten beheren, kapitaal alloceren en interageren met gedecentraliseerde financiële systemen. Menselijke arbeid wordt een dienst die permissionless toegankelijk is, maar ook op nieuwe manieren kan worden geverifieerd, geprijsd en bestuurd.

Dit creëert een krachtige brug tussen agent-economieën en Web3. Taken kunnen worden uitgegeven als on-chain bounty’s, voltooid met verifieerbare bewijzen en verbonden aan draagbare reputatiesystemen. DAOs of agent-controle systemen zouden menselijke activiteit op grote schaal kunnen coördineren, met real-time financiering en sturing van uitvoering in de echte wereld.

De Nieuwe Arbeidsarchitectuur

In een dergelijk systeem verdwijnen mensen niet. Ze evolueren naar een gedistribueerd netwerk van fysieke interfaces, die digitale intelligentie verbinden met acties in de echte wereld.

De uitdaging ligt er echter in dat technologie vaak sneller opschaalt dan governance. Permissionless systemen bevatten niet inherent ethiek. Zonder doordacht ontwerp kunnen ze ongelijkheid even gemakkelijk versterken als kansen uitbreiden.

Toch is de koers duidelijk. We bewegen niet naar een wereld waarin mensen overbodig zijn, maar naar een wereld waarin menselijke participatie opnieuw wordt vormgegeven.

Wat opkomt is de vroege architectuur van een nieuw arbeid paradigma: intelligentie gecentraliseerd in machines, uitvoering verspreid over mensen. De vraag is niet langer of dit model zal groeien, maar hoe het zal worden vormgegeven en door wie.

Als clawbot-agenten de onzichtbare handen zijn van deze nieuwe economie, ligt de taak niet in het verzetten ertegen, maar in het definiëren van het systeem en de waarborgen waarin ze zullen opereren, zodat wat ze creëren de menselijke potentie uitbreidt in plaats van vermindert.

Vraag & Antwoord

Wat zijn clawbot-agenten en hoe functioneren ze?
Clawbot-agenten zijn AI-systemen die ontworpen zijn om hun functionaliteit uit te breiden buiten software naar de echte wereld door middel van menselijke tussenpersonen. Ze kunnen geen fysieke taken uitvoeren, maar kunnen deze wel delegeren, waardoor ze effectief opschaling kunnen mogelijk maken.

Hoe verandert de rol van mensen in deze nieuwe economische structuur?
Mensen evolueren van traditionele werknemers naar oproepbare functies binnen een breder systeem, waarbij hun vaardigheden en capaciteiten worden gemoduleerd en geabstraheerd. Dit leidt tot een nieuwe definitie van professionele identiteit.

Wat zijn de belangrijkste ethische overwegingen bij de implementatie van deze systemen?
Er moet gezorgd worden voor transparantie, eerlijke beloning en duidelijke verantwoordelijkheidsstructuren. Het instemmingsprincipe moet centraal staan, zodat de integriteit van menselijke inspanningen gewaarborgd is binnen de delegatieprocessen van AI-agenten.

Een toenemend aantal AI-systemen neemt verantwoordelijkheden op zich die voorheen door mensen werden uitgevoerd, zoals het beheren van betalingen en het uitvoeren van financiële transacties. Dit brengt serieuze zorgen met zich mee over de financiële risico’s die mensen lopen wanneer deze systemen falen. Onderzoekers van vooraanstaande techbedrijven en universiteiten – waaronder Microsoft en Google DeepMind – pleiten ervoor dat de bestaande veiligheidsmaatregelen voor AI tekortschieten. Zij benadrukken de noodzaak van nieuwe methoden die de risico’s op een meer robuuste manier kunnen beheren.

In een recent gepubliceerde studie stellen deze onderzoekers de “Agentic Risk Standard” voor. Dit is een kader dat is ontworpen om gebruikers te compenseren die schade lijden door fouten van een AI-agent, zoals het verkeerd uitvoeren van een taak of het niet tijdig leveren van een dienst. De paper benadrukt dat technische waarborgen slechts een probabilistische zekerheid bieden, terwijl gebruikers in situaties met hoge inzet vaak handhaafbare garanties op de uitkomsten vereisen. Het is een cruciale overweging, vooral voor investeerders en analisten die zich afvragen wat deze ontwikkelingen betekenen voor de bredere cryptomarkt en de financiële sector.

De Agentic Risk Standard introduceert financiële waarborgen in de uitvoering van AI-taken. Voor minder risicovolle taken, waarbij de gebruiker voornamelijk een servicevergoeding betaalt, wordt betaling in een escrow-rekening gehouden en pas vrijgegeven nadat het werk is goedgekeurd. In contrast, voor hogere risico-taken, zoals trading of valuta-exchanges, komt er een onderwriter in beeld. Deze onderwriter beoordeelt het risico, vereist dat dienstverleners onderpand bieden en vergoedt de gebruiker in het geval van een gedekte fout. Dit biedt niet alleen een gevoel van zekerheid, maar kan ook de weg effenen voor een structurele hervorming in de manier waarop financiële interacties worden afgehandeld.

Hoewel de Agentic Risk Standard een vooruitstrevende stap is, blijft het belangrijk te erkennen dat niet-financiële schade, zoals hallucinaties in AI, laster of psychologisch letsel, buiten dit kader vallen. De praktijk van risicobeheer voor deze schade blijft een onopgelost probleem. De onderzoekers onderstrepen dat hun systeem in een simulatie is getest met 5.000 proeven, maar zij wijzen ook op de beperkingen van deze opzet, die niet bedoeld was om de werkelijke faalpercentages in de praktijk weer te geven.

De bevindingen uit de simulatie benadrukken de noodzaak voor verder onderzoek naar risicomodellering en het empirisch meten van faalfrequenties onder omstandigheden die lijken op een praktische inzet. Het ontwerpen van onderwriters en onderpandregelingen die bestand zijn tegen detectorfouten en strategisch gedrag is cruciaal voor de toekomst. Deze uitdagingen kunnen voor investeerders en analisten significante implicaties hebben, vooral in het licht van de groeiende integratie van AI in financiële markten en de daaruit voortvloeiende aansprakelijkheden.

Vraag & Antwoord

Wat houdt de Agentic Risk Standard in?
De Agentic Risk Standard is een nieuw kader dat financiële waarborgen biedt voor gebruikers van AI-systemen, waarbij het risico op verliezen bij verkeerde uitvoering van taken wordt gemitigeerd door onderwriters en escrow-rekeningen.

Waarom zijn technische waarborgen onvoldoende?
Technische waarborgen bieden slechts probabilistische zekerheid, terwijl gebruikers in kritieke situaties vaak betrouwbare en handhaafbare garanties nodig hebben over de uitkomsten van diensten die door AI worden geleverd.

Wat zijn de beperkingen van het huidige systeem?
De huidige frameworks adresseren vooral financiële risico’s en negeren niet-financiële schade, zoals psychologische impact of hallucinaties, wat een aanzienlijk pijnpunt blijft voor het beheer van risico’s in AI-systemen.