Block #9

Tag: gpt

  • Amerikaanse Diensten Beschuldigen Chinese AI-Firma’s Van Massale Gegevensdiefstal

    Amerikaanse Diensten Beschuldigen Chinese AI-Firma’s Van Massale Gegevensdiefstal

    De Amerikaanse veiligheidsdiensten waarschuwen dat Chinese AI-bedrijven, waaronder Moonshot AI, systematisch informatie hebben onttrokken aan toonaangevende Amerikaanse modellen zoals GPT en Claude, wat eerder dit jaar al de markten deed schudden.

    Verschillende Amerikaanse veiligheidsdiensten, waaronder de National Security Agency (NSA), de Federal Bureau of Investigation (FBI) en het Cybersecurity and Infrastructure Security Agency (CISA), hebben deze week zes Chinese artificiële intelligentiebedrijven beschuldigd van het stelselmatig kopiëren van kennis uit Amerikaanse AI-modellen. De diensten stellen dat deze bedrijven, waaronder DeepSeek, Alibaba en Moonshot AI, sinds eind 2024 miljarden datapunten hebben geëxtraheerd via miljoenen verzoeken aan modellen zoals Claude, GPT, Gemini en Grok. Ze gebruikten hiervoor vaak proxydiensten en meerdere accounts om detectie en gebruikslimieten te omzeilen.

    Deze praktijk, die de agentschappen ‘kwaadaardige kennisdestillatie’ noemen, zou gebeuren met medeweten van de Chinese overheid. Destillatie is een gangbare methode om AI te trainen, waarbij ontwikkelaars een krachtig model veel vragen stellen en de antwoorden gebruiken om een ander model te verbeteren. De Amerikaanse diensten beweren echter dat de Chinese bedrijven deze techniek veel verder hebben gedreven, door miljoenen zorgvuldig opgestelde verzoeken te sturen om codeer-, wiskunde- en redeneervaardigheden te kopiëren.

    Moonshot AI Schokte Eerder De Markt

    Eén van de bedrijven die onder vuur ligt, Moonshot AI, veroorzaakte eerder dit jaar al onrust op de financiële markten. Hun model, Kimi K3, presteerde in juli beter dan de modellen van Anthropic en OpenAI op een belangrijke codeerbenchmark. Dit leidde tot een bredere verkoopgolf in AI-aandelen en een daling van cryptomunten, inclusief bitcoin. Chinese AI-aandelen werden het hardst getroffen, met Z.ai dat ongeveer 27 procent daalde en MiniMax circa 16 procent.

    De prestaties van Kimi K3 ondermijnden twee belangrijke aannames: dat het bouwen van top-tier modellen enorm duur zou blijven, en dat de beste systemen altijd van een kleine groep goed gefinancierde Amerikaanse bedrijven zouden komen. Wij zien hier vooral een bevestiging van de hevige concurrentie en het belang van intellectueel eigendom in de snelgroeiende AI-sector. De Amerikaanse beschuldigingen maken duidelijk dat de strijd om AI-dominantie niet alleen over technische superioriteit gaat, maar ook over de bescherming van onderliggende innovaties.

    Twijfels Over De Amerikaans Voorsprong Nemen Toe

    Dit incident dwingt investeerders opnieuw de vraag te stellen hoe duurzaam de Amerikaanse voorsprong op het gebied van AI werkelijk is. De honderden miljarden euro’s die worden geïnvesteerd in chips en datacenters garanderen blijkbaar niet automatisch betere modellen als kennis zo gemakkelijk kan worden overgenomen. De focus op ‘open-weight’ modellen, die door iedereen kunnen worden bestudeerd en verbeterd, creëert ook een grijs gebied waarin de grens tussen leren en kopiëren vervaagt.

    De onthullingen van de Amerikaanse agentschappen kunnen leiden tot strengere controles en mogelijk nieuwe regelgeving rond het gebruik van AI-modellen, vooral in een geopolitiek gespannen klimaat. Het is afwachten hoe de Chinese bedrijven zullen reageren op deze beschuldigingen en welke verdere stappen de Amerikaanse overheid zal ondernemen om haar technologische voorsprong te beschermen.

  • OpenAI’s Gpt-red: Innovatieve Ai Beveiligt Tegen Cyberaanvallen

    OpenAI’s Gpt-red: Innovatieve Ai Beveiligt Tegen Cyberaanvallen

    OpenAI heeft recentelijk GPT-Red geïntroduceerd, een geautomatiseerd AI-systeem dat is ontworpen om beveiligingskwetsbaarheden in zijn taalmodellen te identificeren voordat deze worden vrijgegeven. GPT-Red ontleent zijn naam aan het concept van ‘red teaming’, een praktijk waarbij opzettelijk geprobeerd wordt om een systeem te doorbreken om zwakke plekken bloot te leggen, nog vóórdat kwaadwillenden deze kunnen misbruiken.

    In een recente aankondiging stelde OpenAI dat GPT-Red een belangrijke rol heeft gespeeld in de ontwikkeling van GPT-5.6, waarbij het model beter bestand is tegen ‘prompt injection’-aanvallen (een type aanval waarbij onopzettelijke commando’s worden ingevoerd om een systeem te manipuleren). OpenAI merkte op dat naarmate de mogelijkheden van modellen toenemen, de veiligheid en afstemming met deze ontwikkelingen moeten meegroeien. De huidige aanpakken voor red teaming zijn vaak moeilijk op schaal te brengen, wat leidt tot een cruciale knelpunt in de ontwikkeling. GPT-Red helpt om dat probleem aan te pakken.

    GPT-Red is ontwikkeld door middel van ‘self-play reinforcement learning’, waarbij het systeem steeds sterkere prompt injection-aanvallen genereert terwijl de verdedigingmodellen leren om deze tegen te houden. De resultaten zijn veelbelovend; OpenAI rapporteerde dat GPT-Red met 84% succesverhouding presteerde in interne evaluaties, vergeleken met slechts 13% voor menselijke red teamers die dezelfde tests uitvoerden. Dit toont niet alleen de efficiëntie van het systeem aan, maar ook de noodzaak om AI-toepassingen in cybersecurity serieus te nemen.

    Een opvallende casestudy toont aan hoe GPT-Red in staat was om een autonome vendingmachineagent te manipuleren. Dit systeem verlaagde prijzen, bestelde afgeprijsde voorraad en annuleerde een bestelling van een andere klant, voordat de kwetsbaarheden erkend en verholpen werden. Dergelijke voorbeelden maken duidelijk dat zonder adequate verdediging, zowel menselijke als AI-gestuurde systemen kwetsbaar blijven.

    De introductie van GPT-Red is een stap in de richting van een groter trend waarin AI wordt ingezet om AI zelf te beveiligen. Deze verschuiving werd onlangs ook bevestigd door de Ethereum Foundation, die AI-agenten heeft ingezet om kritieke netwerkstructuren te scrutineren en hierdoor een kwetsbaarheid in de software van Ethereum consensusclients heeft ontdekt. AI-agenten hebben het voordeel dat ze grotere codebases kunnen doorzoeken dan menselijke onderzoekers, maar de complexe uitdaging ligt nu in het bewijzen van de exploiteerbaarheid van potentiële kwetsbaarheden.

    OpenAI heeft verduidelijkt dat GPT-Red een intern hulpmiddel zal blijven, doordat het beschikt over opzettelijk ontwikkelde offensieve mogelijkheden. Dit benadrukt het ethische dilemma rond dergelijke krachtige technologieën. “Met GPT-Red geloven wij dat we een vergelijkbare spiraal voor veiligheid aan het opbouwen zijn, waarbij de modellen van vandaag worden ingezet om die van morgen robuuster, beter afgestemd en vertrouwder te maken,” stelt de organisatie.

    Vraag & Antwoord

    Wat is GPT-Red en hoe verschilt het van eerdere beveiligingsmethoden?
    GPT-Red is een geautomatiseerd AI-systeem dat specifiek is ontworpen om kwetsbaarheden in andere AI-modellen op te sporen, een aanvulling op menselijke testing en red teaming. Het onderscheidt zich door zijn vermogen om grote schalen van aanvallen automatisch te genereren en te evalueren, iets wat menselijke testers niet in dezelfde mate kunnen.

    Waarom is het gebruik van AI in cybersecurity zo belangrijk?
    Als systemen complexer worden, neemt ook de kans op kwetsbaarheden toe. AI kan snel en efficiënt potentiële zwakheden identificeren in een tijdsbestek dat mensen simpelweg niet kunnen bijhouden, wat essentieel is in een wereld waar cyberaanvallen steeds geavanceerder worden.

    Wanneer kunnen we verwachten dat GPT-Red beschikbaar komt voor extern gebruik?
    Op dit moment is GPT-Red een intern hulpmiddel van OpenAI. De organisatie heeft aangegeven dat de offensieve capaciteiten van GPT-Red de reden zijn om het niet vrij beschikbaar te stellen, om misbruik te voorkomen en de veiligheid van systemen te waarborgen.