Mira Murati, ooit CTO bij OpenAI, stapte in september 2024 uit de organisatie om haar eigen koers te varen. Bijna twee jaar later onthulde haar nieuwe onderneming, Thinking Machines Lab, Inkling — een multimodaal AI-model dat vanaf nul is getraind. Dit model, met een indrukwekkend totaal van 975 miljard parameters, biedt zijn volledige gewichten vrij aan op platforms zoals Hugging Face, onder een Apache 2.0-licentie. Deze open benadering wekt niet alleen de interesse van de AI-gemeenschap, maar biedt ook een alternatief voor de groeiende afhankelijkheid van modellen uit Azië.
Inkling is ontworpen als een “mixture-of-experts” model; een architectuur waarbij slechts een deel van het netwerk geactiveerd wordt voor specifieke input. Dit garandeert snelle inferentie zonder dat er op prestaties hoeft ingeleverd te worden. Hoewel het model een formidable 975 miljard parameters bevat — wat het onmogelijk maakt om lokaal te draaien — kan het verschillende datatypes aan, waaronder tekst, afbeeldingen en audio. Dit is bijzonder belangrijk in ons tijdperk waar multimodaliteit steeds relevanter wordt. Met een contextvenster van maar liefst 1 miljoen tokens, wat overeenkomt met rond de 750.000 woorden, is de schaal en capaciteit van Inkling echt ongeëvenaard.
Het feit dat Inkling volledig vanaf de grond af is getraind, spreekt boekdelen voor de open-source gemeenschap. Dit biedt Westerse ontwikkelaars een broodnodige optie, vooral voor degenen die zich zorgen maken over de afhankelijkheid van Chinese modellen. In een tijd waarin veel AI-initiatieven zich richten op gesloten modellen, is het cruciaal dat er alternatieven zijn die niet alleen technologische vooruitgang waarborgen, maar ook in overeenstemming zijn met westerse waarden en normen.
In termen van prestaties excelleert Inkling, vooral in agentic taken. Het behaalt een score van 74,1% op MCP Atlas, een benchmark die de betrouwbaarheid van een AI agent meet in het uitvoeren van realistische taken. Dit plaatst Inkling duidelijk boven Nvidia’s Nemotron 3 Ultra, dat met 45,3% een aanzienlijk lagere score haalt. Evenzo presteert Inkling goed op SWE-Bench Verified, waar het een score van 77,6% behaalt in het autonom oplossen van software bugs, opnieuw superieur aan Nemotron.
Toch moeten we realistisch blijven. Terwijl Inkling indrukwekkende kwaliteiten vertoont, blijven Chinese modellen zoals GLM 5.2 en Kimi K2.6 in verschillende benchmarks voorlopen. Deze modellen zijn beproefd in cruciale taken zoals autonoom programmeren en complexe redenering. Inkling is niet per se de sterkste speler in het veld, maar wel het meest capabele open-weights model dat door een Westers laboratorium is ontwikkeld.
Voor ontwikkelaars die om juridische, security- of compliance-redenen niet afhankelijk willen zijn van Chinese oplossingen, biedt Inkling nu een levensvatbaar alternatief. Deze mogelijkheid maakt het aantrekkelijker om dezelfde of zelfs hogere benchmarks te halen als hun Aziatische tegenhangers, vooral na verdere fine-tuning op specifieke taken.
Wat de toekomst betreft, Thinking Machines heeft ook Inkling-Small gepresenteerd, dat met zijn 276 miljard parameters ondertussen de grotere versie op meerdere redeneringsbenchmarks evenaart. De exacte beschikbaarheid van de gewichten laat echter nog op zich wachten.
Vraag & Antwoord
Wat maakt Inkling aantrekkelijk voor Westerse ontwikkelaars?
Inkling biedt een open-source alternatief voor modellen die anders uit China komen, waardoor ontwikkelaars de mogelijkheid hebben om technologieën te gebruiken die beter overeenkomen met hun waarden en wetgeving.
Hoe presteert Inkling ten opzichte van concurrenten?
Inkling toont indrukwekkende prestaties in agentic taken en overtreft zijn naaste concurrent, Nvidia’s Nemotron, in belangrijke benchmarks, hoewel Chinese modellen nog steeds superieur zijn in andere gebieden.
Wat zijn de mogelijkheden voor verdere ontwikkeling van Inkling?
Inkling kan verder worden gefinetuned voor specifieke taken, waardoor het nog competitiever wordt ten opzichte van Aziatische modellen. De introductie van Inkling-Small biedt bovendien meer opties voor ontwikkelaars met beperkte middelen.
