Tag: AI

De strijd tegen ongewenst gedrag van AI-modellen wordt gevoerd met… nog meer AI. OpenAI ontwikkelt nieuwe systemen om hun eigen creaties in het gareel te houden.

De ontwikkelaars van OpenAI zitten met een dilemma: hoe zorg je ervoor dat je geavanceerde AI-modellen, zoals ChatGPT, zich gedragen zoals verwacht en niet plotseling ‘rebels’ worden of misbruikt worden voor kwaadaardige doeleinden? Hun antwoord is verrassend simpel, of net heel complex: ze zetten meer AI in om de AI in de gaten te houden. Het is een beetje zoals een brandweerman die vuur met vuur bestrijdt, maar dan in de digitale wereld.

Het idee is dat de huidige generatie AI-modellen, hoewel indrukwekkend, nog steeds onvoorspelbaar kan zijn. Ze kunnen bijvoorbeeld onbedoeld schadelijke content genereren, of zelfs ‘jailbreaks’ ondergaan waarbij gebruikers de ingebouwde veiligheidsmechanismen omzeilen. Denk aan een chatbot die plotseling desinformatie verspreidt, of een AI die helpt bij het schrijven van phishing-e-mails. Om dit te voorkomen, bouwt OpenAI nu geavanceerde AI-systemen die specifiek getraind zijn om de output en het gedrag van andere AI-modellen te monitoren en te corrigeren.

AI als waakhond voor AI

Deze nieuwe aanpak, die soms ‘AI-gestuurde veiligheid’ wordt genoemd, is een poging om de schaalbaarheid van AI-ontwikkeling te matchen met de schaalbaarheid van de veiligheidscontroles. Handmatige controle van elke interactie met een AI-model is simpelweg onbegonnen werk, zeker met miljoenen gebruikers wereldwijd. Daarom worden nu AI-systemen ingezet die als een soort waakhond fungeren. Ze analyseren de output van de ‘primaire’ AI, zoeken naar patronen die wijzen op ongewenst gedrag, en kunnen zelfs ingrijpen door de output te filteren of het model te waarschuwen.

Het is een voortdurende wapenwedloop, want zodra er een nieuwe veiligheidsmaatregel is, proberen kwaadwillenden die te omzeilen. Dit betekent dat de ‘waakhond-AI’ constant moet evolueren en leren van nieuwe dreigingen en misbruikpatronen. Het is een beetje een kat-en-muisspel, maar dan met algoritmes. Het uiteindelijke doel is om de AI-modellen robuuster en betrouwbaarder te maken, zodat ze veilig ingezet kunnen worden in steeds meer toepassingen, zonder dat we ons zorgen moeten maken over onverwachte of schadelijke acties.

De uitdaging van onvoorspelbaarheid

Een van de grootste uitdagingen blijft de inherente onvoorspelbaarheid van complexe AI-modellen. Zelfs de ontwikkelaars begrijpen niet altijd precies waarom een model een bepaalde output genereert. Dit maakt het moeilijk om alle mogelijke ‘rebelse’ scenario’s op voorhand te voorzien. De inzet van AI om AI te controleren is dan ook een pragmatische oplossing: als je de interne werking niet volledig kunt doorgronden, kun je op zijn minst de externe manifestaties van ongewenst gedrag proberen te detecteren en te corrigeren. Het is een beetje zoals een ouder die zijn kind in de gaten houdt, niet om elke gedachte te kennen, maar om te zorgen dat het zich aan de regels houdt en geen brokken maakt.

• Complexiteit — Hoe geavanceerder de AI, hoe moeilijker het wordt om het gedrag volledig te voorspellen en te controleren met traditionele methoden.
• Schaalbaarheid — Met miljoenen gebruikers en miljarden interacties is handmatige controle onmogelijk; AI-gestuurde veiligheid biedt een schaalbare oplossing.
• Jailbreaks — Gebruikers vinden steeds nieuwe manieren om de ingebouwde veiligheidsfilters van AI-modellen te omzeilen, wat constante aanpassing van de beveiliging vereist.
• Toekomstvisie — OpenAI ziet deze aanpak als essentieel voor de ontwikkeling van steeds krachtigere AI, waarbij veiligheid vanaf het begin wordt ingebouwd en continu wordt verbeterd.

Of deze strategie op lange termijn voldoende zal zijn, moet nog blijken. Maar voorlopig lijkt het de meest logische stap in de race om AI zowel krachtig als veilig te maken. Het is een kwestie van vertrouwen op je eigen creaties, zelfs als je ze een beetje moet temmen met andere creaties.

Brad Lightcap heeft aangekondigd OpenAI te verlaten na een dienstverband van acht jaar. Deze beslissing komt te midden van een stroom aan vertrekkende executives, wat vragen oproept over de toekomst van de organisatie nu deze zich voorbereidt op een beursgang. Lightcap, die in 2018 bij OpenAI kwam en vier jaar lang als Chief Operating Officer heeft gefunctioneerd, heeft een cruciale rol gespeeld in de transformatie van een onderzoeksinstituut naar een belangrijke speler in de AI-industrie. Deze veranderingen in het leiderschap kunnen niet alleen invloed hebben op de interne cultuur, maar ook op de perceptie van investeerders en partners over de stabiliteit van OpenAI, vooral nu het zich aan de rand van een IPO bevindt.

De recente vertrekgolf onder topfunctionarissen, waaronder Bill Peebles en Fidji Simo, versterkt een gevoel van onrust. Het is ongebruikelijk dat een bedrijf, dat zich voorbereidt op een beursnotering, een dergelijk aantal veranderingen in de top ondergaat. Dit kan zorgen baren bij potentiële investeerders. De beursgang, waarvoor OpenAI in juni vertrouwelijk een aanvraag indiende, hangt in de lucht, en speculaties hierover nemen toe. Het biedingsklimaat op de markt lijkt te zeggen dat een concurrent, Anthropic, eerder naar de beurs kan gaan met een kans van 85%, volgens actuele voorspellingen. Voor investeerders betekent dit dat de tijdsdruk op OpenAI toeneemt om stabiliteit te tonen.

Lightcap sprak in zijn aankondiging zijn trots uit over de ontwikkeling van OpenAI, waarbij hij opmerkte hoe snel de wereld zich heeft aangepast aan de tools van het bedrijf en de missie ervan heeft omarmd. Deze erkenning van de impact van technologisch leiderschap roept de vraag op welke erfenis de vertrekkende executives zullen achterlaten. De ontwikkeling van AI is diep verweven met ethische overwegingen, en met het vertrek van sleutelpersonen binnen de ethische tak van het bedrijf, zoals Chloé Bakalar, is het wellicht een uitdaging om de nadruk te blijven leggen op verantwoordelijke AI-ontwikkeling. Dit heeft verstrekkende gevolgen voor de reputatie en het vertrouwen van het publiek, iets dat cruciaal is voor de toekomstige groei van OpenAI.

In een tijd waarin AI-technologieën steeds belangrijker worden in de wereldwijde markt, is de focus van OpenAI op mensen en het opbouwen van vertrouwen essentieel. Lightcap’s opmerking dat echte vooruitgang wordt bereikt door de relaties die zijn opgebouwd, resoneert sterk in een tijd waarin de connectie tussen technologie en maatschappij onder druk staat. Het is cruciaal voor een bedrijf dat zo veel afhankelijk is van publiek vertrouwen en samenwerking. Voor investeerders kan dit betekenen dat ze niet alleen kijken naar financiële prestaties, maar ook naar de ethische en sociale implicaties van de technologieën die ontwikkeld worden.

Vraag & Antwoord

Wat zijn de voornaamste zorgen na de vertrekkende executives bij OpenAI?
De recente leiderschapsveranderingen kunnen zorgen baren over de stabiliteit en continuïteit van de strategische richting van het bedrijf. Dit kan investeerders aanzetten tot twijfels over de koers die OpenAI zal varen in aanloop naar een beursgang.

Hoe kan de IPO van OpenAI beïnvloed worden door de huidige situatie?
De combinatie van een veranderende leiderschapstructuur en de ethische uitdagingen binnen AI kan de perceptie van investeerders beïnvloeden, waardoor de timing en aantrekkelijkheid van de IPO op losse schroeven komen te staan.

Wat betekent de vertrektijd van sleutelspelers voor de toekomst van AI-ethiek binnen OpenAI?
Het vertrek van belangrijke figuren op het gebied van ethiek kan een negatieve impact hebben op het vermogen van OpenAI om een ethisch verantwoorde richting te behouden, wat essentieel is in de huidige samenleving waarin technologie en verantwoord gedrag steeds meer met elkaar verweven zijn.