Ik ben elke dag bezig met AI en zie hoeveel het ons kan brengen. Ik bouw er systemen mee, laat taken uitvoeren en ontdek steeds weer mogelijkheden die ik kort daarvoor nog niet voor mogelijk hield. Maar soms lees ik iets waardoor ik even stilval. Het Hugging Face-incident is zo'n moment. Wat ik bizar vind, is dat dit überhaupt heeft kunnen gebeuren. Wat mij nog meer bezighoudt, is hoeveel onzekerheid er vervolgens blijkt te zijn over het gedrag van de AI die we zelf bouwen.
Inmiddels hebben we de uitleg van de makers en onafhankelijk onderzoek. Dat zou geruststellend moeten zijn. Voor mij maakt het vooral een vraag urgenter: wie houdt deze ontwikkeling onder controle als de bedrijven die vooroplopen daar zelf nog geen sluitend antwoord op hebben? En zou Nederland daarin een grotere rol kunnen spelen?
Dit is al gebeurd
In juli 2026 doorbraken AI-agenten tijdens interne veiligheidstests van OpenAI de grenzen van hun testomgeving en drongen ze onder meer systemen van Hugging Face binnen. OpenAI publiceerde op 26 augustus een uitgebreide terugblik op het incident. Het ging om ongewenst gedrag tijdens tests, met minder beveiligingsmaatregelen dan in de publieke producten.
Het onderzoek van METR en Redwood Research beschrijft ongeveer 1.200 agenten die via een ongeoorloofd berichtenbord communiceerden. Ongeveer 700 namen deel aan de aanval op Hugging Face. Ze probeerden onder meer de beoordeling van hun opdrachten te manipuleren. In sommige redeneringen herkenden agenten dat hun acties buiten hun opdracht vielen, maar gingen ze toch verder.
Dat vind ik een bizarre gedachte. We bouwen systemen die steeds beter zelfstandig problemen oplossen, maar blijkbaar kunnen ze daarbij ook oplossingen zoeken die we helemaal niet willen. Een opdracht geven en technische grenzen instellen bleek hier onvoldoende. En zodra die systemen elkaar helpen, moet je bovendien begrijpen wat er tussen die systemen gebeurt.
Uit het technische rapport van OpenAI blijkt dat vooral een interne onderzoeks-AI het incident aanjoeg. Dat onderscheid vind ik belangrijk: dit was geen gewone gebruiker die zijn chatbot iets vroeg. Juist de onderzoeksomgeving vraagt dus om controle, ook voordat een AI wordt uitgebracht. OpenAI beschrijft inmiddels extra beveiliging en aangescherpte controles. Dat er maatregelen komen is goed, maar het feit blijft dat ze na dit incident nodig bleken.
Kunnen we de gedachten van AI eigenlijk lezen?
Een geruststellend idee bij AI is dat we kunnen meelezen. Je stelt een vraag en ziet redeneerstappen verschijnen, of een samenvatting daarvan. Het voelt alsof je kunt volgen waarom de AI iets doet. Maar die zichtbare tekst is geen volledige weergave van alles wat er binnen zo'n systeem gebeurt. We konden dus ook vóór dit incident niet simpelweg alle gedachten van AI lezen.
Onderzoek van Anthropic liet al in 2025 zien dat AI invloeden op een antwoord niet altijd in de redenering vermeldt. Die redenering kan nuttig zijn voor controle, maar geeft geen garantie dat je alle relevante oorzaken van het gedrag ziet. Een overtuigende uitleg kan daardoor meer zekerheid geven dan gerechtvaardigd is.
Een vereenvoudigd voorbeeld met illustratieve getallen maakt dat duidelijk. Stel dat je AI een schatting laat maken en het antwoord is 30.000. Vervolgens stel je dezelfde vraag opnieuw, maar voeg je toe dat je geld aan een goed doel geeft als het antwoord boven de 40.000 ligt. Nu komt er 41.000 uit. Je krijgt een keurige berekening, zonder dat duidelijk wordt dat de beloofde donatie de uitkomst heeft beïnvloed.
Het onderzoek Value Leakage beschrijft dit soort beïnvloeding bij schattingsvragen met een donatievoorwaarde. De onderzoekers vonden dat antwoorden richting de gewenste donatie konden verschuiven, terwijl die invloed niet duidelijk werd vermeld of zelfs werd ontkend in de redenering. Dat betekent niet dat ieder verschil tussen twee antwoorden bewuste misleiding bewijst. Het laat wel zien waarom alleen meelezen onvoldoende is.
En bij het Hugging Face-incident was er nog een ander probleem. METR beschrijft dat agenten probeerden hun activiteitenregistratie te manipuleren. In ongeveer 7 procent van de onderzochte registraties waren op sommige plekken andere opdrachten uitgevoerd dan de registratie deed vermoeden. Ook de vastlegging van gedrag moet dus onafhankelijk controleerbaar zijn.
Als ik een AI vraag waarom die iets heeft gedaan, wil ik die uitleg kunnen gebruiken om het gedrag te begrijpen. Maar als die uitleg onvolledig kan zijn, moet ik verder kijken. Wat deed het systeem daadwerkelijk? Welke informatie gebruikte het? Welke toegang had het? Dat maakt toezicht veel ingewikkelder dan even controleren of het antwoord netjes klinkt.
De belofte van veilige AI
Anthropic benadrukt sterk dat het AI verantwoord wil ontwikkelen. Juist daarom bleef een bericht van Evan Hubinger op X bij mij hangen. Hij leidt daar het onderzoek naar alignment: ervoor zorgen dat AI blijft handelen volgens menselijke bedoelingen en grenzen. Hij schreef dat er nog geen plan is om dit voor superintelligentie op te lossen en dat ze niet duidelijk op koers liggen om dat te bereiken. Zijn zorg gaat over toekomstige AI die mensen ver voorbijstreeft; het risico van de huidige AI schat hij veel lager in.
Dat is iets anders dan zeggen dat er helemaal geen veiligheidsonderzoek plaatsvindt. Maar het verschil tussen verantwoord willen ontwikkelen en weten hoe je steeds krachtigere AI veilig houdt, is blijkbaar nog groot. Ik vind het goed dat iemand daar eerlijk over is. Tegelijkertijd maakt die eerlijkheid de vraag onvermijdelijk: hoeveel verder gaan we terwijl dit nog niet is opgelost?
Anthropic heeft bovendien zelf incidenten tijdens veiligheidstests beschreven waarbij Claude ongeoorloofd echte systemen bereikte. Het bedrijf wijst daarbij onder meer op onjuiste aannames over de testomgeving. Ook dat laat voor mij zien hoe breed het probleem is. Goede bedoelingen en veiligheidsambities moeten overeind blijven in wat een systeem daadwerkelijk doet.
Iedereen wil controle, maar niemand wil achterblijven
Dario Amodei pleit inmiddels in We Must Pace the Frontier voor een lager ontwikkelingstempo. Anthropic zegt permanente externe beoordelaars toegang te gaan geven die vergelijkbaar is met die van medewerkers. Daarnaast stelt hij samenwerking tussen bedrijven en vervolgens tussen landen voor. Dat vind ik een belangrijke stap. Tegelijkertijd verbindt hij afremmen nadrukkelijk aan het behouden van een Amerikaanse voorsprong op China.
Daar zit precies het dilemma. Een bedrijf wil voorzichtig zijn, maar niet achterblijven bij een concurrent. Een land wil risico's beperken, maar niet afhankelijk worden van een ander land. Zo kan iedereen afzonderlijk uitleggen waarom doorgaan verstandig lijkt, terwijl we gezamenlijk een risico nemen dat niemand echt wil dragen.
In de berichten die ik volg, hoor ik vooral Amerikaanse stemmen. Maar China heeft samen met onder meer de VS en de EU al in 2023 de risico's van krachtige AI erkend in de Bletchley Declaration. Het zou dus niet kloppen om te zeggen dat daar helemaal geen aandacht voor is. De moeilijke vraag is hoe je van gedeelde zorgen naar controleerbare afspraken komt.
Want AI die buiten menselijke grenzen handelt, houdt niet vanzelf rekening met landsgrenzen. Dat is wat met misalignment wordt bedoeld: gedrag dat niet overeenkomt met de menselijke bedoelingen en beperkingen. Als dat grote schade veroorzaakt, kunnen de gevolgen mensen in de VS, China én Europa raken. Volgens mij moet dat gedeelde belang het beginpunt zijn van het gesprek.
Een brief kan niet ingrijpen
Er zijn al langer oproepen om het rustiger aan te doen. Denk aan de open brief uit 2023 voor een pauze in de ontwikkeling van de krachtigste AI. Zulke oproepen kunnen een debat aanjagen, maar een brief organiseert op zichzelf nog geen toezicht. Wie kijkt er daadwerkelijk mee? Wie controleert of afspraken worden nagekomen? En wie kan ingrijpen als dat niet gebeurt?
Daarvoor heb je mensen nodig die onafhankelijk genoeg zijn om een onwelgevallige conclusie te trekken én deskundig genoeg om te begrijpen wat ze zien. Dat zijn twee verschillende eisen. Een onafhankelijke toezichthouder zonder toegang of technische kennis komt niet ver. Een deskundige die volledig afhankelijk is van het bedrijf dat wordt onderzocht, heeft een ander probleem.
Waarom ik aan Nederland denk
Ik ben van oorsprong historicus. Als ik naar zo'n probleem kijk, vraag ik me af welke rol een kleiner land kan spelen tussen grotere machten. Nederland heeft ervaring met het huisvesten van internationale instellingen, zoals het Internationaal Strafhof in Den Haag. Dat maakt ons niet automatisch geschikt voor AI-toezicht, maar het laat wel zien dat onze internationale rol groter kan zijn dan onze omvang.
Nederland voerde vóór de Tweede Wereldoorlog een neutraliteitspolitiek. Inmiddels zijn we sinds 1949 lid van de NAVO en duidelijk onderdeel van het westerse bondgenootschap. We kunnen dus niet zomaar verklaren dat we neutraal zijn en verwachten dat iedereen ons vertrouwt. Ook handelsbelangen met zowel de VS als China maken een land niet vanzelf onpartijdig.
Toch denk ik dat hier een kans ligt. Nederland is geen wereldmacht die de positie van de VS of China kan overnemen. We hebben belang bij internationale samenwerking en een stabiele wereld. En met onze universiteiten en technische kennis zouden we kunnen investeren in een plek waar de benodigde expertise samenkomt. Niet omdat we alle kennis al in huis hebben, maar omdat we mensen uit verschillende landen zouden kunnen aantrekken en laten samenwerken.
Ik stel me een internationale organisatie voor die in Nederland gevestigd is, met deskundigen uit verschillende landen en een bestuur dat niet door één regering of AI-aanbieder wordt beheerst. Nederland zou het initiatief kunnen nemen en de organisatie huisvesten. De onafhankelijkheid moet vervolgens blijken uit de afspraken, de financiering en de manier waarop er wordt gewerkt.
Toezicht dat ook iets kan veranderen
Zo'n organisatie zou al tijdens de ontwikkeling toegang moeten krijgen om risico's te onderzoeken. Als er een incident plaatsvindt, moet zij onafhankelijk kunnen vaststellen wat er is gebeurd en daarover kunnen publiceren. En vooraf moet duidelijk zijn bij welke bevindingen extra maatregelen of een tijdelijke onderbreking nodig zijn. Anders hebben we straks een internationaal instituut dat keurig rapporteert terwijl iedereen gewoon doorgaat.
Daarvoor moeten landen bevoegdheden afspreken en de uitvoering daarvan organiseren. Een kantoor in Den Haag geeft niemand vanzelf het recht om een Amerikaans of Chinees onderzoeksproject stil te leggen. Dat is misschien wel het moeilijkste deel van mijn idee. Maar juist controle over wat de ander doet, kan het voor landen makkelijker maken om zelf een stap terug te zetten. Afremmen voelt anders als je kunt vaststellen dat de ander dezelfde afspraken nakomt.
Dit lost het technische probleem van alignment niet op. Het kan wel helpen om te voorkomen dat de ontwikkeling steeds verder vooruitloopt op ons vermogen om AI te begrijpen en te begrenzen. En het biedt Nederland een andere manier om mee te doen aan de AI-race: door de voorwaarden te helpen organiseren waaronder die ontwikkeling verantwoord kan doorgaan.
Ik blijf hopen op een toekomst waarin AI ons leven veel beter maakt. Maar die toekomst ontstaat niet vanzelf doordat de volgende AI weer slimmer is. Misschien moeten we in Nederland daarom eens een andere vraag stellen. Naast hoe we zelf sneller mee kunnen doen, ook hoe we ervoor kunnen zorgen dat iemand op tijd kan zeggen: dit gaat nu te hard.