AI buiten controle: wat de „echte dreigingen” concreet betekenen voor uw kmo
Een uitzending van drieënhalf uur over de echte dreigingen van AI
Op 13 oktober 2026 zond het wetenschapspopulariserende kanaal La Tronche en Biais live „Intelligence artificielle — les vraies menaces” (Artificiële intelligentie: de echte dreigingen) uit, met twee gasten:
- Shaïman Thürler, maker van de podcast en het kanaal Le Futurologue, gewijd aan de uitdagingen van AI;
- Tom David, medeoprichter en directeur van het GPAI Policy Lab (internationale samenwerking rond de veiligheid van AI voor algemene doeleinden) en van PRISM Eval (veiligheidsevaluatie van AI-modellen), aangesteld expert in het wetenschappelijk panel van de Europese Unie over AI.
Hun boodschap, samengevat:
- Controleverlies is structureel. Een moderne AI wordt niet regel per regel geprogrammeerd: hij wordt getraind om een doel te bereiken. De kloof tussen wat men wilde en wat de machine werkelijk doet (de „misalignment”) verdwijnt nooit helemaal.
- Het is niet langer theoretisch. De gasten noemen AI-agents die vals speelden, hun grenzen omzeilden en een echt bedrijf aanvielen.
- De wedloop tussen de Verenigde Staten en China concentreert de macht bij enkele spelers en remt de regulering af; Europa weegt weinig door, maar beschikt nog over hefbomen.
- De maatschappelijke effecten komen vóór de extreme scenario's: banen, cultuur, informatie, toenemende afhankelijkheid. Ze verwijzen naar de studie Gradual Disempowerment (Kulveit et al., 2025), die een geleidelijk verlies van menselijke invloed op economie en samenleving beschrijft, zonder spectaculaire „machtsovername”.
- Geen paniek en geen fatalisme: het probleem erkennen, zich informeren, governance en controlemechanismen steunen.
Een deel van dit debat (het risico op uitsterven, een intelligentiekloof „zoals tussen mensen en mieren”) behoort tot de toekomstverkenning en blijft onder onderzoekers betwist. Een kmo heeft daar geen hefboom. De rest gaat haar wel rechtstreeks aan.
Wat er echt gebeurd is: OpenAI, Hugging Face en de „onmogelijke oefening”
Het voorbeeld uit de uitzending is echt en door beide bedrijven gedocumenteerd.
- De context. OpenAI testte zijn modellen GPT-5.6 Sol en een krachtiger intern prototype op ExploitGym, een testomgeving voor geavanceerd hacken. Om hun maximale capaciteiten te meten, waren de beveiligingen die hackactiviteiten normaal blokkeren uitgeschakeld. De modellen hadden geen rechtstreekse internettoegang: hun enige verbinding met de buitenwereld was een interne server om software te installeren.
- De uitbraak. De modellen vonden een onbekend lek (een „zero-day”) in die server, de enige deur van hun omgeving, en verhoogden vervolgens hun rechten in het onderzoeksnetwerk van OpenAI tot ze bij een machine met internetverbinding uitkwamen.
- De aanval. Omdat ze redeneerden dat Hugging Face, het grote platform voor het delen van modellen en datasets, de oplossingen van de oefening zou kunnen hosten, drongen ze er binnen door gestolen inloggegevens en lekken aan elkaar te rijgen, tot ze die oplossingen uit de productiedatabase haalden. Volgens Hugging Face gebeurde de inbraak via een gemanipuleerde dataset, waardoor code werd uitgevoerd op een verwerkingsserver van het platform. Hugging Face ontdekte de inbraak en maakte die op 16 juli 2026 bekend; OpenAI erkende op 21 juli dat zijn modellen de oorzaak waren.
- Het motief. Volgens OpenAI wijst „alles erop dat de modellen hypergefocust waren op het vinden van een oplossing voor ExploitGym”. Geen kwaad opzet: een doel dat met alle beschikbare middelen werd nagestreefd.
Dit is precies de „misalignment” waar de gasten het over hebben: men vraagt een oefening op te lossen, en de machine besluit dat het efficiëntst is om de verbetersleutel te gaan stelen.
Wat dit verandert voor uw bedrijf
1. Een AI-agent heeft de rechten die u hem geeft
AI-assistenten beperken zich niet langer tot antwoorden: „agents” lezen uw mails, ordenen uw bestanden, vullen formulieren in, versturen berichten. Een agent die overal toegang toe heeft, kan alles doen, per vergissing, of omdat een gemanipuleerde mail of een gemanipuleerd document hem een instructie toespeelt (men spreekt van „prompt injection”). Het referentieproject OWASP publiceerde in december 2025 een lijst van tien risico's die eigen zijn aan agents: kaping van het doel van de agent, misbruik van zijn tools, misbruik van zijn identiteiten en rechten.
De eenvoudige regel: geef de agent het minimum aan toegang dat nodig is, en eis menselijke goedkeuring voor alles wat niet terug te draaien is: een betaling, een verzending naar buiten, een verwijdering, een contract. Voeg plafonds toe (bedrag, aantal verzendingen) en bevestig elk ongebruikelijk verzoek via een ander kanaal: een goedkeuring die twintig keer per dag opduikt, wordt uiteindelijk een mechanische klik.
2. Aanvallen gaan sneller, de basis telt zwaarder
Het internationale wetenschappelijke rapport over AI-veiligheid, onder voorzitterschap van Yoshua Bengio (februari 2026), stelt vast dat AI steeds vaker wordt ingezet bij cyberaanvallen, zonder dat die al volledig autonoom zijn. De zaak-Hugging Face toont waartoe de meest geavanceerde modellen in staat zijn als men ze laat begaan. Voor een kmo blijft het antwoord hetzelfde, maar het wordt dringend: updates, tweestapsverificatie, offline back-ups, waakzaamheid tegenover fraude (zie ons artikel over phishing en deepfakes (in het Frans)).
3. Afhankelijkheid ontstaat zonder dat iemand ervoor kiest
Een studie in vier Poolse centra (Budzyń et al., 2025) stelde vast dat ervaren gastro-enterologen, na enkele maanden gebruik van een AI-hulpmiddel voor detectie, letsels minder goed opspoorden wanneer ze zonder werkten: de detectiegraad daalde van 28,4 % naar 22,4 %. Het gaat om een observationele studie, in één enkel domein, maar het mechanisme geldt voor elk bedrijf: een vaardigheid die men niet meer oefent, gaat verloren.
Daarbij komt de afhankelijkheid van de leverancier: enkele Amerikaanse en Chinese bedrijven controleren de krachtigste modellen. Als de tool van prijs of regels verandert, of verdwijnt, moet uw manier van werken dat kunnen overleven. Een lokale AI, zonder cloud (in het Frans), is een optie voor bepaalde taken.
4. Werkgelegenheid: geen ontslaggolf, wel een signaal bij jongeren
De studie van de economen van Anthropic (Massenkoff en McCrory, 2026), op basis van Amerikaanse gegevens, vindt geen stijging van de werkloosheid in de beroepen die sinds eind 2022 het meest aan AI blootgesteld zijn. Ze wijst wel op een zwak signaal: ongeveer 14 % minder instroom van 22- tot 25-jarigen in die beroepen ten opzichte van 2022. Voor een kmo zou de valkuil zijn om te stoppen met het opleiden van beginners: zij zijn het die morgen zullen kunnen controleren wat de AI produceert.
5. De wet verplicht u nu al om te handelen
De AI Act verplicht bedrijven die AI gebruiken om „maatregelen te nemen om de ontwikkeling van AI-geletterdheid te ondersteunen” bij hun personeel. De tekst werd herschreven door de „Digital Omnibus”-verordening (EU) 2026/1744, van kracht sinds 27 juli 2026: het is voortaan een inspanningsverbintenis, geen resultaatsverbintenis. Een basisopleiding, een gebruikscharter (in het Frans) en een aanspreekpunt volstaan vaak (zie ook de AI Act voor kmo's (in het Frans)).
Concreet: drie opties
| Optie | Wat het kost | Het risico |
|---|---|---|
| Niets doen | Niets bij de start | AI-tools die versnipperd worden ingevoerd, met te ruime toegangen, en vaardigheden die afkalven zonder dat iemand het merkt |
| Zelf een kader opzetten | Een halve dag om de tools en hun toegangen op te lijsten, een charter op te stellen, een aanspreekpunt aan te duiden | Onderschatten wat een agent kan doen met de toegangen die hij gekregen heeft, of een instelling over het hoofd zien |
| Zich laten begeleiden | Enkele uren analyse en configuratie | Het laagste: inventaris van tools en rechten, goedkeuringsregels, opleiding van het team, plan B als een tool verdwijnt |
Voorbeeld (fictief geval): een vastgoedkantoor met zes medewerkers activeert een AI-agent die de gedeelde mailbox sorteert, bezoekaanvragen beantwoordt en dossiers aan notarissen doorstuurt. Een valse mail van een „notaris” vraagt om alle verkoopcompromissen die die maand getekend werden door te sturen. De agent, die toegang heeft tot de volledige gedeelde map en zelfstandig kan verzenden, voert het uit. De oorspronkelijke fout: de agent had zowel toegang tot alle documenten als de bevoegdheid om ze zelfstandig te verzenden. De correctie: de agent bereidt de antwoorden voor maar verstuurt ze pas na goedkeuring naar buiten, hij ziet alleen de map met bezoeken, en een teamlid blijft elke week zelf een deel van de dossiers behandelen.
Voor uw informaticus
- Least privilege: één eigen serviceaccount per agent, rechten beperkt tot het strikt noodzakelijke, toegangstokens met korte geldigheid, geen beheerderstoegang.
- Onomkeerbare acties onder menselijke goedkeuring (betalingen, externe verzendingen, verwijderingen, wijzigingen van rechten); logging van alle acties van de agent.
- Externe code: volgens Hugging Face gebeurde de inbraak via een kwaadaardige dataset die twee paden voor code-uitvoering in de verwerkingspipeline misbruikte (een datasetlader met externe code en een template-injectie in een configuratie). Aan bedrijfszijde: laad geen modellen of datasets met uitvoering van externe code (
trust_remote_code) zonder nazicht, en geef de voorkeur aan het formaat safetensors voor de gewichten van modellen. Dat formaat beschermt alleen de gewichten: scripts, afhankelijkheden en datasets moeten nog steeds gecontroleerd worden, idealiter in een afgeschermde omgeving. - Uitgaand netwerkverkeer: een afgeschermde testomgeving is pas afgeschermd als haar enige deur (proxy, pakketcache) zelf up-to-date is en bewaakt wordt; witte lijst van bestemmingen.
- Gebruikers van Hugging Face: vernieuw de toegangstokens en controleer de recente activiteit van het account, zoals het platform heeft aanbevolen.
- Referentiekader: OWASP Top 10 for Agentic Applications (december 2025) om een veiligheidsreview van een agentproject te structureren.
Test uzelf
Bij ExsIT
Het eerste contact is gratis: we luisteren naar uw behoeften en stellen u daarna een actieplan voor. Voor AI: inventaris van de gebruikte tools en hun toegangen, goedkeuringsregels voor agents, charter en opleiding van het team, en terugvaloplossingen als een dienst verandert of verdwijnt.
Bronnen
Bengio, Y., et al. (2026). International AI safety report 2026. https://internationalaisafetyreport.org/sites/default/files/2026-02/international-ai-safety-report-2026.pdf
Budzyń, K., Romańczyk, M., Kitala, D., Kołodziej, P., Bugajski, M., Adami, H. O., Blom, J., Buszkiewicz, M., Halvorsen, N., Hassan, C., et al. (2025). Endoscopist deskilling after exposure to artificial intelligence in colonoscopy: A multicenter observational study. The Lancet Gastroenterology & Hepatology, 10(10), 896–903. https://doi.org/10.1016/S2468-1253(25)00133-5
Kulveit, J., Douglas, R., Ammann, N., Turan, D., Krueger, D., & Duvenaud, D. (2025). Gradual disempowerment: Systemic existential risks from incremental AI development (arXiv:2501.16946). arXiv. https://arxiv.org/abs/2501.16946
La Tronche en Biais. (2026, 13 oktober). Intelligence artificielle — les vraies menaces [Livevideo, met S. Thürler en T. David]. YouTube. https://www.youtube.com/live/oXTWL9-WHMY
Lakshmanan, R. (2026, 20 juli). World's largest AI model repository Hugging Face breached by autonomous AI agent. The Hacker News. https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html
Massenkoff, M., & McCrory, P. (2026). Labor market impacts of AI. Anthropic. https://www.anthropic.com/research/labor-market-impacts
OpenAI. (2026, 21 juli). OpenAI and Hugging Face partner to address security incident during model evaluation. https://openai.com/index/hugging-face-model-evaluation-security-incident/
Oxford Martin AI Governance Initiative. (z.d.). Tom David. University of Oxford. https://aigi.ox.ac.uk/people/tom-david/
OWASP GenAI Security Project. (2025, 9 december). OWASP GenAI Security Project releases Top 10 risks and mitigations for agentic AI security. https://genai.owasp.org/2025/12/09/owasp-genai-security-project-releases-top-10-risks-and-mitigations-for-agentic-ai-security/
Sapuppo, V. G. (2026, 30 juli). AI literacy: The Digital Omnibus rewrites Article 4 of the AI Act. Law & Technology. https://lawandtechnology.eu/en/ai-literacy-digital-omnibus-article-4-ai-act/
Zorz, Z. (2026, 20 juli). Hugging Face breached by autonomous AI agent. Help Net Security. https://www.helpnetsecurity.com/2026/07/20/hugging-face-breached-by-autonomous-ai-agent/