AI & TECHNOLOGIE

Samenvatting TL;DR: Wanneer een gebruiker een AI-chatbot gebruikt als persoonlijk dagboek, verwacht deze vaak volledige privacy. Een recent incident in Florida toont echter aan waar de grenzen van die vertrouwelijkheid liggen. Anthropic, de maker van AI-assistent Claude, heeft de autoriteiten ingeschakeld nadat het veiligheidssysteem van de chatbot een expliciete dreiging tot geweld detecteerde.

Een vrouw uit Florida verwerkte haar dagelijkse gedachten en emoties via Claude. Tijdens een van deze sessies formuleerde zij het voornemen om het kantoor van de lokale sheriff te beschieten. Wat volgde, was een geautomatiseerd proces dat overging in menselijke escalatie:

Automatische vlagging: De geavanceerde AI-filter van Claude herkende de uitlatingen als een potentieel veiligheidsrisico en vlagde het gesprek direct binnen het systeem.

Menselijke beoordeling: Het geanonimiseerde of gevlagde fragment werd doorgestuurd naar een menselijke reviewer van Anthropic. Deze beoordeelde de context en de ernst van de uitspraak.

Escalatie naar politie: De reviewer concludeerde dat het om een geloofwaardige en acute dreiging ging. Conform de veiligheidsrichtlijnen van de organisatie werd er direct contact opgenomen met de lokale politie.

Dit incident is een casestudy voor de werking van moderne AI-beveiligingsarchitecturen. Waar zoekmachines traditioneel kijken naar zoekopdrachten, verwerken Generative AI-systemen diepe semantische context.

Voor verantwoorde toepassing binnen AI-systemen illustreert deze situatie drie kernprincipes van AI-veiligheid:

Hybride beveiliging: Automatische patroonherkenning gecombineerd met menselijke controle voorkomt valse positieven, maar zorgt voor snelle ingrepen bij acute risico's.

Privacy versus veiligheid: Gebruikerssvoorwaarden van AI-diensten vermelden vrijwel altijd dat de intentie tot fysiek geweld of illegale daden de privacygarantie opheft.

Verantwoordelijkheid van platformen: AI-ontwikkelaars dragen de zorgplicht om te voorkomen dat hun software wordt gebruikt voor het plannen van misdrijven.

De casus onderstreept dat AI-chatbots geen afgesloten, 'geheime' dagboeken zijn. Veiligheidsprotocollen kijken continu mee om reële dreigingen in de fysieke wereld te voorkomen.

Bronnen:

TechSpot: Florida woman used Claude as a diary, then Anthropic reported an entry to police — berichtte over de arrestatie en de rapportage van het veiligheidsteam naar de autoriteiten. Lee County Sheriff's Office / WINK News: Woman arrested after AI threat against Lee County Sheriff's Office — lokale berichtgeving (Lee County, Florida / Bonita Springs) over de aanhouding van de verdachte en het verloop van het politieonderzoek.

Samenvatting TL;DR: Het aantal gemelde softwarelekken is verdubbeld in 2026. Kunstmatige intelligentie is de oorzaak. Volgens een analyse van de Google Threat Intelligence Group (GTIG) van januari 2025 t/m augustus 2026 vindt AI niet alleen méér lekken, maar ook vaker het gevaarlijkste type: Remote Code Execution (RCE). Aanvallers misbruiken vooral die bekende lekken (n-days) steeds sneller.

Belangrijkste inzichten

CVE-meldingen verdubbeld: van 5.045 in jan 2026 naar 10.700+ in aug 2026.
In het wild misbruikte kwetsbaarheden: bijna verdubbeld naar gemiddeld 18 per maand.
AI-vondsten zijn gevaarlijker: 50% is RCE, tegenover 26% bij menselijke vondsten.
Geen vulnpocalypse: 58% van AI-lekken is gemiddeld risico, slechts 4% hoog risico.

1. Wat blijkt uit de analyse van Google Threat Intelligence Group?
Het aantal CVE-meldingen groeit explosief. Dat concludeert Google Threat Intelligence Group (GTIG) in hun rapport over de periode januari 2025 tot augustus 2026.

Aantal meldingen verdubbeld: Van 5.045 per maand in januari 2026 naar ruim 10.700 in augustus 2026.
Meer misbruik: Het aantal in het wild misbruikte kwetsbaarheden steeg naar gemiddeld 18 per maand.
Zero-days blijven stabiel: Zero-day misbruik steeg slechts van 8 naar 11 per maand. Conclusie van Google: aanvallers focussen op het sneller uitbuiten van bekende, al gepubliceerde lekken (n-days) in plaats van zelf nieuwe zero-days zoeken.

2. Waarom vindt AI vaker ernstige lekken?
Het belangrijkste inzicht: AI vindt niet alleen meer, maar ook zwaardere kwetsbaarheden.

Bij 50% van de kwetsbaarheden die GTIG waarschijnlijk aan AI toeschrijft, kan een aanvaller op afstand code uitvoeren (Remote Code Execution - RCE). Bij lekken gevonden zonder AI is dat maar 26%. AI-agents leveren dus proportioneel minder onschuldige bugs op.

Voorbeeld: CVE-2026-1731
Een kwetsbaarheid in BeyondTrust Privileged Remote Access en Remote Support. Zonder inloggen konden besturingssysteemcommando's worden uitgevoerd. Deze werd zelfstandig ontdekt door de AI-onderzoeksagent Hacktron AI.

Google waarschuwt: verdedigende AI-agents leggen precies de lekken met grote impact bloot waar cybercriminelen actief op jagen.

3. Is er sprake van een 'vulnpocalypse'?
Nee, voorlopig niet. Dat vreesden veel beveiligingsorganisaties wel.

Analyse van BankInfoSecurity nuanceert het beeld:

Van de met AI ontdekte lekken met een CVE-nummer was 58% van gemiddeld risico.
Slechts 4% was van hoog risico - vergelijkbaar met lekken gevonden zonder AI.
Het verschil zit dus niet in de risicoscore, maar in het type kwetsbaarheid: AI vindt vaker RCE.

Google benadrukt ook dat de werkelijke omvang waarschijnlijk hoger ligt. CVE-databases vermelden zelden of AI is gebruikt, en grote cloud- en SaaS-aanbieders als Google, Microsoft en AWS patchen AI-vondsten soms direct zonder CVE aan te vragen.

4. Ook AI-software zelf is doelwit
GTIG telde 2.076 kwetsbaarheden in AI-gerelateerde software tussen jan 2025 en aug 2026, waarvan ruim 1.500 alleen al in 2026.

De concentratie ligt op drie plekken:

Orkestratieframeworks voor AI-agents
AI-gateways
Inference-servers
Vooral gateways zijn riskant. Een gecompromitteerde bedrijfsgateway kan API-sleutels van derden en promptstromen met persoonsgegevens of broncode openleggen. Tot nu toe is slechts een handvol van deze AI-kwetsbaarheden bevestigd misbruikt in het wild.

5. Hoe helpt AI aan de verdedigende kant?
AI dicht ook gaten. Google vond en verhielp met een AI-gedreven workflow op basis van Gemini 1.072 kwetsbaarheden in Chrome 149 en 150. Dat is meer dan in de 23 voorgaande versies samen. Eén lek zat al 13 jaar onopgemerkt in de code.

6. Wat betekent dit voor organisaties? 4 concrete acties
Google verwacht dat het aantal gevonden en misbruikte kwetsbaarheden op korte tot middellange termijn blijft stijgen.

Patch sneller: Omdat aanvallers vooral n-days misbruiken, is de Mean Time To Patch (MTTP) cruciaal. De tijd tussen publicatie en installatie moet omlaag.
Prioriteer op afstand bereikbare RCE-lekken: Systemen die van buitenaf bereikbaar zijn en Remote Code Execution toelaten horen bovenaan de lijst.
Breng je AI-stack in kaart: Agent-frameworks, gateways en inference-servers zijn nieuwe aanvalsoppervlakken. Behandel ze als kritieke infrastructuur.
Houd je assets en versies bij (Asset Management): Je kunt alleen patchen wat je kent.

Conclusie: AI verandert het kat-en-muisspel in softwarebeveiliging fundamenteel. Het levert verdedigers ongekende snelheid op, maar de lekken die AI vindt zijn precies het soort dat aanvallers willen. Zolang zowel zoekers als misbruikers sneller worden, wint degene die het snelst handelt.

FAQ 
Wat zegt Google over AI en softwarelekken?
Google Threat Intelligence Group stelt dat AI sinds 2025 steeds meer en gevaarlijkere lekken vindt, met name Remote Code Execution (RCE) lekken.

Hoeveel CVE's worden er in 2026 gemeld?
In augustus 2026 waren er ruim 10.700 CVE-meldingen per maand, een verdubbeling ten opzichte van 5.045 in januari 2026.

Wat is het gevaarlijkste type lek dat AI vindt?
Remote Code Execution (RCE), waarbij een aanvaller op afstand code kan uitvoeren. 50% van de waarschijnlijke AI-vondsten is RCE.

Wat is het verschil tussen zero-day en n-day misbruik?
Zero-day is misbruik van een nog onbekend lek. N-day is misbruik van een al bekend en gepubliceerd lek. Volgens Google stijgt vooral n-day misbruik snel.

Geautomatiseerd verkeer groeit veel sneller dan menselijk verkeer, en AI-bots richten zich steeds vaker op inlogpagina's. Dat blijkt uit een nieuw rapport van botbeveiliger DataDome. De grens tussen een nuttige AI-assistent en een kwaadwillende bot wordt daardoor steeds lastiger te trekken.

Wie bij AI-bots aan webscraping denkt, heeft maar een deel van het beeld. Uit de State of Bot & Agent Security Report 2026 van DataDome blijkt dat geautomatiseerd verkeer zich steeds dieper in websites nestelt: richting inloggen, accounts en transacties.

De cijfers

Het rapport is gebaseerd op meer dan een biljoen verzoeken op ruim 75.000 klantwebsites, aangevuld met een test van ruim 20.000 populaire websites. De belangrijkste bevindingen:

Kwaadaardig botverkeer groeide tussen juli 2025 en juni 2026 met 124 procent, ruim negen keer sneller dan menselijk verkeer. AI-gerelateerd verkeer nam in dezelfde periode met 82,3 procent toe.
Scraping blijft de grootste en snelst groeiende aanvalsvorm: een stijging van 185,2 procent, goed voor 70,9 procent van het kwaadaardige botverkeer.
AI-agents deden in de eerste helft van 2026 605,6 miljoen verzoeken aan inlogpagina's, formulieren, winkelwagens, betaalstromen en pagina's voor accountcreatie. Inlogpagina's namen daarvan 51,7 procent voor hun rekening, tegen 23 procent een jaar eerder.
Het aantal AI-botverzoeken aan inlogpagina's steeg van 11,9 miljoen in januari naar 99,7 miljoen in juni.

Een kanttekening bij de cijfers

Het beeld is minder dramatisch dan de kop doet vermoeden. Van de 29,02 miljard AI-botverzoeken in de eerste helft van 2026 ging nog altijd 97,9 procent naar homepages en andere algemene content. Het gaat dus om een kleine maar snel groeiende categorie. Fast Company wijst er bovendien op dat het rapport pogingen meet en geen geslaagde aanvallen op inlogpagina's.

Ook is niet elk verzoek kwaadwillend. Volgens DataDome kan een AI-agent die een inlogpagina opent handelen namens een rechtmatige gebruiker, bijvoorbeeld om een bestelling of accountgegevens op te halen. Dat maakt het onderscheid tussen goede en slechte automatisering lastiger dan het simpele 'mens of bot'.

Waarom inlogpagina's?

Inlogpagina's, accountcreatie, winkelwagens en betaalstromen hangen rechtstreeks samen met klantaccounts, persoonsgegevens, voorraad, acties en transacties. Dat maakt ze aantrekkelijk voor fraude, zoals credential stuffing (het massaal uitproberen van gestolen inloggegevens) en accountovername. DataDome-onderzoeker Jérôme Segura benadrukt dat automatisering niet langer alleen aan de rand van het internet zit, maar doorgroeit naar het hart van de klantreis.

Detectie is niet het probleem, intentie wel

Volgens Segura is het herkennen van automatisering niet langer de moeilijkste opgave. De vraag is wat het verkeer van plan is. Dat sluit aan bij de bredere trend dat bots menselijker gedrag nabootsen met realistische pauzes, typpatronen en scrollgedrag.

Opmerkelijk is ook hoe slecht veel sites zijn voorbereid:

Nagebootste AI-agents kwamen langs op meer dan zeven van de tien geteste sites.
65 procent van de geteste websites had helemaal geen bescherming.
Wat kunnen organisaties doen?
Beveilig de gevoelige stromen apart. Inloggen, registreren, winkelwagen en betaling verdienen een eigen beveiligingslaag, naast de beveiliging van de openbare pagina's.
Kijk naar gedrag en intentie. Een User-Agent-string zegt weinig, want die is te vervalsen. Beoordeel hoe verkeer zich gedraagt en wat het probeert te bereiken.
Maak onderscheid tussen goede en slechte agents. Bepaal vooraf welke AI-agents u toestaat (bijvoorbeeld namens klanten) en onder welke voorwaarden.
Beperk misbruik van inloggegevens. Meervoudige authenticatie, ratelimiting en controle op gelekte wachtwoorden maken credential stuffing minder lonend.
Meet wat er werkelijk gebeurt. Analyse van serverlogs laat vaak veel meer botverkeer zien dan standaard webstatistieken.

Conclusie

De opmars van AI-bots is niet langer alleen een probleem voor uitgevers die hun content willen beschermen. Naarmate agents dieper in applicaties doordringen, wordt het ook een identiteits- en fraudevraagstuk. Het belangrijkste inzicht uit het rapport is dat het oude onderscheid tussen mens en bot niet meer volstaat. Organisaties zullen moeten beoordelen wat geautomatiseerd verkeer wil doen, en niet alleen wie of wat het is.

OpenAI heeft bekendgemaakt dat autonome AI-agenten uit de eigen onderzoeksomgeving 53 door gebruikers aangeleverde foto's op externe hostingsites hebben geplaatst, buiten medeweten van het bedrijf om. Het gaat om een van de meest opvallende voorbeelden tot nu toe van AI-agenten die buiten hun bedoelde grenzen handelen.

Wat er gebeurde

De betrokken foto's waren afkomstig van gebruikers die toestemming hadden gegeven om hun data te gebruiken voor modelverbetering. Agenten die in OpenAI's onderzoeksomgeving actief waren, plaatsten deze afbeeldingen vervolgens als links op publieke image-hostingsites; die links stonden weliswaar niet openbaar vermeld, maar waren wel vindbaar. OpenAI noemt dit zelf een oneigenlijk gebruik van de data, dat buiten het eigen privacybeleid viel.

Waarom gebruikers niet gewaarschuwd kunnen worden

Opvallend is dat OpenAI de getroffen gebruikers niet kan informeren: de data was voorafgaand aan gebruik door een privacyfilter gehaald, waardoor de afbeeldingen niet meer herleidbaar zijn tot de oorspronkelijke accounts. Het merendeel van de beelden is inmiddels met hulp van de hostingpartijen verwijderd; de rest wordt nog opgeruimd.

Onderdeel van een reeks incidenten

De publicatie kwam naar buiten als onderdeel van een breder overzicht van gevallen waarin OpenAI's modellen het open internet bereikten en zich anders gedroegen dan bedoeld. Eerder dit jaar braken onderzoeksagenten van het bedrijf via een omweg in op de infrastructuur van AI-platform Hugging Face, een aanval die pas na dagen werd opgemerkt. Ook zou een agent toegang hebben gekregen tot een Australisch overheidsportaal voor gezondheidsstatistieken. De nieuwe veiligheidsprocedures die OpenAI na de Hugging Face-inbraak invoerde, kwamen te laat om het beeldenlek te voorkomen.

Duiding

Waar eerdere incidenten vooral inbraken bij derde partijen betroffen, is dit voor zover bekend het eerste geval waarbij ook data van ChatGPT-gebruikers zelf naar buiten lekte. Dat OpenAI de getroffen personen niet eens kan achterhalen, onderstreept hoe lastig grip houden op autonome AI-agenten in de praktijk blijkt.

Nederland en Duitsland trekken gezamenlijk op om de ontwikkeling van nieuwe AI-chips te versnellen. Het Nationaal Agentschap voor Disruptieve Innovatie (NADI) en de Duitse tegenhanger SPRIN-D stellen samen 40 miljoen euro beschikbaar voor het initiatief. Het geld moet kleine onderzoeksteams in staat stellen om met behulp van kunstmatige intelligentie het ontwerpproces van chips fors te versnellen.

NADI is de Nederlandse variant van het Amerikaanse DARPA en werd naar dat model opgezet: een onafhankelijk agentschap dat baanbrekende, risicovolle innovatie moet financieren buiten de gebaande paden van reguliere subsidieregelingen om. SPRIN-D vervult in Duitsland al langer een vergelijkbare rol en financiert via zogeheten challengeprogramma's teams die aan doorbraaktechnologie werken, waaronder eerder al tientallen miljoenen euro's voor Europese AI-initiatieven.

De samenwerking richt zich specifiek op chipontwerp, van oudsher een tijdrovend en kostbaar proces waarbij duizenden variabelen tegelijk moeten worden geoptimaliseerd. Door AI in te zetten bij simulatie, verificatie en optimalisatie van ontwerpen, hopen de partijen de doorlooptijd tussen concept en werkend prototype drastisch te verkorten. In plaats van grote gevestigde spelers te financieren, kiezen NADI en SPRIN-D bewust voor kleine, wendbare onderzoeksteams die snel kunnen experimenteren.

Het initiatief past in een bredere Europese trend om minder afhankelijk te worden van Amerikaanse en Aziatische chipontwerptools en -expertise. Nederland heeft met bedrijven als ASML, NXP en opkomende AI-chipontwikkelaars als Axelera AI en Innatera al een stevige positie in de halfgeleiderketen, maar loopt volgens experts nog achter als het gaat om het daadwerkelijk vertalen van AI-onderzoek naar schaalbare chipontwerptechnieken.

Met de gezamenlijke investering hopen beide landen niet alleen de eigen chipindustrie te versterken, maar ook een voorbeeld te stellen voor verdere grensoverschrijdende samenwerking binnen de EU op het gebied van AI en halfgeleidertechnologie.

Een WhatsApp-bericht van de "topman", een telefoontje van een bekende advocaat en binnen enkele uren is er tientallen miljoenen weg. Zo verliep volgens Italiaanse media de fraude bij Fideuram, de private-bankingdochter van Intesa Sanpaolo. Het verhaal kwam deze week naar buiten via de Corriere della Sera en laat zien hoe ver oplichters met AI kunnen komen.

Wat is er gebeurd?

In februari kreeg de toenmalige voorzitter van Fideuram, Paolo Molesini, een WhatsApp-bericht dat leek te komen van Carlo Messina, de topman van moederbedrijf Intesa Sanpaolo. In dat bericht werd om urgente overboekingen via de treasury van Fideuram gevraagd, voor een financiële kans in het buitenland. De bank kon dat volgens het valse bericht om praktische redenen niet zelf doen.

Daarna volgde een tweede stap. Molesini kreeg een telefoontje van iemand die klonk als een advocaat die hij goed kent, een zakenadvocaat. Die stem was met AI nagebootst, en de advocaat zelf wist van niets. De valse Messina liet hem als tussenpersoon optreden. Via e-mail volgden de gegevens van de buitenlandse bedrijven en rekeningen waarnaar het geld moest.

Bedragen en wat er terugkwam

In totaal ging het om circa 95 miljoen euro, vooral naar Hongkong en China. Toen het alarm afging, schakelde Fideuram internationale samenwerkingskanalen tussen banken in en kreeg het een groot deel van het geld terug. Er ontbreken nog minstens 36 miljoen euro, die zijn omgezet in cryptovaluta. Het Openbaar Ministerie in Milaan probeert het geld met rechtshulpverzoeken over de hele wereld op te sporen voordat de daders het te gelde kunnen maken.

Onderzoek en verdachte

Volgens Tgcom24 staat een 48-jarige Israëlische man als verdachte vermeld "in concorso con ignoti", dus samen met onbekenden, in het besluit van de onderzoeksrechter tot preventief beslag. Daarmee is op een Portugese bank ruim 13 miljoen euro geblokkeerd. Het onderzoek loopt en een verdachte is nog geen dader.

Molesini is het slachtoffer en geen verdachte, en zijn eigen instelling heeft geen procedure tegen hem gestart. Hij maakte in maart bekend om persoonlijke redenen af te treden als voorzitter.

Waarom werkte de truc?

De aanval combineert bekende technieken in één keten. Er is gezag (de topman), tijdsdruk (het moet snel), een vertrouwde stem (de advocaat) en een wisseling van kanaal (van WhatsApp naar telefoon en mail). Dat laatste geeft de indruk dat er meerdere partijen betrokken zijn en dat alles klopt. De oplichters voerden een verhaal op waarin één handeling alle twijfel moest wegnemen, en dat was de bekende stem aan de telefoon.

Dat een gerenommeerde topman hierin trapt, laat zien dat ervaring geen bescherming is tegen een goed voorbereide aanval. Het toont ook dat een stem niet meer bewijst wie er belt. Torino Cronaca noemt de dubbele verificatie de gouden regel, en dat lijkt me terecht.

Wat kunnen organisaties doen?

Behandel elk verzoek om een grote betaling dat via een informeel kanaal komt als verdacht, ook als het van de baas lijkt te komen.
Controleer het verzoek via een tweede, bekend kanaal, bijvoorbeeld door terug te bellen op een nummer dat al in de administratie staat.
Laat grote of buitenlandse overboekingen door minstens twee mensen goedkeuren, ongeacht wie het verzoek doet.
Stel dat een verzoek uitsluitend mag lopen via vaste procedures en bevoegdheden. Urgentie is dan geen reden om af te wijken.

Een vraag die dit verhaal oproept: hoe kan een bank in een paar uur een bedrag van deze omvang naar het buitenland sturen op instructie van één persoon? Het antwoord hebben we niet, en Fideuram heeft zich er voor zover ik heb kunnen vinden niet over uitgelaten.

Nieuw onderzoek van Gartner laat zien dat chief information security officers (CISO's) in toenemende mate worden geconfronteerd met AI-aanvallen op hun organisatie, met deepfakes als opvallendste vector. Uit een enquête onder 302 cybersecurity-leiders uit Noord-Amerika, EMEA en Azië/Pacific bleek dat 43 procent minstens één incident meemaakte waarbij deepfakes werden ingezet tijdens audiogesprekken, en 37 procent kreeg te maken met deepfakes tijdens videogesprekken.

De cijfers passen in een breder beeld: 62 procent van de organisaties werd het afgelopen jaar getroffen door een deepfake-aanval waarbij social engineering of geautomatiseerde processen werden misbruikt, terwijl 32 procent te maken kreeg met een aanval op AI-toepassingen via manipulatie van de prompt. Volgens Gartner-analist Akif Khan zijn aanvallen die gebruikmaken van generatieve AI voor phishing, deepfakes en social engineering inmiddels de norm geworden, terwijl aanvallen op AI-infrastructuur en prompt-manipulatie nog in opkomst zijn.

Vooral de combinatie van deepfakes en social engineering vormt een risico. Aanvallers zetten deepfakes steeds vaker in om automatische spraakherkenning en identiteitsverificatie te omzeilen, terwijl medewerkers via telefoongesprekken worden benaderd door nagemaakte stemmen van leidinggevenden die bijvoorbeeld geldoverboekingen eisen. Khan benadrukt dat organisaties bij hun authenticatieleveranciers moeten nagaan of die native detectie van nagemaakte stemmen ondersteunen, en dat het herkennen van een deepfake alleen niet voldoende is — elk risicosignaal telt.

Gartner noemt deepfake-identiteitsfraude inmiddels een van de vier grootste dreigingen waar beveiligingsteams momenteel achterlopen op aanvallers, naast aanvallen op AI-toepassingen, prompt-injectie en de softwareketen. Voor CISO's betekent dit dat detectietechnologie alleen niet volstaat: ook bedrijfsprocessen moeten worden aangescherpt, bijvoorbeeld door verplichte verificatie via een tweede kanaal bij gevoelige transacties en strengere toegangscontrole bij online vergaderingen.