Nieuw onderzoek van Gartner laat zien dat chief information security officers (CISO's) in toenemende mate worden geconfronteerd met AI-aanvallen op hun organisatie, met deepfakes als opvallendste vector. Uit een enquête onder 302 cybersecurity-leiders uit Noord-Amerika, EMEA en Azië/Pacific bleek dat 43 procent minstens één incident meemaakte waarbij deepfakes werden ingezet tijdens audiogesprekken, en 37 procent kreeg te maken met deepfakes tijdens videogesprekken.
De cijfers passen in een breder beeld: 62 procent van de organisaties werd het afgelopen jaar getroffen door een deepfake-aanval waarbij social engineering of geautomatiseerde processen werden misbruikt, terwijl 32 procent te maken kreeg met een aanval op AI-toepassingen via manipulatie van de prompt. Volgens Gartner-analist Akif Khan zijn aanvallen die gebruikmaken van generatieve AI voor phishing, deepfakes en social engineering inmiddels de norm geworden, terwijl aanvallen op AI-infrastructuur en prompt-manipulatie nog in opkomst zijn.
Vooral de combinatie van deepfakes en social engineering vormt een risico. Aanvallers zetten deepfakes steeds vaker in om automatische spraakherkenning en identiteitsverificatie te omzeilen, terwijl medewerkers via telefoongesprekken worden benaderd door nagemaakte stemmen van leidinggevenden die bijvoorbeeld geldoverboekingen eisen. Khan benadrukt dat organisaties bij hun authenticatieleveranciers moeten nagaan of die native detectie van nagemaakte stemmen ondersteunen, en dat het herkennen van een deepfake alleen niet voldoende is — elk risicosignaal telt.
Gartner noemt deepfake-identiteitsfraude inmiddels een van de vier grootste dreigingen waar beveiligingsteams momenteel achterlopen op aanvallers, naast aanvallen op AI-toepassingen, prompt-injectie en de softwareketen. Voor CISO's betekent dit dat detectietechnologie alleen niet volstaat: ook bedrijfsprocessen moeten worden aangescherpt, bijvoorbeeld door verplichte verificatie via een tweede kanaal bij gevoelige transacties en strengere toegangscontrole bij online vergaderingen.
Maak jouw eigen website met JouwWeb