NIEUWS

In het kort: Op het eerste gezicht lijken het onschuldige fotobewerkers, hulpmiddelen voor virtuele huisdieren of educatieve AI-tools. Wie ze downloadt via de officiële applicatiewinkels van Apple en Google verwacht een alledaagse functionaliteit. Achter het oppervlak schuilt bij een groeiend aantal applicaties echter een duistere, verborgen interface die gebruikers in staat stelt om binnen enkele seconden gewelddadige en expliciete seksuele deepfakes te genereren van niet-stemhebbende personen.

Onderzoek door cybersecurity-analisten en onderzoeksjournalisten legt een omvangrijk netwerk bloot van honderden applicaties en ondersteunende domeinen. Deze software is specifiek ontworpen om de strenge controleprocessen van de Apple App Store en de Google Play Store te omzeilen, met als doel het op grote schaal verspreiden van hulpmiddelen voor digitale grensoverschrijdende content.

Hoe de misleiding werkt: het 'bait-and-switch'-mechanisme

Het goedkeuringsproces van grote app-winkels is gebaseerd op geautomatiseerde en menselijke inspecties die beoordelen of de ingediende code voldoet aan het beleid. De ontwikkelaars achter het netwerk maken echter gebruik van een uitgekiende misleidingstechniek.

Wanneer een applicatie wordt aangeboden ter controle, gedraagt deze zich als een volstrekt legitiem programma. Zodra de app is goedgekeurd en op de smartphone van een consument staat, legt het programma contact met een externe server. Deze server controleert specifieke parameters, zoals de locatie van het apparaat, de taalinstellingen of het kanaal waarmee de gebruiker binnenkwam — bijvoorbeeld via een gerichte advertentie op sociale media.

Indien aan bepaalde voorwaarden wordt voldaan, laadt de applicatie een verborgen webinterface in. In plaats van een fotofilter voor huisdieren krijgt de gebruiker een geavanceerde AI-generator te zien. Hiermee kunnen alledaagse foto's van collega's, klasgenoten, bekenden of nieuwsfiguren worden ingeladen en omgezet in grafisch gewelddadige of seksueel expliciete beelden.

Ernstige maatschappelijke en veiligheidsrisico's

De impact van deze laagdrempelige generatoren is groot. Waar het maken van overtuigende deepfakes voorheen technische kennis en aanzienlijke rekenkracht vereiste, stellen deze applicaties iedereen met een smartphone in staat om binnen een minuut intimiderend beeldmateriaal te creëren.

Naast de inbreuk op de persoonlijke levenssfeer en de psychologische impact op slachtoffers, waarschuwen beveiligingsexperts voor het toenemende gebruik van dit materiaal bij chantage (sextortion), pesten en het bewust beschadigen van reputaties. Doordat de tools doeltreffend verstopt zitten achter schijnbaar onschuldige functionaliteiten, bereiken ze bovendien een breed publiek dat anders niet snel op zoek zou gaan naar dergelijke software op het duistere web.

Reactie van techgiganten en de strijd om handhaving

Na het bekendworden van de onderzoeksresultaten hebben techbedrijven actie ondernomen door tientallen van de geïdentificeerde applicaties per direct te verwijderen en duizenden geassocieerde advertentieaccounts op sociale media te blokkeren. Ook zijn de richtlijnen voor ontwikkelaars aangescherpt; het verbergen van functionaliteiten via externe servers kan voortaan leiden tot een permanente verbanning uit het ontwikkelaarsprogramma.

Toch illustreert deze kwestie de voortdurende kat-en-muisspel tussen de beheerders van app-platformen en kwaadwillende ontwikkelaars. Zolang generatieve AI-modellen extern kunnen worden aangeroepen via server-side updates, blijft het bewaken van de digitale veiligheid op mobiele apparaten een grote uitdaging voor de gehele sector.