NIEUWS

IN HET KORT: Nederlandse incassobureaus zetten op grote schaal algoritmes en kunstmatige intelligentie (AI) in om verouderde werkprocessen te versnellen en betalingsachterstanden efficiënter in te vorderen. Uit een uitgebreide steekproef van de Autoriteit Persoonsgegevens (AP) onder 29 incassobureaus blijkt echter dat veel organisaties onvoldoende zicht hebben op de juridische en maatschappelijke risico's die deze technologieën met zich meebrengen.

De privacytoezichthouder waarschuwt voor onjuiste beslissingen, willekeur en discriminatie bij het benaderen van mensen met schulden.

Kansberekeningen en automatische dossierverrijking

De inzet van technologie binnen de sector gaat al lang niet meer alleen over eenvoudige ondersteunende taken, zoals het automatisch opstellen van gespreksverslagen of het inzetten van chatbots. Veel incassobureaus gebruiken AI-systemen voor diepgaande profilerings- en analyseactiviteiten.

Zo worden algoritmes ingezet voor zogeheten kansberekeningen. Op basis van variabelen zoals iemands kredietscore, woonlocatie en betaalgeschiedenis berekent een systeem de waarschijnlijkheid dat een schuld succesvol ingevorderd kan worden. Aan de hand van die geautomatiseerde score bepalen medewerkers vervolgens welke debiteuren met prioriteit worden benaderd.

Daarnaast maken bureaus gebruik van geautomatiseerde 'dossierverrijking'. AI-systemen worden hierbij opgedragen om op het internet en in openbare registers te zoeken naar aanvullende persoonsgegevens, zoals bedrijfsinformatie, bankgegevens of activiteit op sociale media. Deze data wordt direct aan het incassodossier toegevoegd om de communicatiestrategie te bepalen of het betalingsgedrag in te schatten.

Onbekendheid met wetgeving en gevaar voor verboden automatisering

Uit de enquête van de AP komt naar voren dat bureaus zelf dikwijls niet goed op de hoogte zijn van de privacyregels rondom geautomatiseerde gegevensverwerking en de Algemene Verordening Gegevensbescherming (AVG). De toezichthouder noemt de kans reëel dat er in de praktijk besluitvorming plaatsvindt die volledig door computers wordt afgehandeld zonder menselijke controle. Dit soort geautomatiseerde besluitvorming met ingrijpende gevolgen voor personen is onder de AVG in beginsel streng verboden.

AP-bestuurslid Katja Mur benadrukt het menselijke belang bij incassotrajecten:

"Als jij te maken krijgt met een incasso, kan dat flinke gevolgen voor je hebben. Je moet misschien veel geld betalen. Nou kan AI ook fouten maken. Daarom is het belangrijk dat het duidelijk en transparant is hoe een beslissing tot stand komt, en dat er een incassomedewerker van vlees en bloed is die verantwoording kan afleggen. Anders tast je volledig in het duister terwijl AI over je beslist."

Drie concrete aanbevelingen voor de sector

Om te voorkomen dat burgers slachtoffer worden van foutieve of discriminerende AI-beoordelingen, roept de toezichthouder de branche op om de controle op systemen te verstevigen. De AP formuleert drie kernaanbevelingen:

Gegarandeerde menselijke tussenkomst: Belangrijke besluiten die grote financiële of persoonlijke gevolgen hebben voor debiteuren mogen nooit uitsluitend door een computer worden genomen; er moet altijd een medewerker meekijken.

Kritische screening van datagebruik: Incassobureaus moeten nauwkeurig in kaart brengen welke persoonsgegevens (zoals sociale-mediadata of locatiegegevens) hun systemen verwerken en dit vooraf zorgvuldig toetsen aan de AVG.

Transparantie richting de debiteur: Bureaus moeten de informatievoorziening sterk verbeteren. Burgers hebben er recht op om in duidelijke taal te begrijpen hoe algoritmische systemen worden ingezet en wat hun rechten zijn om bezwaar te maken.

De AP organiseert in december een rondetafelgesprek met vertegenwoordigers uit de incassobranche om de onderzoeksresultaten te bespreken en handvatten te bieden voor verantwoorde AI-adoptie.