Wat gebeurt er wanneer jouw AI rechtstreeks gaat onderhandelen met de AI van de bank? Dat klinkt als sciencefiction, maar autonome AI-agenten komen snel dichterbij. Miljoenen slimme systemen kunnen straks namens mensen en bedrijven onderhandelen, beslissingen nemen en transacties uitvoeren. Handig en razendsnel, maar ook een nieuw front voor cybercriminaliteit. Want wie houdt de regie als AI-systemen massaal met elkaar gaan communiceren?
Kunstmatige intelligentie verandert ingrijpend. Het gaat dan niet meer alleen om slimme chatbots die vragen beantwoorden. AI-systemen kunnen namens mensen of bedrijven zelfstandig beslissingen nemen, aanbiedingen beoordelen, contractvoorwaarden aanpassen en transacties uitvoeren.
Dat kan enorme voordelen opleveren. Een persoonlijke AI kan bijvoorbeeld automatisch de goedkoopste energieleverancier zoeken, een verzekering aanpassen of onderhandelen over een rentepercentage. De AI van een bank doet vervolgens hetzelfde vanuit het belang van de bank.
Maar wat als beide systemen andere doelen hebben? En wie bepaalt wat een AI wel en niet mag afspreken? Een systeem dat zelfstandig onderhandelt, kan een menselijke instructie anders interpreteren dan bedoeld. Een ogenschijnlijk kleine fout kan daardoor financiële gevolgen hebben.
Ook cybercriminelen zullen deze ontwikkeling niet negeren. Zij kunnen proberen AI-agenten te manipuleren, zich voor te doen als betrouwbare systemen of onderhandelingen subtiel te beïnvloeden. Bovendien kunnen autonome AI's op grote schaal razendsnel communiceren, waardoor fouten of aanvallen zich veel sneller kunnen verspreiden.
De grootste uitdaging voor AI is daarom misschien niet het ontwikkelen van steeds slimmere systemen. Het wordt vooral belangrijk om te bepalen hoe al die systemen veilig met elkaar kunnen samenwerken.
De toekomst waarin AI met AI onderhandelt, komt dichterbij. De vraag is niet óf dat gebeurt, maar of we klaar zijn voor de digitale samenleving die daardoor ontstaat.
Maak jouw eigen website met JouwWeb