Het probleem met Zuckerbergs visie op persoonlijke superintelligentie

In zijn essay "The Future Is for Everyone" schetst Mark Zuckerberg een toekomst waarin niet overheden, bedrijven of een handvol techleveranciers de controle over geavanceerde AI hebben, maar het individu. Iedereen zou moeten beschikken over een krachtige, persoonlijke AI-agent die aansluit bij zijn eigen doelen en waarden, in plaats van bij de belangen van wie het systeem beheert. Het is een aantrekkelijk verhaal: superintelligentie als bevrijding in plaats van bedreiging.

Meta's eigen geschiedenis ondermijnt het verhaal

Het probleem is dat juist Meta weinig ervaring heeft met het daadwerkelijk decentraliseren van macht. Facebook en Instagram zijn wereldwijd succesvol, maar allerminst voorbeelden van gedecentraliseerde technologie: Meta bepaalt de algoritmes, de aanbevelingen, de advertentiesystemen en de regels voor wie toegang krijgt tot wiens aandacht. Dat verleden ontkracht Zuckerbergs argument niet per se, maar het rechtvaardigt wel scepsis over wie straks de infrastructuur achter die "persoonlijke" superintelligentie beheert. Meta behoort zelf tot de kleine groep bedrijven met genoeg kapitaal, rekenkracht, data en wereldwijd bereik om AI op deze schaal te bouwen — precies het soort concentratie waar Zuckerberg voor waarschuwt.

Wat echte empowerment zou vereisen

Een AI-agent is pas werkelijk persoonlijk als een gebruiker van aanbieder kan wisselen zonder de opgebouwde digitale geschiedenis en kennis kwijt te raken die de agent juist persoonlijk maakt. Zonder overdraagbaarheid, sterke privacywaarborgen en onafhankelijke controlemechanismen blijft "persoonlijke superintelligentie" een marketingterm voor een AI-agent die nog altijd draait op Meta's servers, volgens Meta's regels.

Twee kanten van de medaille

Tegenstanders van deze kritiek wijzen erop dat Meta, in tegenstelling tot veel concurrenten, wel degelijk open modellen uitbrengt, wat onafhankelijkheid van één aanbieder juist vergemakkelijkt. Of dat voldoende is om de achterliggende macht daadwerkelijk te spreiden, is een vraag die vooralsnog onbeantwoord blijft.