Oorspronkelijke tekst (Duits): Frankfurter Allgemeine, 14 mei 2023
door Evegeny Morozov
Evgeny Morozov is de oprichter van de Syllabus, en de auteur van verschillende boeken over technologie en politiek
In het anders zo utopische Silicon Valley grijpt de onheilsstemming om zich heen. Maar dezelfde mensen die waarschuwen voor de AI-apocalyps willen dezelfde technologie gebruiken om een politiek project te realiseren.
Wat men ook mag denken van de innovaties van Silicon Valley op andere gebieden, de bijdragen aan het ouderwetse ambacht van de dramaproductie zijn moeilijk te overtreffen. De typerende parabel gaat over een briljante technologiepionier die, nadat hij een schijnbaar ongevaarlijke technologie op de wereld heeft losgelaten, de duivelse uitvinding aan de kaak stelt en de wereld waarschuwt voor de risico’s ervan.
De visionairs achter het World Wide Web (Tim Berners-Lee), virtual reality (Jaron Lanier), de Like-knop (Justin Rosenstein) en zelfs de pop-up reclame (Ethan Zuckerman) hebben zich allemaal afgekeerd van de digitale beesten die zij op de wereld loslieten. Om nog maar te zwijgen van de talrijke beleggers en voormalige werknemers die de tech-utopie van Silicon Valley zijn gaan verloochenen en non-profitorganisaties hebben opgericht om Big Tech verantwoordelijk te stellen voor zijn vele zonden.
De overtrokken retoriek van de ‘AI-onheilsstemming’
De meest recente bijdrage aan dit genre komt van Geoffrey Hinton, die vaak de ‘Godfather van AI’ genoemd wordt. De achter-achterkleinzoon van logicus George Boole hielp bij de ontwikkeling van kunstmatige neurale netwerken – de computersystemen achter de populairste tak van AI van vandaag, Deep Learning, en dus achter populaire chatbots zoals OpenAI’s ChatGPT en Google’s Bard. Een paar weken geleden gaf Hinton zijn baan bij Google op, uit angst dat zijn uitvinding ernstige schade zou kunnen aanrichten; dat zijn programma’s op een dag de mensheid zoals wij die kennen zouden kunnen vernietigen. Dat is tenminste het gevaar dat verbonden is aan de mogelijke opkomst van wat bekend staat als Artificial General Intelligence (AGI) – het soort superintelligente AI dat de mens in de meeste taken kan overtreffen.
Aanvankelijk dacht Hinton dat AGI-achtige mogelijkheden nog tientallen jaren in de toekomst lagen, maar hij is onlangs van gedachten veranderd. Nu wil hij vrijuit kunnen praten over de gevaren van AI, zonder zich zorgen te hoeven maken over de gevolgen voor Google. Hinton is niet de enige die zijn bedenkingen heeft. In maart luidde een opvallende brief, ondertekend door een aantal grootheden uit de techwereld – onder wie Elon Musk en Apple-medeoprichter Steve Wozniak – op vergelijkbare wijze de noodklok. Daarin werd opgeroepen tot een moratorium van zes maanden op de ontwikkeling van AI, zodat overheden de snelle ontwikkelingen op dit gebied kunnen bijhouden (wat Musk er niet van heeft weerhouden om tegelijkertijd TruthGPT op te richten, een nieuwe AI-startup die moet concurreren met het vlaggenschip van OpenAI).
Sinds de publicatie van de brief staan de Amerikaanse media bol van de alarmerende commentaren en interviews. De overtrokken retoriek van een dergelijke ‘AI-onheilsstemming’ vormt de laatste tijd een vreemde aanvulling op de gebruikelijke techno-utopische ideologie van Silicon Valley. Soms worden beide ideologieën door dezelfde personen en bedrijven verwoord. De voor de hand liggende logische tegenstellingen zitten de succesvolle bedrijfsmodellen echter nooit echt in de weg.
Neem nu OpenAI, het moederbedrijf achter ChatGPT. Zijn versie van het techno-utopisme is behoorlijk groots: ‘Als het mogelijk is om AGI te creëren,’ zegt het bedrijf in een recent persbericht, ‘zou deze technologie ons kunnen helpen de mensheid naar een nieuw niveau te tillen door de welvaart te verhogen’ en ‘de wereldeconomie een impuls te geven.’ Het bescheiden en voorzichtige ‘als’ verdwijnt echter slechts een paar alinea’s later en het hypothetische wordt gepresenteerd als iets reëels. Zo ‘zijn er sommige dingen…,’ laat OpenAI ons weten, ‘die we nu moeten doen om ons voor te bereiden op AGI’ – precies dezelfde AGI waarvan de mogelijkheid nog maar een paar zinnen eerder in twijfel werd getrokken. Op dit punt vindt het techno-utopisme zichzelf opnieuw uit als een nieuw soort AI-doemdenken, omdat ‘een verkeerd afgestelde superintelligente AGI de wereld ernstige schade zou kunnen toebrengen.’ De onderliggende boodschap is duidelijk: het moeten organisaties als OpenAI zijn die de samenleving naar een brave new world leiden. Want zonder zulke verantwoordelijke en onfeilbare rentmeesters lopen we het risico van een ‘ernstige ontwrichting van de samenleving.’
Het debat over AI is onderdeel van een cultuuroorlog
Ja, precies, ontwrichting! Wat zijn de tijden veranderd! Nog maar tien jaar geleden moesten we allemaal bidden bij het altaar van de ontwrichting, omdat deze schijnbaar onstuitbare kracht vergde dat de samenleving zou buigen voor de tech-savvy jeugd en zich zou aanpassen aan een toekomst van zelfrijdende auto’s, drone-leveranties en industrieën aangedreven door 3D-printing. Maar met de ineenstorting van de aandelen en banken van de tech-sector is ‘ontwrichting’ een ordinair modewoord geworden. Tegenwoordig gaat het in plaats daarvan om ‘afstemming’ – het idee dat de nieuwste AI-technologieën moeten worden afgestemd op menselijke doelen en behoeften. In theorie klinkt dat goed, maar het echte probleem met ‘afstemming’ is het verzoenen van menselijke belangen met de felle concurrentie tussen de grote AI-aanbieders.
Veel van wat doorgaat voor ‘verkeerde afstemming’ bij de hedendaagse AI – slecht getrainde modellen die racistische rotzooi uitspugen – heeft niets te maken met amorele algoritmen. Het gaat er veeleer om dat techbedrijven elkaar proberen te overtreffen om de AI-markt te domineren, ook al zijn hun producten nog onvolgroeid en niet klaar voor massale toepassing. Dit soort ‘verkeerde afstemming’ blijft echter vaak onvermeld in de alarmerende berichten. De schade die wordt aangericht door killer-bots – in plaats van de balansen en aandelenmarkten – leent zich nu eenmaal veel beter voor apocalyptische beelden.
Zoals de meeste dingen in het huidige Amerika maakt ook het debat over AI nu al deel uit van een cultuuroorlog. Sommige van de meest prominente AI-apocalyptici zijn aanhangers van een reeks zeer hippe ideologieën zoals ‘langetermijndenken’ en ‘effectief altruïsme,’ een soort existentialistisch utilitarisme voor het tijdperk van Big Data. Dankzij rijke aanhangers in Silicon Valley hebben dergelijke randfilosofieën nu hun eigen denktanks, non-profitorganisaties, podcasts en conferenties.
Content-moderatoren in het Mondiale Zuiden
Onder invloed van deze filosofische stromingen neigen veel van de AI-apocalyptici (meestal witte mannen) er ook toe zich zorgen te maken over hoe de intelligentie van de mensheid op de lange termijn door AGI als geheel kan worden gemaximaliseerd, zonder er uiteindelijk door te worden weggevaagd. Daarbij zien zij intelligentie uitsluitend in termen van IQ-scores en veronachtzamen zij de kosten die toepassingen als ChatGPT op de korte en middellange termijn veroorzaken. Daartegenover staat een steeds luidere groep critici – onder wie veel vrouwen en mensen van kleur – die het probleem van ‘AI-veiligheid’ zien als een afleiding van de meer directe politieke problemen die de ontwikkeling van AGI met zich meebrengt. Zij klagen veeleer dat raciale stereotypen in stand worden gehouden wanneer intelligentie alleen in termen van IQ wordt begrepen, omdat dit vaak leidt tot dubieuze en onwetenschappelijke conclusies over de genetische verschillen tussen verschillende etnische groepen. Daarom zou er rond het hele project van het bouwen van een ‘superintelligentie’ een sterke zweem van eugenetica hangen. Volgens deze critici is bezorgdheid over ‘AI-veiligheid’ een luxe van de tech-sector; in plaats daarvan zouden we ons zorgen moeten maken over ‘AI-ethiek’ – alle gebreken die techbedrijven in hun producten toelaten om ze eerder dan de concurrentie op de markt te kunnen brengen.
Maar waarom zouden we ons zorgen maken over de schade die AI over tien jaar kan aanrichten, als we weten welke schade het nu al aanricht – niet alleen in termen van de immense milieukosten, maar ook van de psychologische tol die het eist van de laagbetaalde content-moderatoren in het Mondiale Zuiden, die de modellen achter diensten als ChatGPT helpen creëren? Kenia is een belangrijk centrum voor dergelijke activiteiten geworden, en sommige werknemers in deze sector hebben zich onlangs bij een vakbond aangesloten om betere arbeidsomstandigheden te eisen.
Maar zelfs de meest radicale van de tot nu toe voorgestelde maatregelen – van het eisen van betere uitleg over hoe AI-modellen tot hun voorspellingen komen tot het oproepen tot een ‘AI Bill of Rights’ – accepteren stilzwijgend de bestaande arbeidsdeling tussen staat en industrie. Technologiebedrijven moeten het voortouw nemen bij alle belangrijke innovaties, en overheden moeten ervoor te zorgen dat ze het niet te veel laten afweten. Zelfs de meest fervente critici van de AI-sector lijken dit principe te onderschrijven – al was het maar bij gebrek aan betere alternatieven. Of er nu wel of niet een volwaardige AGI komt, OpenAI-achtige bedrijven zullen in de toekomst waarschijnlijk een nog grotere rol gaan spelen in het aanbieden van onderwijs, gezondheidszorg en cultuur. Dit zal de ideologie van het ‘solutionisme,’ die de tech-sector als de ultieme redder van de democratie ziet, verder versterken, met andere woorden: het pathologische idee van Silicon Valley dat het doet voorkomen alsof problemen louter kunnen worden geïdentificeerd aan de hand van één criterium – of ze ‘oplosbaar’ zijn met een mooie en nette technologische ingreep, meestal een app.
Intelligentie als product van sociaal-politieke instituties
Aan deze impliciete consensus ligt een zeer eigenaardige opvatting van intelligentie ten grondslag, die dit reduceert tot het vermogen om problemen efficiënt (en vaak individueel) op te lossen en zich aan te passen aan de werkelijkheid. De drijvende kracht achter de nieuwste technologische utopie is het idee dat door de toegang tot ChatGPT-achtige AI te democratiseren, alle burgers en publieke instellingen een krachtig Zwitsers zakmes krijgen waarmee ze zich ongeacht de context zelf kunnen verdedigen.
Maar intelligentie kan natuurlijk niet worden teruggebracht tot individualistische probleemoplossing. Intelligentie is van nature sociaal en omvat niet alleen perceptie en voorspelling – de twee taken die Deep Learning dankzij enorme datasets beheerst – maar ook de toepassing van causale redeneringen, vaak in samenwerking met andere mensen. Iemand die ons niet kan vertellen waarom hij doet wat hij doet of waarom hij zegt wat hij zegt, kunnen we moeilijk ‘intelligent’ noemen; je kunt niet zomaar rechtvaardigingen vervangen door statistische voorspellingen. Evenmin zouden we iemand ‘intelligent’ noemen die zich altijd wil aanpassen aan de onaangename werkelijkheid om hem heen – ook al is hij gewapend met het beste Zwitserse zakmes – wanneer die werkelijkheid kan worden veranderd door collectieve actie en de creatie van nieuwe instituties.
Deze andere soort intelligentie, gerelateerd aan wat Kant het ‘publieke gebruik van de rede’ noemde, zou het niet goed doen in een wereld die gedomineerd wordt door de huidige geprivatiseerde AI, zelfs niet als die AI strikt gereguleerd zou zijn en alle ethisch niet-discriminerende specificaties zou respecteren die de critici ervan eisen. Deze andere vorm van intelligentie is het product van sociaal-politieke instituties, waarvan vele de erfenis zijn van de verzorgingsstaat en eeuwenlange culturele uitwisseling. De redenen voor het bestaan van deze instituties – denk aan de bibliotheek, de universiteit, het publieke plein – zijn nooit volledig begrepen, maar dat maakte ze niet minder belangrijk.
Voor Silicon Valley met zijn pragmatische instelling bestaan dergelijke instituties alleen maar om bepaalde problemen op te lossen, zoals het beantwoorden van zeer specifieke vragen of het accumuleren van ‘menselijk kapitaal.’ Daarom lijken ze volledig vervangbaar door ChatGPT of soortgelijke technische oplossingen. Ze worden niet gezien als de onmisbare en uiterst kwetsbare infrastructuren die het ‘publieke gebruik van de rede’ überhaupt mogelijk maken. En toch is het juist dit gebruik dat democratieën in staat stelt alternatieve voorstellingen te ontsluiten, andere verhalen over problemen te herkennen en de werkelijkheid te veranderen via sociale en collectieve instituties, in plaats van hun leden alleen maar de middelen te verschaffen om zich eraan te conformeren.
Dit soort rationele intelligentie kan nooit door een kunstmatige worden vervangen, omdat AI-systemen geen levensgeschiedenis, trauma’s, hoop en vrees kennen. Omdat ze geen lichamen hebben en zich niet in het heden bevinden, kunnen ze alleen voorspellen, maar nooit interpreteren.
De huidige AI-systemen zijn sterk gericht op wat de Hongaarse filosofe Agnes Heller de ‘technologische verbeelding’ noemde, die gericht is op efficiëntie en instrumentele rede. Ze missen echter wat zij ‘historische verbeelding’ noemde: een gevoel voor hermeneutiek en verhaal. Dit is niet verwonderlijk; de meeste technologieën zijn zo. Maar bij de huidige AI-systemen gaat het niet alleen om technologie, ze zijn ook de voedingsbodem voor ideologieën. En het ontbreekt deze ideologieën niet bepaald aan historische verbeelding. Maar wat voor ideologieën zijn het?
Volgens Heller zou een gezonde moderniteit altijd proberen de twee logica’s parallel te laten lopen maar in tegengestelde richtingen te laten afdrijven, waarbij de technologische verbeelding streeft naar het algemene en neutrale en de historische verbeelding naar het bijzondere en speciale. De technologische verbeelding consolideert en homogeniseert, de historische verbeelding ontleedt en specificeert. Op het moment dat de twee verbeeldingswerelden samensmelten en in dezelfde richting wijzen, slaat het noodlot toe, zoals bij de totalitaire regimes van de twintigste eeuw.
Nu Silicon Valley doorgaat met de ontwikkeling van ‘Artificial General Intelligence,’ zien we voor het eerst sinds de ergste wreedheden van de vorige eeuw hoe een machtig technologisch apparaat ingezet wordt voor een even machtig politiek project om een superintelligentie te bouwen. Dit project, met zijn belofte om de mensheid naar het volgende niveau van beschaving te tillen en een op de wetenschap gebaseerde utopie te verwezenlijken die tot nu toe onbereikbaar was op Aarde, is in de historische verbeelding verankerd. En het zou kunnen dat de twee verbeeldingswerelden niet langer in verschillende richtingen wijzen. Die historische missie moet worden bereikt door middel van technologie. En dat belooft niet veel goeds voor de democratie, hoe streng we de algoritmen in AI-systemen ook controleren.
Vertaling: Menno Grootveld