Oorspronkelijke tekst (Engels): Nym Technologies
door Harry Halpin
1. Programmeurs die aan het internet werken, hebben een verantwoordelijkheid tegenover de hele wereld, niet tegenover één enkel land. Het internet is vanaf het begin bedoeld als een open systeem om kennis te delen, zonder censuur. Het is dan ook niet het eigendom van één regering of één natie.
2. Het internet maakt massasurveillance mogelijk op een schaal die zelfs voor organisaties als de Gestapo en de Tsjeka ondenkbaar was. Veel programmeurs hebben hun talent ingezet voor het bouwen van volgsystemen, vaak vermomd als technologie voor online advertenties. Die systemen worden inmiddels gebruikt om mensen te monitoren en te controleren – en in sommige gevallen zelfs te doden. Bedrijven zoals Palantir Technologies zijn voorbeelden van organisaties die data-analyse combineren met staatsmacht, wat kan leiden tot een nieuw vorm van technofascisme.
3. Surveillance die wordt ingevoerd vanwege vermeende externe dreigingen voor de nationale veiligheid, kan uiteindelijk ook tegen de eigen bevolking worden gebruikt. Waar massasurveillance vroeger vooral het domein was van organisaties als de NSA, is een deel daarvan tegenwoordig verschoven naar private bedrijven zoals Palantir Technologies, die niet onder democratische controle staan. Wat vaak begint met angst voor buitenlandse dreigingen, richt zich daarna steeds meer naar binnen – op immigranten, critici en uiteindelijk iedereen die de bestaande orde ter discussie stelt of zich eraan probeert te onttrekken.
4. Iedereen is een doelwit. De ‘interne vijand’ breidt zich voortdurend verder uit totdat deze de gehele bevolking van een natie omvat, ongeacht status en overtuigingen, waarmee steeds paranoïdere en verdergaande totalitaire surveillance wordt gerechtvaardigd. De grens tussen politie- en militaire operaties vervaagt, waarbij wettelijke kaders worden vervangen door technologisch geweld dat met totale straffeloosheid opereert.
5. Surveillance kan alleen echt worden tegengegaan door technologie zelf: door software en hardware te ontwikkelen waardoor mensen worden beschermd. Algemene oproepen tot regulering of morele principes zijn onvoldoende. In plaats daarvan moeten rechten vooral via technologie worden afgedwongen. Code – niet wetten – kan ervoor zorgen dat ieders privacy wordt gehandhaafd, door toezicht technisch moeilijk of zelfs onmogelijk te maken, ook voor staten.
6. We worden geregeerd door een seniele gerontocratie. In tegenstelling tot eerdere generaties leiders die in de wereldoorlogen vochten, zijn veel van de huidige machthebbers vooral gericht op het behouden van hun positie, ten koste van jongere generaties en de toekomst van de planeet. Zij beschouwen technologieën voor surveillance en geautomatiseerde oorlogsvoering als middelen om archaïsche machtsstructuren in stand te houden.
7. Het Amerikaanse imperium valt uit elkaar. De Verenigde Staten konden lange tijd hun heerschappij afdwingen dankzij de rol van de dollar als mondiale reservemunt en een netwerk van militaire bases over de hele wereld. Tegenwoordig wordt die positie steeds vaker uitgedaagd door opkomende regionale machten. Tegelijkertijd valt het Amerikaanse imperium uiteen als gevolg van interne economische stagnatie, politieke corruptie en de inflatie van de dollar.
8. In een echte oorlog werken fantasieën over totale technologische dominantie altijd averechts. Wanneer een anonieme drone de vader van een kind doodt, zal dat kind op een dag wraak nemen, ongeacht de kosten. Dit is iets wat vergeten wordt door degenen die zijn opgegroeid in comfortabele buitenwijken. Als je verder kijkt dan het idee dat de één alleen kan winnen als de ander verliest, blijkt dat je de strijd tegen een volk alleen echt kunt ‘winnen’ door te laten zien dat jouw manier van leven aantrekkelijker is, met meer welvaart en een overtuigend perspectief voor de toekomst.
9. Vreemd genoeg zijn voorstanders van volledig geautomatiseerde oorlogsvoering voorstander van een algemene dienstplicht. Diep van binnen weten deze toetsenbordstrijders dat hun techno-fascistische fantasieën weinig voorstellen tegenover vastberaden tegenstanders die onconventionele vormen van oorlogvoering gebruiken. Ze weten ook dat geen van hun eigen kinderen in een oorlog voor hun land zal vechten, maar ze zouden het prima vinden als andermans kinderen in lijkzakken thuiskomen.
10. Het probleem is niet of er AI-wapens zullen worden gebouwd; we moeten degenen die ze bouwen ter verantwoording roepen. Welk land zulke geautomatiseerde moordmachines ook gebruikt, het mag nooit zo zijn dat burgerslachtoffers of de vernietiging van infrastructuur worden afgedaan door de schuld bij AI te leggen.
11. Een atoomoorlog ligt in het verschiet. Nu steeds meer landen verwikkeld raken in conflicten om schaarser wordende grondstoffen, komt ook het risico van het gebruik van tactische kernwapens weer nadrukkelijker in beeld – bijvoorbeeld in spanningsgebieden rond Teheran en Kyiv. Steeds meer bejaarde en autoritaire heersers hebben minder remmingen dan voorheen om kernwapens in te zetten, en zijn misschien zelfs bereid het voortbestaan van de mensheid op te offeren om hun eigen kleingeestige ego’s te strelen.
12. Ons doel is een vreedzame wereld waarin iedereen door het internet mondiger kan worden. Moderne oorlog komt er vaak op neer dat vooral jonge mensen de zwaarste prijs betalen. Waarom zou je je leven riskeren voor de belangen van corrupte machthebbers, als je via het internet ook zelf kansen kunt creëren en je eigen toekomst kunt opbouwen?
13. We moeten vechten voor de wereld die we willen, en de tools bouwen die toekomstige generaties nodig hebben. Pacifisme is in een tijd van wereldwijde spanningen en conflicten om grondstoffen geen haalbare optie. Echte harde macht ligt steeds meer in technologie. Programmeurs moeten technologie ontwikkelen die mensen helpt om vrij te leven en zich staande te houden in een samenleving met veel toezicht en controle. Decentralisatie is een belangrijke strategie, omdat die systemen minder kwetsbaar maakt voor de onvermijdelijke onderdrukking.
14. De staat zal ons niet helpen. De staat is een verouderde instelling uit de tijd vóór het internet, die steeds meer lijkt op een systeem dat draait op belastingen en schulden. Geen van de jongeren die vandaag de dag leven, zal waarschijnlijk profiteren van voorzieningen zoals sociale zekerheid en gezondheidszorg. Technologie kan macht verschuiven van centrale overheden naar individuen en naar gemeenschappen waar mensen zich vrijwillig bij aansluiten.
15. Gecentraliseerde en ondoorzichtige algoritmen vormen een gevaar voor de vrijheid van meningsuiting. Propaganda is de keerzijde van surveillance, aangezien voortdurende propaganda voorkomt dat iemand er zelfs maar aan denkt het systeem uit te dagen. In dit perspectief spelen dominante sociale mediaplatforms een belangrijke rol. Ze versterken de propaganda en onderdrukken kritische stemmen, waardoor mensen zich moeilijk kunnen organiseren of verzetten tegen de bestaande orde.
16. Het samen bouwen van nieuwe vormen van sociale organisatie is van vitaal belang om te overleven. Het traditionele medialandschap van politiek en entertainment bestaat om ons af te leiden van het opbouwen van genetwerkte solidariteit en gedistribueerde autonome organisaties over de grenzen heen. De hiërarchische staat is voor ons even relevant als de middeleeuwse kerk en koningen waren voor de vorming van de naamloze vennootschap en de vakbond.
17. Digitale identiteit is de volgende stap in hun controlesysteem. Binnen enkele jaren zal voor toegang tot het internet – ook in Europa en de Verenigde Staten – een biometrische nationale identiteitskaart vereist zijn, onder het zwakke voorwendsel van ‘het beschermen van kinderen.’ Het werkelijke doel is het afschermen van de vrije toegang tot subversieve politieke inhoud, en het stoppen van grensoverschrijdende communicatie om te voorkomen dat nieuwe vormen van zelforganisatie en verzet ontstaan.
18. Alleen wanneer men anoniem kan zijn, is men werkelijk vrij. De vrijheid om je zonder censuur en toezicht te kunnen uiten, is een basisvoorwaarde voor zowel zelfstandig denken als een goed functionerende democratie. Technologie zou die vrijheid juist moeten ondersteunen. Dat betekent dat mensen zelf moeten kunnen bepalen wat ze wel en niet van zichzelf laten zien, zodat ze zich vrij kunnen ontwikkelen. Daarvoor is het belangrijk dat het recht op privacy online goed wordt beschermd – niet alleen persoonlijke gegevens, maar ook de mogelijkheid om privé transacties te verrichten en afspraken te maken zonder ongewenste inmenging.
19. Amerika creëerde de eerste wereldwijde surveillancestaat, maar het zal niet de laatste zijn. Te veel mensen zijn de onthullingen van Wikileaks en Snowden vergeten, of beschouwen ze misschien als vanzelfsprekend. Staten over de hele wereld, van China tot Rusland, bouwen steeds krachtigere wereldwijde surveillancesystemen en propagandamachines. Door gebruik te maken van particuliere defensiecontracten in landen over de hele wereld, streeft Palantir ernaar zichzelf tot het besturingssysteem van een grensoverschrijdende mondiale geheime staat te maken, terwijl het zijn eigen belachelijke versie van het etnonationalisme propageert.
20. Cultuuroorlogen zijn een psyop. De ‘Epstein-klasse’ pronkt met haar deugdzaamheid en de superioriteit van haar beschaving, terwijl ze tegelijkertijd probeert terug te keren naar de heerschappij van erfelijke elites, zelfs in de Verenigde Staten. In plaats van de verworvenheden van de Verlichting ongedaan te willen maken, kiezen wij de kant van onze voorouders die eeuwenlang hebben gestreden voor individuele vrijheid, wetenschappelijke vooruitgang, gedecentraliseerde markten, bottom-up democratie, en de emancipatie van de mensheid van feodale vorsten en hun fantasierijke mythologieën.
21. Nieuwe vormen van technologie kunnen de wereld opnieuw vormgeven. Technologie is niet alleen een hulpmiddel, maar vormt steeds meer de wereld waarin we leven en werkt als een verlengstuk van ons denken. De samenwerking tussen mensen en de collectieve intelligentie van AI kan de vooruitgang versnellen en helpen bij het aanpakken van grote wereldproblemen, zoals klimaatverandering en de dreiging van een nucleaire oorlog.
22. Leef vrij, of probeer het tot het uiterste – zelfs als dat je leven kost. We moeten eeuwig waakzaam zijn in de strijd tegen het fascisme, en het slagveld is technologie. Er is geen middenweg: mensen die technologie ontwikkelen hebben een duidelijke keuze hebben – bijdragen aan systemen die mensen beperken en controleren, of juist technologie bouwen die nieuwe vormen van vrijheid mogelijk maakt.
Opmerking van Harry Halpin
Dit zijn mijn persoonlijke overtuigingen, niet die van Nym. Maar als filosoof en oprichter van een tech-startup die werkt aan anti-surveillancetechnologie, voel ik me wel verplicht om te reageren op het manifest van Palantir Technologies en zijn zogenoemde ‘filosoof-CEO’ Alex Karp. Ik heb filosofie gestudeerd bij de Franse technologiefilosoof Bernard Stiegler, die waarschuwde voor de opkomst van gedragssturing en een vorm van ‘kunstmatige domheid’ op digitale platforms. Aan zijn nalatenschap draag ik deze reactie op. Voor wie meer wil lezen: ik heb recent een filosofisch artikel geschreven over de ‘immateriële grondwet’ die is ontstaan uit internetstandaarden, mede als reactie op de onthullingen van Edward Snowden over grootschalige surveillance door de NSA. De discussie gaat door – en er staat nu nog meer op het spel.
Vertaling: Menno Grootveld