Zijn AI-bedrijven defensiebedrijven?  Dat is de vraag die de oorlog in Iran ons stelt. Het Amerikaanse leger gebruikt er namelijk de Claude-applicatie van Anthropic voor wat heet het “versnellen van de doelbestrijdingsketen”. Dat is militair jargon voor het omzetten van data en inlichtingen in doelwitten, het voorbereiden en plannen van aanvalsopties op doelwitten, en het beslissen om wapens in te zetten. Volgens de internationale media verkort Claude de keten van detectie tot aanval van dagen of uren naar bijna real-time actie.

Laat dit even bezinken. De AI chat-bot van een startupbedrijf dat pas in 2023 voor eerst op de markt kwam, een technologie met welbekende risico’s van hallucinatie, waanbeelden en andere onregelmatigheden, speelt een kritieke rol in de oorlogsmachine van het machtigste leger op aarde. We beleven de ultieme versmelting van civiele technologie met militaire middelen. Net zoals het Starlink-netwerk van Elon Musk – nog zo een megastartup – een kritiek communicatienetwerk werd voor de oorlog in Oekraïne.

'Ofwel worden dominante AI-bedrijven een verlengstuk van de staat, ofwel wordt de staat een verlengstuk van AI-bedrijven.'

AI is een categorie apart. We denderen in sneltreinvaart richting autonome AI-agenten die complexe beslissingen van mensen overnemen, directer en preciezer dan we zelf vermogen. Autonome wapens – sneller, accurater, grootschaliger, meedogenlozer dan wat de mens zelf vermag – loeren om de hoek. Net op het moment dat Anthropic een cruciale rol speelt bij succesvolle militaire aanvallen in het Midden-Oosten, ligt het bedrijf op ramkoers met de Amerikaanse overheid in Washington. Anthropic verzet zich er tegen het gebruik van zijn technologie voor automatische oorlogsvoering en voor massasurveillance van Amerikaanse burgers, aldus de termen van zijn contract met de overheid. Die beperking escaleert nu tot een heuse staatszaak.

De positie van Anthropic lijkt een morele keuze van een privébedrijf over de inzet van zijn product, wellicht ook ingegeven door bedrijfsbelang om risico’s van aansprakelijkheid en reputatieschade te voorkomen. Maar bekijk het vanuit de versmelting met oorlogsvoering. De soevereine Amerikaanse natie kan niet aanvaarden dat een particuliere wapenleverancier een veto heeft over hoe het leger met dat wapen zal omgaan tijdens een oorlog. En AI is wel degelijk een wapen. Claude zit verankerd in de keten van hoogst vertrouwelijke militaire inlichtingen en geheimen. Anthropic levert geen tanks of vliegtuigen, maar wel data en software: “wapens als een dienst” die het bedrijf voortdurend een vinger aan de pols van defensie geven.

In de nabije toekomst kunnen bots als Claude autonoom informatie filteren en manipuleren volgens de normen en parameters van hun algoritme. Als de overheid hier geen controle over krijgt, dan wordt het algoritme van Anthropic straks de evenknie van de opperbevelhebber van het leger. De parameters van een AI-algoritme zijn ook keuzes met politieke waarde – denk maar aan de sociale-mediaplatformen. Welke overheid zal aanvaarden dat de politieke grenzen voor oorlogsvoering door een bedrijf worden gekozen?

Het Witte Huis portretteert Anthropic als een “woke” technologiebedrijf dat de Amerikaanse overheid wil “gijzelen” met radicale ideologie. Dat is typische MAGA-praat maar het raakt wel de kern van de zaak. Anthropic zelf protesteert dat de vrijheid van meningsuiting, gegarandeerd door de Amerikaanse Grondwet, aan het bedrijf het recht geeft om de gebruikersvoorwaarden van zijn AI-diensten commercieel te bepalen. Als een constitutionele vrijheid wapenproducenten het recht geeft de overheid te dicteren bij oorlogsvoering, wat betekent dan het constitutionele principe dat in de

rechtsstaat de overheid het monopolie heeft op legitiem geweld? Zal de versmelting van AI met oorlog finaal het geweldmonopolie van de staat ondermijnen?

De regering Trump speelt nu hoog spel en dreigt Anthropic te weren uit alle toeleveringsketens, als ware het een staatsgevaarlijk Chinees technologiebedrijf. Dat neigt naar politieke liquidatie, wellicht een onderhandelingsmaneuver. Maar het illustreert een fundamenteel dilemma voor de toekomst van AI. Ofwel worden dominante AI-bedrijven een verlengstuk van de staat, ofwel wordt de staat een verlengstuk van AI-bedrijven. Geen van beide opties zijn aantrekkelijk. Hoe geraken we hieruit?

Misschien moeten we evolueren naar aparte militaire AI, afgescheiden van de civiele. Misschien moet de Amerikaanse overheid de militaire AI-toepassingen gewoon nationaliseren en onder de mantel van de staat plaatsen. Misschien worden militaire AI en autonome wapens de nieuwe kernwapens, waarvoor de wereld verdragen van non-proliferatie en legitieme oorlogsvoering afspreekt. Het zijn stuk voor stuk grote vragen die nooit de tijd krijgen om te rijpen terwijl de technologie halsoverkop vooruitgaat.

Hoe dan ook, voor een Europa zonder soevereine AI-technologie wordt de wereld van nationale veiligheid wel heel delicaat.

Marc De Vos is co-CEO van denktank Itinera, strategie consultant en doceert aan de UGent. www.marcdevos.eu