Het inzetten van AI op het slagveld heeft een vlucht genomen: Israël maakt bijvoorbeeld gebruik van een ‘iron dome’ om raketaanvallen te onderscheppen. ‘Dat kan je niet met de hand doen. Daar heb je de razendsnelle reactietijden van computers voor nodig’, legt Kwik uit. En ook op het oorlogsfront in Oost-Europa spelen drones een grote rol bij het uitvoeren van aanvallen.

Deze relatief nieuwe technologie zorgt voor problemen bij het toepassen van het humanitair oorlogsrecht. ‘Juristen hebben vaak een verkeerd beeld van wat AI is’, ziet Kwik. ‘Veel juristen die zeggen hoe het recht toegepast moet worden, hebben zelf geen achtergrond in techniek en kunstmatige intelligentie. Dat veroorzaakt misverstanden. In het eerste jaar van mijn proefschrift heb ik daarom puur het technische gedeelte onderzocht en eerstejaars computer engineering-lessen gevolgd.’

Welke misverstanden ontstaan er door nieuwe technologie?

‘Er is bijvoorbeeld al een systeem om burgers van militairen te onderscheiden. Draagt iemand een geweer en een uniform? Dat wordt allemaal geregistreerd. Maar bij een specifieke combinatie van een bepaald hoofddeksel met een bepaalde riem, kan AI weleens de conclusie trekken dat een burger een militair is. Dat kan betekenen dat er op een burger wordt geschoten. Hoe moet een commandant op het slagveld omgaan met zulke systemen? En wanneer is hij wel of niet verantwoordelijk voor de gevolgen?’

Heb je het antwoord op die vraag gevonden?

‘Veel mensen zeggen dat niemand verantwoordelijk is als het systeem een fout maakt. Maar een van mijn stellingen is dat de commandant meestal verantwoordelijk blijft. Die bepaalt namelijk of hij een systeem wel of niet inzet en op welke manier. Daar moet alleen wel veel aan voorafgaan. Van militairen kun je niet verwachten dat ze de technologie helemaal doorgronden. Maar als je een wapen gebruikt, moet je wel genoeg weten om weloverwogen keuzes te kunnen maken. Hoe accuraat is een systeem? Hoe analyseer je dat? In welke omstandigheden kunnen er fouten gemaakt worden? Is het systeem ook in de sneeuw getest? Daarnaast moet je kijken naar de technische acties van je tegenstander. Er kunnen virussen gebruikt worden om je systeem te verstoren. Of denk aan een moderne vorm van deceptie: als er bijvoorbeeld een doek met een bepaald patroon op een appartementencomplex wordt gehangen waardoor het systeem denkt dat het een militair gebouw is.'

Zien we in de toekomst alleen nog commandanten met een zware technische achtergrond?

‘Het belangrijkste is dat de commandant genoeg kennis heeft en dat kan ook via een technisch adviseur gaan. Ze hebben al een juridisch adviseur en een beleidsadviseur. Ik voorzie dat er ook een technisch adviseur komt. Die kan de commandant uitleggen wat de risico’s zijn van de systemen in bepaalde omstandigheden en met welke instellingen je kunt schuiven. Voor militairen is het belangrijkste dat ze de oorlog winnen. Ze hoeven het technische deel niet helemaal zelf uit te vogelen. Maar ik vind dat de militaire organisatie de commandant moet verplichten tot in ieder geval het hebben van toegang tot technische kennis. Die expliciete verplichting is er nu niet in het oorlogsrecht.’

Hebben commandanten die deze wapens nu al gebruiken onvoldoende technische kennis?

‘Het is ingewikkeld om daar antwoord op te geven, omdat veel van die informatie geheim is. Ik vermoed dat er al een zekere training is. Een leger heeft helemaal geen belang bij het ontwikkelen van wapens die commandanten niet goed kunnen beheersen. Maar daarbij moet het ook duidelijk zijn wat de plichten van een commandant zijn en hoe de verantwoordelijkheid van de commandant eruitziet.’

Moet daar nieuwe wetgeving voor komen?

‘Het mooie aan het humanitair oorlogsrecht is dat het is geschreven op een manier die relatief future proof is. Het is redelijk abstract zodat je het ook kunt toepassen op nieuwe technologie. Het is niet nodig om dat recht te herschrijven. Maar de toepassing van dat recht op nieuwe technologie kan wel lastig zijn. Onlangs verscheen er al een nieuw handboek met betrekking tot cyberaanvallen. In mijn proefschrift geef ik een voorzetje voor een nieuw militair handboek op het gebied van autonome wapensystemen.’