Wat is het Israëlische AI-systeem dat doelwitten zoekt, vindt, en doodt?

Op basis van kunstmatige intelligentie (AI) kan het Israëlische leger doelwitten in de Gazastrook selecteren, en vervolgens bombarderen. Dat is een zorgvuldig systeem, zeggen experts. Maar het moet wel op de juiste manier worden toegepast. “Wie drukt er op de knop: de mens of de machine?”

Het gaat om het zogenoemde ‘Lavender-systeem’ dat het Israëlische leger gebruikt. Hoe deze AI-machine eruitziet en te werk gaat is niet precies bekend. Maar het systeem zou op basis van een heleboel data berekeningen maken over de locatie van Hamas-strijders, om die vervolgens uit te schakelen.

Een artikel van Israëlische onderzoeksjournalisten van magazine +972 heeft onder de aandacht gebracht hoe groot de rol van dit systeem zou kunnen zijn. Via openhartige getuigenissen van anonieme oud-officieren en inlichtingenbronnen krijgen we een inkijkje in deze moderne manier van oorlog voeren.

Experts stellen kritische vragen: hoe groot is de rol van AI in het maken van beslissingen over leven en dood? En wie zit er uiteindelijk aan de knoppen: de mens of de machine?

37.000 doelwitten

De data die het systeem gebruikt komen van de vele bronnen en inlichtingen binnen het leger, legt oud-luchtmachtofficier en hoogleraar militaire data science Roy Lindelauf uit. “Dan moet je denken aan geclassificeerde satellietdata, sensoren, maar ook sociale media en telefoonverkeer. Met zulke data kan een systeem een voorspelling maken waar mogelijke doelwitten zitten.”

Op basis van die informatie zouden in totaal ruim 37.000 Palestijnen door Lavender zijn aangemerkt als Hamas-verdachte of potentieel doelwit.

“Ik had als mens geen toegevoegde waarde, behalve dat ik een stempel van goedkeuring was”

Het Lavender-systeem werd twee weken na het begin van de oorlog geïntroduceerd, zo stelt het onderzoek van +972. Eerst moesten inlichtingendiensten handmatig oefenen om te kijken of het systeem geen fouten maakte. Toen het erop leek dat Lavender voor 90 procent accuraat was in het identificeren van Hamas-strijders, zou het leger het ja-woord hebben gegeven voor algemeen gebruik van de AI-machine.

Snel en effectief

En dat bespaarde veel tijd, zo zeggen anonieme oud-officieren. “Over elk doel zou ik 20 seconden doen, en dat dan tientallen keren per dag. Ik had als mens geen toegevoegde waarde, behalve dat ik een stempel van goedkeuring was.”

Reactie Israël:

In een gepubliceerde reactie van Israël doet het leger de getuigenissen in het onderzoek af als valse beschuldigingen. Wel erkent Israël het gebruik van AI, maar dan puur als ondersteuning en ‘niet om mensen te identificeren of om te voorspellen of een persoon een terrorist is’. Het ‘systeem’ waaraan het onderzoek refereert, zo zegt de verklaring, ‘is geen systeem maar eenvoudigweg een database’.

Het Israëlische leger heeft in eerdere berichten het Lavender-systeem niet officieel bij naam genoemd. Wel vertelde de oud-stafchef van het leger Aviv Kohavi over het gebruik van een ‘snelle effectieve machine, sneller dan welk mens dan ook’. Dat zei hij in een interview met nieuwssite Ynet. Die machine vertaalde data in ‘uitvoerbare doelwitten’, zei Kohavi.

Dat zijn heel zorgvuldige en accurate processen, legt hoogleraar Lindelauf uit. “Een AI-systeem kan technisch gezien veel betere berekeningen maken dan een mensenoog. Mensen raken vermoeid, zijn langzamer en maken sneller fouten.”

Zo zegt ook een anonieme getuige tegen +972: “Ik vertrouw het statistisch gestuurde systeem veel meer dan het oordeel van een soldaat die net twee dagen geleden een kameraad heeft verloren.” De machine zoekt en vindt op een berekenende manier, en maakt geen beslissingen uit eventuele onderbuikgevoelens.

“Het proces van het uitschakelen van mensen ligt heel gevoelig”

Maar waarom voelt het gebruik van zo’n AI-machine in het leger dan toch zo ongemakkelijk? “Het proces van het uitschakelen van mensen ligt heel gevoelig”, zegt Lindelauf. “Je moet je goed afvragen hoe je het proces precies inricht, zodat je als mens altijd verantwoordelijk blijft. Je moet een officier verantwoordelijk kunnen stellen als bijvoorbeeld de datavalidatie niet in orde is.”

Daarom is het belangrijk dat een persoon zicht houdt op die beslissingen. En dat is precies datgene waar experts zich nu zorgen over maken. Zij zien het ongekende tempo waarin het leger van Israël bommen gooit op Gaza, met name tijdens de beginweken van de oorlog. Je kunt je daarbij afvragen of een menselijk oog al die doelwitten heeft kunnen bijhouden.

De verwoesting in de Gazastrook is enorm. Inmiddels is 62 procent van alle huizen en gebouwen beschadigd of vernietigd, blijkt uit de laatste cijfers van UNRWA, de grootste VN-hulporganisatie in Gaza. Bijna 34.000 mensen zijn gedood door bommen en explosies, onder wie meer dan 13.000 kinderen. En het offensief is nog niet voorbij: de Israëlische premier Netanyahu wil Hamas in de Gazastrook totaal ‘vernietigen’, zegt hij bijna wekelijks.

Hoog tempo, grote schaal

“Het AI-systeem heeft in het Israëlisch leger gezorgd voor een schaalvergroting”, zegt Lindelauf. Je kunt niet klakkeloos beweren dat alle bommen machinegestuurd zijn; het leger van Israël is immers erg groot. Maar de getuigenissen in het onderzoek van +972 geven een inkijkje in hoe groot de rol is.

“Je wilt geen dure bommen verspillen aan onbelangrijke mensen”

Zo legt een Israëlische oud-officier uit: “Een mens moest het doelwit slechts binnen een paar seconden verifiëren. We controleerden alleen of het doelwit een man was of niet – en dat was genoeg.”

Daarnaast ging de lat omlaag, zeggen de bronnen. Ook laaggeplaatste Hamas-strijders zouden koste wat kost gedood worden. “Het was voor mij heel verrassend dat ons werd gevraagd een huis te bombarderen om een ​​’grondsoldaat’ te doden, wiens belang in de gevechten zo laag was”, zegt een bron. “Ik noemde die doelen ‘vuilnisdoelen’.”

Een huis bombarderen betekent veel potentiële burgerdoden. “Als een minder belangrijk doelwit in een gebouw met slechts een paar verdiepingen woonde, had het leger toestemming om hem en iedereen in het gebouw te doden”, zegt een bron. Daarbij zouden de militairen geen dure precisiebommen gebruiken, maar allesverwoestende goedkopere bommen. “Je wilt geen dure bommen verspillen aan onbelangrijke mensen.”

‘AI niet de boosdoener’

De getuigenissen in het onderzoeksartikel worden tegengesproken door Israëlische autoriteiten, maar het gebruik van AI niet. Hoogleraar Lindelauf waarschuwt ervoor om kunstmatige intelligentie nu als enge boosdoener te zien van het conflict.

“Zulke ondersteuning heeft veel positieve kanten. Maar we moeten onthouden dat machines net als mensen ook fouten kunnen maken.” De juiste manier om daarmee om te gaan volgens Lindelauf: “We moeten er transparant over blijven.”