Google werkt samen met Pentagon, maar niet iedereen is daar blij mee

Veel medewerkers van Google zijn verontrust over de samenwerking van de internetgigant met het Pentagon, het Amerikaanse ministerie van Defensie. Google stelt kennis over artificiële intelligentie ter beschikking voor de analyse van drone-beelden. "Google komt te dicht bij de oorlogs­industrie en dat kan niet", luidt het in een petitie die al door 4.000 werknemers ondertekend is.

"Don't be evil", wees niet boosaardig, is al jaren de bedrijfsslogan bij Google. Veel medewerkers van de internetgigant nemen die slogan blijkbaar ter harte en hebben in een petitie hun ongenoegen geuit over de samenwerking die Google en het Pentagon, het Amerikaanse ministerie van Defensie, drie maanden geleden aangegaan zijn.

Waar gaat het over? In Project Maven stelt Google kennis en technologie over artificiële intelligentie (AI) ter beschikking van het Pentagon. Het zet zelflerende software in bij de interpretatie van videobeelden die gemaakt zijn door militaire drones. Dat maakt het eenvoudig om beelden sneller te classificeren op de aanwezigheid van mensen of voorwerpen, en om mensen van voorwerpen te onderscheiden. Dat zijn data die op termijn gebruikt zouden kunnen worden om bijvoorbeeld te kunnen bepalen wie er gedood moet worden tijdens een missie.

"Google hoeft zich niet in te laten met oorlogsindustrie"

De medewerking van Google leidt tot onrust binnen het bedrijf. Enkele maanden geleden begon een interne petitie te circuleren die intussen al door meer dan 4.000 mensen ondertekend is. Ze vinden dat Google zich door zijn medewerking te dicht waagt bij rechtstreekse oorlogsvoering. Daar mogen geen algoritmes voor worden ingezet, is de boodschap.

De tekst van de petitie is ook al verstuurd naar topman Sundar Pichai. "We zijn van mening dat Google zich niet hoeft in te laten met oorlogsindustrie. We vragen dat Project Maven stopgezet wordt en dat Google een duidelijke beleidslijn opmaakt waarin het klaar en duidelijk zegt dat noch Google noch zijn onderaannemers ooit oorlogstechnologie zullen ontwikkelen."

Volgens de toonaangevende technologiewebsite Gizmodo hebben intussen al 12 medewerkers ontslag genomen vanwege het project. Ze halen aan dat Google veel minder transparant is dan vroeger over controversiële beslissingen en ook veel minder openstaat voor tegenkanting van het personeel.

Google: "Alleen defensief gebruik"

Veel details over Project Maven worden niet prijsgegeven. Maar ook buiten Google heerst ongerustheid. Het International Committee for Robot Arms Control (Icrac), de internationale commissie voor de controle op bewapende robots, stuurde begin deze week ook een brief naar de toplui van Google. Met de dringende vraag om Project Maven te beëindigen.

Volgens Icrac is dit de start van een proces dat uiteindelijk zal leiden tot automatische gezichtsherkenning en systemen die vervolgens zelfstandig de keuze maken of er wordt geschoten of niet. "Met dit project raakt Google betrokken bij de twijfelachtige praktijk van gericht doden", luidt het.

Google zelf verdedigde de samenwerking in april door te zeggen dat het gaat om een test. De software zal alleen defensief gebruikt worden en nooit dienen om slachtoffers te maken, zei topvrouw Diane Green toen.

"Pas op voor killer robots"

Drie jaar geleden publiceerde een groep vooraanstaande onderzoekers en experts inzake technologie een open brief waarin ze hun vrees uitspraken voor de ontwikkeling van "killer robots". Ze riepen op om artificiële intelligentie niet in te zetten voor de ontwikkeling van autonome wapens. Onder de honderden ondertekenaars ook Elon Musk (Tesla en SpaceX), Stephen Hawking en Steve Wozniak (Apple).