Unesco lanceert een reeks voorstellen om te komen tot meer gendergelijkheid in toepassingen die gebruik maken van artificiële intelligentie.

Sommigen voorspellen dat het niet lang meer zal duren vooraleer veel mensen meer zullen spreken met hun virtuele assistent dan met hun partner. Momenteel wordt de overgrote meerderheid van dergelijke assistenten – zoals Alexa van Amazon, Cortana van Microsoft en Siri van Apple – voorgesteld als vrouwelijk door hun naam, stemgeluid en 'persoonlijkheid'.

'I'd blush if I could', een nieuwe publicatie van Unesco in samenwerking met de EQUALS Skills Coalition, neemt dit gegeven onder de loep. Blijkt dat de huidige manier van werken van de producenten een aantal problemen stelt op het vlak van gendergelijkheid:

  • Ze weerspiegelt, versterkt en verspreidt gendervooroordelen;
  • Ze maakt seksuele intimidatie en verbaal geweld aanvaardbaar;
  • Ze stuurt een boodschap uit van hoe vrouwen en meisjes zouden moeten reageren op verzoeken en hoe ze zich zouden moeten uiten;
  • Ze maakt vrouwen het 'gezicht' van haperingen en fouten die het gevolg zijn van de beperkingen van hardware en software die voornamelijk door mannen zijn ontworpen.

Geprogrammeerde gendervooroordelen

De titel van de publicatie ('Ik zou blozen als ik kon') verwijst naar het antwoord dat Siri, de vrouwelijke stemassistent van Apple die meer dan een half miljard mensen gebruiken, gaf als een gebruiker 'haar' zei: “Hey Siri, you're a bitch” (“Hey Siri, je bent een teef”). De dienst is gelanceerd in 2011. Pas in april 2019 kwam er een aanpassing van de artificiële intelligentie software achter Siri. Nu geeft de virtuele assistent een meer neutrale “Ik weet niet hoe ik daar moet op antwoorden” reactie op die grove opmerking.

De onderdanigheid van Siri en de slaafsheid van zovele virtuele assistenten die als jonge vrouwen worden voorgesteld, zijn een treffende illustratie van de gendervooroordelen die geprogrammeerd zijn in technologische toepassingen en blijkbaar wijdverspreid zijn in de technologische sector en het onderwijs dat mensen ervoor opleidt.

De publicatie vraagt meer aandacht voor gendergelijkheid in toepassingen die gebruik maken van artificiële intelligentie. Ze vraagt producenten en overheden om:

  • een einde maken aan de praktijk om virtuele assistenten standaard vrouwelijk te maken;
  • onderzoek te voeren naar de haalbaarheid van het ontwikkelen van een neutraal machinegeslacht voor stemassistenten dat mannelijk noch vrouwelijk is;
  • virtuele assistenten te programmeren om op geslacht gebaseerde beledigingen en beledigende taal te ontmoedigen;
  • interoperabiliteit te bevorderen, zodat gebruikers naar wens van virtuele assistenten kunnen veranderen; en
  • vereisen dat toepassingen die gebruik maken van door artificiële intelligentie aangedreven stemassistenten, de technologie aankondigen als niet-menselijk aan het begin van interacties met menselijke gebruikers.

Pleidooi voor meer genderevenwicht

Artificiële intelligentie is alomtegenwoordig. Unesco pleit voor meer genderevenwicht bij de teams die deze technologie ontwikkelen en er toepassingen voor maken. Vrouwen maken slechts 12 procent uit van de onderzoekers die werken rond artificiële intelligentie en slechts 6 procent van de softwareontwikkelaars. Het is 13 keer minder waarschijnlijk dat een vrouw een patent voor informatie- en communicatietechnologie (ICT) indient dan een man. Het aanpakken van ongelijkheden tussen mannen en vrouwen op het vlak van artificiële intelligentie moet beginnen met meer gendergelijkwaardige opleiding en training. De publicatie formuleert een reeks aanbevelingen om daaraan te werken.

Paradox

Tot slot belicht de publicatie een nieuwe en paradoxale bevinding: landen die hoger scoren op indexen voor gendergelijkheid, zoals die in Europa, hebben de minste vrouwen die de geavanceerde vaardigheden nastreven die nodig zijn voor een loopbaan in de technologiesector. Omgekeerd hebben landen met een lager niveau van gendergelijkheid, zoals die in de Arabische regio, het grootste percentage vrouwen die geavanceerde technologiediploma's behalen. Ter illustratie: in België is slechts 6 procent van de ICT-afgestudeerden vrouw, terwijl dit in de Verenigde Arabische Emiraten 58 procent is. Deze paradox wordt in detail onderzocht en onderstreept de noodzaak van maatregelen om meer vrouwen in alle landen warm te maken voor opleidingen digitale vaardigheden.