Unesco Vlaanderen Unesco Vlaanderen

Eerste ethisch kader voor de ontwikkeling van kunstmatige intelligentie

Gepubliceerd op 29/11/2021 door Unesco Platform Vlaanderen

Tijdens de Algemene Conferentie hebben de lidstaten van Unesco op 24 november 2021 de allereerste wereldwijde norm over de ethiek van kunstmatige intelligentie (artificial intelligence, AI) aangenomen.

De aanbeveling definieert de gemeenschappelijke waarden en principes die als leidraad zullen dienen voor de bouw van de noodzakelijke juridische infrastructuur om een gezonde ontwikkeling van AI te waarborgen.

AI is alomtegenwoordig en maakt veel van onze dagelijkse routines mogelijk: vluchten boeken, auto's zonder bestuurder laten rijden en onze ochtendnieuwsfeeds personaliseren. AI ondersteunt ook de besluitvorming van overheden en de private sector.

AI-technologieën leveren opmerkelijke resultaten op in zeer gespecialiseerde gebieden zoals kankerscreening en het bouwen van inclusieve omgevingen voor mensen met een handicap. Ze helpen ook mondiale problemen zoals klimaatverandering en honger in de wereld te bestrijden, en helpen armoede te verminderen door de economische hulp te optimaliseren.

Maar de technologie brengt ook nieuwe ongekende uitdagingen met zich mee. We zien toenemende gender- en etnische vooroordelen, significante bedreigingen voor privacy, waardigheid en handelingsvermogen, gevaren van massasurveillance en toenemend gebruik van onbetrouwbare AI-technologieën bij wetshandhaving, om er maar een paar te noemen. Tot nu toe waren er geen universele standaarden om op deze vraagstukken een antwoord te geven.

De inhoud van de aanbeveling

De aanbeveling heeft tot doel de voordelen die AI voor de samenleving biedt, te realiseren en de risico's die ermee gepaard gaan te verminderen. Het zorgt ervoor dat digitale transformaties mensenrechten bevorderen en bijdragen aan het behalen van de Duurzame Ontwikkelingsdoelen, waarbij kwesties rond transparantie, verantwoordingsplicht en privacy worden aangepakt, met actiegerichte beleidshoofdstukken over gegevensbeheer, onderwijs, cultuur, arbeid, gezondheidszorg en de economie.

Gegevens beschermen

De aanbeveling roept op tot actie die verder gaat dan wat technologiebedrijven en overheden doen om individuen meer bescherming te garanderen door te zorgen voor transparantie, autoriteit en controle over hun persoonlijke gegevens. Er staat in dat individuen allemaal toegang moeten hebben tot hun persoonlijke gegevens of deze zelfs moeten kunnen wissen. Het omvat ook acties om de gegevensbescherming en de kennis van en het recht op controle over de eigen gegevens te verbeteren. Het vergroot ook het vermogen van regelgevende instanties over de hele wereld om dit af te dwingen.

Social scoring en massasurveillance verbieden

De aanbeveling verbiedt expliciet het gebruik van AI-systemen voor sociale scores en massasurveillance. Dit soort technologieën zijn zeer invasief, ze schenden de mensenrechten en fundamentele vrijheden, en ze worden op een brede manier gebruikt. In de aanbeveling wordt benadrukt dat de lidstaten bij het ontwikkelen van regelgevingskaders er rekening mee moeten houden dat de uiteindelijke verantwoordelijkheid en aansprakelijkheid altijd bij de mens moeten liggen en dat AI-technologieën zelf geen rechtspersoonlijkheid mogen krijgen.

Helpen bij het monitoren en evalueren

De aanbeveling legt ook de basis voor instrumenten die zullen helpen bij de uitvoering ervan. Ethical Impact Assessment is bedoeld om landen en bedrijven te helpen bij het ontwikkelen en inzetten van AI-systemen om de impact van die systemen op individuen, de samenleving en het milieu te beoordelen. Readiness Assessment Methodology helpt de lidstaten om te beoordelen hoe klaar ze zijn op het gebied van juridische en technische infrastructuur. Dit instrument zal helpen bij het versterken van de institutionele capaciteit van landen en passende maatregelen aanbevelen die moeten worden genomen om ervoor te zorgen dat ethiek in de praktijk wordt toegepast. Daarnaast moedigt de aanbeveling de lidstaten aan om een onafhankelijke AI Ethics Officer of een ander mechanisme in te voeren om toezicht te houden op audits en voortdurende monitoring.

Het milieu beschermen

In de aanbeveling wordt benadrukt dat AI-actoren de voorkeur moeten geven aan gegevens-, energie- en hulpbronnenefficiënte AI-methoden die ervoor zullen zorgen dat AI een prominenter instrument wordt in de strijd tegen klimaatverandering en bij het aanpakken van milieukwesties. De aanbeveling vraagt regeringen om de directe en indirecte milieu-impact gedurende de levenscyclus van het AI-systeem te beoordelen. Dit omvat de ecologische voetafdruk, het energieverbruik en de milieu-impact van de winning van grondstoffen voor de productie van AI-technologieën. Het is ook gericht op het verminderen van de milieu-impact van AI-systemen en data-infrastructuren. Het stimuleert regeringen om te investeren in groene technologie, en als er een onevenredig negatief effect is van AI-systemen op het milieu, staat in de aanbeveling dat ze niet mogen worden gebruikt.

Opkomende technologieën zoals AI zullen niet meer verdwijnen. De negatieve effecten ervan, die reeds bestaande verdeeldheid en ongelijkheid doen toenemen, moeten echter worden beheerst. AI-ontwikkelingen moeten zich houden aan de rechtsstaat, schade voorkomen en ervoor zorgen dat wanneer schade zich voordoet, er verantwoordings- en verhaalmechanismen beschikbaar zijn voor de getroffenen.