Unesco stelt een nieuwe beleidsnota voor. Daarin houdt ze de populaire chatbot ChatGPT tegen het licht van haar Aanbeveling over de ethiek van kunstmatige intelligentie. Blijkt dat de ontwikkelaars verschillende principes van de aanbeveling onvoldoende respecteren.
ChatGPT is een chatbot waarmee je in gesprek kan gaan als je antwoorden zoekt rond een bepaald onderwerp. Je kan er ook opdrachten aan geven, zoals een tekst schrijven, een samenvatting maken, computercode schrijven of ingewikkelde rekensommen oplossen. Het is een exponent voor het snel groeiend aanbod van zogenoemde generatieve AI-tools die teksten, beelden, geluid enz. kunnen creëren die er voordien niet waren.
De technologie heeft een enorm potentieel maar de bezorgdheden errond nemen toe. Niet alleen vertoont de technologie een aantal gebreken, kwaadwillig gebruik ervan zou grote schade kunnen berokkenen. Daarom houdt Unesco in een nieuwe beleidsnota ChatGPT tegen het licht van haar Aanbeveling over de ethiek van kunstmatige intelligentie. Zo wil ze alle betrokkenen en belanghebbenden de weg wijzen naar een meer ethische ontwikkeling en benadering van kunstmatige intelligentie (of artificiële intelligentie, AI). De bevindingen in de nota zijn ook van toepassing op andere AI-tools.
De beleidsnota toetst ChatGPT af aan de principes van Unesco’s Aanbeveling over de ethiek van kunstmatige intelligentie. Hij stoot op een aantal tekortkomingen en risico’s waarmee ontwikkelaars en beleidsmakers aan de slag moeten met de aanbeveling als leidraad.
De beleidsnota stipt een aantal werkpunten aan, waaronder:
- Ervoor zorgen dat de resultaten geen stereotiepen over ras, geslacht of godsdienst weergeven.
- Meer inzetten op culturele en taaldiversiteit.
- Investeren in bijscholing en herscholing van werknemers.
- Meer transparantie bieden over de gegevens waarop de modellen zich baseren en hoe ze tot hun resultaten komen.
- Meer duidelijkheid bieden over het feit dat de modellen de accuraatheid van de informatie die ze produceren niet kunnen garanderen.
- Meer inzetten op veiligheid en het tegengaan van misbruik van de technologie.
- Meer inzetten op privacy en gegevensbescherming.
- Meer aandacht besteden aan de impact op het milieu.
- Nadenken over de impact van de technologie op het onderwijs en het wetenschappelijk onderzoek.
De snelle opmars en ontwikkeling van generatieve kunstmatige intelligentie toont aan dat het hoog tijd is om werk te maken van het versterken van de ethische reflex bij ontwikkelaars en van afspraken en regels voor de ontwikkeling van de technologie in lijn met Unesco’s Aanbeveling over de ethiek van kunstmatige intelligentie.
