"Ethiek in AI, waarschijnlijk een van de meest onderzochte onderwerpen op Google op het gebied van artificiële intelligentie. En als je die 3 sleutelwoorden intypt op de beroemde zoekmachine, komt het woord "probleem" 7 keer voor op de eerste pagina van de onderzoeksresultaten. Ethiek wordt inderdaad vaak geassocieerd met het semantische veld "bezorgdheid". Hoe komt dat? Om deze interessante vraag te illustreren, geef ik als voorbeeld de volgende analogie: ethiek is voor de ontwikkeling van AI wat duurzaamheid is voor een commercieel project - uitdagingen worden eerder gezien als problemen dan als kansen. Als we kijken naar de uitdaging van duurzaamheid, zijn velen in de valkuil van greenwashing getrapt. Ze hebben simpelweg het idee van duurzaamheid geopperd in plaats van het nieuwe perspectief te zien als een echte springplank voor een paradigmatische verandering voor onze economie en samenleving.

Hoe zit het met AI-ethiek? Is het meer dan het nieuwe trendy onderwerp?

Eerst iets anders: wat is AI? Wat is ethiek?

Voordat we in ethische overwegingen duiken, moeten we het eerst eens worden over de definitie van AI. In het collectieve bewustzijn is de term AI opgebouwd uit feiten en angsten die verweven zijn met imaginaire, wetenschappelijke (en) fictie, waardoor een soort mythe is ontstaan die slechts in de verte lijkt op wat AI werkelijk is. De moeilijkheid om het begrip AI te vatten vormt een belemmering voor het begrip van de verschillende vormen die AI in de praktijk kan aannemen, wat niet bijdraagt aan een klimaat van vertrouwen. In de context van dit blogartikel zullen we het overkoepelende woord "AI" beperken tot machine learning.

Het tweede punt dat we moeten bespreken is het begrip "ethiek". Er is niet één manier om ethiek te definiëren. Van de vele definities zullen we die volgens welke ethiek als volgt wordt beschouwd aanhouden: "Een verzameling morele principes die het gedrag van een persoon of het uitvoeren van een activiteit bepalen".^[1]".

Afgezien van wat wel of niet als moreel moet worden beschouwd, onderstreept de definitie hier goed het idee dat morele principes aan de basis liggen van gedragingen en beslissingen. Met andere woorden, de kern van de ethische benadering is om te proberen morele kwesties aan te pakken die kunnen ontstaan door de opkomst van AI.

Waarom zouden we ons zorgen maken over ethiek in AI?

Eén reden waarom ethiek belangrijk is, is omdat een actieve en bewuste reflectie erover bijdraagt aan de ontwikkeling van een betrouwbare relatie met AI. Een andere reden is dat de interactie die een machine kan hebben met mensen, hoewel niet specifiek voor AI, veel verschillende kwesties beïnvloedt (veiligheid, autonomie, risico, verantwoordelijkheid, enz.) waardoor een duidelijke ethische reflectie noodzakelijk is. Ethiek is belangrijk omdat een ethische reflectie het mogelijk maakt om te anticiperen op de bovengenoemde mogelijke problemen.

Als we het eens zijn over de noodzaak om ethiek in overweging te nemen, kunnen we ons afvragen waarom het belangrijker is op het gebied van AI dan op elk ander IT-gebied? Dat komt omdat een machine-leeralgoritme ertoe gebracht kan worden beslissingen te nemen of acties te ondernemen die tegen de ethiek van zijn maker ingaan en onafhankelijk zijn van zijn/haar wil. Deze factor "onafhankelijkheid" die een grote kans op "onbewuste afwijkingen" veroorzaakt, is echt specifiek voor AI en maakt ethiek tot een cruciaal punt in de hele opzet van een AI-project.

De ethische richtlijnen voor betrouwbare AI: een eerste stap

Iets meer dan een jaar geleden heeft de Europese Commissie met de hulp van een groep experts (High-Level Expert Group on Artificial Intelligence) richtlijnen opgesteld die de opkomst van betrouwbare AI mogelijk moeten maken. Hoewel de ethische reflectie over kunstmatige intelligentie nog niet is afgerond en er nog een lange weg te gaan is, biedt het werk van de Commissie om de weg vrij te maken een startpunt voor een reflectie over ethiek en AI. Ze hebben drie componenten geïdentificeerd die nodig zijn voor betrouwbare AI: rechtmatigheid, ethiek en robuustheid. De benadering van de Europese Commissie is holistisch en ziet deze drie aspecten als één geheel. Maar wat valt er onder elk van deze lagen? In dit artikel richten we ons alleen op ethiek.

De Europese richtlijnen suggereren vier ethische principes waarmee rekening moet worden gehouden bij het ontwerpen, implementeren en inzetten van een AI-toepassing:

• Het principe van respect voor menselijke autonomie
• Het principe van schadepreventie
• Het principe van eerlijkheid
• Het principe van verklaarbaarheid

Principe van respect voor menselijke autonomie: Volgens dit beginsel moeten mensen die met AI interageren de volledige controle over hun eigen beslissingen kunnen behouden. Daarom moeten AI-systemen volgens dit principe worden ontworpen om menselijke capaciteiten te ondersteunen en aan te vullen.

Principe van schadepreventie: bij het ontwerp van een AI-systeem moet er rekening mee worden gehouden dat het geen negatieve invloed mag hebben op mensen, noch fysiek, noch moreel. Hiermee moet nog meer rekening worden gehouden wanneer een AI-systeem handelt in een asymmetrische relatie (werknemer-werkgever; burger-staat; rechter-preventief; etc.).

Eerlijkheidsprincipe: Of een AI-systeem nu ontwikkeld of ingezet wordt, het moet eerlijk zijn. Dit betekent dat het systeem vrij moet zijn van oneerlijke vooroordelen (die discriminatie of stigmatisering veroorzaken).

Beginsel van verklaarbaarheid: Transparantie moet het sleutelwoord zijn in de conceptualisering van een AI-product/dienst. Dit impliceert communicatie over de mogelijkheden van AI, maar ook over de doelstellingen die worden nagestreefd, de beslissingen die worden genomen, enz.

"Ethiek en AI van theorie tot toepassing

Een van de grote vragen die onbeantwoord blijft bij de High-Level Expert Group on Artificial Intelligence van de Europese Commissie is hoe van principe naar actie te komen? Ik kan me voorstellen dat sommigen van jullie denken "waarom al deze vragen stellen terwijl de Europese richtlijnen glashelder lijken te zijn?". Maar zijn ze dat ook?

Ralph Waldo Emerson zei ooit "An ounce of action is worth a ton of theory". De Europese richtlijnen zijn nodig om te begrijpen waar het om gaat en wat dat betreft doen ze goed werk! Ze hebben onlangs een platform gelanceerd^[2] (dat nog een prototype is) dat bedrijven moet helpen om te gaan met ethische kwesties in de context van AI. Toch missen al deze inspanningen een basis in de realiteit. De complexiteit van de realiteit vereist meer dan theoretische kennis, het vereist concrete acties (en niet in het bijzonder een lange lijst van acties geschreven in een zogenaamd "AI-lingo"). Eenvoudige, concrete acties zouden genoeg kunnen zijn om mee te beginnen. Maar wat zou mogelijk de eerste steen kunnen zijn om te leggen?

Ik zou willen voorstellen om, zoals we bij B12 hebben gedaan, te beginnen met "het gesprek". Ik moet toegeven dat het tegenintuïtief is om ethiek in ons dagelijks werk te bespreken. We leren dit niet op school en we worden niet aangenomen vanwege onze ethische vaardigheden. Maar we hebben allemaal zaken waar we voor staan, waarden waar we naar leven en keuzes die we liever niet maken, wat betekent dat we allemaal een persoonlijke ethiek hebben. In kleine groepen samenkomen en bespreken waar je als AI-professional voor zou staan, naar welke waarden je zou willen leven als datawetenschapper en op welke keuzes je voorbereid zou willen zijn, is de eerste steen die je moet leggen om van theorie tot actie te komen. Verschillende tools kunnen je helpen om het gesprek op gang te brengen. MIT heeft gewerkt aan AI Blindspot Cards om gesprekken mogelijk te maken "die kunnen helpen bij het blootleggen van potentiële blindvlekken tijdens het plannen, bouwen en inzetten van AI-systemen".

Bij B12 werken we momenteel aan de ontwikkeling van een framework voor ethische reflectie. Dit framework omvat verschillende onderwerpen en vragen die aan bod moeten komen wanneer je aan een AI-systeem werkt. "Wat moet worden beschouwd als representatieve gegevens?"; "Heb je de gebruiker geïnformeerd over de mogelijke vooroordelen van je algoritme?"; "Zal de AI-oplossing uitlegbaar zijn voor de eindgebruiker?"; ... Dit zijn maar een paar van de vragen die we onszelf wilden stellen.

Een andere concrete en praktische stap: samenwerking. Het bereiken van ethische AI gaat hand in hand met een multidisciplinaire samenwerking. De sleutel tot een effectieve implementatie van een ethische reflectie ligt in het inzicht dat potentiële oplossingen niet in handen zijn van één kant van het AI-ontwikkelingsproces, maar in handen zijn van een grotere groep specialisten die verantwoordelijk zijn voor het collectief nadenken over AI vanuit hun verschillende expertisegebieden.

Een van de belangrijkste obstakels voor deze samenwerking is de "taalkloof" die tussen disciplines kan bestaan. Om de uitdaging van het "vertalen" aan te gaan, moet er tijdens het bouwen van een AI-toepassing regelmatig uitwisseling plaatsvinden tussen verschillende actoren. Hoewel data scientists misschien in het middelpunt van het proces staan, hebben ontwikkelaars, ontwerpers, relatiebeheerders, juristen enzovoort ook hun zegje te doen. Een andere manier om dit te verwoorden is door proactief ruimte te maken aan de discussietafel. Waar je normaal gesproken een datawetenschapper, twee ontwikkelaars en een projectmanager opstelt, wat dacht je ervan om er nog een speler bij te zetten? Als je AI-systeem bijvoorbeeld bedoeld is om de efficiëntie van een werkend team te verbeteren, waarom zet je dan niet je human resource manager aan de lijn? Als je AI-systeem gemaakt is om gynaecologen te helpen in hun dagelijkse praktijk, heb je dan aandacht besteed aan de aanwezigheid van ten minste één vrouw in het team?

Door samen te werken komt ieders expertise en individualiteit in het spel. Wat heeft dit met AI te maken? We hebben waarschijnlijk allemaal wel eens gehoord van de term "garbage in, garbage out", die betrekking heeft op de kwaliteit van de gegevens die worden gebruikt om het AI-algoritme te "voeden". Als het belangrijk is hoe je je AI-systeem voedt, dan is het ook belangrijk hoe je het bouwt en wie het bouwt. De rijkdom en diversiteit van individuen die deelnemen aan het ontwerpen, implementeren, testen en gebruiken van AI-systemen spelen een belangrijke rol in de samenwerking en dus ook in de ethische reflectie. Als we diversiteit beschouwen in termen van geslacht, achtergrond, kleur, interesses, etc., zijn zaken als oneerlijkheid, bias, schade, menselijke autonomie niet langer theoretische kwesties, maar concrete.

Dit is een van de redenen waarom we er bij B12 op staan een eclectisch team te hebben dat uit verschillende vaardigheden bestaat. Hier hebben data scientists en ik elkaar leren begrijpen door te debatteren over praktische zaken die we tegenkomen in onze projecten of trendy vragen met betrekking tot de wetgeving in onze sector (Kan ik deze database gebruiken? Is deze database divers genoeg? Welke vertekeningen kunnen we verwachten bij het gebruik van deze gegevens?) Bij B12 zijn we ervan overtuigd dat elk standpunt telt en dat we iets van elkaar kunnen leren. Daarom hechten we veel waarde aan samenwerking en collectieve intelligentie (meer daarover hier: https://www.b12-consulting.com/how-did-collective-intelligence-help-us-in-our-management-of-the-COVID-19-crisis.html).

Meer dan dat, we geloven dat samenwerking de kruising zal zijn tussen AI en ethiek die zal leiden tot het bereiken van een ethische AI.

"Ethiek en AI: een probleem of een kans?

Machine learning, of AI-systemen zoals we het hier noemen, hebben de potentie om verder te gaan dan het beoogde doel van de maker, ten goede en ten kwade. Dit is precies de reden waarom AI-ethiek belangrijk is. Daarom wil ik een aantal praktische manieren benadrukken om ethiek in de context van AI een concrete dimensie te geven: het bespreken van en samenwerken aan AI-ethische kwesties is net zo belangrijk als de AI-technologie die je bouwt en zou daarom een integraal onderdeel moeten worden van een AI-projectflow.

De kern van dit artikel was erop te wijzen hoe ethiek ons een echte kans biedt om ons perspectief uit te dagen en ethiek te zien als een gelegenheid om verder te gaan dan theorie en een AI-ecosysteem te bouwen dat rekening houdt met de diversiteit en complexiteit van onze samenleving. Is ethiek meer dan het nieuwe trendy verbloemde onderwerp? Ja! Ethiek op het gebied van AI is een nieuwe kans om AI-systemen te bouwen die vandaag zinvol zijn voor morgen.

Bij B12 willen we deze kans grijpen, en jij?

1. ^[1]
2. Oxford woordenboek op Lexico, "Ethiek". ︎
3. ^[2]
4. ALTAI platform ︎