Doorbraak Artificial Intelligence vraagt om Ethics by Design
“Je kunt ethiek er niet als een USB-stick inpluggen.”
In discussies over de toepassing van Artificial Intelligence (AI) gaat het steeds vaker over ‘Ethics by Design’. Wat we daar precies onder moeten verstaan, vroegen we aan dé Nederlandse specialist op dit gebied: de Delftse professor Jeroen van den Hoven. Zijn stelling: “Waar het om draait is dat je ethische discussies niet alleen voert bij een glas rode wijn op vrijdagavond, maar dat je ze ook op maandagochtend in de organisatie digitaal handen en voeten kunt geven.”
Jeroen van den Hoven is hoogleraar Ethiek en Techniek aan de TU Delft. Al meer dan dertig jaar houdt hij zich bezig met ethische en maatschappelijke vraagstukken rondom computers en digitale technologie. Hij geeft leiding aan het Delft Digital Ethics Centre (www.tudelft.nl/digitalethics ) en is daarnaast permanent lid van het adviescollege European Group on Ethics (EGE). Dit college adviseert de voorzitter van de Europese Commissie op het gebied van ethiek in relatie tot innovatie en nieuwe technologie.
Jeroen, wat is Ethics by Design nou precies?
“Ethics by Design is de vertaling van abstracte ethische overwegingen en morele waarden naar requirements voor het ontwerp van diensten, producten, artefacten, systemen en architectuur. Iedereen vindt ethiek erg belangrijk, maar de toepassing in de praktijk is vaak erg onduidelijk. Het gevolg kan zijn dat het ingewikkeld is om transparant verantwoording af te leggen over hoe jouw ethische uitgangspunten het verschil hebben gemaakt voor een specifieke dienst of product. Het is de kunst om die abstracte waarden en noties op een aannemelijke en navolgbare wijze te vertalen naar gedetailleerde vereisten. Dat is Ethics by Design: de uitwerking van morele waarden en overwegingen in termen van requirements. Bijvoorbeeld als het gaat om het eerlijke karakter van een algoritme. Of om het mitigeren van risico’s rond de kwaliteit, de herkomst en het beheer van data. Waar het om draait is dat je ethische discussies niet alleen voert bij een glas rode wijn op vrijdagavond, maar dat je ze ook op maandagochtend in de organisatie handen en voeten kunt geven. Van abstract en algemeen naar concreet en specifiek. Als je niet vroegtijdig, expliciet, transparant en stelselmatig over fundamentele waarden in het ontwerp nadenkt, zullen ze daarin ook geen plaats krijgen. Of zullen anderen van de gelegenheid gebruik maken om de technologie met hun eigen waarden en ideeën te laden.”
Kun je een voorbeeld noemen waar Ethics by Design nu al een grote rol speelt?
“Het beste voorbeeld komt in mijn ogen van de Wereldgezondheidsorganisatie. Al in 2021 heeft de WHO gepubliceerd over het verantwoord gebruik van AI in de gezondheidszorg. Dit jaar is daar een rapport over large language models en generative AI bij gekomen. De WHO beseft: dit is de weg voorwaarts en Ethics by Design moet daar onderdeel van zijn. Noem het medische ethiek 2.0. De ontwikkelingen gaan ook zo razendsnel. Netflix heeft er drieënhalf jaar over gedaan om een miljoen gebruikers aan zich te binden. ChatGPT had maar een dag of vijf nodig om die hoeveelheid user engagement te realiseren. Als we richting willen geven aan deze zich absurd snel ontwikkelende technologie, moeten we er zo vroeg mogelijk bij zijn. In de ontwerpfase dus. De samenleving krijgt tegenwoordig in belangrijke mate vorm door middel van digitale technologie. Cruciale sectoren en instituties ontwikkelen zich aan de hand van diensten en producten van Amerikaanse Big Tech bedrijven, geladen met de waarden van Silicon Valley. De Europese Commissie probeert het initiatief terug te krijgen met verregaande wet- en regelgeving, waarin Europese waarden voorop staan. Bijvoorbeeld op het gebied van mededinging, digitale diensten, privacy en AI. We zullen moeten afwachten hoe succesvol dat uitpakt.”
Welke verantwoordelijkheden brengt dat met zich mee?
“Omdat ethiek steeds belangrijker wordt, moet je als organisatie in staat zijn om productief en constructief met ethische issues om te gaan. Niet alleen in de private, maar ook in de publieke sector. Rond de discussie over de toeslagenaffaire stond heel Den Haag bijvoorbeeld bol van discussies over wat de menselijke maat wordt genoemd. Maar wat houdt die menselijke maat in de praktijk nu eigenlijk precies in? Wat betekent het bijvoorbeeld voor de data-toepassingen van uitvoeringsorganisaties?
Daar moeten bedrijven en instellingen concreet invulling aan geven, inclusief toetsen, testen en valideren. Niet één keer in de vijf jaar, maar continu. In Den Haag is daar bij menig departement en bij veel uitvoeringsorganisaties terecht grote belangstelling voor. Het besef groeit dat ze de vaardigheden moeten hebben om ethische vragen en problemen op te lossen. Dus niet door ze te reduceren tot louter technische, financiële of organisatorische aspecten.”
Zie je ook gevaren die de technologische vooruitgang kan veroorzaken?
“Zeker. Zo zien we dat mensen meer manipuleerbaar worden, vanwege onder andere deep fakes die voor polarisatie in de samenleving zorgen. Zeker in verkiezingstijd, maar ook daarbuiten, worden overal pogingen ondernomen om de democratie te ondermijnen. Dat zijn vanzelfsprekend grote bedreigingen voor alles wat ons dierbaar is, ook al hebben we dat in de grondwet vastgelegd. Van bedrijven wordt gevraagd dat ze aan de goede kant staan en snappen wat dat voor hun business betekent. Bijvoorbeeld in hun omgang met price targeting, price gauging en flexible pricing. En andere AI tools waarmee je de maximale hoeveelheid geld uit een consument kunt persen. Dat gaat heel wat verder dan een eenvoudige verleidingstechniek als snoepgoed bij de kassa.”
Hoe zal Ethics by Design gaan evolueren?
“Het zal uitgroeien tot een belangrijk instrument in de gereedschapskist van de governance van digitale technologie. We hebben natuurlijk de bestaande wet- en regelgeving en een heel arsenaal aan juridische instrumenten. Ethics by Design voegt daar iets aan toe. Het moet zijn plek nog vinden, ook als onderdeel van de corporate governance in organisaties. Dat wordt misschien nog wel een gevecht, want je kunt ethiek er natuurlijk niet als een USB-stick inpluggen. We zullen moeten specificeren welke plaats ethiek in het organogram inneemt en hoe het zich verhoudt tot bestaande functies. Denk aan functionarissen die zich bezighouden met cybersecurity, gegevensbescherming en public affairs. Die discussie zal uiteindelijk uitmonden in de ontwikkeling van standaarden, normen en best practices.”
Welk menstype moet ermee aan de slag, wil er een link met de business zijn?
“Het is een zeer multidisciplinair aandachtsgebied. Toekomstige opleidingen business administration of public administration, met nadruk op digitaal en ethiek, zullen in die competenties gaan voorzien. Ethics by Design zal een vanzelfsprekend onderdeel van dergelijke opleidingen worden. Je moet verstand hebben van technologie, maar ook van filosofie en het relevante recht. En je moet conceptueel flexibel zijn in combinatie met een filosofische instelling.”
“Er dreigt een digitale klimaatverandering als we niet oppassen.”
Heb je nog een afsluitende gedachte?
“Er dreigt een digitale klimaatverandering als we niet oppassen. Onze sociale, culturele en persoonlijke belevingswereld zal ingrijpend veranderen als gevolg van wat Big Tech aan AI over ons uitstort. Dit gaat fundamentele veranderingen teweegbrengen, waarvan we nu nog maar een fractie begrijpen. We zien alleen het topje van een zeer snel smeltende ijsberg. Dat is overigens geen reden om lijdzaam toe te kijken. Ook daar zijn de lessen van klimaatverandering van toepassing. Ben je als bedrijf gewoon veertig jaar doorgegaan met het oppompen van olie, of heb je jezelf afgevraagd: wat kan ik anders doen? Dus de vraag 'Aan welke kant sta je?' wordt wel een heel relevante in de komende jaren.”
