Toezicht op algoritmes? Dat is er allang

12-07-2019

Alle algoritmes moeten openbaar worden, als het aan Groenlinks ligt. D66 wil af van gepersonaliseerde advertenties. VVD wil dat bedrijven en overheden jaarlijks rapporteren of algoritmes wel eerlijk en betrouwbaar zijn. En het CDA pleit voor een toezichthouder voor overheidsalgoritmes.

Kansen voor AI

Is het vreemd dat politici zich zorgen maken over schaduwkanten van deze nieuwe technologie, die alle facetten van ons leven op zijn kop kan zetten? Nee. Maar zouden ze ook niet wat meer kunnen kijken naar de kansen die algoritmes bieden? Algoritmes zijn soms al beter dan de beste medisch specialisten om ernstige ziektes vroegtijdig op te sporen. Ze kunnen ons helpen fraude en criminaliteit drastisch terug te dringen. En bedrijven in staat stellen hun klanten veel betere en persoonlijker dienstverlening te bieden.

Overigens staat niet ter discussie dat we de schaduwkanten moeten aanpakken. We slaan ons immers graag op de borst met het feit dat in Europa, en in Nederland, AI wordt ontwikkeld die rekening houdt met onze eigen Europese waarden. En dat die waarden beschermd worden. Want wat als een hypotheek ten onrechte wordt afgewezen door het gebruik van een algoritme? Of bij een sollicitatieprocedure onterecht alleen mannen worden gefilterd?

Toezicht algoritmes is al op orde

Het punt is: de regelgeving daarvoor is gelukkig al op orde. Want laten we wel wezen: waar veel politici ons tegen willen beschermen, is al uitvoerig vastgelegd. In het Europees Verdrag voor de Rechten van de Mens zijn grondrechten als privacy, verbod op discriminatie, vrijheid van meningsuiting en een eerlijk proces vastgelegd. Nieuwe technologie of niet, daar verandert niets aan. Bovendien zijn deze rechten in detail uitgewerkt. Neem bijvoorbeeld de AVG: geautomatiseerde besluitvorming is niet zomaar toegestaan en moet transparant zijn. Nederland kent verschillende toezichthouders, zoals de AP, ACM en het College voor de rechten van de mens, die toezien op die wetten en verdragen. Als jij voor je gevoel onterecht geen hypotheek krijgt dankzij een fout in een algoritme, dan kan je daar bezwaar tegen maken.

Bovendien laten de voorbeelden van discriminerende algoritmes zien dat het probleem doorgaans niet zit bij de algoritmes, maar bij de data die gebruikt zijn om het algoritme te trainen. Want wanneer mensen in een organisatie eerder mannen dan vrouwen aannemen, leert een algoritme dat gedrag ook aan. Het interessante van algoritmes is juist dat deze bewuste of onbewuste vooroordelen ineens zichtbaar worden en bovendien dat we er iets aan kunnen doen, namelijk aanpassingen doorvoeren in het algoritme. Zo bezien kunnen algoritmen juist bijdragen aan het tegengaan van discriminatie.

Investeren, want Nederland loopt achter

Regulering die AI verder inperkt, heeft als risico dat we de maatschappelijke en economische baten van AI verkleinen. Bedrijven zullen immers niet willen investeren in kostbare algoritmes als zij hun intellectuele eigendom niet meer kunnen beschermen. En de overheid kan niet meer effectief fraude opsporen, als de fraudeurs het algoritme kennen. En consumenten kunnen niet meer profiteren van betere dienstverlening. Bovendien loopt Nederland in de wereld sterk achter in investeringen in AI. We kunnen ons geen alleingang veroorloven, die investeerders en talent zal afschrikken.

Wat kunnen we dan wel doen om Europese waarden goed verankerd te krijgen in onze AI? Bedrijfsleven, overheid en maatschappij moeten goed kijken naar de uitkomsten van algoritmen: doen ze wat we willen dat ze doen en hoe kunnen we dat verbeteren? Dat zal per geval door betrokken mensen beoordeeld moeten worden. Daarbij is meer kennis de sleutel. De toezichthouders bij de overheid zullen meer kennis moeten ontwikkelen over algoritmes om hun taken goed te kunnen uitvoeren. En het bedrijfsleven zal meer moeten investeren in talent. Als ergens een risico zit dan is dat het wel: hoe zorgen we dat Nederlandse bedrijven en overheden in staat zijn om in de wereldwijde strijd rond AI het beste talent aan te trekken dat ons helpt om tot verantwoorde AI-oplossingen te komen? Overheid en bedrijfsleven zullen daar gezamenlijk flink in moeten investeren.