AI is hot en het is overal, ook waar we het niet altijd doorhebben. Maarten Sukel heeft een zeer lezenswaardig boek geschreven waarin in hoog tempo vele toepassingen en ontwikkelingen op het gebied van kunstmatige intelligentie (AI) worden behandeld. In dat opzicht een grote aanrader voor wie meer wil weten over AI.

Maarten Sukel gelooft zeker in de zegeningen van AI en geeft daar ook veel mooie voorbeelden van in De AI-revolutie. Maar hij is zich ook bewust van de gevaren die AI met zich meebrengt. Hij waarschuwt vaak en veel en roept op tot zelfregulering en wetgeving. Hoezeer hij ook gelijk heeft, op een gegeven moment vond ik dit wel wat vermoeiend. Ik werd er soms wat moedeloos van: overheden lopen vaak achter de feiten aan en de voorbeelden waarin grote bedrijven zichzelf goed gingen reguleren, zijn spaarzaam… Maar dat is zeker geen reden om het boek niet te lezen! Sterker nog, het is van groot belang dat we ons bewust worden van de schaduwzijden van AI.

DEFINITIE AI 

Sukel start De AI-revolutie met drie hoofdstukken over wat kunstmatige intelligentie is, wat machine learning is en wat de drijvende krachten zijn van de AI-revolutie.

Daarbij blijft de schrijver niet te lang hangen bij het definiëren van kunstmatige intelligentie. Vraagstukken over de invloed van deze technologie op onze maatschappij zijn belangrijker dan discussies over exacte definities. Een goede keuze wat mij betreft. De opsomming van verschillende soorten kunstmatige intelligentie is erg interessant om te lezen.

DE GEVAREN VAN AI

In de volgende drie hoofdstukken gaat het over een aantal algemene gevaren en negatieve effecten van AI: het versterken van stereotypen, synthetische media en te veel prikkels.
Met duidelijke voorbeelden wordt uitgelegd waarom algoritmes vaak stereotypen versterken. De directe oorzaak is vaak dat algoritmes worden getraind met datasets waarin die stereotypen verborgen zitten. Interessant is de notie dat dit probleem meer een maatschappelijk probleem is dan een technologisch probleem. Hoe AI zelf kan bijdragen aan het opsporen van discriminatie wordt iets te beknopt uitgelegd. Ik benoem dit apart omdat het zo’n enorm belangrijke factor is. Als je niet snapt hoe AI-modellen tot stand komen, ben je je hiervan niet bewust. Ik vond dit een van de belangrijkste stukken in het boek.

BELANGRIJKE BIJDRAGE

Vervolgens komen vijf gebieden langs waarin AI een belangrijke bijdrage kan leveren: klimaat, privacy en veiligheid, creativiteit, gezondheidszorg en werk en onderwijs.

Ik licht er twee kort uit, allereerst de gezondheidszorg. Hier zijn veel interessante voorbeelden over hoe AI innovaties biedt op het gebied van medische diagnostiek, behandelplannen (op maat), persoonlijke gezondheidssignalen, ontlasting van medisch personeel en meer. Hierbij komen zowel de reguliere gezondheidszorg als de geestelijke gezondheidszorg aan bod.
De schrijver denkt dat deze ontwikkeling wenselijk en noodzakelijk is vanwege de steeds grotere tekorten aan personeel in de gezondheidszorg. Vervolgens wijst Sukel op het gevaar van onvolledige datasets en de impact op privacy. En omgekeerd ook op de impact van privacywetgeving op innovaties. De ambivalente rol van de techreuzen komt aan bod. Zij zijn zowel veroorzaker als mogelijke oplosser van mentale problemen.

Werk en onderwijs is het tweede domein dat ik even uitlicht. Hier laat de auteur zien welke impact AI op de arbeidsmarkt kan hebben. Welk soort beroepen loopt gevaar, waar kan AI werk vervangen en waar juist ondersteunen. Maar ook hoe het laatste kan leiden tot meer controle (op werknemers). 
Erg interessant vond ik het stuk over het belang van het opstellen van een missie/visie op AI in bedrijven. Bepaal hoe je het wilt gebruiken, maak afspraken hierover in arbeidsovereenkomsten. Oftewel, hoe vinden we een goede balans tussen gebruik en misbruik.

Een aantal invloeden op het onderwijs komt aan bod. En ook vragen als waarom we momenteel zoveel mogelijk kinderen naar het VWO sturen, terwijl juist straks kenniswerk als eerste wordt vervangen door AI en er tegelijkertijd een enorm tekort is aan praktisch geschoolde beroepsgroepen?

TRANSPARANTIE EN CONTROLE

In de laatste hoofdstukken van De AI-revolutie gaat het over het belang van transparantie in AI en hoe we controle kunnen houden op AI.

Bij transparantie gaat het onder andere over de voor- en nadelen van open source en het feit dat AI-modellen in toenemende mate in handen zijn van technologiereuzen.
Sukel gaat in op het nut van algoritmeregisters en op hoe de overheid kan omgaan met het transparanter maken van algoritmen door bijvoorbeeld wetgeving. Een beperkende factor is het gebrek aan expertise binnen de overheid en aan experts in het algemeen. Audits kunnen nuttig zijn, maar alleen indien regelmatig en op een goede manier uitgevoerd. Algoritmen kunnen zo worden getoetst zonder dat ze openbaar worden gemaakt.

Bij controle gaat het onder andere over zelfcontrole, bijvoorbeeld leidraden voor bepaalde beroepsgroepen. Maar ook over de noodzaak voor de overheid om te investeren in onderzoek naar verantwoord gebruik van AI en het belang van goede educatie zodat gebruikers AI leren begrijpen.
Een aantal mogelijkheden en ontwikkelingen met betrekking tot regulering wordt geschetst. GDPR en de AI-act komen kort langs. Interessante notie is het risico dat grote techbedrijven Europa links laten liggen als de wetgeving te streng wordt. Ook het tekort aan kennis en medewerkers bij de overheid is een belangrijk punt.

Maarten Sukel roept zeer terecht op tot een ministerie van Digitale Zaken om te komen tot meer geïntegreerd en doordacht beleid en een betere bescherming van rechten en belangen van burgers (en bedrijven).

DE TOEKOMST MAKEN WE ZELF

Het boek eindigt met een kort hoofdstuk over de Toekomst. Het leest als een mooie samenvatting van het boek. Belangrijkste besef is dat AI niet iets is ‘dat ons overkomt’. Maar het is het gevolg van allerlei keuzes van bedrijven, overheden en burgers. En die keuzes moeten we nu en de komende jaren goed doordacht gaan maken.