Kunstmatige intelligentie (AI) neemt een steeds grotere rol in bij bedrijfsprocessen en daarmee dus ook in het besturen van organisaties. Toch ziet Deborah Nas, deeltijdhoogleraar Strategic Design for technology-based innovation aan de TU Delft, dat veel bestuurders niet weten hoe de technologie werkt én hoe ze wordt toegepast in hun bedrijf. “In een bedrijf worden er soms wel tientallen AI-systemen toegepast die allemaal iets anders doen. Ik vind dat iedereen in de organisatie basiskennis over AI over moet hebben.”
Maar eerst: wat is kunstmatige intelligentie, of artificial intelligence, eigenlijk? Nas steekt van wal: “Artificial intelligence is een term die wij bedacht hebben om iets te duiden dat lijkt op menselijke intelligentie. Wat we AI noemen en wat niet, verschuift met de tijd. Als we terugkijken in de historie dachten we bijvoorbeeld dat je voor schaken echt menselijke intelligentie nodig hebt. Dat vraagt namelijk strategisch inzicht en creativiteit. Dus het was een grote schok toen de computer Deep Blue ooit won van Kasparov. Dat noemden we toen artificial intelligence. Nu noemen we dat gewoon brute krachtberekeningen. Het zou best kunnen dat we in de toekomst terugkijken op wat we vandaag de dag AI noemen en dat we dat dan geen AI meer vinden.”
Ze vervolgt: “Verder is artificial intelligence een paraplubegrip, waar weer specialisaties onder vallen. Zo is er machine learning en deep learning. Bij machine learning programmeren we algoritmes die we trainen met heel veel data. Daardoor kan bijvoorbeeld een e-mailsysteem spam herkennen en filteren. Bij deep learning programmeer je niet het algoritme, maar geef je het een opdracht. Bijvoorbeeld om een kat te leren herkennen. Vervolgens voer je het algoritme tienduizenden YouTube-filmpjes met het label kat. Dan leert het algoritme zelf wat een kat is. Omdat deze systemen informatie op verschillende niveaus kunnen bekijken en in context kunnen plaatsen, lijkt dat op wat mensen doen. Zo heb je ook systemen die kunst kunnen maken, taal begrijpen of gezichten herkennen. Dit soort specifieke technologieën binnen AI spelen al een grote rol in onze maatschappij en gaan een steeds grotere rol spelen.”
Bij veel mensen roept artificial intelligence een gevoel van onbehagen op: wat als het met ons wegloopt? Nas benadrukt dat algoritmes in zichzelf niet goed of slecht zijn. “Het is wat wij er als mens mee doen en met welke data we het trainen. Neem gezichtsherkenning. Het is handig dat je met je gezicht je telefoon kunt ontgrendelen. Sinds dat kan, beveiligen veel meer mensen hun smartphone. Maar het is natuurlijk vreselijk als bijvoorbeeld de Chinese overheid gezichtsherkenning gebruikt om etnische minderheden te profileren en isoleren. Daarnaast kan zo’n systeem onbedoeld discriminerend werken als de dataset waarmee je het traint biased is. Als de trainingsdata bijvoorbeeld onvoldoende gezichten van een specifieke etnische groep bevat, dan zal het slecht mensen uit deze groep kunnen herkennen. Ik denk dat AI daarom een technologie is die ons enorm veel kansen biedt, maar ook veel gevaren kent.”
“Een voorbeeld daarvan is Amazon”, vervolgt Nas. “Zij hebben op een gegeven moment een algoritme gebruikt om cv’s te screenen in het rekruteringsproces. Dat algoritme hebben ze getraind met tien jaar echte data. Wie hebben er gesolliciteerd? Wie zijn op gesprek gekomen? Wie hebben er een baan gekregen? Nu bleek na een paar jaar dat het algoritme discrimineerde. Het had een sterke voorkeur voor blanke mannen. Er ontstond natuurlijk grote ophef in de pers, Amazon bood excuses aan en ze stopten met het gebruik van dat algoritme. Dan denkt iedereen dat het weer goed is. Maar het algoritme confronteert ons alleen maar met de werkelijkheid, in dit geval met het gedrag van recruiters. We beoordelen mensen vaak op intentie, maar algoritmes op het resultaat. We betogen dat de HR-mensen niet de intentie hadden om te discrimineren. Dat was een unconscious bias van de mens, er zat geen opzet achter. Dat algoritme wordt er echter hard op afgerekend. Ik denk juist dat we door middel van algoritmes die menselijke bias inzichtelijk kunnen maken. Om vervolgens het algoritme te corrigeren om die bias eruit te halen. Dan kunnen we een eerlijkere wereld creëren.”
De vraag is wie dan besluit wat wel en niet eerlijk is. Die vraag zou volgens Nas ook in de bestuurskamer moeten spelen. “Dat is een moeilijk ethisch vraagstuk. Ik denk dat technologie – AI, maar ook andere technologieën - in de toekomst een steeds grotere rol gaat spelen in de bedrijfsvoering. Dan moet je mensen hebben die nadenken over de ethische effecten van die technologie. Op mensen, maar ook op de economie en de planeet. We zijn geneigd daaraan voorbij te gaan. We passen de technologie meteen toe in de praktijk en als er dan problemen boven komen, willen we die corrigeren. Maar dan ben je eigenlijk al te laat. Ik denk daarom dat we naast de huidige CEO een nieuw type CEO moeten aanstellen: een Chief Ethics Officer. Die gaat nadenken over hoe het bedrijf nieuwe technologieën toepast en hoe je de positieve maatschappelijke impact kunt vergroten. Daarvoor moet hij of zij een divers team om zich heen hebben. Als je een team hebt met alleen net afgestudeerde wiskundigen of computerwetenschappers, dan denk je op een heel eenzijdige manier na over welke impact technologie kan hebben. In een divers team krijg je verschillende perspectieven en kun je veel beter ethische en morele kwesties identificeren.”
Om technologie op de juiste manier toe te passen, moet je deze wel eerst begrijpen. Daar gaat het nu vaak nog mis. Nas: “Ik denk dat bestuurders over het algemeen onvoldoende begrip hebben van AI. Ik geef veel presentaties op congressen en events, waarbij ik vaak de basisbegrippen uitleg. Ik zie dat veel mensen er over het algemeen weinig kennis over hebben. Degene die in de organisatie de beslissingen nemen over hoe AI wordt toegepast, zitten vaak vele lagen onder het bestuur. Ik pleit ervoor dat in ieder geval alle bestuurders een bepaalde basiskennis ontwikkelen. Nog beter is het als bestuurders ervoor zorgen dat iedereen in de organisatie erin wordt opgeleid. Hiervoor is er al een nationale AI-cursus en er komt nog een nieuwe aan die zich richt op AI en ethiek. Die gaat ook over hoe het zit met bias in de data en over bredere maatschappelijke issues. Hoe zit het bijvoorbeeld met big tech, machtsverhoudingen, desinformatie en de rol van de overheid? Ik denk dat dat hele belangrijke informatie voor bestuurders is.”
Nas constateert dat veel bestaande bedrijven moeite hebben om nieuwe technologieën te omarmen. “Iets bestaands veranderen is natuurlijk veel moeilijker dan iets nieuws creëren. Ik denk dat er drie belangrijke factoren zijn die verandering in een bestaande organisatie tegenhouden. De eerste is verliesaversie. We zijn sterk geneigd om onze tijd en moeite te stoppen in het beschermen van wat we hebben. Mensen zijn bang dat ze hun winstmarge of hun vertrouwde distributeurs verliezen. Vaak is ook het geval dat als de ene afdeling iets nieuws wil ontwikkelen, dat kan kannibaliseren op de omzet van een andere afdeling. Dan ontstaan er interne conflicten. De tweede factor is verouderde IT-systemen. Bestaande bedrijven hebben vaak vele oude systemen die aan elkaar geknoopt zijn. Het is heel moeilijk om dat in één klap te veranderen en nieuwe technologieën daarbinnen toe te passen. De derde factor is interne weerstand. De meeste mensen houden niet van veranderingen en begrijpen nieuwe technologieën vaak niet goed. Ze houden de situatie het liefst zoals het nu is.”
Nieuwe technologie negeren is voor bestaande bedrijven geen optie. Dan worden ze binnen de kortste keren ingehaald door nieuwe spelers. Nas: “Nieuwe toetreders hebben niet te maken met die drie factoren. Startups hebben nog niets te verliezen en ze hebben geen last van organisatiesilo’s. Ze ontwerpen hun organisatie en IT zodanig dat de structuur hen helpt in hun doelstelling. Ze ontwerpen alles van de grond af op, waarbij ze gebruikmaken van de laatste technologieën. Ten slotte hebben ze weinig last van interne weerstand, omdat het teweegbrengen van verandering juist hun missie is. Ze trekken alleen werknemers aan die dat ook willen.” Wanneer startups groeien, lopen zij natuurlijk wel het gevaar vast te lopen in dezelfde drie valkuilen. Nas: “Als bedrijven groter worden, wordt hun innovatieve vermogen bijna altijd lager. Zij halen daarom vaak de innovatiekracht van buiten door startups op te kopen. Echter, vaak is de cultuurclash tussen het oude bedrijf en de startup zo groot, dat de mensen uit de startup vrij snel wegrennen. Voor techbedrijven is dat iets gemakkelijker, omdat zij vaak al een modernere cultuur hebben en flexibeler zijn ingericht. Maar ieder bedrijf krijgt er op een gegeven moment mee te maken. Een oplossing kan zijn om radicale innovaties - dus echte vernieuwing – onder te brengen in een losstaand bedrijfsonderdeel. Dat is bijvoorbeeld wat Google doet. Radicale innovatie gebeurt niet binnen dezelfde onderdelen waar bijvoorbeeld de zoekmachine of het advertentiesysteem geoptimaliseerd worden.”
Artificial intelligence is er en de ontwikkeling gaat snel. Bedrijven zullen dus moeten zwemmen of verzuipen. Daarbij wil een toekomstbestendig bedrijf kunnen meebewegen met alle nieuwe technologieën die we in de toekomst nog gaan krijgen. Kwantumtechnologie bijvoorbeeld, gestoeld op de kwantummechanische eigenschappen van de allerkleinste deeltjes waardoor sommige rekenproblemen in de toekomst nog vele malen sneller opgelost kunnen worden. Nas eindigt daarom met een tip: “Stel een team samen met slimme mensen. Zorg dat minimaal de helft bestaat uit buitenstaanders, techies die technologie en AI helemaal begrijpen. De andere helft bestaat uit vrije denkers uit de organisatie die al langer in de organisatie zitten. Laat dat team vervolgens nadenken hoe het bedrijf eruit zou zien als ze het helemaal opnieuw konden uitvinden. Zij komen waarschijnlijk met een heel ander beeld. Vervolgens kun je twee routes volgen. Je kunt een aantal goede ideeën meenemen en die in je bestaande organisatie toepassen. Of het is zo interessant, dat je een apart bedrijf opricht en als het ware je eigen concurrent start. Door op deze manier na te denken, worden je ogen als bestuurder geopend hoe het anders kan én ook moet. Want als je als bedrijf nieuwe technologieën niet omarmt, dan heb je geen lange termijn bestaansrecht.”
