6 minuten lezen

 

Nieuwe technologieën zoals Kunstmatige Intelligentie (KI) zullen de komende jaren veel invloed krijgen en vrijwel alle aspecten van ons leven raken. In deze serie over KI en de impact op de maatschappij zagen we in het eerste deel dat KI draait om de competentie van een machine of computerprogramma om te leren door middel van simulaties die gericht zijn op het bereiken van een specifiek doel. Daarbij bleek dat systemen goed zijn in het volgen van bepaalde regels, maar niet zoals de mens begrijpen wat er gebeurt. Ook zagen we dat KI al ruimschoots aanwezig is in ons dagelijks leven.

 

Optimisten versus pessimisten

Een van de meest fascinerende aspecten van KI is dat er zo verschillend gedacht wordt over de vraag of de impact uiteindelijk positief of negatief zal zijn voor de mensheid. Kunnen we optimistisch zijn over de voordelen van KI voor de maatschappij, zoals het ontstaan van een ‘vrijetijdsmaatschappij’ waarin we niet langer hoeven te werken? Of vormt de verdere ontwikkeling van KI uiteindelijk een bedreiging voor het voortbestaan van de mensheid? Pessimisten zijn bang dat KI uiteindelijk zal leiden tot de vorming van een intelligentie die de mens overstijgt (‘superintelligentie’), die bewustzijn ontwikkelt en kwaadaardig wordt, waardoor de mens niet langer de controle heeft. Er verschijnen regelmatig artikelen in de media die waarschuwen voor dit doemscenario. Zo publiceerde de NOS in november 2017 een artikel getiteld ‘Mens kan controle over killer robots binnen paar jaar kwijt zijn'.

 

Experts hebben verschillende opvattingen

Het loont de moeite om de standpunten in de discussies over de impact van KI te ontleden. Hoe denken de experts hierover? Hoogleraar natuurkunde Max Tegmark onderscheidt in zijn boek Life 3.0 drie stromingen:

  • De digitale utopisten. Deze stroming beschouwt de verdere ontwikkeling van KI als een natuurlijke en wenselijke volgende stap in de evolutie, waarbij er geen enkele reden is om digitaal leven ‘onder controle’ te houden.
  • De techno-sceptici. Deze stroming is ervan overtuigd dat de ontwikkeling van KI die de menselijke intelligentie overstijgt de komende eeuwen niet haalbaar is. We hoeven ons dan ook niet druk te maken over eventuele gevaren van ‘superintelligentie’.
  • De ‘gunstige KI’ beweging. Deze stroming voorspelt net als de utopisten een sterke doorontwikkeling van KI in de 21eeeuw, maar is van mening dat een positieve uitkomst daarvan voor de maatschappij niet vanzelfsprekend is. Om die wel te garanderen, moet er onderzoek gedaan worden naar de veiligheid van KI. Hierbij moeten antwoorden geformuleerd worden op fundamentele vraagstukken, zoals ‘Hoe voorkomen we dat KI in handen valt van schurkenstaten of terroristen die de wereld ermee in gevaar kunnen brengen?‘

 

Digitale utopisten geloven dat als we de ontwikkeling van KI haar ‘natuurlijke’ gang laten gaan, de uitkomst voor de mensheid vrijwel zeker positief is.

 

KI als existentiële dreiging is science fiction

Uit dit overzicht blijkt dat wetenschappers het over één ding eens zijn: KI is geen existentiële dreiging voor de mensheid. Er is immers geen stroming waarin dit idee een rol speelt. Het beeld van machines die de mensheid in de toekomst zullen uitroeien is dus vooral science fictionen een dankbaar onderwerp voor de media en films. Los van deze consensus lopen de meningen sterk uiteen. Alledrie de stromingen hebben zeer seniore wetenschappers en KI-experts in hun gelederen. Tegmark beschrijft hoe voormalig MIT-hoogleraar Rodney Brooks hem heeft verzekerd dat de ontwikkeling van KI op of boven het niveau van menselijke intelligentie in de 21eeeuw ‘100% ondenkbaar is’. Cognitiewetenschapper Steven Pinker sluit zich daarbij aan en noemt het idee van het ontstaan van superintelligentie ‘een mythe’. Hoogleraar Computerwetenschappen Stuart Russell daarentegen is ervan overtuigd dat dit scenario juist dichtbij is. Wellicht lopen de meningen zo ver uiteen omdat we het over de toekomst hebben, die zich lastig laat voorspellen. Daarnaast kan een rol spelen dat vakgebieden die betrekking hebben op nieuwe technologie ondoorgrondelijk kunnen zijn, ook voor experts. Zo worstelen wetenschappers met de vraag hoe we menselijke intelligentie moeten simuleren wanneer we nog niet goed weten hoe het menselijk brein precies functioneert?

 

Hollywood en de mythes van KI

Artificial Intelligence: A.I. van Steven Spielberg  De film is een mooi voorbeeld van een Hollywoodfilm die een beeld schetst van een niet-realistische toekomst. Het verhaal speelt zich af in een wereld waarin slechts een deel van de aarde bewoonbaar is na het smelten van de ijskappen op de polen. De mens is erin geslaagd om mensachtige robots te ontwikkelen. Een robotbedrijf bouwt een kunstmatig kind dat menselijke gevoelens heeft.

 

 

De film beschrijft een situatie waarin de mens vooral problemen ondervindt van de nieuwe situatie. Tweeduizend jaar later wordt de aarde gedomineerd door robots die zichzelf doorontwikkeld hebben, waardoor de mens uitgestorven is. Uiteraard is het schetsen van een fantasiewereld het voorrecht van Hollywood. Ook deze film speelt gretig in op een aantal mythes rond KI: de ontwikkeling van robots die eruit zien als mensen en ook menselijke eigenschappen hebben, de doorontwikkeling van robots buiten menselijke controle en de uiteindelijke overname van de aarde door dergelijke robots.

 

De ‘gunstige KI’ beweging pleit voor veiligheid en controle

Wat moeten we als niet-experts nu met de totaal verschillende opvattingen over de uitwerking van KI? De meest voor de hand liggende optie is om te concluderen dat we niet precies weten hoe de toekomst van KI, en daarmee onze toekomst, eruit zal zien. En dat pleit nog het meest voor de denkbeelden van de ‘gunstige KI’ beweging: bij onduidelijkheid over de afloop kunnen we maar beter veiligheid inbouwen.

Wetenschappers die geen harde uitspraken over de toekomst kunnen of willen doen, hebben zich inmiddels bij de ‘gunstige KI’ beweging aangesloten. De beroemde kosmoloog en natuurkundige Stephen Hawking was daar een voorbeeld van. Hij was van mening dat we simpelweg niet zeker kunnen weten of de uitkomsten van KI positief of gevaarlijk zijn. Om die reden moeten de risico’s en eventuele nadelen tijdig onderkend worden. Een grote uitdaging daarbij is het controleprobleem: hoe zorgen we ervoor dat KI de doelen bereikt die we willen, zonder schade te veroorzaken of in handen te vallen van kwaadwillenden? Daarnaast brengt de verdere ontwikkeling van KI een aantal risico’s met zich mee. Een eerste voorbeeld is het risico van economische ongelijkheid als gevolg van veranderingen op de arbeidsmarkt. Daarnaast is er het risico van een KI-wapenwedloop, waarbij goedkope en makkelijk te produceren autonome wapens, die doelwitten selecteren en raken zonder tussenkomst van de mens, een wereldwijde wapenwedloop op gang kunnen brengen.

 

Stephen Hawking: “De komst van superintelligente KI kan het beste, maar ook het slechtste zijn dat de mens ooit overkomen is. KI heeft de potentie om ziekten en armoede uit te roeien, maar onderzoekers moeten wel werken aan de ontwikkeling van KI die onder controle gehouden kan worden”.

 

Voorzichtig optimisme

Een grote groep KI-experts is inmiddels van mening dat we ondanks de risico’s voorzichtig optimistisch kunnen zijn over de voordelen van KI voor de mensheid. Als we goed weten om te gaan met de technische, ethische en politieke uitdagingen, kan KI een belangrijke bouwsteen voor menselijke voorspoed worden. Om af te sluiten met Hawking: “Onze toekomst is een race tussen de groeiende kracht van technologie en de wijsheid waarmee we die kracht inzetten. Laten we ervoor zorgen dat wijsheid wint.”. Wat er voor nodig is om dat te bereiken, zal centraal staan in het volgende artikel in deze serie over KI.

 

Geraadpleegde bronnen

  • European Parliamentary Research Service (EPRS), Should we fear artificial intelligence? (2018).
  • Future of Life Institute (www.futureoflife.org).
  • Yuval Noah Harari, Homo Deus. A brief history of tomorrow(2016).
  • Stephen Hawking, Brief answers to the big questions(2018). Hoofdstuk 9: Will artificial intelligence outsmart us?
  • Kevin Kelly, The Inevitable. Understanding the 12 technological forces that will shape our future(2016). Hoofdstuk 2: Cognifying.
  • Tim O’Reilly, What’s the future and why it’s up to us(2017). Hoofdstuk 11: Our Skynet moment.
  • Max Tegmark, Life 3.0. Being human in the age of artificial intelligence (2017).

 

 

Lees ook het vorige artikel in deze serie van Madelon van Luijk: Kunstmatige Intelligentie en het menselijk brein.