Opinie

ChatGPT roept diepe vragen op over relatie mens-machine

Kunstmatige intelligentie

Commentaar

Wat als je de kunstmatige intelligentie van ChatGPT zélf vraagt naar de risico’s van dit soort ‘generatieve AI’? De onlinetoepassing die op basis van vragen autonoom teksten genereert, somt dan geheel zelfstandig een behoorlijk intelligent rijtje mogelijke gevaren op: „1. Bias [vooroordelen]: de taalmodellen zijn getraind op een grote hoeveelheid tekst die beschikbaar is op het internet, en kunnen daarom bias bevatten die is opgepikt uit deze bronnen. 2. Misleidende informatie: taalmodellen zijn niet in staat om de waarheid of betrouwbaarheid van informatie te bepalen. 3. Privacy: als een taalmodel wordt gebruikt om persoonlijke informatie te verzamelen of te genereren, kan dit privacyproblemen opleveren. 4. Misbruik: taalmodellen kunnen worden misbruikt, zoals het genereren van nepnieuws en manipulatie.”

Een helder, en indrukwekkend diepgaand antwoord – voor een computerprogramma. Maar wie zelf nadenkt kan veel andere risico’s bedenken. Wie is de eigenaar van de achterliggende algoritmes en data? Is OpenAI, de aanbieder van ChatGPT, wel echt ‘open’ of is het aandeelhouderschap van Microsoft en de betrokkenheid van miljardair Elon Musk reden tot scepsis? Hoe worden de opbrengsten van deze technologie verdeeld, en hoe worden de nadelen opgevangen?

En, fundamenteler, wat doet generatieve AI met creativiteit? Aangezien het programma werkt door patronen te vinden in data uit het verleden, kan er per definitie nooit iets écht nieuws uitkomen.

Het feit dat veel scholieren de antwoorden één op één blijken te kopiëren in werkstukken, zoals de NOS deze week ontdekte, geeft sterk te denken. Net zoals dat de techniek in veel branches in opkomst is voor het schrijven van teksten en het beantwoorden van complexe vraagstukken.

De tijd zal moeten leren of ChatGPT in hetzelfde illustere rijtje komt als de PC en de smartphone: nieuwe technologieën die de samenleving en economie ingrijpend hebben veranderd. In elk geval heeft generatieve AI de potentie om menselijke activiteiten die draaien om creativiteit en informatieverwerking op hun kop te zetten, en dat zijn er in geavanceerde economieën nogal wat.

Een eerste kennismaking met ChatGPT of de plaatjesmaak-variant Dall-E 2 is voor de meeste gebruikers ronduit fascinerend. De uitkomsten kunnen razend intelligent lijken, en beloven absoluut een nieuw tijdperk in te luiden van samenwerking tussen mens en machine – met alle utopische en dystopische scenario’s die daarbij horen.

Maar het moet wel een samenwerking blijven. Menselijk beoordelingsvermogen, creativiteit en morele afwegingen worden door de opkomst van deze technologie alleen maar belangrijker. Kritisch zijn op de inhoud, op wie de toepassing controleert en bezit, op alle mogelijke sociale en economische gevolgen: wetgevers en toezichthouders moeten alerter zijn dan ze waren bij de opkomst van sociale media, net als iedereen die er zelf mee werkt.

Juist omdat de antwoorden zo indrukwekkend zijn, ligt op de loer dat mensen er blind op vertrouwen. En dat is iets dat zelfs ChatGPT zélf ook ten zeerste afraadt als je hem (haar? hun?) vraagt: „Het is belangrijk om te beseffen dat de informatie die het geeft niet altijd juist, volledig of actueel is. Het is daarom raadzaam om de informatie die ChatGPT geeft te verifiëren voordat u er actie op onderneemt.” Een prima beginpunt voor intelligente omgang met deze nieuwe intelligentie. Maar ook niet meer dan dat: een beginpunt.