‘Bob van Helsdingen is springlevend‘, schreef het BD vrijdagmorgen, en dat is maar goed ook, want het zal je maar gebeuren, dat op internet staat dat je dood bent! Of zoals de heren van het Tv-programma ‘Even tot hier’ nog niet zo heel lang geleden hebben opgemerkt, dat je als bekende Nederlander plots een relatie hebt met een andere artiest, een kind hebt, samen woont…
Niets van waar, en dat is meteen ook het gevaar! Artificiële Intelligentie (AI) is een door computers uitgevoerde vorm van ‘intelligentie’ die het normaal menselijk leren en redeneren zou moeten kunnen. Deels is dat juist, en voor sommige toepassingen werkt dat best goed. Bijvoorbeeld als je een tekst wil laten controleren op spelfouten. Het gevaar zit hem in de informatie die AI toepassingen van het ruime aanbod op internet haalt, en daar eigenhandig combinaties van maakt.
Wie zich bijvoorbeeld afvraagt of Bob echt is overleden, komt vandaag overal tegen dat hij nog leeft. Niet omdat hij dat zelf zegt, maar omdat het Brabants Dagblad dat heeft gepubliceerd. In dit geval is de bron dermate betrouwbaar, dat we er wel vanuit mogen gaan dat Bob inderdaad nog leeft. Eerder deze week stond er echter, dat hij was overleden. Hoe dat exact komt is moeilijk te zeggen, maar het kan bijvoorbeeld komen door het woord ‘voormalig’ dat over hem werd gezegd in een online artikel, van toepassing op zijn eerdere werkzame leven. Het ‘brein’ van AI heeft dat woord ‘voormalig’ mogelijk geïnterpreteerd als ‘deze persoon bestaat niet meer’.
AI toepassingen halen hun informatie van het wereldwijde web, en de antwoorden van AI op vragen van gebruikers is zelfs te beïnvloeden. Wie zelf zorgt dat bepaalde informatie online komt, kan er ook aan bijdragen dat die informatie wordt gevonden door zoekmachines, en meteen ook wordt gebruikt voor AI toepassingen. Daarbij komt het gevaar van de interpretatie door deze toepassingen, met verbindingen of conclusies die mogelijk niet juist zijn. Wat ook voorkomt, is dat er naamsverwisselingen plaatsvinden. Bijvoorbeeld als twee personen met dezelfde naam verschillende dingen meemaken. Dan is die ene beroemde Nederlander ineens gescheiden, omdat dat over een andere minder bekende Nederlander ergens op internet vermeld staat.
Afgelopen jaar heeft onze redactie meegewerkt aan een onderzoek van TU/ HBO Journalistiek. Hierbij werden ook proeven gehouden met AI toepassingen die nieuws voor lezers eenvoudiger en begrijpelijker zou kunnen maken. Er werd bij deze proeven geconstateerd dat de AI toepassing ernstige fouten creëerde in de informatie. Zo werd in een bericht over een nog te starten rechtszaak – dat vanwege de ingewikkeldheid van de tekst werd omgezet naar eenvoudig taalgebruik – geconcludeerd dat de verdacht door de rechter schuldig was bevonden. Iets wat uiteraard niet kan, als de rechtszaak nog moet beginnen.
Mensen maken fouten, en AI doet dat ook. Wat dat betreft werkt het ‘perfect’, maar of we daar blij van worden?
