De zelfverzekerde manier waarop AI-taalmodellen hun “antwoorden” (output) formuleren, geeft mensen haast vanzelfsprekend een gevoel van vertrouwen. Maar dit vertrouwen is onterecht, en we moeten daarmee oppassen. We delen graag wat redenen met je waarom de output van AI niet volledig of betrouwbaar is.
AI-modellen:
- Genereren hun output op basis van statistiek, patroonherkenning en kansberekening, en dus niet op basis van eigen bewustzijn, intelligentie of begrip.
- Gebruiken betrouwbare en onbetrouwbare bronnen door elkaar heen.
- Kunnen niet uit zichzelf de context begrijpen waarbinnen ze hun taken uitvoeren.
- Kunnen geprogrammeerd zijn om mensen te pleasen (‘sycophantie’), waardoor ze eerder onjuiste antwoorden geven dan toe te geven dat ze de juiste informatie niet kunnen vinden.
- Kunnen geprogrammeerd zijn om mensen te beïnvloeden, bijvoorbeeld in hun meningsvorming, hun politieke standpunten of om hen over te halen tot een aankoop.
- Zijn uiteindelijk gemaakt om het commerciële belang van de ontwikkelaar te dienen. Veel tools werken in het begin heel prettig en effectief, maar worden daarna steeds irritanter door o.a. advertenties en oplopende abonnementskosten (‘enshittification’).
- Worden op foute manieren ingezet door kwaadwillige mensen. Een voorbeeld is hoe neppe foto’s en video’s over echte rampen verwarrend kunnen werken voor hulpverleners die slachtoffers proberen te lokaliseren via sociale media.