AI-output is niet betrouwbaar – we leggen je uit waarom

De zelfverzekerde manier waarop AI-taalmodellen hun “antwoorden” (output) formuleren, geeft mensen haast vanzelfsprekend een gevoel van vertrouwen. Maar dit vertrouwen is onterecht, en we moeten daarmee oppassen. We delen graag wat redenen met je waarom de output van AI niet volledig of betrouwbaar is.

AI-modellen:

  1. Genereren hun output op basis van statistiek, patroonherkenning en kansberekening, en dus niet op basis van eigen bewustzijn, intelligentie of begrip.
  2. Gebruiken betrouwbare en onbetrouwbare bronnen door elkaar heen.
  3. Kunnen niet uit zichzelf de context begrijpen waarbinnen ze hun taken uitvoeren.
  4. Kunnen geprogrammeerd zijn om mensen te pleasen (‘sycophantie’), waardoor ze eerder onjuiste antwoorden geven dan toe te geven dat ze de juiste informatie niet kunnen vinden.
  5. Kunnen geprogrammeerd zijn om mensen te beïnvloeden, bijvoorbeeld in hun meningsvorming, hun politieke standpunten of om hen over te halen tot een aankoop.
  6. Zijn uiteindelijk gemaakt om het commerciële belang van de ontwikkelaar te dienen. Veel tools werken in het begin heel prettig en effectief, maar worden daarna steeds irritanter door o.a. advertenties en oplopende abonnementskosten (‘enshittification’).
  7. Worden op foute manieren ingezet door kwaadwillige mensen. Een voorbeeld is hoe neppe foto’s en video’s over echte rampen verwarrend kunnen werken voor hulpverleners die slachtoffers proberen te lokaliseren via sociale media.

Deel dit artikel:

LinkedIn

Bedankt voor gebruiken van onze informatie om duurzame keuzes te maken!

Je hebt deze informatie gratis gelezen, maar het maken van goede informatie kost tijd en geld. We willen onze informatie betrouwbaar, onafhankelijk en up-to-date houden. En hiermee steeds meer mensen bereiken, zodat onze beweging nog krachtiger wordt.

Met jouw steun kunnen wij meer mensen duurzame stappen laten zetten!

Wil jij ons helpen door te doneren?

Schrijf je in voor de nieuwsbrief

Eenmaal per maand ontvang je de nieuwsbrief van Just Enough met daarin onder meer: 

Productbeoordelingen en interviews met koplopers

Verhalen over minder, duurzamer en eerlijker consumeren

Opinie over een economie van genoeg

Meer artikelen

No results found.

Schrijf je in

Jij bent nodig! Doe ook mee en krijg:

 

• tips & inspiratie over minder, duurzamer en eerlijker consumeren

• uitnodigingen om gelijkgestemden te ontmoeten