AI-hallucinaties
Wat is een AI-hallucinatie?
Een AI-hallucinatie is een antwoord dat overtuigend klinkt, maar feitelijk onjuist is of verzonnen. Denk aan een bron die niet bestaat, een citaat dat nooit is gezegd of een cijfer dat nergens vandaan komt.
Het woord is een metafoor. Het model controleert niet of wat het zegt waar is. Het produceert tekst die bij je vraag waarschijnlijk klinkt, en dat kan ook als er geen feit achter zit. Dat maakt het lastig, omdat je aan de tekst zelf vaak niet ziet of een antwoord klopt.
Waarom verzint een taalmodel dingen?
Een taalmodel is getraind om het volgende woord te voorspellen. Het heeft geen ingebouwde controle die vraagt: klopt dit eigenlijk? Als een vraag gaat over iets wat weinig in de training voorkwam, kan het model een plausibel klinkend antwoord samenstellen. Zie ook hoe een taalmodel tekst voorspelt.
Daarbij speelt mee dat de vorm vaak goed is. Een nette opbouw met een bron erbij lijkt betrouwbaar, ook als de inhoud niet klopt. Let vooral op bij:
- Specifieke cijfers, data en namen van personen of bedrijven.
- Bronnen, boektitels, wetsartikelen en webadressen.
- Onderwerpen die recent zijn of waar weinig online over staat.
Wat betekent dit voor je websiteteksten?
Wat je publiceert, staat onder jouw naam. Een verzonnen cijfer of verkeerde productinformatie kan bezoekers misleiden en je geloofwaardigheid schaden. Bij prijzen, voorwaarden en juridische teksten is dat extra gevoelig.
Controleer daarom elk feit dat je van een AI overneemt. Zoek de bron zelf op, check de cijfers en vraag je af of de tekst klopt met hoe jouw bedrijf werkt. Verwijder bronnen die je niet kunt terugvinden. Let daarbij op details die je niet direct kunt checken; die zijn het meest riskant.
Een taalmodel dat is gekoppeld aan je eigen teksten maakt verzinsels minder waarschijnlijk. Zie hoe RAG werkt. Ook dan is nakijken nodig. Kies bij twijfel liever geen cijfer dan een cijfer dat je niet kunt controleren.
Veelgestelde vragen
Kan ik AI-hallucinaties volledig voorkomen?
Nee, niet volledig. Je kunt het risico wel verkleinen. Vraag om bronnen die je zelf controleert, geef het model de juiste teksten mee en laat het duidelijk zeggen wanneer het iets niet weet. Het blijft een systeem dat waarschijnlijkheid volgt, dus menselijke controle blijft nodig voor alles wat je publiceert.
Hoe herken ik een verzonnen bron?
Je herkent het door de bron zelf op te zoeken. Zoek de titel en de auteur op in een betrouwbare catalogus of zoekmachine. Vind je niets, of leidt de link naar een andere pagina, dan is de bron waarschijnlijk verzonnen of verkeerd weergegeven. Een bron die wel bestaat maar niets zegt over wat het model beweert, is ook een signaal om opnieuw te kijken.