Grootschalig onderzoek naar Large Language Models (LLM's) heeft aangetoond dat deze systemen regelmatig code produceren die op het eerste gezicht correct oogt, maar technisch onuitvoerbaar is. In tegenstelling tot standaard programmeerfouten gaat het hier om zogenaamde 'ongegronde generaties'. Hierbij creëren AI-modellen softwarepakketten die in werkelijkheid niet bestaan of stellen zij algoritmen voor die in strijd zijn met fundamentele wiskundige wetten.
Om dit fenomeen van code-hallucinaties systematisch te kunnen analyseren, hebben de onderzoekers Vishnu Asutosh Dasu, Ashish Kundu en Gang Tan een nieuw theoretisch kader ontwikkeld. Volgens een publicatie op arxiv.org wordt de analyse van deze fouten onderverdeeld in drie specifieke dimensies. Ten eerste wordt gekeken naar de 'groundedness', waarbij een onderscheid wordt gemaakt tussen absolute waarheden en fabricaties binnen een specifiek ecosysteem. Ten tweede wordt het manifestatieniveau onderzocht, waarbij fouten worden ingedeeld als syntactisch, semantisch of feitelijk. Ten slotte wordt het gedrag van het model geanalyseerd, variërend van zeer zelfverzekerde onjuistheden tot volledig onbruikbare output.
Voor de validatie van deze theorie is een zogenaamde 'adversariële suite' opgezet. Dit is een verzameling van 270 opzettelijk onoplosbare opdrachten, verspreid over 24 subcategorieën en zes verschillende programmeertalen. Het doel van deze test is om te zien of een model in staat is om een onmogelijke taak correct te weigeren. Om te controleren of de modellen niet simpelweg alles weigeren, werden er 91 oplosbare taken aan het onderzoek toegevoegd.
De resultaten van dit onderzoek, dat is ingediend bij op 3 september 2026, zijn onthullend. Er werden twaalf open-weight modellen voor code en redenering getest, waarbij in totaal 4.332 reacties werden geëvalueerd. De data tonen aan dat modellen in ongeveer 60 procent van de gevallen ongegronde code genereerden bij de onoplosbare prompts. Slechts in 27 procent van de situaties weigerden de modellen de taak correct. Opvallend is dat de modellen bij de oplosbare controle-opdrachten in geen enkel geval onterecht weigerden.
Deze bevindingen brengen een aanzienlijk risico met zich mee voor software engineers. Omdat de gefabriceerde code vaak compileert of zelfs lijkt te draaien, zijn deze hallucinaties moeilijk te detecteren zonder specialistische kennis. De zelfverzekerde toon waarmee AI-modellen onjuiste informatie presenteren, vergroot de kans op kritieke fouten bij de implementatie in echte softwareprojecten. De auteurs van de studie hopen dat dit onderscheid tussen een gewone bug en een hallucinatie zal helpen bij het ontwikkelen van systemen die hun eigen beperkingen beter herkennen.
Terwijl educatieve platformen zoals codemonkey.com zich richten op het aanleren van programmeervaardigheden via gestructureerde leeromgevingen, benadrukt dit wetenschappelijke rapport dat de inzet van AI in het leerproces kritisch moet gebeuren. De integratie van LLM's in de softwareontwikkeling vereist een voortdurende controle op de feitelijke juistheid van de output om technische misleiding te voorkomen. De volledige details van de gebruikte taxonomie en de testresultaten zijn terug te vinden in de wetenschappelijke documentatie op .