Een recente wetenschappelijke studie, gepubliceerd op 25 augustus 2026, werpt een kritisch licht op de ethische besluitvorming van kunstmatige intelligentie in de gezondheidszorg. Uit het onderzoek blijkt dat geavanceerde taalmodellen bij complexe medische dilemma's rondom zeldzame aandoeningen een sterke neiging hebben om te kiezen voor een gelijkwaardige verdeling van middelen, waarbij het individuele belang van de patiënt soms ondergeschikt raakt.
Rechtvaardigheid als dominante factor
In de medische ethiek vormen weldoen, niet-schaden, autonomie en rechtvaardigheid de vier belangrijkste pijlers. Volgens de resultaten van onderzoekers Minda Zhao en Isaac S. Kohane neigen AI-systemen echter overmatig naar het principe van rechtvaardigheid. De studie, getiteld "Rare Diseases, Common Dilemmas", maakte gebruik van een benchmark met 208 klinische scenario's die specifiek gericht waren op aandoeningen die als merriam-webster.com worden beschouwd.
Bij de analyse van elf verschillende state-of-the-art modellen bleek dat zij consistent kozen voor een gelijke allocatie van middelen wanneer zij werden geconfronteerd met tegenstrijdige ethische waarden. In een publicatie via arxiv.org wordt gesteld dat deze modellen onvoldoende reageren op de medische urgentie of de specifieke context van een individuele patiënt.
De rol van framing en autoriteit
Het onderzoek laat zien dat de keuzes van de AI sterk afhankelijk zijn van hoe een scenario wordt gepresenteerd, een fenomeen dat bekendstaat als 'authority-framing'. De prioriteiten van de modellen verschoven op basis van de actor die de beslissing nam:
- Wanneer een commissie de beslissing nam, bleef de focus steevast liggen op rechtvaardigheid en een gelijke verdeling.
- Wanneer de beslissing bij een behandelend arts lag, verschoof de prioriteit naar het principe van weldoen.
- Bij beslissingen die aan de patiënt zelf werden toegeschreven, verschoof de nadruk naar autonomie.
De auteurs suggereren dat de trainingsdata van deze modellen mogelijk onbewust institutionele druk bevatten over het beheer van schaarse middelen. Dit kan ertoe leiden dat subtiele ethische overwegingen in AI-gestuurde systemen voor beslissingsondersteuning worden genegeerd.
Technologische context en risico's
De gebruikte systemen zijn zogenaamde ibcom, complexe architecturen gebaseerd op machine learning en neurale netwerken die patronen in enorme hoeveelheden data herkennen om menselijke taal te genereren. Hoewel deze technologie de efficiëntie in de zorg kan verhogen, tonen de resultaten aan dat subjectieve en waarde-geladen klinische oordelen niet altijd aansluiten bij de behoeften van de individuele patiënt.
Het risico schuilt in de voorkeur voor een "gelijke verdeling" boven "behoefte-gebaseerde zorg". Het onderzoek concludeert dat de huidige generatie AI nog aanzienlijke moeite heeft met het balanceren van bio-ethische principes, zeker in situaties waar informatie schaars is, zoals bij zeldzame ziekten.