Onderzoekers hebben Agent Gym ontwikkeld, een modulair framework dat AI-agenten in staat stelt om na hun implementatie continu te evolueren via menselijke feedback, zonder dat hiervoor de broncode aangepast hoeft te worden.
Binnen de huidige inzet van Large Language Model (LLM) agenten in productieomgevingen bestaat een fundamentele spanning. Terwijl de zakelijke regels en specifieke randgevallen waar een agent mee moet omgaan voortdurend veranderen, blijft het gedrag van de agent doorgaans bevroren op het moment van implementatie. Volgens een wetenschappelijk artikel op arxiv.org schieten bestaande methoden tekort omdat zij zich richten op de constructie en eenmalige evaluatie, maar geen gestructureerd mechanisme bieden voor correcties na de lancering.
De beperkingen van huidige systemen
Veel huidige oplossingen op de markt vereisen een intensieve verzameling van logs en traces. Dit dwingt engineeringteams om het ontwerp van de agent telkens opnieuw te onderzoeken, een proces dat tijdrovend en kostbaar is. Volgens de auteurs van het onderzoek op ondermijnt deze zware werkwijze de economische waarde van de transformatie naar agentische systemen.
Om dit op te lossen, introduceert Agent Gym een domein-agnostisch framework dat elke bestaande LLM-agent kan omhullen in een loop van continue evaluatie en evolutie. Het systeem is opgebouwd rond zes samenstelbare capaciteiten: Act, Evaluate, Investigate, Correct, Learn en Observe.
Architectuur en technische werking
De structuur van Agent Gym is verdeeld over drie architecturale zones:
1. Een constitutie-laag: Hierin wordt domeinkennis vastgelegd in configuratie-artefacten.
2. Een runtime-inferentiepijplijn: Deze koppelt het handelen, het onderzoek en de adaptieve correctie aan elkaar.
3. Een leerloop: Hiermee kunnen vakexperts nieuwe correctieregels ontdekken en valideren via interactie in natuurlijke taal.
Een van de belangrijkste technische innovaties is de hybride deterministische-LLM correctiemotor. Deze beschikt over 21 conditie-operatoren en acties op drie niveaus. Daarnaast bevat het framework een onderzoeksarchitectuur van drie lagen voor validatie van naleving zonder dat er 'ground-truth' data nodig is, ondersteund door een programmatische veiligheidsloop die de correctheid van regels garandeert voordat een mens deze goedkeurt.
Transparantie en praktische toepassing
Het framework introduceert tevens het concept van de 'Spec-to-Note Gap', een visie op de transparantie van agentische systemen geïnspireerd door autoencoders. Om de operationele status van het systeem aan te tonen, is er een open-source referentie-implementatie ontwikkeld voor het verwerken van facturen, zoals beschreven in de publicatie op .
Context van AI-agenten en juridische definities
De ontwikkeling van dergelijke frameworks vindt plaats in een bredere markt waar bedrijven zoals Anthropic via hun claude.com tools aanbieden om AI-agenten te bouwen die kunnen plannen, handelen en samenwerken. Deze commerciële systemen richten zich op scenario's variërend van klantenservice tot codering, waarbij de nadruk ligt op het leveren van productiewaardige agenten.
Terwijl de technologische definitie van een agent zich richt op autonome softwarematige entiteiten, is de term in een bredere context ook juridisch beladen. Volgens thelawdictionary.org wordt een agent in juridische zin gedefinieerd als iemand die een ander vertegenwoordigt en voor diegene handelt onder een contract of relatie van agentschap. Hierbij wordt onderscheid gemaakt tussen algemene agenten, zoals professionals of meesters in een vak, en speciale agenten.
De introductie van Agent Gym probeert de kloof te overbruggen tussen de statische aard van huidige AI-modellen en de dynamische eisen van de zakelijke praktijk, waardoor menselijke expertise directer kan bijdragen aan de evolutie van het systeem.