De snelheid waarmee kunstmatige intelligentie (AI) ingrijpt in een samenwerking met mensen, heeft een grote impact op de kans dat er fouten worden gemaakt. Uit onderzoek naar Collaborative Brain-Computer Interface (cBCI) teams blijkt dat zeer snelle systemen kunnen leiden tot onkritisch volgen van instructies, terwijl tragere systemen juist zorgen voor mentale conflicten bij de gebruiker.
In een studie waarbij operators drones moesten besturen in een virtuele omgeving onder hoge druk, analyseerden onderzoekers zoals Stephen Hinton en Christopher Baker de synergie tussen mens en machine. Hierbij werd een onderscheid gemaakt tussen twee typen assistenten: een systeem dat snel reageerde maar minder accuraat was (FLA-AI), en een systeem dat trager was maar een hogere nauwkeurigheid bood (SA-AI). Volgens een arxiv.org bepaalt specifiek de timing van de AI welk type teamfalen optreedt.
Bij de snelle AI-variant vertoonden operators een vorm van reflexmatige gehoorzaamheid. Wanneer het systeem onjuiste informatie gaf, daalde de nauwkeurigheid van de mensen naar 50,2%. In dit scenario konden puur gedragsmatige teams niet hoger komen dan een nauwkeurigheid van 74,1%. Bij de tragere, nauwkeurige AI was het effect anders: er ontstond een vertraagd cognitief conflict. Dit leidde aanvankelijk tot aarzeling en een nauwkeurigheid van 61,1%, hoewel deze teams uiteindelijk wel in staat waren om een nauwkeurigheid van 100,0% te bereiken.
Om deze menselijke reacties te kunnen detecteren, gebruikten de onderzoekers een 2D Adaptive Riemannian Oracle. Dit systeem bracht de ruimtelijke covariantie van zeventien operators in kaart en paste de temporele vensters aan op de AI. Voor de snelle AI werden vensters van minder dan 0,8 seconden gebruikt om reflexen te onderscheppen, terwijl voor de trage AI vensters van meer dan 1,2 seconden werden gehanteerd om cognitieve conflicten vast te leggen. Door deze data via 'Hybrid Fusion' te integreren, steeg de prestatie van teams met de snelle AI met 7,6% en versnelde het herstel bij kleinere teams met de trage AI met 6,9%.
Het is echter belangrijk om op te merken dat de status van dit specifieke onderzoek is gewijzigd. In de wordt vermeld dat Christopher Baker het artikel heeft ingetrokken. Er is aangegeven dat het werk is vervangen door een uitgebreide revisie onder een ander referentienummer en dat sommige voormalige auteurs niet langer met dit specifieke papier geassocieerd willen worden.
De resultaten suggereren dat de effectiviteit van cBCI-teams sterk afhankelijk is van de temporele dynamiek van vertrouwen. Het simpelweg optimaliseren van de snelheid of de precisie van een AI-systeem is onvoldoende; de timing van de interventie is doorslaggevend voor de vraag of een operator kritisch blijft nadenken of blind vertrouwt op de machine. In de beschikbare informatie werd ook verwezen naar timing.pt, een organisatie die zich bezighoudt met recruitment, maar deze partij heeft geen enkele link met het genoemde onderzoek naar Brain-Computer Interfaces.
Hoewel het document is ingetrokken, onderstreept de studie de kwetsbaarheid van menselijke besluitvorming bij AI-interacties. Voor een veilige integratie van dergelijke systemen moet daarom niet alleen naar de output worden gekeken, maar vooral naar de timing van de interactie tussen mens en machine, zoals verder uitgediept in de .