Levels of Autonomy in Cognitive Control (LACC-LOA): Bidimensional Assessment Method Applied to Six AI Assistant Concepts and Scenarios in the Aviation Domain

Inom både industri och akademi beskrivs autonominivån hos datoriserade system idag ofta utifrån en enda dimension, som sträcker sig från helt mänskligt arbete (ingen automation) till full automation utan mänsklig inblandning. I takt med att mer avancerad artificiell intelligens används för att stödja människan blir det dock allt viktigare att förstå vilken typ av kognitivt kontrollarbete som automatiseras. Ett system som kan utföra avancerade kognitiva uppgifter (t.ex. anpassning till nya kontrollsituationer) skiljer sig avsevärt från ett system som endast kan utföra grundläggande uppgifter (t.ex. filhållning). Dessa frågor blir relevanta vid utformning och utvärdering av människa-AI-system, nämligen hur det kognitiva arbetet ska fördelas mellan människan och AI-agenten, och framför allt vilken typ av kognitivt arbete de ska utföra tillsammans. Syftet med denna artikel är därför att stödja införandet av en kognitiv dimension i systemutvärdering. Som analysverktyg föreslår vi att nivåerna för autonomi inom kognitiv kontroll (Levels of Autonomy in Cognitive Control, LACC) inkluderas tillsammans med de etablerade och allmänt använda nivåerna för automation (Levels of Automation, LOA). Vi beskriver angreppssättet och dess tvådimensionella LACC-LOA-matris genom att utvärdera sex koncept för digitala assistenter inom flygdomänen, med olika nivåer av kognitiv kapacitet. I vår studie analyserade vi ett nyckelscenario från varje användningsfall genom ett onlinebaserat workshopformat. Sammanfattningsvis gav LACC-LOA-bedömningsmetoden en betydande detaljnivå i förståelsen, inte bara av frågan ”vem/vad har kontrollen?”, utan också ”kontroll över vad?”. De flesta användningsfallen som undersöktes befann sig inte inom en enda LOA-nivå utan sträckte sig över flera, och LACC tillförde en användbar dimension genom att visa var det centrala ”kognitiva arbetet” var placerat inom dessa LOA-nivåer för både människa och AI. Mer generellt har denna utökade kartläggning betydelse för att förstå hur införandet av AI-baserade system kan påverka människans handlingsförmåga och inflytande i systemet.