Mens nogle ser brugen af kunstig intelligens (AI) på flight deck som vejen til at mindske fejl, er andre bekymrede over tabet af menneskelig kontrol. I dette debatindlæg kigger Søren Westerdahl fra Spørg Piloten nærmere på, om AI er den næste revolution i flysikkerhed eller en potentiel trussel mod de menneskelige piloters job.
Af Søren Westerdahl/Spørg Piloten
Anvendelse af automatik har i lang tid været i brug ombord på fly. Autopiloten er nok den form for automatik, som de fleste allerede vil være bekendt med. Afhængig af flytype kan der dog være en lang række andre avancerede systemer, som aflaster piloterne og reducerer risici for fejl.
På den baggrund kan det måske virke som en overreaktion, hvis piloter er bekymrede for anvendelse af AI ombord. For er det ikke bare en ny og smartere autopilot?
I pilotkredse er der generelt modstand i forhold til at reducere antallet af piloter fra to til en. AI er en klar trussel mod pilotens tilstedeværelse på flight deck. Eller i hvert fald en trussel mod den ene af piloterne. Teknologien til at gå fra to til en piloter er der efter sigende allerede, og det er ikke vanskeligt at forestille sig, at næste skridt vil være at gå fra en til nul piloter.
Det er dog næppe, kun fordi piloter er bange for at miste jobbet, at der er modstand mod AI. For lad os se nærmere på “Kaptajn AI.”
Ideen om den perfekte kaptajn
Kaptajn AI giver mening set i lyset af, at hovedparten af ulykker inden for luftfartsbranchen sker på grund af ”human error”. AI-teknologien synes med al beskedenhed at være menneskets hjerne overlegen. På den baggrund synes valget af Kaptajn AI oplagt.
Spørgsmålet er dog basalt set, hvad der sker, når vi lader AI overtage?
I dag mødes besætningen (piloter og cabin crew) som ofte i crewrummet. Her gennemgås dagens flyvning (briefing). Briefingstadiet handler ikke kun om at tage operationelle beslutninger, det er også der, hvor ”stemningen” sættes. Det er ofte op til kaptajnen og kabinechefen at slå tonen an blandt besætningen. Kaptajnens og kabinechefens rolle er således mere end blot at være en teknisk ekspert inden for et område. De skal samtidig være en leder, coach og firmaets repræsentant. Det er vanskeligt at forestille sig, hvordan Kaptajn AI vil klare disse HR/soft skills.
Planmæssig afgang er ofte resultatet af flere interaktioner mellem besætning og jordpersonale. Der skal også ofte tages beslutninger: Skal vi vente et par minutter på de manglende passagerer? Skal vi forsøge at starte op tidligere end planlagt? Igen kan Kaptajn AI selvfølgelig programmeres til at tage hånd om disse ting, men det er vanskeligt at forestille sig, hvordan Kaptajn AI vil klare sådanne situationer. Særligt de situationer, hvor det handler om face-to-face kommunikation.
De manøvrer, som i dag foretages manuelt, er taxi og takeoff. Det skulle dog nok være muligt at programmere sig ud af problematikken, så Kaptajn AI behersker alle disse manøvrer.
Når flyet er kommet i luften, vil Kaptajn AI med al sandsynlighed kunne flyve flyet kontrolleret og med præcision. I dag flyver piloten allerede manuelt i et stærkt begrænset tidsrum. Typisk aktiveres autopiloten inden for et minut af starten, og autopiloten kobles ofte først ud ganske kort tid før landing. Der er dog i dag en række ting, som autopiloten ikke kan håndtere, f.eks. operation af flaps og landing gear. Programmering af Kaptajn AI vil dog højst tænkeligt medføre, at det ikke bliver et problem. Med de rette argumenter, om at Kaptajn AI er mere sikker end den menneskelige kaptajn, og at der kan være besparelser forbundet med at fordrive den menneskelige pilot fra flight deck, er truslen mod piloterne reel.
Hvad Kaptajn AI måske vil have svært ved
Det, vi med nogenlunde sikkerhed kan slå fast, er, at Kaptajn AI nok ikke vil lave de typiske menneskelige fejl. Det er sjældent muligt for piloter at udføre en ”perfekt flyvning”. Det mål er nok til gengæld inden for rammerne af Kaptajn AIs formåen.
Kaptajn AI må forventes at være noget fra at være en tilstedeværende og god leder. I stedet vil Kaptajn AI være mere en kompetent systemoperatør. Det er dog nok mere et spørgsmål om udvikling. Med tiden skal Kaptajn AI nok også kunne beherske alle de områder, som i dag varetages af et menneske.
En stor del vil nok tænke: Jeg skal ikke sætte mig op i et fly uden piloter. Men er det ikke blot et spørgsmål om langsom tilvænning? Hvis flybilletten er billigere, og statistikken peger i retning af, at Kaptajn AI er sikker, er det måske ikke så vanskeligt at forestille sig, at der er et kæmpe marked. Kaptajn AI skal ikke (ligesom piloter skal i dag) hvile ned, og der er en række situationer, man kan forestille sig, hvor Kaptajn AI kan udføre et bedre stykke arbejde, end den menneskelige pilot kan. Der er selvfølgelig lige truslen om, at nogen hacker Kaptajn AI. Men djævlens advokat vil måske påpege, at den samme trussel er reel med den menneskelige pilot – ikke at vi bliver hacket, men at nogen tager kontrollen ombord (highjack).
Samlet set er det svært at få øje på, hvad Kaptajn AI (i hvert fald på sigt) ikke vil kunne håndtere eller være dårligere til end den menneskelige konkurrent.
Det større perspektiv
Svaret på hvorfor vi alligevel skal passe på med at tillade Kaptajn AI tage kontrollen inden for luftfart, skal nok i stedet ses ud fra et samfundsmæssigt perspektiv. Tillader vi generelt AI at overtage arbejdspladser, hvad skal vi som mennesker så til sidst lave? Bagere, taxachauffører, advokater, skolelærere, politibetjente, læger osv. Alle fag vil jo i princippet kunne erstattes af en smartere AI-model, der kan udføre jobbet fejlfrit.
Bare fordi noget er muligt, er det ikke ensbetydende med, at det vil være en smart ting at implementere. Forestil dig en verden, hvor der nærmest ikke længere er nogen jobs, som betjenes af mennesker. Hvordan vil sådan et samfund kunne fungere økonomisk og folkesundhedsmæssigt? Hvad sker der med os mennesker og vores sind, når vi ikke længere har en rolle i samfundet? Når vi er udkonkurreret af en smartere AI-model. Vil vi ikke bare alle sammen sidde hjemme og være deprimerede og få rådgivning af en AI-psykolog?
Implementering af AI bør komme med begrænsninger
AI er kommet for at blive, men lovgivning og retningslinjer for brugen er nødvendig. Som en konklusion på overskriften og spørgsmålet: Skal vi være bange? er det nok således, at selve brugen af AI ud fra et sikkerhedsperspektiv vel i bund og grund giver mening. Er AI mere sikker end os mennesker, er der vel ikke noget at være bange for rent sikkerhedsmæssigt. Men når det kommer til truslen om, at AI kan erstatte os mennesker i vores jobs, så er der grund til at være bange. Vi som mennesker må acceptere, at det ligger i menneskets natur at lave fejl. Hvis vi kan anvende AI til at begrænse fejlene inden for områder, som f.eks. luftfart er det værd at forfølge, men med den begrænsning, at AI ikke skal erstatte vores arbejdsplads, men blot gøre den bedre. Grænsen er hårfin.
Tankerne ledes hen på John Legend-sangen All of me med “your perfect imperfections.” Måske er idealet og lykken ikke det perfekte. Måske ødelægger vi samfundet, hvis standarden (AI) hele tiden er det perfekte. For hvordan skal vi som mennesker begå os i en verden, hvor vi er hægtet af på forhånd grundet de begrænsninger, der ligger i at være menneske? Måske vil det at lade AI tage over være den største menneskelige fejl, som vi som art begår.
This is your former captain speaking… Captain AI is now in control. Lad os håbe, at den announcement blot kan være et skræmmebillede, og at vi via lovgivning kan sørge for at regulere brugen af AI.
