Autopilot och dilemmat: vem «dör» – förare eller fotgängare?

Autonoma bilar slutar redan att vara science fiction: på vägarna dyker det upp bilar med autopilotläge som kan köra utan mänsklig inblandning. Bilentusiaster intresserar sig fortfarande mer för traditionella parametrar – hastighet, effekt, komfort. Med stor entusiasm jämför de till exempel tyska supersedaner som BMW M5 F90 och Mercedes-AMG E63 S utifrån deras specifikationer. Men med autopilotens intåg hamnar en helt annan fråga i fokus – etik och säkerhet. Vad ska bilen göra när en olycka inte går att undvika?

Det här är inte längre en teoretisk fråga från läroböcker, utan ett verkligt problem på vägen. Föreställ dig situationen: en självkörande bil kör i hög fart och plötsligt dyker en grupp människor upp på ett övergångsställe framför den. Det är redan för sent att bromsa. Två scenarier återstår: väja och köra in i en vägg (och offra föraren) eller fortsätta rakt fram och köra på fotgängarna. AI-algoritmen är programmerad att fatta ett visst beslut – och på det beslutet hänger liv.

Filosofer kallar ett sådant tragiskt val för ”spårvagnsproblemet”. En gång var det ett rent tankeexperiment: ska man leda en skenande spårvagn till ett annat spår för att rädda fem personer till priset av en? Nu står en liknande dilemma inför artificiell intelligens på vägen – och dess beslut får verkliga konsekvenser.

• Rädda passageraren. Fortsätta köra och skydda föraren, trots risken för en grupp fotgängare.
• Rädda fotgängarna. Styra bilen mot ett hinder eller ut på vägrenen och offra livet på den som sitter i bilen.
• Inte välja medvetet. Undvika en särskild ”val”-algoritm – alltså bygga in skade­minimering utan målval, och i praktiken låta händelserna utvecklas mer slumpmässigt.

Vissa invänder att artificiell intelligens kommer att vara så smart att den alltid hittar en tredje, säker utväg. Men det är snarare en myt. I verkligheten kan inte ens de modernaste sensorerna och programmen upphäva fysikens lagar och eliminera alla risker. Kritiska situationer kommer ändå att inträffa. Alltså kan bilen förr eller senare hamna inför valet vem som ska skonas till priset av någon annans liv.

Mänskligheten har fortfarande inte hittat ett enda ”rätt” svar på denna dilemma. Sociologiska studier ger dock ett intressant perspektiv. Enkäter visar att de flesta respondenter anser att en autonom bil i ett extremt läge bör offra passageraren för att rädda en grupp människor. Samtidigt erkänner samma personer att de inte skulle vilja åka i en bil som i fara medvetet skulle offra dem för andras liv. Denna paradox kan bli ett hinder för att införa självkörande bilar på vägarna.

Här är ett talande resultat från en undersökning av allmänhetens syn på ”autopilotdilemmat”:

Som vi ser vill samhället samtidigt att robotförare ska rädda så många som möjligt, och vill ändå inte riskera sig själv. Denna klyfta mellan moral och egenintresse skapar ett dilemma för tillverkare och regulatorer. För hur man än programmerar algoritmen blir beslutet kontroversiellt och kan väcka upprördhet.

Vem hamnar i fängelse om en självkörande bil orsakar en olycka?

Om en bil med autopilot ändå orsakar en olycka med dödlig utgång – vem ska straffas? Den frågan är inte mindre komplex än det moraliska valet. De första varningssignalerna har redan kommit. Till exempel körde en testad autonom Uber-bil 2018 ihjäl en fotgängare; det finns också andra dödliga olyckor med Tesla på autopilot. Sådana fall, där datorn ”kör”, ifrågasätter den traditionella principen att all skuld läggs på föraren.

I en situation med en ”robotförare” finns olika sätt att fastställa ansvar. Låt oss gå igenom de viktigaste scenarierna:

1. Bilens ägare (passageraren). Logiken: det var han eller hon som satt i kupén och slog på autopilotläget. Kanske borde personen ha övervakat körningen och ingripit – och bär därmed en del av skulden för passivitet.
2. Utvecklaren av programvaran (algoritmen). Det är ju programmerarna som byggde in den beteendemodell som ledde till tragedin. Ska ingenjörer bära straffrättsligt ansvar för följderna av beslut i sin kod?
3. Biltillverkaren. Företaget som släppte den självkörande bilen kan ha missat risker eller sparat in på sensorer. Ansvar kan då hamna på tillverkaren (genom ledningen) som juridisk person – till exempel via stämningar och böter.

Än så länge finns ingen tydlig lagregel i frågan. I de flesta länder där autonoma bilar testas läggs ansvaret på människan bakom ratten. Dagens autopilotsystem (nivå 2–3) kräver nämligen att föraren förblir uppmärksam. I fall med Tesla anser domstolar oftast att föraren är skyldig, eftersom han eller hon överskattade autopilotens förmåga och inte ingrep när det behövdes.

Men när helt självkörande bilar (nivå 4–5) kommer, uppstår logiskt behovet att flytta ansvaret till teknikens skapare. I Tyskland slog den nationella etiska kommissionen för automatiserad körning redan 2017 fast: om människan inte längre kontrollerar bilen, ligger ansvaret för dess handlingar inte på passageraren, utan på tillverkaren eller systemoperatören. Vissa biltillverkare är själva redo att ta ett sådant ansvar – till exempel lovade Volvo offentligt att ta på sig hela skulden när deras bilar kör i autonomt läge.

Att flytta skulden till företaget har sina för- och nackdelar. Å ena sidan kommer ägare att lita mer på autopiloten om de vet att de inte görs till ”syndabockar” vid en olycka. Å andra sidan tvekar tillverkare att ta på sig allt ansvar, eftersom det kan leda till mångmiljonstämningar och till och med straffrättsligt ansvar för deras befattningshavare. Kanske införs särskilda försäkringslösningar eller juridiska begränsningar för att balansera riskerna.

Trots alla dessa oklarheter står tekniken för autonom körning inte stilla. Nya bilmodeller får allt smartare ”hjärnor”. Till exempel är den elektriska crossovern Volkswagen ID.4 utrustad med Travel Assist för halvautonom körning, och förare av denna modell kan höja komfort och praktisk användbarhet genom att installera olika tillbehör till Volkswagen ID.4. Fullt autonom körning (nivå 5) är fortfarande framtidsmusik. Därför kommer diskussionerna om moraliska algoritmer och juridiskt ansvar att fortsätta – samhället behöver tid för att nå enighet.

Alltså har autopilotens moraliska dilemma ännu ingen tydlig lösning. Ska man programmera bilar att rädda majoriteten på passagerarens bekostnad, eller att skydda sin förare under alla omständigheter? Vem ska straffas för artificiell intelligens misstag – ingenjörer, ägare eller ingen alls? Över dessa frågor funderar filosofer, jurister och tillverkarna själva. Kanske måste etablerade principer för etik och ansvar i trafiken snart omprövas. För när det är datorn som sitter bakom ratten får både beslut och skuld en helt ny innebörd – en som mänskligheten fortfarande måste lära sig att leva med.