Förarlös trafiketik

20 juni, 2018

Pär SegerdahlRobotbilar styrs av datorprogram med stora mängder trafikregler. Men i trafiken sker inte allt friktionsfritt enligt reglerna. Plötsligt springer ett barn ut i vägen. Två personer försöker hjälpa en cyklist som kollapsat på vägen. En bilist försöker göra en U-sväng på en alltför smal väg och blir stående på tvären.

Förutsatt att robotbilarnas program lyckas kategorisera trafiksituationerna via bildinformation från bilens kameror, så måste programmen välja lämpliga körbeteenden för robotbilarna. Ska bilarna bryta mot viktiga trafikregler genom att exempelvis styra in på trottoaren?

Det är mer komplicerat än så. Anta att en vuxen person promenerar på trottoaren. Bör den vuxnes liv äventyras för att rädda barnet? Eller för att rädda cyklisten och de två hjälpsamma?

Konstruktörerna av självkörande bilar har en svår uppgift. De måste programmera bilarnas val av körbeteende i etiskt komplexa situationer som vi kallar oväntade, men som konstruktörerna måste förutse långt i förväg. De måste så att säga redan i fabriken bestämma hur bilmodellen ska bete sig i framtida ”helt oväntade” trafiksituationer. Kanske tio år senare. (Jag förutsätter att programvaran inte uppdaterats; men även uppdaterad mjukvara innebär att man förutser vad vi normalt ser som oväntat.)

På ett samhälleligt plan försöker man nu enas kring etiska regler för hur framtida robotbilar bör bete sig i tragiska trafiksituationer där det kanske inte går att helt undvika skador eller dödsfall. En kommission initierad av tyska transportministeriet föreslår exempelvis att robotbilarnas passagerares liv aldrig får offras för att rädda livet på ett större antal personer i trafiksituationen.

Vem skulle för övrigt köpa en robotbil som är programmerad att offra ens liv? Vem skulle ta en sådan robottaxi? Samtidigt är vi kanske som förare beredda att offra oss, när vi faktiskt konfronteras med oväntade trafiksituationer. Några forskare bestämde sig för att undersöka saken. Du kan läsa om studien i ScienceDaily, eller läsa forskningsartikeln i Frontiers in Behavioral Neuroscience.

Forskarna använde VR-teknik (Virtual Reality) för att utsätta försökspersoner för etiskt svåra trafiksituationer. Sedan studerade man försökspersonernas val av trafikbeteende. Forskarna fann att försökspersonerna var överraskande villiga att offra sig själva för att rädda andra. Men de tog även hänsyn till potentiella trafikoffers ålder samt var beredda att styra in på trottoaren för att minimera antalet trafikoffer. Detta strider mot normer som vi håller viktiga i samhället, som att åldersdiskriminering inte får förekomma och att oskyldigas liv bör skyddas.

Folk är kort sagt benägna att köra bil på ett politiskt inkorrekt sätt!

Varför gjordes studien? Såvitt jag förstår för att de trafiketiska regler som nu föreslås centralt inte tar hänsyn till empiriska data om hur levande förare är benägna att köra sina bilar i etiskt svåra trafiksituationer. Robotbilarna kommer att fatta etiska beslut som kan göra ägarna av bilarna missnöjda med sina bilar; moraliskt missnöjda!

Forskarna förespråkar dock inte att förarlösa bilar bör reagera på etiskt komplexa trafiksituationer så som levande människor gör det. Men diskussionen om förarlös trafiketik bör ta hänsyn även till data om hur levande människor är benägna att köra sina bilar i trafiksituationer där det kanske inte går att undvika olyckor.

Låt mig komplettera empirin med några filosofiska funderingar. Något som slår mig när jag läser om förarlös trafiketik, är nämligen detta att ”det oväntade” försvinner som realitet. En levande förare som försöker hantera en plötslig trafiksituation hanterar något som mycket påtagligt händer just nu. Robotbilen fattar däremot beslut som tickar fram lika förutbestämt som varje annat beslut; som att stanna vid rött ljus. Trafiketiken är bara ytterligare programvara som robotbilen utrustats med på fabrik (eller vid uppdatering av programvaran).

Vad får det för konsekvenser?

En levande förare som plötsligt hamnar i en svår trafiksituation konfronteras (som sagt) med något som sker just nu. Föraren får bära ansvaret för sitt agerande i detta intensiva ögonblick under resten av sitt liv. Även om en medtrafikant rationellt offras för att rädda livet på tio, så kommer föraren att bära bördan av detta dödsfall, drömma om det, fundera över det. Och om föraren fattar ett dumt beslut som skadar fler än det räddar, så kan det ändå vara möjligt att med tiden försonas med det, just för att situationen var så oväntad.

Detta gäller däremot inte för robotbilen, som programmerats på fabrik enligt riktlinjer från trafikmyndigheterna. Vi skulle kanske vilja säga att robotbilen var förprogrammerad att offra vår systers liv, där hon helt oskyldigt kom gående på trottoaren. Hade bilen styrts av en levande människa, så hade vi blivit arga på föraren. Men efter en tid hade vi möjligen kunnat börja försona oss med förarens beteende. Det var ju en oväntad situation! Och föraren lider själv av sitt agerande!

Men om det var en robotbil som betedde sig perfekt enligt tillverkarens program och myndigheternas rekommendationer, då kanske vi skulle ha sett det som en skandal att bilen var förprogrammerad att styra in på trottoaren, där vår syster oskyldigt kom gående.

Ett skäl som anförs för förarlösa bilar är att de, genom att minimera den mänskliga faktorn, kan minska antalet trafikolyckor. Det är möjligt att de kan. Men kanske har vi, just för att den mänskliga faktorn minimeras, mindre överseende med hur de programmerats att rädda liv i etiskt svåra situationer. Inte nog med att de är förprogrammerade. De bär inte heller det ansvar som levande människor tvingas bära. Även för rationella beslut.

Nåväl, vi kommer säkert att finna oss tillrätta med de förarlösa bilarna. Men en annan fråga bekymrar mig ännu. Om det levande nuet försvinner som realitet i de förarlösa bilarnas etikmjukvara, har det inte redan försvunnit i den etik som föreskriver moraliskt rätt och fel för oss levande?

Pär Segerdahl

Detta inlägg på engelska

Vi tar upp aktuella frågor : www.etikbloggen.crb.uu.se


Bok om ledningsansvar i hälso- och sjukvården

14 juni, 2018

Pär SegerdahlEn ny bok av etikforskarna Erica Falkenström och Anna T. Höglund undersöker behovet av etisk kompetens i vårdens ledningsfunktioner:

På spaning efter etik (Apell Förlag)

Författarna har intervjuat landstingspolitiker, chefstjänstemän och vårdgivarnas högsta chefer. De har analyserat styrdokument och observerat möten. Detta för att kunna besvara frågan vilken etisk kompetens som fordras för att dessa aktörer ska kunna ta etiskt ansvar för ledning och styrning av vården.

Med tanke på problemen i vården kring arbetsmiljö, vårdköer, patientsäkerhet, vård på lika villkor, med mera, borde boken vara angelägen sommarläsning inte bara för politiker, utan för alla med någon anknytning till vårdens ledningsfunktioner.

Pär Segerdahl

Falkenström, E. och Höglund, A. T. 2018. På spaning efter etik. Etisk kompetens och ansvarstagande för ledning och styrning av hälso- och sjukvården. Stockholm: Apell Förlag.

Kommer med lästips - Etikbloggen


Förbered er på robottrams

26 februari, 2018

Pär SegerdahlI takt med att datorer och robotar tar över uppgifter som hittills bara kunnat utföras av människor, som att köra bil, kommer vi antagligen att utsättas för alltfler försåtliga språkliga glidningar från teknikens prästerskap.

Idén om intelligenta datorer, om medvetna robotar, är av någon anledning ohyggligt fascinerande. Vi ser oss själva som intelligenta och medvetna varelser. Tänk om robotar också kan vara intelligenta och medvetna! Faktum är att vi redan har sett dem (nästan): på bioduken. Snart ser vi dem kanske i verkligheten också (på riktigt)!

Tänk om artefakter som vi betraktat som dött mekaniska en vacker dag får livets karaktär! Tänk om vi skapar intelligent liv! Har vi tillräckligt många utropstecken för ett sådant mirakel?

Idén om intelligent liv i superdatorer kommer ofta tillsammans med idén att det finns ett test som kan avgöra om en superdator är intelligent. Det är lite som om jag ville göra idén om evighetsmaskiner trovärdig genom att tala om ett evighetsmaskin-test, uppfunnet av en supersmart matematiker på 1600-talet. Frågan om något är en evighetsmaskin är i princip avgörbar och alltså värd att beakta! Snart driver de kanske våra intelligenta, robotstyrda bilar!

Det finns en välkänd idé om ett intelligenstest för datorer, uppfunnet av den brittiske matematikern Alan Turing. Testet antas kunna avgöra om en maskin ”har vad vi har”: intelligens. Hur funkar testet? I princip handlar det om huruvida du kan skilja en dator från en människa – eller inte kan göra det.

Men det är väl ingen konst att skilja en dator från en människa? Nej, visst! Jag glömde säga att det finns dimridåer i testet, så att du varken ser, hör, känner, smakar eller luktar något! I princip skickar du in nedskrivna frågor i dimman. Ur dimman kommer nedskrivna svar. Men vem skrev/genererade svaren? Människa eller dator? Om du inte kan skilja de datorgenererade svaren från mänskliga svar – ja, då är det säkrast att du hukar, för då lurar en intelligent superdator i dimman!

Testet är alltså anpassat till datorn, som inte kan ha ett intelligent ansiktsuttryck eller se perplex ut, och som inte kan stöna ”Åh neej, vilken dum fråga!” Testet är anpassat till ett ingenjörsbegrepp om intelligent hantering av skrivna symbolsekvenser. Att den stackars testpersonen är en människa som inte alltid är säker på ”vem” som ”genererat” det skrivna svaret, döljer allt detta.

Dessa språkliga glidningar syns ovanligt tydligt i en artikel jag stött på via en ganska smart sökmotor. Artikeln frågar om maskiner kan vara medvetna. Och den svarar: Ja, och ett nytt Turing-test kan bevisa det.

Artikeln börjar med att hänryckas av medvetandet som ”vårt obeskrivliga och gåtfulla inre liv”. Medvetandet exemplifieras sedan med virveln av sensationer som väcks inom oss när vi äntligen återser vår käresta, hör ett underbart violinsolo, eller avnjuter en makalös måltid.

Efter denna extatiska hyllning av medvetandet, börjar anpassningarna av begreppet, så att det till slut bara är ett begrepp om maskinell informationshantering. Författarna ”visar” att medvetande inte förutsätter något samspel med omgivningen. Det förutsätter inte heller minnen. Medvetande förutsätter vidare inga känslor som ilska, rädsla eller glädje. Det förutsätter varken uppmärksamhet, självreflektion, språk eller förmåga att agera i världen.

Vad blir då kvar av medvetandet, som det nyss lät så läckert att ha? Svaret i artikeln är att medvetande har att göra med ”mängden integrerad information som en organism, eller en maskin, kan generera”.

Begreppet anpassas alltså gradvis till vad som skulle bevisas. Det blir slutligen något som föga överraskande kan karaktärisera en datamaskin. Efter att vi svalt denna anpassning, är det meningen att vi i slutet av artikeln återigen ska häpna och känna hänryckning över att en maskin kan ha ”detta gåtfulla inre liv” som vi har, medvetande: ”Åh, vilket utsökt violinsolo, för att inte tala om sniglarna, åh så ljuvligt att återses så här!”

Det nya Turing-test som författarna föreställer sig är såvitt jag förstår ett slags bildidentifierings-test: Kan en dator identifiera innehållet i en bild som ”ett rån mot ett affärsbiträde”? En medveten dator ska kunna identifiera bildinnehåll lika bra som en människa. Jag gissar att tanken är att uppgiften kräver supermycket integrerad information. Inga enkla tumregler av typen man + pistol + byggnad + rädd kund = rån. Det måste handla om så himla mycket integrerad information att datorn verkligen alldeles själv fattar att det är ett rån (och inte en femåring som leker med en leksakspistol).

Tron på testet förutsätter alltså att vi svalt anpassningarna av begreppet medvetande och börjat hänryckas av superstora mängder integrerad information som: ”Vårt obeskrivliga och gåtfulla inre liv”.

Den här typen av försåtliga språkliga glidningar kommer att attrahera oss ännu mer i takt med att robottekniken utvecklas. Tänk dig en android med mimik och röst som kan uttrycka intelligens och som kan stöna inför dumma frågor. Då har vi väl en intelligent och medveten maskin!

Eller bara en bedrägligare dimridå, en vandrande interaktiv superbioduk?

Pär Segerdahl

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se


Sluta prata om rovdjurstidskrifter?

22 november, 2017

Pär SegerdahlIngen forskare har väl undkommit uppvaktningen via epost från tidskrifter som envetet erbjuder sig att publicera ens forskning. Haken är att vinstmotivet styr. Oftast tar de friskt betalt av författaren och den vetenskapliga granskning som utlovas är mer eller mindre en tom fasad. Bara du skickar in din text och är beredd att betala, så hugger de!

Företeelsen har fått en etablerad beteckning. Man talar om rovdjurstidskrifter. Beteckningen används såväl av forskare och traditionella förläggare som av bibliotekarier som vill varna sina användare för tidskrifterna. De ger sken av att vara vetenskapliga, men är det knappast.

Beteckningen börjar dock att ifrågasättas. Dels för att det finns forskare som själva utnyttjar dessa tidskrifter och därmed inte är några oskyldiga bytesdjur. Dels för att även etablerade tidskrifter och förlag ibland använder rovdjurstidskrifternas metoder, såsom envetna epostutskick och höga publiceringsavgifter. Det är problematiskt, men är beteckningen rimlig på dem?

Ett annat problem som påpekats är risken att vi överreagerar och misstänker även lovande tendenser inom den akademiska förlagsvärlden, såsom publicering med öppen tillgång (Open Access). Även här förekommer det att tidskrifter tar betalt av författarna, men syftet är lovvärt: att göra vetenskapliga publikationer öppet tillgängliga på internet, utan betalspärrar.

Hur ska vi då prata, om vi vill undvika att prata om rovdjurstidskrifter?

Stefan Eriksson och Gert Helgesson uppdaterar varje år en lista över rovdjurstidskrifter inom medicinsk etik, bioetik och forskningsetik. De har även skrivit artiklar om problematiken. Men i en färsk debattartikel i Learned Publishing föreslår de att vi i stället pratar om två typer av problematiska tidskrifter: bedrägliga respektive lågkvalitativa tidskrifter.

Bedrägliga tidskrifter vilseleder författare, läsare och institutioner genom att uppge falsk information om den vetenskapliga granskningen, om redaktionen, om tidskriftens ”impact factor”, om kostnader i samband med publicering, med mera. Bedrägliga tidskrifter ska bekämpas via rättsväsendet.

Lågkvalitativa tidskrifter gör sig inte skyldiga till brottsliga handlingar. De är bara dåliga som vetenskapliga tidskrifter betraktade. Förutom låg vetenskaplig kvalitet kan de igenkännas på flera sätt. De kan exempelvis publicera artiklar inom ett löjligt brett fält (medicin och icke-medicin). De kan skicka ut förfrågningar till forskare inom ”fel” fält. De saknar strategier för att hantera forskningsfusk. Listan kunde göras lång.

Stefan Eriksson och Gert Helgesson poängterar att distinktionen mellan bedrägliga och lågkvalitativa tidskrifter gör det lättare att se vad vi faktiskt har att göra med. Och agera därefter. Somliga tidskrifter kan förknippas med handlingar som borde vara brottsliga. Andra tidskrifter utmärks snarare av sin låga kvalitet. Den skillnaden lyckas vi inte fokusera på, när vi pratar om rovdjurstidskrifter.

Dags alltså att lämna det färgstarka språkbruket kring rovdjur?

Pär Segerdahl

Eriksson, S. and Helgesson, G. (2017), Time to stop talking about ‘predatory journals’. Learned Publishing. doi:10.1002/leap.1135

Detta inlägg på engelska

Vi deltar i debatten : www.etikbloggen.crb.uu.se


Globalt forskningssamarbete, nationell dataskyddstillsyn

8 november, 2017

Pär SegerdahlVetenskap har en internationell karaktär och globala forskningssamarbeten är vanliga. För medicinsk forskning innebär detta att känsliga data och biologiska prover kopplade till personer i ett land ofta skickas över nationsgränserna till forskare i andra länder.

Samtidigt innebär utvecklingen av informations- och kommunikationsteknologi att människors rätt till dataskydd får allt större betydelse. För att ge människor persondataskydd i en ny IT-värld skärps dataskyddsregleringen, inte minst inom EU .

I en artikel i Health and Technology lyfter juristen Jane Reichel fram utmaningar som denna utveckling för med sig för biomedicinsk forskning.

Jag är inte jurist, men förstår jag Reichel rätt så handlar det inte minst om att lagstiftningen så att säga följer med persondata över nationsgränserna. EU ställer exempelvis kravet att den som mottar EU-medborgares persondata hanterar dessa data i enlighet med lagstiftningen i EU – även om mottagaren är en forskargrupp i USA eller Japan.

Detta att man i en nation kan behöva följa en främmande nations lagstiftning utmanar inte bara idéer om suveränitet och territorialitet. Det utmanar också de forskningsetiska kommittéernas ansvar. Dessa kommittéer fungerar administrativt på nationell nivå. Plötsligt tycks de behöva bevaka även utländska rättigheter och globala överenskommelser. Har dessa nationella organ expertisen och auktoriteten för en sådan internationell uppgift?

Läs artikeln om dessa spännande och oväntade juridiska problem!

Pär Segerdahl

Reichel, J. Health Technol. (2017). https://doi.org/10.1007/s12553-017-0182-6

Detta inlägg på engelska

Juridiska funderingar - Etikbloggen


Teknik, etik och mänskliga rättigheter

31 oktober, 2017

Josepine FernowNy teknik påverkar både samhället och oss som individer, men det är svårt att förutse hur. Idag använder de flesta både smarta telefoner och intelligent programvara varje dag. Vissa behöver proteser eller implantat för att få livet att fungera. Många av oss kommer att leva när förarlösa bilar kan ses i trafiken. Forskning visar att dementa som klappar robotkatter får ökad livskvalitet. Genetiska tester är billigare än någonsin och tillgängliga för både patienter och konsumenter. Om du spottar i ett provrör och skickar det till ett företag i USA får du en genetisk analys som berättar var dina förfäder kommer ifrån. Vem vet, kanske är en liten andel av dina gener från en överraskande exotisk plats. Kanske påverkar det din bild av vem du är?

Ny (och gammal) teknik kommer med både etiskt och juridiskt bagage. Sådant vi förr bara kunde föreställa oss i science fiction är möjligt idag. Teknik utvecklas fort och det är svår att förutse hur den kommer att användas när nästa generation växer upp. Dagens lagstiftning, reglering och etiska riktlinjer utvecklades för en annan framtid än vår nutid. Politiska beslutsfattare sliter med att förstå och hantera de etiska (och juridiska) konsekvenserna av ny teknik. Teknik väcker också frågor om mänskliga rättigheter. Vad händer när Saudiarabien, ett land som kritiseras för att inte ge kvinnor lika rättigheter, ger en robot hedersmedborgarskap? Den här hösten kommer en grupp forskare från Europa, Asien, Afrika och Amerika att belysa några av de här frågorna och börja sitt arbete med att förbättra etiska och juridiska ramverk för ny teknik.

SIENNA-projektet, eller Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact som det egentligen heter, kommer att leverera förslag på professionella etiska koder, riktlinjer för forskningsetikkommittéer och förslag på förbättringar i Europeisk lagstiftning. Gruppen kommer också att arbeta med de mer filosofiska frågorna som teknikutvecklingen väcker: Var drar vi gränsen mellan hälsa och sjukdom? Kan vi förvänta oss att intelligent programvara beter sig på ett moraliskt sätt? Går vi med på att ge upp en del av vår integritet för att ta reda på om vi har risk för genetisk sjukdom? Och om priset vi betalar för att interagera med maskiner är att ge upp en del av vår personliga frihet, är vi i så fall villiga att betala det?

Projektet koordineras av tekniska universitetet i Twente, Nederländerna. Uppsala universitets Centrum för forsknings- & bioetik (CRB) bidrar med sin expertis kring etiken, juridiken och de sociala konsekvenserna av genteknik. Vi bidrar också med vår erfarenhet av att arbeta med forskningskommunikation i Europeiska projekt. Vill du veta mer? Besök www.sienna-project.eu.

Josepine Fernow

SIENNA-projektet – Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact – har fått närmare €4 miljoner för ett projekt som löper på 3,5 år inom ramen för Europeiska Unionens H2020 forsknings- och innovationsprogram, grant agreement No 741716. Observera att den här texten och dess innehåll enbart uttrycker SIENNA-projektets synpunkter. EU-Kommisionen är inte ansvarig för hur innehållet används.

SIENNA project: Technology, ethics and human rights

Detta inlägg på engelska

Vi tolkar framtiden - etikbloggen


Att utveckla biobanker bör vara meriterande

16 oktober, 2017

Pär SegerdahlAlltmer biomedicinsk forskning använder information samlad i biobanker. För att en biobank ska fungera effektivt är det viktigt inte bara att det biologiska materialet förvaras väl. Materialet måste även göras tillgängligt för vetenskapen, så att många forskare lätt kan dela prover och information.

Att skapa en sådan biobanksresurs är emellertid en enorm arbetsinsats. Forskare och kliniker som samlar biobanksmaterial kan rentav vara ovilliga att göra biobanken öppet tillgänglig. Varför ge andra tillgång till din biobank, om de inte ger dig något erkännande?

I en artikel i Journal of Community Genetics diskuterar bland andra Heidi C. Howard och Deborah Mascalzoni från CRB en åtgärd för att göra det attraktivare att bygga väl fungerande biobanksresurser. Åtgärden är ett system för att belöna forskare och kliniker som bygger högkvalitativa biobanker, genom att göra arbetet meriterande.

I artikeln presenteras systemet, som går under namnet ”The Bioresource Research Impact Factor” (BRIF). Förstår jag saken rätt, kan systemet bland annat innebära att biobanker beskrivs i artiklar publicerade i särskilda bioresurstidskrifter. Forskare som får tillgång till en biobank citerar sedan artikeln som beskriver resursen. På så vis kan man räkna citeringar av bioresurser, som man räknar citeringar av forskningsartiklar.

I artikeln beskrivs även resultat av en studie av intressenters kännedom om BRIF, samt en etisk analys av hur BRIF kan bidra till ett mer ansvarsfullt biobankande.

Bygger du biobank, läs artikeln och lär dig mer om BRIF!

Pär Segerdahl

Howard, H.C., Mascalzoni, D., Mabile, L. et al. “How to responsibly acknowledge research work in the era of big data and biobanks: ethical aspects of the Bioresource Research Impact Factor (BRIF).” J Community Genet (2017). https://doi.org/10.1007/s12687-017-0332-6

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


%d bloggare gillar detta: