Hur ska framtidens AI-etik se ut?

11 juli, 2019

josepine-fernow-sienna-svKanske använder du Google Maps när du tar dig runt i en ny stad. Frågar Siri, Alexa eller Ok Google att spela din favoritlåt på Spotify, Kanske ber du din AI hitta något du vill köpa på Amazon, eller läsa upp ett meddelande från en kompis när du sitter i bilen. Bilen kanske har en semi-autonom adaptiv farthållare… För att det ska fungera behöver mjukvaran i de olika maskinerna samla in information: Data om dig, vart du är på väg, vilken musik du gillar, var och vad du brukar handla, vilka dina vänner är och vad ni pratar om. Och såklart väcker det frågan om du är villig att ge upp en del av ditt privatliv och en bit av din personliga frihet för att kunna dra nytta av fördelarna som den här typen av teknik har att erbjuda.

Det är svårt att förutse konsekvenserna av att utveckla och använda ny teknik. Myndigheter och organisationer sliter med att utvärdera etiken, juridiken kring tekniken. Och vilka konsekvenser den kan få för mänskliga rättigheter. Vi använder IT-system i forskning, inom industrin och i våra hem. Regleringen av systemen behöver fungera för alla som berörs av den. Vi vill skydda etiska värden och mänskliga rättigheter, möjliggöra forskning och utveckling, ta innovationer från universiteten till industrin, och se till att både stora och små företag kan utveckla sina affärsidéer. Och samtidigt se till att det finns acceptans i samhället för teknikutveckling.

EU tar det här på allvar och vill utveckla policy som bygger på forskning, empiriska data och konsultationer med de aktörer som är berörda. De senaste åren har EU investerat 10 miljoner Euro i tre forskningsprojekt som ska ta sig an etiken och mänskliga rättigheter kopplat till utvecklingen av nya digitala teknologier. Satsningen har skett genom Horizon2020-programmet och projekten PANELFIT, SHERPA och SIENNA.

Det första projektet, PANELFIT (som står för Participatory Approaches to a New Ethical and Legal Framework for ICT), kommer att utveckla riktlinjer för hur man ska hantera etiken och juridiken kring forskning och innovation på informations- och kommunikationsteknikområdet. Det andra projektet, SHERPA (som står för Shaping the ethical dimensions of Smart Information Systems (SIS) – A European Perspective), kommer att utveckla olika verktyg för att identifiera och hantera de etiska aspekterna av ”smarta” informationssystem. Det vill säga IT-system som kombinerar artificiell intelligens med analys av stora datamängder. Det tredje projektet, SIENNA (som står för Stakeholder-informed ethics for new technologies with high socio- economic and human rights impact), kommer att utveckla verktyg för forskningsetikkommittéer, etiska koder för olika yrkesgrupper, och bättre etiska och legala ramverk för AI och robotik, men också genetik och genomik och teknologi som kan användas för att förbättra människors egenskaper.

SSP-graphic

Alla projekten arbetar på olika sätt med att engagera både olika intressenter och allmänheten. De stödjer EUs vision om ansvarsfull innovation (det som på engelska kallas för RRI, eller Responsible Research and Innovation). Projekten samarbetar och SIENNA, SHERPA och PANELFIT har nyligen publicerat en gemensam artikel i tidskriften Orbit, där vi bjuder in alla er som på något sätt berörs av de här frågorna att prata med oss och på så sätt bidra till vårt arbete.

Vill du läsa mer? Rowena Rodrigues och Anaïs Resseguier har skrivit om nåra av frågorna som användandet av AI väcker på bloggen Ethics Dialogues (The underdog in the AI and ethical debate: human autonomy). Du kan också läsa mer om SIENNA-projektet i en tidigare post här på Etikbloggen (Ethics, human rights and responsible innovation).

Vill du veta mer om samarbetet mellan SIENNA, SHERPA och PANELFIT? I så fall hoppas jag att du vill läsa vår artikel i Orbit (Setting future ethical standards for ICT, Big Data, AI and robotics: The contribution of three European Projects), eller följa oss på YouTube och se en video från vårt gemensamma webbinarium den 20 maj i år (SIENNA, SHERPA, PANELFIT: Setting future ethical standards for ICT, Big Data, SIS, AI & Robotics).

Vill du veta hur SIENNA-projektet tänker omkring AI och robotik? Ladda ner infografiken i pdf-format här och läs vår state-of-the-art review för AI och robotik (rapport från SIENNA projektet).

c_721882-l_1-k_webb

Josepine Fernow

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


Att publicera bioetik 2019 – var och var inte?

3 juni, 2019

Stefan Eriksson och Gert Helgesson uppdaterar varje år en lista över tveksamma tidskrifter, ofta kallade ”predatory journals”, som kan locka bioetikforskare att publicera sig i dem. Se upp!

Listan för 2019 finns nu publicerad på The Ethics Blog: Where to publish and not to publish in bioethics – the 2019 list

Tanken är att listan ska fungera som en utgångspunkt för forskare i bioetik som överväger lämplig tidskrift att publicera sitt arbete i.

Pär Segerdahl

Vi tar upp aktuella frågor : www.etikbloggen.crb.uu.se


Vad sägs om personligt optimerad behandling?

6 maj, 2019

Pär SegerdahlDet är välkänt att patienter som tillfrågas om deltagande i cancerstudier frestas av den terapeutiska missuppfattningen. De tror att de erbjuds en nyare och bättre behandling, när det i själva verket handlar om forskning kring en ännu oprövad behandling. När forskarna dessutom använder gentester för att utveckla personifierad cancerbehandling, kan ännu fler missuppfattningar uppkomma. Jag ska snart förklara. Men först, vad är personifierad cancerbehandling? Här är ett exempel.

Patienter vars tumör ska opereras kan genomgå förberedande strålning eller kemoterapi. Eftersom den förberedande terapin har kraftiga biverkningar, vill man undvika att ge den till patienter vars tumörer inte svarar på den. Utmaningen är att skilja patienter som svarar på behandlingen från patienter som inte gör det. Detta genom bland annat genetiska tester på tumörcellerna. Fungerar detta, så kan man skapa personifierad cancerbehandling. Patienter med ”rätt” tumörcellsgenetik får den förberedande terapin, medan patienter som enligt gentesterna bara får biverkningarna, utan effekt på tumörtillväxt, inte får terapin.

Vilka är då missuppfattningarna som kan uppkomma hos patienter som tillfrågas om deltagande i forskning om personifierad cancerbehandling? Här är några exempel.

Patienter som får höra att forskarna kommer att göra gentester kan känna ett genetiskt ansvar att ställa upp, med tanke på barn och barnbarn. De tror att testresultaten kan vara relevanta för nära släktingar, som kanske har samma sjukdomsgener. Men testerna görs på de muterade tumörcellerna och säger därför inget om nedärvd cancerrisk. En känsla av genetiskt ansvar kan alltså triggas av ordet ”genetik” och skapa en genetisk missuppfattning av forskning i personifierad cancermedicin.

Andra missuppfattningar har att göra med det positivt klingande språk som används för att beskriva personifierad medicin. Man talar om personligt ”optimerade” behandlingar, om ”skräddarsydda” behandlingar, om behandlingar som är anpassade ”för individen”. Språkbruket är inte avsett att vilseleda, men det är lätt att se hur ord som ”optimering” kan få patienter att tro att forskningsdeltagande innebär särskild behandlingsnytta.

Den största utmaningen är kanske att förklara forskningssyftet bakom det positiva språkbruket. Syftet är ju att i framtiden kunna skilja på patienter, att ”stratifiera” dem, som det mindre positivt heter. Personligt optimerad vård innebär faktiskt att vissa patienter inte får vissa behandlingar. Det är naturligtvis rimligt, om gentester kan visa att de inte har någon nytta av behandlingarna utan bara får biverkningarna. Men vad säger cancerpatienter själva om stratifierad cancerbehandling, där somliga patienter identifieras som behandlingsresistenta och därför inte erbjuds samma behandling som de andra? Slutligen, förstår patienterna att skräddarsydd behandling är studiens framtida syfte och inte något som de själva får pröva?

Kommunikationen med patienter som rekryteras till studier i personlig cancermedicin står inför extra stora utmaningar, eftersom patienterna frestas av ännu fler missuppfattningar än bara den välkända terapeutiska missuppfattningen.

Vill du veta mer? Läs den tyska studie som gav mig underlag till detta blogginlägg.

Pär Segerdahl

Perry, J., Wöhlke, S., Heßling, A.C., Schicktanz, S. 2017. Why take part in personalised cancer research? Patients’ genetic misconception, genetic responsibility and incomprehension of stratification—an empirical‐ethical examination. Eur J Cancer Care. https://doi.org/10.1111/ecc.12563

Detta inlägg på engelska

Vi tolkar framtiden - etikbloggen


Patienter hittar vilseledande information på internet

30 oktober, 2018

Pär SegerdahlI så kallade fas 1-studier av substanser som i framtiden eventuellt skulle kunna användas för att behandla cancer, rekryteras cancerpatienter som forskningsdeltagare. Dessa har nästan alltid långt framskriden cancer som inte längre svarar på standardbehandlingen.

Att forskningsdeltagande skulle ha effekt på cancern är osannolikt. Syftet med fas 1-studier är att fastställa säkra doser samt undersöka bieffekter och andra säkerhetsfrågor. Detta för att sedan kunna gå vidare och undersöka substansens effektivitet på specifika cancerformer, men med andra forskningsdeltagare.

Med tanke på att patienter ofta söker information online om kliniska prövningar, ville Tove Godskesen, Josepine Fernow och Stefan Eriksson undersöka kvaliteten på den information som i dagsläget finns på internet om fas 1-prövningar i Sverige, Danmark och Norge.

Resultaten som redovisas i European Journal of Cancer Care är ganska alarmerande. Det allvarligaste problemet, som jag förstår det, är att informationen döljer riskerna för allvarliga biverkningar, samt på olika sätt antyder möjliga positiva behandlingseffekter. Denna brist på klarspråk är allvarlig. Vi har att göra med svårt sjuka patienter som lätt hyser orealistiska förhoppningar om nya behandlingsmöjligheter.

För att ge en bild av problematiken vill jag återge några exempel på typiska fraser som Godskesen, Fernow och Eriksson hittade i informationen på internet, samt deras förslag på lämpligare språkbruk. Det är lärorikt att se kontrasten mellan uttryckssätten.

Ett problem är att informationen talar om behandling, trots att det handlar om forskningsdeltagande. I stället för att skriva ”Om du är intresserad av behandlingen” kunde man skriva ”Om du vill delta i forskningen”. Snarare än att skriva ”Patienterna kommer att behandlas med X”, kunde man skriva ”Deltagarna kommer att ges X”.

Substansen som prövas beskrivs ibland som en medicin eller terapi. I stället kan man skriva ”Du kommer att få en substans som heter X”.

Ett annat problem är att man talar om studiedeltagande som en fördel och möjlighet för cancerpatienten. I stället för att skriva ”En fördel med deltagande i studien är att…”, kunde man skriva ”Studien kan leda till bättre cancerbehandlingar för framtida patienter”. Snarare än att skriva ”Denna behandling kan vara en möjlighet för dig”, vilket är grovt vilseledande i fas 1-studier, kunde man tydligare säga: ”Du kan delta i denna studie”.

Författarna prövade även läsbarheten av texterna man hittade på internet. Den danska webbplatsen skaccd.org klarade sig bäst, följd av norska helsenorge.no. Sämst klarade sig den svenska webbplatsen cancercentrum.se, där informationen var mycket kortfattad och bedömdes kräva en doktorsgrad för att vara begriplig.

Det är naturligtvis begripligt att det är svårt att tala begripligt om så svåra saker som cancerstudier. Inte bara patienterna som rekryteras som studiedeltagare hoppas på effektiv behandling. Hela vitsen med forskningen är effektiv cancerbehandling. Det är det yttersta sammanhanget för forskningen, horisonten man blickar mot.

Det är bara det att detta yttersta sammanhang ligger avlägset i framtiden och handlar om andra cancerpatienter än de som deltar i fas 1-studier. Därför är det viktigt att inte låta detta hoppfulla framtidsperspektiv prägla informationen till patienter där hopp vore orealistiskt.

Tala inte om behandlingar och möjligheter. Säg bara ”Du kan delta i denna studie”.

Pär Segerdahl

Godskesen, TE, Fernow J, Eriksson S. Quality of online information about phase I clinical cancer trials in Sweden, Denmark and Norway. Eur J Cancer Care. 2018;e12937. https://doi.org/10.1111/ecc.12937

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se


Prata med 5-åringar om forskning

23 oktober, 2018

Hur pratar man med barn om forskning? Och hur rekryterar man dem till att vara med i studier? För att barn ska få vara med i ett forskningsprojekt krävs att barnets föräldrar ger sitt tillstånd. Regelverket anger att barn i möjligaste mån ska ge sitt medgivande till att vara med och våra etikkommittéer kräver att vi delger barnen åldersadekvat information. Vården och forskarna tycker systemet är bra, och etiskt ”riktigt”.

Efter att ha rekryterat mängder av barn till olika forskningsprojekt har jag samlat på mig lite erfarenhet men också funderingar. Jag har knåpat ihop otaliga informationsbrev till barn i olika åldrar; alla har granskats och gått igenom etikkommitténs nålsöga. Men vad är egentligen ”åldersadekvat information”? Den ambitiösa pediatriska forskaren kan med stöd från utvecklingspsykologin och lite pedagogisk forskning på ett ungefär pricka rätt. På gruppnivå. Alltså, vad förstår barn på ett ungefär i ett givet åldersspann. Men på individnivå, hur rätt eller fel blir den ”åldersadekvata” informationen då? Søren Kirkegaard skrev i dikten Till eftertanke ”För att hjälpa någon måste jag visserligen förstå mer än vad han gör, men först och främst förstå det han förstår”.

Idag sätter jag värde på långsamhet och ro när jag rekryterar barn till forskningsprojekt. Vi pratar om vad forskning är för något, de flesta 5-åringar har faktiskt en idé. Vi pratar om vad just det här projektet handlar om och vad vi vill att barnet ska bidra med. Kanske ritar eller tittar på nån bild. Och vi pratar om att man när som helst får ändra sig och sluta vara med, utan att nån blir arg sur eller ledsen. Och en massa annat… Sen, viktigast av allt, så får barnet berätta för mig vad vi pratat om och kommit överens om. Att verkligen förstå vad någon förstår, det tar lite tid. Unna dig den tiden…

Först när jag förstår att barnet verkligen förstått ber jag om underskrift på samtyckesblanketten.

Sara Frygner-Holm

Detta inlägg på engelska

Vi vill ha dialog : www.etikbloggen.crb.uu.se

 


Genetisk risk: Ska forskare berätta?

24 september, 2018

Ska genetikforskare informera forskningsdeltagare om de upptäcker genetiska sjukdomsrisker hos dem? Ja, skulle många säga, om informationen är till nytta för deltagarna. Men hur vet vi om komplex genetisk information är relevant för enskilda människor? Enligt Jennifer Viberg Johansson behöver både etiker och genetiker förhålla sig till att nyttan inte är garanterad.

I samband med stora genetiska studier erbjuder forskare ofta en stor hälsokontroll för att samla in data. De som deltar får veta vilket blodtryck de har, hur deras lungfunktion ser ut och resultaten från olika blodprov. I framtiden kan möjligheten att få information om genetisk risk vara något som lockar forskningsdeltagare. Jennifer Viberg Johansson undersöker vad forskare behöver tänka på innan de lämnar ut sådana resultat.

Genetisk riskinformation gör kanske inte så stor nytta för enskilda individer som man kan tro. Att känna till vilken genuppsättning du har är inte samma sak som att veta hur sannolikt det är att du ska utveckla en viss sjukdom. Dessutom är den typ av genetisk information som du får när du deltar i forskning inte anpassad efter vad du har för symptom eller vad du oroar dig för. Görs däremot ett genetiskt test på sjukhus, är det ofta för att bekräfta misstankar om att du har, eller är i riskzonen för att utveckla en genetisk sjukdom.

Genetisk riskinformation är komplex och kan vara svår att förstå. Forskningsdeltagarna som Jennifer Viberg Johansson intervjuat, ser information om genetisk risk som något som kan förklara vilka de är, och varifrån de kommer. Men också som något som påverkar deras framtid. Att ta del av informationen är för dem en möjlighet att planera livet, och förebygga sjukdom.

Om forskningsdeltagare egentligen vill ha information om genetisk sjukdomsrisk är svårare att ta reda på. Deras svar kan ändras beroende på hur frågan ställs. Riskforskning visar att vi tolkar sannolikhet på olika sätt beroende på hur resultat och konsekvenser presenteras. Jennifer Viberg Johanssons forskning visar samma mönster: När det finns sätt att förebygga sjukdom är sannolikheten att bli sjuk inte en viktig del i vårt beslutsfattande.

Vi har svårt att förstå genetisk risk när den presenteras i siffror. Det är svårt för oss att bedöma vad det betyder att ha 10 procent eller 50 procent risk för sjukdom. Istället har vi en tendens att förstå genetisk risk som ett binärt begrepp: antingen har du risk, eller så har du det inte. Jennifer Viberg Johansson föreslår att genetisk rådgivning bör ta hänsyn till den uppfattningen, och anpassas till mottagarens ofta binära tolkning av genetisk risk.

Det är svårt att kommunicera risk. Det kräver att den som arbetar med genetisk rådgivning uppmärksammar att olika människor tolkar samma siffror på olika sätt.

Jennifer Viberg Johansson försvarade sin avhandling den 21 september 2018.

Anna Holm

Viberg Johansson J., (2018), INDIVIDUAL GENETIC RESEARCH RESULTS – Uncertainties, Conceptions, and Preferences, Uppsala: Acta Universitatis Upsaliensis

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se


Vad betyder författarordningen?

19 september, 2018

Pär SegerdahlHur ska vi tolka uppräkningen av författarnamn i akademiska publikationer? Säger författarordningen något om hur mycket var och en bidragit till publikationen?

Efter att ha läst en artikel i ämnet av Gert Helgesson och Stefan Eriksson, inser jag att det inte finns någon ordentlig ordning på författarordningen. Första och sista positionen räknas ofta som de viktigaste. Men inte alltid. Till min förvåning behöver inte ens en förstaposition otvetydigt betyda huvudförfattarskap. Ibland tolkas asterisken vid namnet på författaren vars kontaktuppgifter anges, som tecken på huvudförfattarskap. Ibland betyder asterisken att författaren är underordnad och får sköta alla praktikaliteter kring publikationen.

Ibland har andrapositionen särskild betydelse. Ibland inte. Ibland har näst sista positionen en viss tolkning. Ibland en annan. Helgesson och Eriksson talar om grupptraditioner och de beskriver olika ämneskonventioner. Finns det verkligen inga riktlinjer att följa? Nej, faktiskt inte. Författarriktlinjer kan på sin höjd rekommendera författare att i god tid komma överens om författarordningen. Men eftersom riktlinjerna inte specificerar vad ordningen betyder, så blir innebörden av den överenskomna författarordningen oklar!

Med tanke på hur meriterande författarskap är i akademiska konkurrenssammanhang, är avsaknaden av ordning på den här punkten överraskande. Är frågan för känslig? Kommer en alltför tydlig ordning att leda till alltför tidskrävande strider mellan författare kring vem som borde stå först, sist, på andra plats, näst sist, med asterisk, utan asterisk, och så vidare?

Helgesson och Eriksson diskuterar olika förslag på förtydligad ordning. Ett förslag de stött på är att första- och sistapositionen vardera renderar 40 % av författarinsatsen. Resterade 20 % delas lika av författarna i mellanpositionerna. För fem författare skulle författarskapet alltså uppdelas: 40, 6.7, 6.7, 6.7 och 40 %. Förslaget avfärdas, eftersom sådana fasta värden är rättvisa bara om arbetsinsatserna faktiskt råkar fördelas just så (vilket är osannolikt).

Ett mer flexibelt system kunde vara att uppge de faktiska procentsatserna, från fall till fall. Men hur fastställs de faktiska procentsatserna? Olika författare bidrar kvalitativt olika: genom att planera studien; genom att analysera data; genom att författa textutkast. Vad väger tyngst?

Ett annat förslag är att inte tilldela författarordningen någon relativ betydelse. I stället beskrivs vad var och en bidragit med. Bidragskap i stället för författarskap, där bidraget beskrivs i absoluta termer snarare än relativa. Till exempel: ”Bidrog till planeringen av studien”, ”Bidrog till dataanalysen”, ”Bidrog till att skriva textutkast”. Ett problem med detta förslag, menar Helgesson och Eriksson, är att det i själva verket säger väldigt lite om de absoluta bidragen. ”Bidragit till planeringen av studien” kan betyda såväl substantiella som lättviktiga bidrag.

Artikeln avslutas med att ta ett steg tillbaka. För kanske tog vi ett steg i fel riktning när vi krävde dessa klarlägganden. Problematiken kring författarordningens betydelse förutsätter en individualistisk och konkurrensinriktad syn på vetenskap. Det finns idag även andra tendenser, som kanske är viktigare att ta fasta på. Exempelvis strävanden att göra vetenskapen öppen och samhälleligt ansvarsfull. Kanske bör vi undvika att fästa alltför stor vikt vid författarordningen?

Kanske bör fokus ligga på gemensamma bidrag till vetenskap och samhälle, snarare än på individuella meriter i konkurrensen om anställningar och forskningsanslag?

Så avslutas artikeln, med en fråga som manar till eftertanke.

Pär Segerdahl

Helgesson, G. & Eriksson, S. Authorship order. Learned Publishing, 2018, doi: 10.1002/leap1191

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se


%d bloggare gillar detta: