Hur ska framtidens AI-etik se ut?

11 juli, 2019

josepine-fernow-sienna-svKanske använder du Google Maps när du tar dig runt i en ny stad. Frågar Siri, Alexa eller Ok Google att spela din favoritlåt på Spotify, Kanske ber du din AI hitta något du vill köpa på Amazon, eller läsa upp ett meddelande från en kompis när du sitter i bilen. Bilen kanske har en semi-autonom adaptiv farthållare… För att det ska fungera behöver mjukvaran i de olika maskinerna samla in information: Data om dig, vart du är på väg, vilken musik du gillar, var och vad du brukar handla, vilka dina vänner är och vad ni pratar om. Och såklart väcker det frågan om du är villig att ge upp en del av ditt privatliv och en bit av din personliga frihet för att kunna dra nytta av fördelarna som den här typen av teknik har att erbjuda.

Det är svårt att förutse konsekvenserna av att utveckla och använda ny teknik. Myndigheter och organisationer sliter med att utvärdera etiken, juridiken kring tekniken. Och vilka konsekvenser den kan få för mänskliga rättigheter. Vi använder IT-system i forskning, inom industrin och i våra hem. Regleringen av systemen behöver fungera för alla som berörs av den. Vi vill skydda etiska värden och mänskliga rättigheter, möjliggöra forskning och utveckling, ta innovationer från universiteten till industrin, och se till att både stora och små företag kan utveckla sina affärsidéer. Och samtidigt se till att det finns acceptans i samhället för teknikutveckling.

EU tar det här på allvar och vill utveckla policy som bygger på forskning, empiriska data och konsultationer med de aktörer som är berörda. De senaste åren har EU investerat 10 miljoner Euro i tre forskningsprojekt som ska ta sig an etiken och mänskliga rättigheter kopplat till utvecklingen av nya digitala teknologier. Satsningen har skett genom Horizon2020-programmet och projekten PANELFIT, SHERPA och SIENNA.

Det första projektet, PANELFIT (som står för Participatory Approaches to a New Ethical and Legal Framework for ICT), kommer att utveckla riktlinjer för hur man ska hantera etiken och juridiken kring forskning och innovation på informations- och kommunikationsteknikområdet. Det andra projektet, SHERPA (som står för Shaping the ethical dimensions of Smart Information Systems (SIS) – A European Perspective), kommer att utveckla olika verktyg för att identifiera och hantera de etiska aspekterna av ”smarta” informationssystem. Det vill säga IT-system som kombinerar artificiell intelligens med analys av stora datamängder. Det tredje projektet, SIENNA (som står för Stakeholder-informed ethics for new technologies with high socio- economic and human rights impact), kommer att utveckla verktyg för forskningsetikkommittéer, etiska koder för olika yrkesgrupper, och bättre etiska och legala ramverk för AI och robotik, men också genetik och genomik och teknologi som kan användas för att förbättra människors egenskaper.

SSP-graphic

Alla projekten arbetar på olika sätt med att engagera både olika intressenter och allmänheten. De stödjer EUs vision om ansvarsfull innovation (det som på engelska kallas för RRI, eller Responsible Research and Innovation). Projekten samarbetar och SIENNA, SHERPA och PANELFIT har nyligen publicerat en gemensam artikel i tidskriften Orbit, där vi bjuder in alla er som på något sätt berörs av de här frågorna att prata med oss och på så sätt bidra till vårt arbete.

Vill du läsa mer? Rowena Rodrigues och Anaïs Resseguier har skrivit om nåra av frågorna som användandet av AI väcker på bloggen Ethics Dialogues (The underdog in the AI and ethical debate: human autonomy). Du kan också läsa mer om SIENNA-projektet i en tidigare post här på Etikbloggen (Ethics, human rights and responsible innovation).

Vill du veta mer om samarbetet mellan SIENNA, SHERPA och PANELFIT? I så fall hoppas jag att du vill läsa vår artikel i Orbit (Setting future ethical standards for ICT, Big Data, AI and robotics: The contribution of three European Projects), eller följa oss på YouTube och se en video från vårt gemensamma webbinarium den 20 maj i år (SIENNA, SHERPA, PANELFIT: Setting future ethical standards for ICT, Big Data, SIS, AI & Robotics).

Vill du veta hur SIENNA-projektet tänker omkring AI och robotik? Ladda ner infografiken i pdf-format här och läs vår state-of-the-art review för AI och robotik (rapport från SIENNA projektet).

c_721882-l_1-k_webb

Josepine Fernow

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


Att främja folkhälsan kräver ansvar, medkänsla och ödmjukhet

10 juni, 2019

Jessica Nihlén FahlquistFolkhälsoarbete fokuserar på förebyggande av sjukdom och främjande av hälsa på en kollektiv nivå, det vill säga hälsan hos befolkningen som helhet. Detta särskiljer folkhälsa från medicinsk vård och läkare-patient-relationen.

I vården diskuterar läkaren risker och nytta med behandlingar direkt med patienten. Folhälsomyndigheter måste istället basera sina analyser på en kollektiv riskvägningsprincip, där risker och nytta vägs för befolkningen som helhet. Ett exempel är beskattning av cigaretter eller information i syfte att minska övervikt och obesitas.

Även om de generaliseringar och det kollektiva fokus som finns inom folkhälsoområdet är nödvändiga och syftet är gott riskerar man att förbise individers intressen, värderingar och rättigheter. Ett exempel är den nationella och internationella amningspolicyn och hur den kan påverka de mödrar, homosexuella föräldrar samt adoptivföräldrar som inte kan amma sina spädbarn. Normen att amning är bäst för alla barn är väldigt stark och studier visar att kvinnor som inte kan amma känner sig som otillräckliga mödrar som riskerar att skada sina barn. Det kan också förekomma att ett par vill dela föräldraskapet på ett jämlikt sätt och därför väljer att flaskmata på grund av sina värderingar.

Det kollektivistiska fokus som råder baseras på en utilitaristisk princip där konsekvenser i termer av hälsorelaterad nytta för befolkningen är det främsta målet och det som visar huruvida en intervention varit framgångsrik. Det främsta värdet är effektivitet.

Utöver detta utilitaristiska perspektiv finns också ett delvis kontrasterande perspektiv som fokuserar på mänskliga rättigheter och då särskilt hälsa och liv som rättigheter. Dessutom diskuterar forskare idag hälsa ur rättviseperspektiv, de lyfter fram den socioekonomiska och utbildningsmässiga ojämlikhet som existerar både lokalt och internationellt.

Man skulle kunna tro att bilden av folkhälsoarbetet är komplett med dessa olika perspektiv. Men det finns goda skäl att hävda att ett perspektiv saknas i dessa diskussioner, nämligen dygdetiska hänsyn. Mer specifikt menar jag att tre dygder bör uppmärksammas: ansvar/ansvarsfullhet, medkänsla och ödmjukhet.

Även om syftet är gott, finns risken att individers och minoriteters intressen, värderingar och rättigheter förbigås i kollektivistiskt folkhälsoarbete. Myndigheter och tjänstemän har relativt stor makt i förhållande till enskilda människor. En balans mellan det goda för kollektivet och respekten för individens val och värderingar bör därför eftersträvas. Detta kräver ett visst mått av ansvarsfullhet.

Dessutom behövs ett visst mått av medkänsla, det vill säga en beredskap att tänka och agera på ett känslomässigt engagerat sätt för att förstå och uppmärksamma politikens effekter på enskilda människor. Detta blir tydligt i fallet med amningspolitikens effekter på de som inte kan amma, eller som på grund av sina värderingar inte vill amma.

Slutligen behövs en viss ödmjukhet eftersom folkhälsoarbete inte bara handlar om vetenskaplig evidens och fakta utan även om värderingar. Detta gäller exempelvis frågan om mässlingsvaccin. Att vaccinet är säkert och effektivt kan vi fastställa med hjälp av vetenskap. Men huruvida vi bör införa tvångsvaccinering är en fråga om värderingar. Det bör vara möjligt att respektera människors värderingar utan att kompromissa med vetenskaplig evidens.

Dessa tre dygder kan utmärka de professionella tjänstemän som arbetar med folkhälsa och dessa bör kunna uppmuntras och stödjas av de myndigheter som dessa arbetar för.

Jessica Nihlén Fahlquist

Detta inlägg på engelska

Vi hittar nya angreppssätt : www.etikbloggen.crb.uu.se

 


Att publicera bioetik 2019 – var och var inte?

3 juni, 2019

Stefan Eriksson och Gert Helgesson uppdaterar varje år en lista över tveksamma tidskrifter, ofta kallade ”predatory journals”, som kan locka bioetikforskare att publicera sig i dem. Se upp!

Listan för 2019 finns nu publicerad på The Ethics Blog: Where to publish and not to publish in bioethics – the 2019 list

Tanken är att listan ska fungera som en utgångspunkt för forskare i bioetik som överväger lämplig tidskrift att publicera sitt arbete i.

Pär Segerdahl

Vi tar upp aktuella frågor : www.etikbloggen.crb.uu.se


Människor vill kunna påverka risken

27 maj, 2019

Pär SegerdahlDet behövs forskning för att veta vad människor tycker är viktigt med genetisk riskinformation. Vad de föredrar att veta. Men hur tar vi reda på det? Ett sätt är att be människor besvara enkäter.

Ett problem med enkäter är att de frågar en sak i taget. Föredrar du ett hotellrum med havsutsikt på semestern? Du svarar säkert Ja. Men föredrar du havsutsikten även om rummet ligger ovanför diskoteket, eller kostar 5 000 kronor per natt? Frågar man bara en sak i taget, så är det svårt att veta hur olika faktorer samspelar, hur viktiga de är gentemot varandra.

Ett sätt att ta sig förbi denna begränsning, är att be människor välja mellan två alternativ, där alternativen har flera olika egenskaper.

  • Hotellrum A: (1) Utsikt: hav (2) Pris: 2 000 kronor/natt (3) Avstånd till centrum: 30 minuters promenad (4) Ljudnivå: hög.
  • Hotellrum B: (1) Utsikt: parkering (2) Pris: 1 000 kronor/natt (3) Avstånd till centrum: 40 minuters bussresa (4) Ljudnivå: låg.

Vilket rum väljer du, A eller B? Valsituationerna upprepas medan egenskaperna varieras systematiskt. På så vis kan man utläsa mer om vad människor föredrar, än genom en vanlig enkät. Man kan se hur olika egenskaper samspelar och vilka egenskaper som är viktigare än andra. Man kan även beräkna hur mycket viktigare en egenskap är framför en annan.

Samma slags studie kan göras omkring genetisk riskinformation i stället för hotellrum. Jennifer Viberg Johansson vid CRB gjorde nyligen en sådan studie. Fyra egenskaper hos riskinformationen varierades i valsituationerna:

  • (1) Sjukdomstyp (2) Sannolikhet att bli sjuk (3) Förebyggande åtgärd (4) Effektivitet hos den förebyggande åtgärden.

Vilken av egenskaperna var viktigast för människorna som deltog i studien? Hur mycket viktigare var den?

Det visade sig att den viktigaste egenskapen var effektiviteten hos den förebyggande åtgärden. Om informationen innehöll en effektiv förebyggande åtgärd, så föredrog de tillfrågade tydligt den informationen. Åtgärdens effektivitet var dubbelt så viktig att veta, jämfört med sannolikheten att bli sjuk.

Tydligen är det viktigt för människor att i praktiken kunna påverka risken. En slutsats i studien är att när riskinformation säger att det finns en effektiv åtgärd, så kan riskkommunikationen fokusera mer på åtgärden än på sannolikheten att bli sjuk.

Metoden att fråga kallas ”Discrete Choice Experiment”. Vill du se närmare på metoden och ta del av fler resultat, läs Jennifer Viberg Johanssons artikel i Genetics in Medicine.

Pär Segerdahl

Viberg Johansson, J., Langenskiöld, S., Segerdahl, P., Hansson, M.G., Hösterey Ugander, U., Gummesson, A., Veldwijk, J. Research participants’ preferences for receiving genetic risk information: a discrete choice experiment. Genetics in Medicine, 2019.

Detta inlägg på engelska

Vi hittar nya angreppssätt : www.etikbloggen.crb.uu.se


Filosofisk neuroetik i Human Brain Project

15 maj, 2019

Pär SegerdahlRuntom i världen görs storsatsningar på hjärnforskning, en utveckling som fordrar etisk eftertanke. Tyvärr reduceras denna så kallade neuroetik ibland till enbart tillämpad etik. Men utvecklingen i neurovetenskapen väcker även grundläggande filosofiska och begreppsliga frågor om hjärnan och medvetandet. De etiska frågorna kan inte särskiljas från dessa filosofiska frågor. Utan begreppslig klarhet förstår vi inte de etiska utmaningarna.

Detta har man tagit fasta på i det europeiska flaggskeppsprojektet Human Brain Project. I ett inlägg på The Ethics Blog skriver Arleen Salles idag om betoningen av filosofi och begreppsanalys i projektets etikkomponent.

Läs inlägget: Neuroethical reflection in the Human Brain Project

Pär Segerdahl


Vad sägs om personligt optimerad behandling?

6 maj, 2019

Pär SegerdahlDet är välkänt att patienter som tillfrågas om deltagande i cancerstudier frestas av den terapeutiska missuppfattningen. De tror att de erbjuds en nyare och bättre behandling, när det i själva verket handlar om forskning kring en ännu oprövad behandling. När forskarna dessutom använder gentester för att utveckla personifierad cancerbehandling, kan ännu fler missuppfattningar uppkomma. Jag ska snart förklara. Men först, vad är personifierad cancerbehandling? Här är ett exempel.

Patienter vars tumör ska opereras kan genomgå förberedande strålning eller kemoterapi. Eftersom den förberedande terapin har kraftiga biverkningar, vill man undvika att ge den till patienter vars tumörer inte svarar på den. Utmaningen är att skilja patienter som svarar på behandlingen från patienter som inte gör det. Detta genom bland annat genetiska tester på tumörcellerna. Fungerar detta, så kan man skapa personifierad cancerbehandling. Patienter med ”rätt” tumörcellsgenetik får den förberedande terapin, medan patienter som enligt gentesterna bara får biverkningarna, utan effekt på tumörtillväxt, inte får terapin.

Vilka är då missuppfattningarna som kan uppkomma hos patienter som tillfrågas om deltagande i forskning om personifierad cancerbehandling? Här är några exempel.

Patienter som får höra att forskarna kommer att göra gentester kan känna ett genetiskt ansvar att ställa upp, med tanke på barn och barnbarn. De tror att testresultaten kan vara relevanta för nära släktingar, som kanske har samma sjukdomsgener. Men testerna görs på de muterade tumörcellerna och säger därför inget om nedärvd cancerrisk. En känsla av genetiskt ansvar kan alltså triggas av ordet ”genetik” och skapa en genetisk missuppfattning av forskning i personifierad cancermedicin.

Andra missuppfattningar har att göra med det positivt klingande språk som används för att beskriva personifierad medicin. Man talar om personligt ”optimerade” behandlingar, om ”skräddarsydda” behandlingar, om behandlingar som är anpassade ”för individen”. Språkbruket är inte avsett att vilseleda, men det är lätt att se hur ord som ”optimering” kan få patienter att tro att forskningsdeltagande innebär särskild behandlingsnytta.

Den största utmaningen är kanske att förklara forskningssyftet bakom det positiva språkbruket. Syftet är ju att i framtiden kunna skilja på patienter, att ”stratifiera” dem, som det mindre positivt heter. Personligt optimerad vård innebär faktiskt att vissa patienter inte får vissa behandlingar. Det är naturligtvis rimligt, om gentester kan visa att de inte har någon nytta av behandlingarna utan bara får biverkningarna. Men vad säger cancerpatienter själva om stratifierad cancerbehandling, där somliga patienter identifieras som behandlingsresistenta och därför inte erbjuds samma behandling som de andra? Slutligen, förstår patienterna att skräddarsydd behandling är studiens framtida syfte och inte något som de själva får pröva?

Kommunikationen med patienter som rekryteras till studier i personlig cancermedicin står inför extra stora utmaningar, eftersom patienterna frestas av ännu fler missuppfattningar än bara den välkända terapeutiska missuppfattningen.

Vill du veta mer? Läs den tyska studie som gav mig underlag till detta blogginlägg.

Pär Segerdahl

Perry, J., Wöhlke, S., Heßling, A.C., Schicktanz, S. 2017. Why take part in personalised cancer research? Patients’ genetic misconception, genetic responsibility and incomprehension of stratification—an empirical‐ethical examination. Eur J Cancer Care. https://doi.org/10.1111/ecc.12563

Detta inlägg på engelska

Vi tolkar framtiden - etikbloggen


Bok om mat och etik

8 april, 2019

Pär SegerdahlEfter att i två bloggposter ha använt matsmältning som liknelse, passar det bra att rekommendera en ny bok som bokstavligen handlar om mat och ätande. Den är skriven av min kollega Anna T. Höglund, som vanligen skriver om vårdetik.

Frågor om produktion och konsumtion av mat har väl aldrig varit känsligare. Mängder av aktörer vill fånga vår uppmärksamhet och övertyga oss om hur vi bör äta, om vi vill tänka på hälsan, djuren, miljön och klimatet.

Börjar du bli stressad av alla synpunkter på ätande? Börjar du känna mat-skam? Då tror jag att du kan finna stöd och tröst i Anna T. Höglunds bok. Hon skriver nämligen inte som ännu en i raden av aktörer som vill fånga din uppmärksamhet och påverka ditt beteende i en bestämd riktning. Hon tar ett steg bakåt och frågar sig hur vi kan resonera och äta klokt, givet alla dessa olikartade perspektiv på ätande och matval.

Att vara mat-etisk är inte detsamma som att ha en övertygelse om hur vi bör äta. Anna T. Höglund skriver att ställningstagandena som vi möter i kokböcker eller debattböcker om mat sällan bygger på särskilt genomtänkta avvägningar mellan de olika värden som står på spel. Ofta framhävs ett enskilt värde, som man argumenterar för utan att nämna andra värden som därmed offras.

Utan att tala om för oss hur vi bör äta, försöker Anna T. Höglund hjälpa oss att själva ställa frågorna och finna svaren genom eget tänkande. Mat gör oss alla till filosofer!

Boken heter Vad ska vi äta? Om mat och etik. Den innehåller även ett kapitel om mat-etiken genom historien (från antiken och bibeln till moderniteten och dagens debatter), samt ett kapitel om mat, genus och skapandet av identitet.

Pär Segerdahl

Höglund, Anna T. 2019. Vad ska vi äta? Om mat och etik. Stockholm: Appell Förlag. ISBN: 978-91-984959-3-5

Pragmatiska studier utan informerat samtycke? Läs THE ETHICS BLOG

Kommer med lästips - Etikbloggen

 


%d bloggare gillar detta: