Hur ska framtidens AI-etik se ut?

11 juli, 2019

josepine-fernow-sienna-svKanske använder du Google Maps när du tar dig runt i en ny stad. Frågar Siri, Alexa eller Ok Google att spela din favoritlåt på Spotify, Kanske ber du din AI hitta något du vill köpa på Amazon, eller läsa upp ett meddelande från en kompis när du sitter i bilen. Bilen kanske har en semi-autonom adaptiv farthållare… För att det ska fungera behöver mjukvaran i de olika maskinerna samla in information: Data om dig, vart du är på väg, vilken musik du gillar, var och vad du brukar handla, vilka dina vänner är och vad ni pratar om. Och såklart väcker det frågan om du är villig att ge upp en del av ditt privatliv och en bit av din personliga frihet för att kunna dra nytta av fördelarna som den här typen av teknik har att erbjuda.

Det är svårt att förutse konsekvenserna av att utveckla och använda ny teknik. Myndigheter och organisationer sliter med att utvärdera etiken, juridiken kring tekniken. Och vilka konsekvenser den kan få för mänskliga rättigheter. Vi använder IT-system i forskning, inom industrin och i våra hem. Regleringen av systemen behöver fungera för alla som berörs av den. Vi vill skydda etiska värden och mänskliga rättigheter, möjliggöra forskning och utveckling, ta innovationer från universiteten till industrin, och se till att både stora och små företag kan utveckla sina affärsidéer. Och samtidigt se till att det finns acceptans i samhället för teknikutveckling.

EU tar det här på allvar och vill utveckla policy som bygger på forskning, empiriska data och konsultationer med de aktörer som är berörda. De senaste åren har EU investerat 10 miljoner Euro i tre forskningsprojekt som ska ta sig an etiken och mänskliga rättigheter kopplat till utvecklingen av nya digitala teknologier. Satsningen har skett genom Horizon2020-programmet och projekten PANELFIT, SHERPA och SIENNA.

Det första projektet, PANELFIT (som står för Participatory Approaches to a New Ethical and Legal Framework for ICT), kommer att utveckla riktlinjer för hur man ska hantera etiken och juridiken kring forskning och innovation på informations- och kommunikationsteknikområdet. Det andra projektet, SHERPA (som står för Shaping the ethical dimensions of Smart Information Systems (SIS) – A European Perspective), kommer att utveckla olika verktyg för att identifiera och hantera de etiska aspekterna av ”smarta” informationssystem. Det vill säga IT-system som kombinerar artificiell intelligens med analys av stora datamängder. Det tredje projektet, SIENNA (som står för Stakeholder-informed ethics for new technologies with high socio- economic and human rights impact), kommer att utveckla verktyg för forskningsetikkommittéer, etiska koder för olika yrkesgrupper, och bättre etiska och legala ramverk för AI och robotik, men också genetik och genomik och teknologi som kan användas för att förbättra människors egenskaper.

SSP-graphic

Alla projekten arbetar på olika sätt med att engagera både olika intressenter och allmänheten. De stödjer EUs vision om ansvarsfull innovation (det som på engelska kallas för RRI, eller Responsible Research and Innovation). Projekten samarbetar och SIENNA, SHERPA och PANELFIT har nyligen publicerat en gemensam artikel i tidskriften Orbit, där vi bjuder in alla er som på något sätt berörs av de här frågorna att prata med oss och på så sätt bidra till vårt arbete.

Vill du läsa mer? Rowena Rodrigues och Anaïs Resseguier har skrivit om nåra av frågorna som användandet av AI väcker på bloggen Ethics Dialogues (The underdog in the AI and ethical debate: human autonomy). Du kan också läsa mer om SIENNA-projektet i en tidigare post här på Etikbloggen (Ethics, human rights and responsible innovation).

Vill du veta mer om samarbetet mellan SIENNA, SHERPA och PANELFIT? I så fall hoppas jag att du vill läsa vår artikel i Orbit (Setting future ethical standards for ICT, Big Data, AI and robotics: The contribution of three European Projects), eller följa oss på YouTube och se en video från vårt gemensamma webbinarium den 20 maj i år (SIENNA, SHERPA, PANELFIT: Setting future ethical standards for ICT, Big Data, SIS, AI & Robotics).

Vill du veta hur SIENNA-projektet tänker omkring AI och robotik? Ladda ner infografiken i pdf-format här och läs vår state-of-the-art review för AI och robotik (rapport från SIENNA projektet).

c_721882-l_1-k_webb

Josepine Fernow

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


Transhumanismen renodlar det mänskliga eländet

18 juni, 2019

Pär SegerdahlMänniskan är en eländig varelse. Vi gläds visserligen åt det nya välbetalda jobbet, men snart har vi lagt oss till med dyrare vanor, rikare vänner och vansinnigare arbetsuppgifter. Vi är tillbaka på ruta ett, missnöjda med livet och obekväma med oss själva. Varför kan livet aldrig vara riktigt bra?

Missnöjet får oss att vilja fly någon annanstans än där vi är. Fly från oron, från tristessen, från sjukdomarna, från åldrandet, från livets alla begränsningar, helst även från döden. Ständigt vill vi fly till vad vi tror blir en bättre plats. Lika ofta som vi återkommer till ruta ett.

Eländets eviga återkomst utmärker alltså det mänskliga tillståndet. Vi inbillar oss att allt äntligen ska bli perfekt, bara vi lyckas rymma från den nuvarande situationen, som vi tror begränsar oss och orsakar missnöjet. Resultatet är en strid ström av infall, som vi återigen känner oss begränsade av.

Ständigt denna ruta ett.

Transhumanismen är en intellektuell väckelserörelse som lovar att allt ÄNTLIGEN ska bli perfekt. Hur? Genom att fly människan själv – denna bristfälliga varelse, fångad i en biologisk kropp som begränsas av sjukdom, åldrande och död.

Hur ska det gå till? Genom att låta ny teknik förnya människan. Göra henne perfekt, så att hon inte längre lider av livets biologiska begränsningar. En skinande ny gränslös cyborg.

Vem köper frälsningsläran? Bokstavligen några av de rikaste teknikentreprenörerna i världen. De har redan tänjt gränserna så långt det går. De ser att det inte går att fly längre. Ständigt återkommer känslan av begränsning. Därför ser de ingen annan utväg än att fly från PRECIS ALLT. De investerar i rymdteknik för att kunna fly planeten. De investerar i artificiell intelligens och i djupfrysning av deras kroppar, för att i framtiden kunna fly kroppen, in i superdatorer som ÄNTLIGEN ska befria dem från ALLA livets begränsningar, inklusive sjukdom, åldrande och död.

Känner du igen mönstret? Transhumanismen är det mänskliga missnöjet. Den är eskapismen som ständigt leder tillbaka till ruta ett. Den är drömmen om ett högteknologiskt kvanthopp från missnöjet. Hur ser paradiset ut? Som en högteknologisk återkomst till ruta ett.

Ny teknik behövs för att lösa problem i världen. Men när tekniken sammankopplas med det mänskliga missnöjet fastar vi djupare i mönstret. Bara du själv kan befria dig från mönstret. Genom att inte längre fly till en ideal framtid. Det fungerar inte. Flykten till framtiden är mönstret för ditt elände.

Transhumanismen är eländets intellektuella renodling, inte vägen ut.

Pär Segerdahl

Detta inlägg på engelska

Vi tänker om tänkande - Etikbloggen


Att främja folkhälsan kräver ansvar, medkänsla och ödmjukhet

10 juni, 2019

Jessica Nihlén FahlquistFolkhälsoarbete fokuserar på förebyggande av sjukdom och främjande av hälsa på en kollektiv nivå, det vill säga hälsan hos befolkningen som helhet. Detta särskiljer folkhälsa från medicinsk vård och läkare-patient-relationen.

I vården diskuterar läkaren risker och nytta med behandlingar direkt med patienten. Folhälsomyndigheter måste istället basera sina analyser på en kollektiv riskvägningsprincip, där risker och nytta vägs för befolkningen som helhet. Ett exempel är beskattning av cigaretter eller information i syfte att minska övervikt och obesitas.

Även om de generaliseringar och det kollektiva fokus som finns inom folkhälsoområdet är nödvändiga och syftet är gott riskerar man att förbise individers intressen, värderingar och rättigheter. Ett exempel är den nationella och internationella amningspolicyn och hur den kan påverka de mödrar, homosexuella föräldrar samt adoptivföräldrar som inte kan amma sina spädbarn. Normen att amning är bäst för alla barn är väldigt stark och studier visar att kvinnor som inte kan amma känner sig som otillräckliga mödrar som riskerar att skada sina barn. Det kan också förekomma att ett par vill dela föräldraskapet på ett jämlikt sätt och därför väljer att flaskmata på grund av sina värderingar.

Det kollektivistiska fokus som råder baseras på en utilitaristisk princip där konsekvenser i termer av hälsorelaterad nytta för befolkningen är det främsta målet och det som visar huruvida en intervention varit framgångsrik. Det främsta värdet är effektivitet.

Utöver detta utilitaristiska perspektiv finns också ett delvis kontrasterande perspektiv som fokuserar på mänskliga rättigheter och då särskilt hälsa och liv som rättigheter. Dessutom diskuterar forskare idag hälsa ur rättviseperspektiv, de lyfter fram den socioekonomiska och utbildningsmässiga ojämlikhet som existerar både lokalt och internationellt.

Man skulle kunna tro att bilden av folkhälsoarbetet är komplett med dessa olika perspektiv. Men det finns goda skäl att hävda att ett perspektiv saknas i dessa diskussioner, nämligen dygdetiska hänsyn. Mer specifikt menar jag att tre dygder bör uppmärksammas: ansvar/ansvarsfullhet, medkänsla och ödmjukhet.

Även om syftet är gott, finns risken att individers och minoriteters intressen, värderingar och rättigheter förbigås i kollektivistiskt folkhälsoarbete. Myndigheter och tjänstemän har relativt stor makt i förhållande till enskilda människor. En balans mellan det goda för kollektivet och respekten för individens val och värderingar bör därför eftersträvas. Detta kräver ett visst mått av ansvarsfullhet.

Dessutom behövs ett visst mått av medkänsla, det vill säga en beredskap att tänka och agera på ett känslomässigt engagerat sätt för att förstå och uppmärksamma politikens effekter på enskilda människor. Detta blir tydligt i fallet med amningspolitikens effekter på de som inte kan amma, eller som på grund av sina värderingar inte vill amma.

Slutligen behövs en viss ödmjukhet eftersom folkhälsoarbete inte bara handlar om vetenskaplig evidens och fakta utan även om värderingar. Detta gäller exempelvis frågan om mässlingsvaccin. Att vaccinet är säkert och effektivt kan vi fastställa med hjälp av vetenskap. Men huruvida vi bör införa tvångsvaccinering är en fråga om värderingar. Det bör vara möjligt att respektera människors värderingar utan att kompromissa med vetenskaplig evidens.

Dessa tre dygder kan utmärka de professionella tjänstemän som arbetar med folkhälsa och dessa bör kunna uppmuntras och stödjas av de myndigheter som dessa arbetar för.

Jessica Nihlén Fahlquist

Detta inlägg på engelska

Vi hittar nya angreppssätt : www.etikbloggen.crb.uu.se

 


Att publicera bioetik 2019 – var och var inte?

3 juni, 2019

Stefan Eriksson och Gert Helgesson uppdaterar varje år en lista över tveksamma tidskrifter, ofta kallade ”predatory journals”, som kan locka bioetikforskare att publicera sig i dem. Se upp!

Listan för 2019 finns nu publicerad på The Ethics Blog: Where to publish and not to publish in bioethics – the 2019 list

Tanken är att listan ska fungera som en utgångspunkt för forskare i bioetik som överväger lämplig tidskrift att publicera sitt arbete i.

Pär Segerdahl

Vi tar upp aktuella frågor : www.etikbloggen.crb.uu.se


Människor vill kunna påverka risken

27 maj, 2019

Pär SegerdahlDet behövs forskning för att veta vad människor tycker är viktigt med genetisk riskinformation. Vad de föredrar att veta. Men hur tar vi reda på det? Ett sätt är att be människor besvara enkäter.

Ett problem med enkäter är att de frågar en sak i taget. Föredrar du ett hotellrum med havsutsikt på semestern? Du svarar säkert Ja. Men föredrar du havsutsikten även om rummet ligger ovanför diskoteket, eller kostar 5 000 kronor per natt? Frågar man bara en sak i taget, så är det svårt att veta hur olika faktorer samspelar, hur viktiga de är gentemot varandra.

Ett sätt att ta sig förbi denna begränsning, är att be människor välja mellan två alternativ, där alternativen har flera olika egenskaper.

  • Hotellrum A: (1) Utsikt: hav (2) Pris: 2 000 kronor/natt (3) Avstånd till centrum: 30 minuters promenad (4) Ljudnivå: hög.
  • Hotellrum B: (1) Utsikt: parkering (2) Pris: 1 000 kronor/natt (3) Avstånd till centrum: 40 minuters bussresa (4) Ljudnivå: låg.

Vilket rum väljer du, A eller B? Valsituationerna upprepas medan egenskaperna varieras systematiskt. På så vis kan man utläsa mer om vad människor föredrar, än genom en vanlig enkät. Man kan se hur olika egenskaper samspelar och vilka egenskaper som är viktigare än andra. Man kan även beräkna hur mycket viktigare en egenskap är framför en annan.

Samma slags studie kan göras omkring genetisk riskinformation i stället för hotellrum. Jennifer Viberg Johansson vid CRB gjorde nyligen en sådan studie. Fyra egenskaper hos riskinformationen varierades i valsituationerna:

  • (1) Sjukdomstyp (2) Sannolikhet att bli sjuk (3) Förebyggande åtgärd (4) Effektivitet hos den förebyggande åtgärden.

Vilken av egenskaperna var viktigast för människorna som deltog i studien? Hur mycket viktigare var den?

Det visade sig att den viktigaste egenskapen var effektiviteten hos den förebyggande åtgärden. Om informationen innehöll en effektiv förebyggande åtgärd, så föredrog de tillfrågade tydligt den informationen. Åtgärdens effektivitet var dubbelt så viktig att veta, jämfört med sannolikheten att bli sjuk.

Tydligen är det viktigt för människor att i praktiken kunna påverka risken. En slutsats i studien är att när riskinformation säger att det finns en effektiv åtgärd, så kan riskkommunikationen fokusera mer på åtgärden än på sannolikheten att bli sjuk.

Metoden att fråga kallas ”Discrete Choice Experiment”. Vill du se närmare på metoden och ta del av fler resultat, läs Jennifer Viberg Johanssons artikel i Genetics in Medicine.

Pär Segerdahl

Viberg Johansson, J., Langenskiöld, S., Segerdahl, P., Hansson, M.G., Hösterey Ugander, U., Gummesson, A., Veldwijk, J. Research participants’ preferences for receiving genetic risk information: a discrete choice experiment. Genetics in Medicine, 2019.

Detta inlägg på engelska

Vi hittar nya angreppssätt : www.etikbloggen.crb.uu.se


Filosofisk neuroetik i Human Brain Project

15 maj, 2019

Pär SegerdahlRuntom i världen görs storsatsningar på hjärnforskning, en utveckling som fordrar etisk eftertanke. Tyvärr reduceras denna så kallade neuroetik ibland till enbart tillämpad etik. Men utvecklingen i neurovetenskapen väcker även grundläggande filosofiska och begreppsliga frågor om hjärnan och medvetandet. De etiska frågorna kan inte särskiljas från dessa filosofiska frågor. Utan begreppslig klarhet förstår vi inte de etiska utmaningarna.

Detta har man tagit fasta på i det europeiska flaggskeppsprojektet Human Brain Project. I ett inlägg på The Ethics Blog skriver Arleen Salles idag om betoningen av filosofi och begreppsanalys i projektets etikkomponent.

Läs inlägget: Neuroethical reflection in the Human Brain Project

Pär Segerdahl


Vad sägs om personligt optimerad behandling?

6 maj, 2019

Pär SegerdahlDet är välkänt att patienter som tillfrågas om deltagande i cancerstudier frestas av den terapeutiska missuppfattningen. De tror att de erbjuds en nyare och bättre behandling, när det i själva verket handlar om forskning kring en ännu oprövad behandling. När forskarna dessutom använder gentester för att utveckla personifierad cancerbehandling, kan ännu fler missuppfattningar uppkomma. Jag ska snart förklara. Men först, vad är personifierad cancerbehandling? Här är ett exempel.

Patienter vars tumör ska opereras kan genomgå förberedande strålning eller kemoterapi. Eftersom den förberedande terapin har kraftiga biverkningar, vill man undvika att ge den till patienter vars tumörer inte svarar på den. Utmaningen är att skilja patienter som svarar på behandlingen från patienter som inte gör det. Detta genom bland annat genetiska tester på tumörcellerna. Fungerar detta, så kan man skapa personifierad cancerbehandling. Patienter med ”rätt” tumörcellsgenetik får den förberedande terapin, medan patienter som enligt gentesterna bara får biverkningarna, utan effekt på tumörtillväxt, inte får terapin.

Vilka är då missuppfattningarna som kan uppkomma hos patienter som tillfrågas om deltagande i forskning om personifierad cancerbehandling? Här är några exempel.

Patienter som får höra att forskarna kommer att göra gentester kan känna ett genetiskt ansvar att ställa upp, med tanke på barn och barnbarn. De tror att testresultaten kan vara relevanta för nära släktingar, som kanske har samma sjukdomsgener. Men testerna görs på de muterade tumörcellerna och säger därför inget om nedärvd cancerrisk. En känsla av genetiskt ansvar kan alltså triggas av ordet ”genetik” och skapa en genetisk missuppfattning av forskning i personifierad cancermedicin.

Andra missuppfattningar har att göra med det positivt klingande språk som används för att beskriva personifierad medicin. Man talar om personligt ”optimerade” behandlingar, om ”skräddarsydda” behandlingar, om behandlingar som är anpassade ”för individen”. Språkbruket är inte avsett att vilseleda, men det är lätt att se hur ord som ”optimering” kan få patienter att tro att forskningsdeltagande innebär särskild behandlingsnytta.

Den största utmaningen är kanske att förklara forskningssyftet bakom det positiva språkbruket. Syftet är ju att i framtiden kunna skilja på patienter, att ”stratifiera” dem, som det mindre positivt heter. Personligt optimerad vård innebär faktiskt att vissa patienter inte får vissa behandlingar. Det är naturligtvis rimligt, om gentester kan visa att de inte har någon nytta av behandlingarna utan bara får biverkningarna. Men vad säger cancerpatienter själva om stratifierad cancerbehandling, där somliga patienter identifieras som behandlingsresistenta och därför inte erbjuds samma behandling som de andra? Slutligen, förstår patienterna att skräddarsydd behandling är studiens framtida syfte och inte något som de själva får pröva?

Kommunikationen med patienter som rekryteras till studier i personlig cancermedicin står inför extra stora utmaningar, eftersom patienterna frestas av ännu fler missuppfattningar än bara den välkända terapeutiska missuppfattningen.

Vill du veta mer? Läs den tyska studie som gav mig underlag till detta blogginlägg.

Pär Segerdahl

Perry, J., Wöhlke, S., Heßling, A.C., Schicktanz, S. 2017. Why take part in personalised cancer research? Patients’ genetic misconception, genetic responsibility and incomprehension of stratification—an empirical‐ethical examination. Eur J Cancer Care. https://doi.org/10.1111/ecc.12563

Detta inlägg på engelska

Vi tolkar framtiden - etikbloggen


%d bloggare gillar detta: