Hur ska framtidens AI-etik se ut?

11 juli, 2019

josepine-fernow-sienna-svKanske använder du Google Maps när du tar dig runt i en ny stad. Frågar Siri, Alexa eller Ok Google att spela din favoritlåt på Spotify, Kanske ber du din AI hitta något du vill köpa på Amazon, eller läsa upp ett meddelande från en kompis när du sitter i bilen. Bilen kanske har en semi-autonom adaptiv farthållare… För att det ska fungera behöver mjukvaran i de olika maskinerna samla in information: Data om dig, vart du är på väg, vilken musik du gillar, var och vad du brukar handla, vilka dina vänner är och vad ni pratar om. Och såklart väcker det frågan om du är villig att ge upp en del av ditt privatliv och en bit av din personliga frihet för att kunna dra nytta av fördelarna som den här typen av teknik har att erbjuda.

Det är svårt att förutse konsekvenserna av att utveckla och använda ny teknik. Myndigheter och organisationer sliter med att utvärdera etiken, juridiken kring tekniken. Och vilka konsekvenser den kan få för mänskliga rättigheter. Vi använder IT-system i forskning, inom industrin och i våra hem. Regleringen av systemen behöver fungera för alla som berörs av den. Vi vill skydda etiska värden och mänskliga rättigheter, möjliggöra forskning och utveckling, ta innovationer från universiteten till industrin, och se till att både stora och små företag kan utveckla sina affärsidéer. Och samtidigt se till att det finns acceptans i samhället för teknikutveckling.

EU tar det här på allvar och vill utveckla policy som bygger på forskning, empiriska data och konsultationer med de aktörer som är berörda. De senaste åren har EU investerat 10 miljoner Euro i tre forskningsprojekt som ska ta sig an etiken och mänskliga rättigheter kopplat till utvecklingen av nya digitala teknologier. Satsningen har skett genom Horizon2020-programmet och projekten PANELFIT, SHERPA och SIENNA.

Det första projektet, PANELFIT (som står för Participatory Approaches to a New Ethical and Legal Framework for ICT), kommer att utveckla riktlinjer för hur man ska hantera etiken och juridiken kring forskning och innovation på informations- och kommunikationsteknikområdet. Det andra projektet, SHERPA (som står för Shaping the ethical dimensions of Smart Information Systems (SIS) – A European Perspective), kommer att utveckla olika verktyg för att identifiera och hantera de etiska aspekterna av ”smarta” informationssystem. Det vill säga IT-system som kombinerar artificiell intelligens med analys av stora datamängder. Det tredje projektet, SIENNA (som står för Stakeholder-informed ethics for new technologies with high socio- economic and human rights impact), kommer att utveckla verktyg för forskningsetikkommittéer, etiska koder för olika yrkesgrupper, och bättre etiska och legala ramverk för AI och robotik, men också genetik och genomik och teknologi som kan användas för att förbättra människors egenskaper.

SSP-graphic

Alla projekten arbetar på olika sätt med att engagera både olika intressenter och allmänheten. De stödjer EUs vision om ansvarsfull innovation (det som på engelska kallas för RRI, eller Responsible Research and Innovation). Projekten samarbetar och SIENNA, SHERPA och PANELFIT har nyligen publicerat en gemensam artikel i tidskriften Orbit, där vi bjuder in alla er som på något sätt berörs av de här frågorna att prata med oss och på så sätt bidra till vårt arbete.

Vill du läsa mer? Rowena Rodrigues och Anaïs Resseguier har skrivit om nåra av frågorna som användandet av AI väcker på bloggen Ethics Dialogues (The underdog in the AI and ethical debate: human autonomy). Du kan också läsa mer om SIENNA-projektet i en tidigare post här på Etikbloggen (Ethics, human rights and responsible innovation).

Vill du veta mer om samarbetet mellan SIENNA, SHERPA och PANELFIT? I så fall hoppas jag att du vill läsa vår artikel i Orbit (Setting future ethical standards for ICT, Big Data, AI and robotics: The contribution of three European Projects), eller följa oss på YouTube och se en video från vårt gemensamma webbinarium den 20 maj i år (SIENNA, SHERPA, PANELFIT: Setting future ethical standards for ICT, Big Data, SIS, AI & Robotics).

Vill du veta hur SIENNA-projektet tänker omkring AI och robotik? Ladda ner infografiken i pdf-format här och läs vår state-of-the-art review för AI och robotik (rapport från SIENNA projektet).

c_721882-l_1-k_webb

Josepine Fernow

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


Prata med 5-åringar om forskning

23 oktober, 2018

Hur pratar man med barn om forskning? Och hur rekryterar man dem till att vara med i studier? För att barn ska få vara med i ett forskningsprojekt krävs att barnets föräldrar ger sitt tillstånd. Regelverket anger att barn i möjligaste mån ska ge sitt medgivande till att vara med och våra etikkommittéer kräver att vi delger barnen åldersadekvat information. Vården och forskarna tycker systemet är bra, och etiskt ”riktigt”.

Efter att ha rekryterat mängder av barn till olika forskningsprojekt har jag samlat på mig lite erfarenhet men också funderingar. Jag har knåpat ihop otaliga informationsbrev till barn i olika åldrar; alla har granskats och gått igenom etikkommitténs nålsöga. Men vad är egentligen ”åldersadekvat information”? Den ambitiösa pediatriska forskaren kan med stöd från utvecklingspsykologin och lite pedagogisk forskning på ett ungefär pricka rätt. På gruppnivå. Alltså, vad förstår barn på ett ungefär i ett givet åldersspann. Men på individnivå, hur rätt eller fel blir den ”åldersadekvata” informationen då? Søren Kirkegaard skrev i dikten Till eftertanke ”För att hjälpa någon måste jag visserligen förstå mer än vad han gör, men först och främst förstå det han förstår”.

Idag sätter jag värde på långsamhet och ro när jag rekryterar barn till forskningsprojekt. Vi pratar om vad forskning är för något, de flesta 5-åringar har faktiskt en idé. Vi pratar om vad just det här projektet handlar om och vad vi vill att barnet ska bidra med. Kanske ritar eller tittar på nån bild. Och vi pratar om att man när som helst får ändra sig och sluta vara med, utan att nån blir arg sur eller ledsen. Och en massa annat… Sen, viktigast av allt, så får barnet berätta för mig vad vi pratat om och kommit överens om. Att verkligen förstå vad någon förstår, det tar lite tid. Unna dig den tiden…

Först när jag förstår att barnet verkligen förstått ber jag om underskrift på samtyckesblanketten.

Sara Frygner-Holm

Detta inlägg på engelska

Vi vill ha dialog : www.etikbloggen.crb.uu.se

 


Globalt forskningssamarbete, nationell dataskyddstillsyn

8 november, 2017

Pär SegerdahlVetenskap har en internationell karaktär och globala forskningssamarbeten är vanliga. För medicinsk forskning innebär detta att känsliga data och biologiska prover kopplade till personer i ett land ofta skickas över nationsgränserna till forskare i andra länder.

Samtidigt innebär utvecklingen av informations- och kommunikationsteknologi att människors rätt till dataskydd får allt större betydelse. För att ge människor persondataskydd i en ny IT-värld skärps dataskyddsregleringen, inte minst inom EU .

I en artikel i Health and Technology lyfter juristen Jane Reichel fram utmaningar som denna utveckling för med sig för biomedicinsk forskning.

Jag är inte jurist, men förstår jag Reichel rätt så handlar det inte minst om att lagstiftningen så att säga följer med persondata över nationsgränserna. EU ställer exempelvis kravet att den som mottar EU-medborgares persondata hanterar dessa data i enlighet med lagstiftningen i EU – även om mottagaren är en forskargrupp i USA eller Japan.

Detta att man i en nation kan behöva följa en främmande nations lagstiftning utmanar inte bara idéer om suveränitet och territorialitet. Det utmanar också de forskningsetiska kommittéernas ansvar. Dessa kommittéer fungerar administrativt på nationell nivå. Plötsligt tycks de behöva bevaka även utländska rättigheter och globala överenskommelser. Har dessa nationella organ expertisen och auktoriteten för en sådan internationell uppgift?

Läs artikeln om dessa spännande och oväntade juridiska problem!

Pär Segerdahl

Reichel, J. Health Technol. (2017). https://doi.org/10.1007/s12553-017-0182-6

Detta inlägg på engelska

Juridiska funderingar - Etikbloggen


Teknik, etik och mänskliga rättigheter

31 oktober, 2017

Josepine FernowNy teknik påverkar både samhället och oss som individer, men det är svårt att förutse hur. Idag använder de flesta både smarta telefoner och intelligent programvara varje dag. Vissa behöver proteser eller implantat för att få livet att fungera. Många av oss kommer att leva när förarlösa bilar kan ses i trafiken. Forskning visar att dementa som klappar robotkatter får ökad livskvalitet. Genetiska tester är billigare än någonsin och tillgängliga för både patienter och konsumenter. Om du spottar i ett provrör och skickar det till ett företag i USA får du en genetisk analys som berättar var dina förfäder kommer ifrån. Vem vet, kanske är en liten andel av dina gener från en överraskande exotisk plats. Kanske påverkar det din bild av vem du är?

Ny (och gammal) teknik kommer med både etiskt och juridiskt bagage. Sådant vi förr bara kunde föreställa oss i science fiction är möjligt idag. Teknik utvecklas fort och det är svår att förutse hur den kommer att användas när nästa generation växer upp. Dagens lagstiftning, reglering och etiska riktlinjer utvecklades för en annan framtid än vår nutid. Politiska beslutsfattare sliter med att förstå och hantera de etiska (och juridiska) konsekvenserna av ny teknik. Teknik väcker också frågor om mänskliga rättigheter. Vad händer när Saudiarabien, ett land som kritiseras för att inte ge kvinnor lika rättigheter, ger en robot hedersmedborgarskap? Den här hösten kommer en grupp forskare från Europa, Asien, Afrika och Amerika att belysa några av de här frågorna och börja sitt arbete med att förbättra etiska och juridiska ramverk för ny teknik.

SIENNA-projektet, eller Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact som det egentligen heter, kommer att leverera förslag på professionella etiska koder, riktlinjer för forskningsetikkommittéer och förslag på förbättringar i Europeisk lagstiftning. Gruppen kommer också att arbeta med de mer filosofiska frågorna som teknikutvecklingen väcker: Var drar vi gränsen mellan hälsa och sjukdom? Kan vi förvänta oss att intelligent programvara beter sig på ett moraliskt sätt? Går vi med på att ge upp en del av vår integritet för att ta reda på om vi har risk för genetisk sjukdom? Och om priset vi betalar för att interagera med maskiner är att ge upp en del av vår personliga frihet, är vi i så fall villiga att betala det?

Projektet koordineras av tekniska universitetet i Twente, Nederländerna. Uppsala universitets Centrum för forsknings- & bioetik (CRB) bidrar med sin expertis kring etiken, juridiken och de sociala konsekvenserna av genteknik. Vi bidrar också med vår erfarenhet av att arbeta med forskningskommunikation i Europeiska projekt. Vill du veta mer? Besök www.sienna-project.eu.

Josepine Fernow

SIENNA-projektet – Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact – har fått närmare €4 miljoner för ett projekt som löper på 3,5 år inom ramen för Europeiska Unionens H2020 forsknings- och innovationsprogram, grant agreement No 741716. Observera att den här texten och dess innehåll enbart uttrycker SIENNA-projektets synpunkter. EU-Kommisionen är inte ansvarig för hur innehållet används.

SIENNA project: Technology, ethics and human rights

Detta inlägg på engelska

Vi tolkar framtiden - etikbloggen


Folkhälsokampanj i vården: mamma ska amma!

3 oktober, 2016

Pär SegerdahlFolkhälsokampanjer gör vissa intrång i våra liv. Kanske är vi beredda att tillåta intrången. Vi protesterar en smula, för syns skull, men tar ändå åt oss av budskapet och börjar tänka att vi nog borde äta lite mer X och lite mindre Y.

Somliga kampanjer gör dock intrång på känsligare områden av livet, i mer utsatta lägen, och på platser där man kunde förvänta större personlig respekt.

Kampanjer för att få fler mödrar att amma i stället för att ge modersmjölksersättning är ett sådant exempel. De genomförs inte minst inom vården, i kontakten med nyblivna mödrar som av olika anledningar kan ha svårigheter att amma, eller som inte vill amma.

Jessica Nihlén Fahlquist publicerade tidigare i år en artikel i Nursing Ethics om sådana mödrars erfarenheter. Det handlar alltså om mödrar som inte ammar och om deras erfarenheter av att i vårdsammanhang bemötas av kampanjarbete.

Enkätsvaren som beskrivs i artikeln antyder att dessa mödrar kan känna sig som dåliga mödrar. De får höra att amning är det bästa och säkraste alternativet för barnet, att alla mammor kan amma om de bara försöker, och att ”artificiell” matning med modersmjölksersättning ökar risken för undernäring och olika sjukdomar hos barnet.

Mödrarna i studien upplever att de inte får inte samtala om sina problem eller önskningar att finna en väg som fungerar. För vissa mödrar och barn är flaskmatning kanske det bättre alternativet? Informationen tycks i hög grad handla om att kommunicera normen att en mamma ska amma. Åtminstone upplever mödrarna i studien situationen så, och de kan känna skuld inte bara för att de inte ammar, utan också för att de inte tycker om att göra det.

Nihlén Fahlquist påpekar att information om matning av spädbarn i grund och botten är en form av riskkommunikation, där föräldrar informeras om risker och fördelar med amning och flaskmatning. Hon menar att de amningskampanjer som nya föräldrar möts av brister i tre etiska avseenden, som bör åtgärdas:

Föräldrarna informeras om risker och fördelar på ett kollektivt plan, utan hänsyn till individuella problem, behov och förhållanden. Folkhälsoperspektivet tar över hänsynen till unika människors situation, trots att frågan hur man matar sitt barn är intim. Risker och fördelar bör uppskattas individuellt.

Kampanjarbetet kolliderar med respekten för autonomi, som är väsentlig i vården. Riskkommunikationen är enkelriktad, frågor och tvivel tas inte på allvar. Det handlar om att informera om ”det bästa alternativet”. Enkelriktad kommunikation bör ersättas av dialog.

Effekterna av amningskampanjer bör utvärderas inte bara statistiskt i termer av hur många mödrar som ammar sina barn. De bör utvärderas även etiskt, i termer av bemötande och god omvårdnad. Mödrarna som svarade på enkäten tycks inte uppleva att de fick stöd och vård utifrån egna behov.

För mig visar artikeln hur folkhälsokampanjer genomförda i vården behöver anpassas till den typ av möten som vi behöver och förväntar oss där. Annars kan riskkommunikationen upplevas som ett otillbörligt intrång. Extra eftertanke krävs när kampanjen kretsar kring starka normer som lätt ger upphov till skuldkänslor, exempelvis om moderskap.

Pär Segerdahl

Nihlén Fahlquist, J. 2016. Experience of non-breastfeeding mothers: Norms and ethically responsible risk communication. Nursing Ethics 23: 231-241

Detta inlägg på engelska

I dialog med patienter


Mer perspektiv på biobanker

27 september, 2016

Om du inte blev mätt på biobanksnyheter under den europeiska biobanksveckan i Wien nyss kommer ett nytt nummer av vårt nyhetsbrev Biobank perspectives med etiska och juridiska perspektiv på biobanker.

I det här numret beskriver Moa Kindström Dahlin vad BBMRI-ERIC:s nya helpdesk för ELSI-frågor kan erbjuda. Vi bjuder också in dig att diskutera forskningssamarbeten mellan industri och akademi på en workshop i Uppsala den 7-8 november.

Vi återvänder till den nya europeiska dataskyddslagstiftningen: Anna-Sara Lind ger sin bild av vad konsekvenserna blir för oss i Sverige. Dessutom kan vi meddela att en uppsättning riktlinjer för informerat samtycke i forskningssamarbeten kring sällsynta diagnoser har fått utmärkelsen ”IRDiRC Recognized Resources”.

Du kan läsa svenska versioner av de flesta artiklarna på vår svenska webb, eller ladda ner en pdf-version på engelska.

Josepine Fernow & Anna-Sara Lind

Detta inlägg på engelska

Kommer med lästips - Etikbloggen

 

 

bbmri.se


Identifiera individer och samtidigt skydda integriteten

24 augusti, 2016

Pär SegerdahlDet är mycket man måste hålla i huvudet när man tänker om forskningsetik. Jag har tidigare skrivit om frestelsen att reducera forskningsetik till ren skyddsetik. Då behöver man inte hålla så mycket i huvudet. Då gäller bara skyddsperspektivet – och tänkandet börjar likna dramaturgin i en äventyrsfilm där hjälten fritar gisslan.

Skyddsperspektivet är naturligtvis centralt i forskningsetiken och det finns fall där man är frestad att säga att forskningsdeltagare tagits som gisslan av hänsynslösa forskare. Som när en grupp svarta amerikanska män med syfilis rekryterades till forskning utan att få behandling, för att forskarna ville studera det naturliga sjukdomsförloppet.

Men vardagen är inget utdraget gisslandrama, vilket genast gör allt mer komplicerat. Forskaren är normalt inte boven, deltagaren är inte offret, och etikern är inte hjälten som räddar offret från boven. Vad är forskningsetik i mer vardagliga sammanhang?

På senare tid har man uppmärksammat att kodade persondata och biologiska prover inte är helt säkra. Hackare som anlitats för att testa säkerheten i forskningsdatabaser har i några fall lyckats identifiera individer som gett sina persondata till forskningen (i tron att kopplingen till dem gjorts otillgänglig för utomstående genom avancerade kodningsprocedurer). Sådan ”återidentifierad” information kan givetvis skada deltagarna, om den hamnar i orätta händer.

Vad är forskningsetikens uppgift här? Plötsligt börjar man skönja konturerna av ett drama där deltagaren riskerar att bli offret, där forskaren riskerar att bli bovens medhjälpare, och där etikern rusar in på scenen och räddar offret genom att göra persondata i forskningsdatabaser fullkomligt anonyma, omöjliga att identifiera för någon, inklusive för forskarna själva.

Men än har inte vardagen brutit samman. Vi bör kanske ha is i magen och fråga: Varför är personuppgifter och biologiska prover inte helt anonymiserade, utan kodade så att forskarna kan identifiera enskilda patienter/forskningsdeltagare? Svaret är att detta behövs för att nå forskningsresultat (och för att ge enskilda patienter rätt vård). För att finna samband mellan genetik, livsstil och sjukdomsförlopp behöver flera register samköras. Genetiska data från biobanken kan behöva kopplas till patientjournaler i vården. Länken är individen, som alltså måste vara identifierbar för forskningen, via kodnyckelförfaranden.

Behovet att identifiera deltagare är extra tydligt i forskning om sällsynta diagnoser. Av naturliga skäl finns bara knapphändiga data om dessa sjukdomar. Den lilla mängd data man har måste delas mellan forskargrupper, ofta i olika länder, för att samla tillräckligt mycket data för att mönstren ska framträda, som kan leda till diagnoser och behandlingar.

En alltför dramatisk hjälteinsats under integritetsskyddets stolta fana skulle ha sina offer.

I en artikel i European Journal of Human Genetics försöker författarna, däribland Mats G. Hansson, utveckla en annan, mer långsiktigt hållbar etisk respons på risken att data otillbörligt återidentifieras.

Centralt är givetvis skyddet av deltagarnas integritet. Men det är inte det enda perspektivet, eftersom även forskning och vårdmöjligheter har etiska värden, och där behöver man kunna identifiera deltagare. Den forskningsetiska uppgift författarna påtar sig är alltså att hantera risken för återidentifiering, och samtidigt beakta behovet av identifierbara data.

Författarna vill med andra ord hitta en hållbar balans mellan olika värden. Det finns nämligen både risker och nytta med identifierbara data.

Du kan läsa en sammanfattning av artikeln på CRB:s hemsida. Vad jag fokuserar på i detta inlägg är författarnas mer övergripande inställning till forskningsetik, som inte låser sig vid hjälte/bov/offer-intrigens skarpa motsättningar i extrema situationer.

Bilden av forskningsetik präglas i stor utsträckning av sammanbrotten, av de dramatiska forskningsskandalerna. Men forskningsetik handlar vanligen om att göra vardagen etiskt välfungerande i ett forskande samhälle. Att få vardagen att fungera är en större och viktigare utmaning än utryckningarna när den bryter samman. I det arbetet måste fler värden och utmaningar beaktas samtidigt än i nödsituationerna då etiker helt naturligt fokuserar på att skydda.

Vardagen är kanske inte så upphetsande som skandalerna, men om vi inte först och främst tar ansvar för att vardagen fungerar, som samhällelig helhet, så lär dramatiken bli desto större.

Ha is i magen och många tankar i huvudet!

Pär Segerdahl

Hansson, M. G. et al. The risk of re-identification versus the need to identify individuals in rare disease research. European Journal of Human Genetics, advance online publication, 25 May 2016; doi: 10.1038/ejhg.2016.52

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


%d bloggare gillar detta: