Hur ska framtidens AI-etik se ut?

11 juli, 2019

josepine-fernow-sienna-svKanske använder du Google Maps när du tar dig runt i en ny stad. Frågar Siri, Alexa eller Ok Google att spela din favoritlåt på Spotify, Kanske ber du din AI hitta något du vill köpa på Amazon, eller läsa upp ett meddelande från en kompis när du sitter i bilen. Bilen kanske har en semi-autonom adaptiv farthållare… För att det ska fungera behöver mjukvaran i de olika maskinerna samla in information: Data om dig, vart du är på väg, vilken musik du gillar, var och vad du brukar handla, vilka dina vänner är och vad ni pratar om. Och såklart väcker det frågan om du är villig att ge upp en del av ditt privatliv och en bit av din personliga frihet för att kunna dra nytta av fördelarna som den här typen av teknik har att erbjuda.

Det är svårt att förutse konsekvenserna av att utveckla och använda ny teknik. Myndigheter och organisationer sliter med att utvärdera etiken, juridiken kring tekniken. Och vilka konsekvenser den kan få för mänskliga rättigheter. Vi använder IT-system i forskning, inom industrin och i våra hem. Regleringen av systemen behöver fungera för alla som berörs av den. Vi vill skydda etiska värden och mänskliga rättigheter, möjliggöra forskning och utveckling, ta innovationer från universiteten till industrin, och se till att både stora och små företag kan utveckla sina affärsidéer. Och samtidigt se till att det finns acceptans i samhället för teknikutveckling.

EU tar det här på allvar och vill utveckla policy som bygger på forskning, empiriska data och konsultationer med de aktörer som är berörda. De senaste åren har EU investerat 10 miljoner Euro i tre forskningsprojekt som ska ta sig an etiken och mänskliga rättigheter kopplat till utvecklingen av nya digitala teknologier. Satsningen har skett genom Horizon2020-programmet och projekten PANELFIT, SHERPA och SIENNA.

Det första projektet, PANELFIT (som står för Participatory Approaches to a New Ethical and Legal Framework for ICT), kommer att utveckla riktlinjer för hur man ska hantera etiken och juridiken kring forskning och innovation på informations- och kommunikationsteknikområdet. Det andra projektet, SHERPA (som står för Shaping the ethical dimensions of Smart Information Systems (SIS) – A European Perspective), kommer att utveckla olika verktyg för att identifiera och hantera de etiska aspekterna av ”smarta” informationssystem. Det vill säga IT-system som kombinerar artificiell intelligens med analys av stora datamängder. Det tredje projektet, SIENNA (som står för Stakeholder-informed ethics for new technologies with high socio- economic and human rights impact), kommer att utveckla verktyg för forskningsetikkommittéer, etiska koder för olika yrkesgrupper, och bättre etiska och legala ramverk för AI och robotik, men också genetik och genomik och teknologi som kan användas för att förbättra människors egenskaper.

SSP-graphic

Alla projekten arbetar på olika sätt med att engagera både olika intressenter och allmänheten. De stödjer EUs vision om ansvarsfull innovation (det som på engelska kallas för RRI, eller Responsible Research and Innovation). Projekten samarbetar och SIENNA, SHERPA och PANELFIT har nyligen publicerat en gemensam artikel i tidskriften Orbit, där vi bjuder in alla er som på något sätt berörs av de här frågorna att prata med oss och på så sätt bidra till vårt arbete.

Vill du läsa mer? Rowena Rodrigues och Anaïs Resseguier har skrivit om nåra av frågorna som användandet av AI väcker på bloggen Ethics Dialogues (The underdog in the AI and ethical debate: human autonomy). Du kan också läsa mer om SIENNA-projektet i en tidigare post här på Etikbloggen (Ethics, human rights and responsible innovation).

Vill du veta mer om samarbetet mellan SIENNA, SHERPA och PANELFIT? I så fall hoppas jag att du vill läsa vår artikel i Orbit (Setting future ethical standards for ICT, Big Data, AI and robotics: The contribution of three European Projects), eller följa oss på YouTube och se en video från vårt gemensamma webbinarium den 20 maj i år (SIENNA, SHERPA, PANELFIT: Setting future ethical standards for ICT, Big Data, SIS, AI & Robotics).

Vill du veta hur SIENNA-projektet tänker omkring AI och robotik? Ladda ner infografiken i pdf-format här och läs vår state-of-the-art review för AI och robotik (rapport från SIENNA projektet).

c_721882-l_1-k_webb

Josepine Fernow

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


Svenska beslutsfattare om genetisk screening före graviditet

17 oktober, 2018

Pär SegerdahlSomliga genetiska sjukdomsanlag leder inte till sjukdom hos barnet, annat än om båda föräldrarna råkar ha samma ovanliga anlag. Föräldrarna kan vara friska och omedvetna om att de bär på samma icke-dominanta anlag. I dessa fall är risken att barnet får sjukdomen tjugofem procent.

I princip kunde man erbjuda genetisk screening till hela befolkningar, så att alla som så önskar tidigt får information om sina genetiska anlag och kan planera parbildning och graviditet. I Sverige är detta inte aktuellt, men frågan kunde övervägas i framtiden.

I en ny artikel i tidskriften Journal of Community Genetics redovisar Amal Matar (doktorand vid CRB) en intervjustudie med svenska beslutsfattare: experter vid Statens medicinsk-etiska råd, Statens beredning för medicinsk och social utvärdering, samt Socialstyrelsen. Amal Matar ville undersöka hur dessa inflytelserika experter uppfattar de etiska och sociala aspekterna av genetisk screening före graviditet, som en ny medicinsk teknik.

Det är spännande att ta del av hur svenska beslutsfattare resonerar om genetisk screening före graviditet. De uppmärksammar alternativa finansieringsmöjligheter, prioriteringar och kostnader för vården. De funderar över Sverige som del av EU. De reflekterar över vilket stöd som sjukvården måste erbjuda människor, beroende på vad testresultaten visar om dem. De talar om behovet av mer forskning och debatt, samt om långsiktiga samhälleliga effekter.

Något jag fann extra intressant var frågor om ansvar, såväl föräldraansvar som samhällsansvar. Om vänner och bekanta testar sig kan det framstå som oansvarigt att inte göra det. Par kan då känna ett socialt tryck att testa sig, vilket gör frivilligheten illusorisk. Experterna såg även problem med att aktivt gå ut och leta efter avvikelser hos människor som inte är sjuka. Samhället har ett ansvar att hjälpa sjuka människor, men att leta efter sjukdomsrisker hos människor utan symptom ändrar hela utvärderingen av risk och nytta med en medicinsk teknik.

Amal Matars slutsats är att svenska beslutfattare anser att genetisk screening före graviditet inte är aktuellt i det svenska sjukvårdssystemet. Det skäl som brukar anföras för tekniken, att den stödjer mer välinformerade reproduktiva beslut, ansåg experterna otillräckligt om screeningen ska finansieras med skattemedel. Man såg även långsiktiga hot mot viktiga värden i svensk sjukvård.

Pär Segerdahl

Matar, A., Hansson, M.G. and Höglund, A.T. ”A perfect society” – Swedish policymakers’ ethical and social views on preconception expanded carrier screening. Journal of Community Genetics, published online 26 September 2018, https://doi.org/10.1007/s12687-018-0389-x

Detta inlägg på engelska

Vi finns där frågorna uppstår : www.etikbloggen.crb.uu.se


Stödja vårdpersonal att lita på sig själv

3 oktober, 2018

Pär SegerdahlAnta att du vill lära dig ett språk, men kursen är överlastad av grammatisk terminologi. På lektionerna hör du knappast orden i språket du vill lära dig tala. De drunknar i alla grammatiska termer. Det är som om du hamnat på en kurs i allmän språkteori, snarare än i tyska.

Något liknande kan vårdpersonal ibland uppleva, när de konfronteras med vårdetik som undervisningsämne. Som vuxna människor har de redan förmågan att avkänna när allt är som det ska. Eller när något är på tok: När uppmärksamheten måste skärpas och åtgärder vidtas. (Vi gör det alla dagligen.) Men de kan behöva stöd att vidareutveckla denna mänskliga förmåga, för att hantera de särskilda situationer som utmanar i vården.

Tyvärr förmedlas inte alltid vårdetik som utveckling av förmågor vi redan har. I stället framställs etik som ett nytt ämne. Att vara etisk framställs som att ha kunskaper i detta särskilda ämne. Etik tycks handla om att resonera i termer av särskilda etiska begrepp och principer. Det är som om du hamnat på en kurs i allmän moralteori, snarare än i vårdetik. Och eftersom de flesta av oss inte vet ett skvatt om moralteori, tycks vi plötsligt etiskt okunniga. Självförtroendet sjunker.

Men lika lite som du behöver språkteori för att tala ett språk, behöver du moralteori för att fungera etiskt. Snarare är det tvärtom. Det är för att vi redan talar och fungerar etiskt, som det kan finnas intellektuella verksamheter som grammatik och moralteori. Kan vårdetik undervisas utan denna teoretiska bakvändhet?

En ny (gratis nedladdningsbar) bok diskuterar frågan: Rethinking Health Care Ethics. Boken är en kritik av hur vårdetik ofta framställs som särskilt ämne. En kritik som leder över i förslag på alternativ pedagogik. Boken bör vara högintressant för lärare i vårdetik, för etiker, och för alla som upplever att bilden av etik gör oss främmande för oss själva.

Vad som inte minst gör intryck på mig i denna bok är tilliten till människan. Grundvalen för etiken finns hos oss själva, inte i moralteorin. En vuxen människa har redan etiken i sig, utan att den verbaliseras som särskilda etiska begrepp och principer.

Visst behöver vårdpersonal särskild undervisning i vårdetik. Men det särskilda i undervisningen är de etiska utmaningarna i vården. Etiken själv är redan på plats, i form av högst levande människor, på väg in i vårdyrket.

Etiken behöver alltså inte införas som nytt ämne. Den behöver bara stöd att växa inom människor själva, för att bli mogen utmaningarna i vårdyrket.

Denna tillit till människan är ovanlig. Kontrollsystemen vill ständigt ta över oss.

Pär Segerdahl

Scher, S. & Kozlowska, K. 2018. Rethinking Health Care Ethics. Palgrave

Detta inlägg på engelska

Kommer med lästips - Etikbloggen


Sjuksköterskors sårbara position när vård och forskning sammanfaller

10 september, 2018

Pär SegerdahlEn ny artikel lyfter fram etiska utmaningar som sjuksköterskor möter i yrket, när alltfler kliniska studier utförs på cancerpatienter.

Arbetet som enbart vårdande sjuksköterska är nog så pressande. Studier har visat hur tidspress och arbetsbörda kan orsaka moralisk och emotionell blindhet bland sköterskor. Nu talar vi dessutom om dubbla yrkesroller, där sköterskorna måste uppfylla såväl vårdens som forskningens värden. Uppgiften att vårda cancerpatienter sammanfaller med uppdraget att rekrytera patienterna som forskningsdeltagare, samt koordinera kliniska prövningar på dem enligt detaljerade forskningsprotokoll.

I artikeln, med Tove Godskesen som huvudförfattare, beskrivs utmaningar som sjuksköterskor med denna dubbla yrkesidentitet ställs inför. De svåraste rör cancerpatienter i livets slutskede, som inte längre svarar på behandlingen. De hoppas ofta desperat att de genom forskningsdeltagande ska få tillgång till nästa generation cancerläkemedel, som kanske fungerar effektivare på dem. Förhoppningen är orealistisk, vilket skapar svårigheter för sjuksköterskorna. De ska rekrytera cancerpatienter till kliniska prövningar, samtidigt som patienterna ofta är så sjuka att de ur vårdsynpunkt kanske snarare borde få övergå till att avsluta sina liv lugnt och stilla.

Ytterligare en komplikation, utöver arbetsbördan och den dubbla identiteten som sköterska i forskningens tjänst, är att antalet kliniska studier ökar. Det finns en politisk vilja att accelerera denna utveckling, för att stödja nordisk läkemedelsindustri. Detta medför att alltfler vårdande sjuksköterskor får hoppa in och koordinera prövningar: en uppgift som de knappast utbildats för, som de inte hinner sätta sig in i, och som de slutligen saknar makt över, givet deras ställning i vårdens hierarkier.

Med tanke på den politiska viljan att öka antalet kliniska studier, borde det finnas en motsvarande vilja att stödja även det ökande antal sjuksköterskor som därmed måste axla dubbla yrkesroller. Godskesens studie antyder en avsaknad av systematiska strategier för att hantera situationen. Sjuksköterskor som koordinerar forskning på patienter hänvisas till att stödja varandra, så gott de kan, över en snabb kopp kaffe i fikarummet.

Godskesen rekommenderar mer strategisk utbildning och bättre stöd för sjuksköterskor som arbetar med kliniska studier. För sjuksköterskornas skull, och inte minst med tanke på patientsäkerheten.

Pär Segerdahl

Tove E. Godskesen, Suzanne Petri, Stefan Eriksson, Arja Halkoaho, Margrete Mangset, Merja Pirinen, Zandra Engelbak Nielsen. 2018. When Nursing Care and Clinical Trials Coincide: A Qualitative Study of the Views of Nordic Oncology and Hematology Nurses on Ethical Work Challenges. Journal of Empirical Research on Human Research Ethics. doi.org/10.1177/1556264618783555

Detta inlägg på engelska

I dialog med kliniker : www.etikbloggen.crb.uu.se

 


Etisk kompetens för livsavgörande vårdbeslut

28 augusti, 2018

Pär SegerdahlIbland tvingas läkare besluta att en patient är så pass svårt sjuk att denne inte ska återupplivas med hjärt-lungräddning, om hjärtat skulle stanna. Proceduren är våldsam och skulle i dessa fall orsaka onödigt lidande.

Vilket beslut som än tas, är situationen stressande för vårdpersonalen. Att ge våldsam hjärt-lungräddning till en döende cancerpatient kan upplevas som dålig vård i livets slutskede. Samtidigt önskar man givetvis kunna behandla patienten, varför även beslutet att inte återuppliva kan vara stressande. Beslutet kräver klokhet. Det kräver etisk kompetens.

Mona Pettersson, doktorand vid CRB, undersöker i sin avhandling beslutet att inte återuppliva patienter inom områdena onkologi och hematologi. I en artikel i BMC Medical Ethics beskriver hon läkares och sjuksköterskors reflektioner kring etisk kompetens i relation till beslutet att inte återuppliva. Även om läkaren tar beslutet, så involveras sjuksköterskorna i högsta grad. De har vårdansvar för såväl patient som anhöriga.

De etiska svårigheterna handlar inte bara om själva beslutet att inte återuppliva. Svårigheterna handlar även om hur patient och anhöriga informeras om beslutet, liksom om hur hela vårdteamet informeras, involveras och fungerar. Vilken kompetens krävs för att etiskt hantera detta livsavgörande vårdbeslut? Hur kan kompetensen utvecklas?

Etisk kompetens involverar enligt Pettersson både personliga egenskaper och kunskap, samt förmåga att reflektera över hur beslut bäst tas och genomförs. I praktiken samspelar allt detta. En läkare kan exempelvis ha kunskap om att patienten bör informeras om beslutet att inte återuppliva. Samtidigt kan läkaren, efter reflektion, välja att inte informera, eller välja att informera patienten i andra ordalag.

Läkarna och sjuksköterskorna i Mona Petterssons studie ansåg att deras etiska kompetens skulle stödjas av större utrymme för reflektion och diskussion kring etik i livets slutskede inom deras yrkesområden, onkologi och hematologi. Detta för att vårdetik alltid är situerad. De etiska svårigheterna har sin bestämda kontext. Vårdpersonal är inte etiskt kompetent i största allmänhet. Den etiska kompetensen är knuten till den specifika yrkesvardagen, som dessutom är olika för läkare och sköterskor.

Vill du läsa mer om Mona Petterssons avhandlingsarbete, läs gärna presentationen av henne på CRB:s hemsida: Vård, etik och livsavgörande val.

Pär Segerdahl

Pettersson, M., Hedström. M and Höglund, A. T. Ethical competence in DNR decisions – a qualitative study of Swedish physicians and nurses working in hematology and oncology care. BMC Medical Ethics (2018) 19:63. htdoi.org/10.1186/s12910-018-0300-7

Detta inlägg på engelska

I dialog med kliniker : www.etikbloggen.crb.uu.se


Bok om ledningsansvar i hälso- och sjukvården

14 juni, 2018

Pär SegerdahlEn ny bok av etikforskarna Erica Falkenström och Anna T. Höglund undersöker behovet av etisk kompetens i vårdens ledningsfunktioner:

På spaning efter etik (Apell Förlag)

Författarna har intervjuat landstingspolitiker, chefstjänstemän och vårdgivarnas högsta chefer. De har analyserat styrdokument och observerat möten. Detta för att kunna besvara frågan vilken etisk kompetens som fordras för att dessa aktörer ska kunna ta etiskt ansvar för ledning och styrning av vården.

Med tanke på problemen i vården kring arbetsmiljö, vårdköer, patientsäkerhet, vård på lika villkor, med mera, borde boken vara angelägen sommarläsning inte bara för politiker, utan för alla med någon anknytning till vårdens ledningsfunktioner.

Pär Segerdahl

Falkenström, E. och Höglund, A. T. 2018. På spaning efter etik. Etisk kompetens och ansvarstagande för ledning och styrning av hälso- och sjukvården. Stockholm: Apell Förlag.

Kommer med lästips - Etikbloggen


Genetisk screening före graviditeten?

5 juli, 2016

Pär SegerdahlGenetiska sjukdomar kan uppkomma på underliga vägar. För så kallade recessiva sjukdomar krävs att båda föräldrarna har anlaget för sjukdomen. Föräldrarna kan vara helt friska och omedvetna om att de har samma (icke-dominanta) sjukdomsanlag. Risken att barnet får sjukdomen är i dessa fall tjugofem procent.

I familjer med en historia av någon recessiv sjukdom, liksom i samhällen där en viss allvarlig recessiv sjukdom är vanlig, används redan genetisk screening före graviditeten – för att avgöra om paret som planerar barn är, så att säga, genetiskt kompatibelt.

I takt med att dessa genetiska tester blivit mer pålitliga och prisvärda, har man börjat överväga att erbjuda genetisk screening före graviditeten till hela populationer. Eftersom man då inte vet exakt vilket anlag man ska leta efter, handlar det inte bara om att screena fler människor, utan också om att testa för fler sjukdomsanlag.

I Holland är ett pilotprojekt på gång, men de etiska frågorna är många. En rör medikalisering, att människor börjar tänka på sig själva som mer eller mindre genetiskt kompatibla med varandra, att de känner ett krav att testa sig innan de bildar par och planerar barn.

I Sverige har man ännu inte övervägt att på bred front erbjuda genetiskt screening före graviditeten, och de etiska frågorna har inte diskuterats. Amal Matar, doktorand vid CRB, bestämde sig för att börja undersöka frågorna redan nu. Så att vi är förberedda och kan resonera klokt, om utvecklingen leder därhän att man börjar överväga att erbjuda genetisk screening före graviditeten.

Den första studien i doktorandprojektet publicerades nyligen i Journal of Community Genetics. Där intervjuas kliniker och genetiker samt en barnmorska och en genetisk rådgivare, för att undersöka hur man från ett svenskt sjukvårdsperspektiv kan se på denna typ av genetisk screening.

Etiska frågor som väcktes under intervjuerna rörde bland annat medikalisering, effekter på människors reproduktiva frihet, föräldraansvar, diskriminering av sjuka eller anlagsbärare, prioritering av resurser i vården, samt osäkerhet kring vad som ska testas och hur resultat ska tolkas.

Studien fungerar som en empirisk inventering av de etiska frågorna. Några av dessa kommer att undersökas filosofiskt längre fram i Amal Matars projekt.

(Läs mer om Amal Matars arbete vid CRB här.)

Pär Segerdahl

Matar, A., Kihlbom, U., Höglund, A.T. Swedish healthcare providers’ perceptions of preconception expanded carrier screening (ECS) – a qualitative study. Journal of Community Genetics, DOI 10.1007/s12687-016-0268-2

Detta inlägg på engelska

Vi diskuterar aktuella frågor : www.etikbloggen.crb.uu.se


%d bloggare gillar detta: