En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Etikett: juridik

Mänskliga rättigheter och juridiska frågor kring artificiell intelligens

Hur tar vi ansvar för en teknik som används nästan överallt? I takt med att alltfler användningar av artificiell intelligens (AI) utvecklas, växer utmaningarna att överblicka hur tekniken kan påverka människor och mänskliga rättigheter.

Även om AI-lagstiftning redan utvecklas på flera områden, menar Rowena Rodrigues att vi behöver en överblickbar karta över utmaningarna. Hur ser läget ut? Var kan människors rättigheter hotas? Hur hanteras hoten? Var behöver större ansträngningar göras? I en artikel i Journal of Responsible Technology föreslår hon en sådan karta, som sedan diskuteras med utgångspunkt i begreppet sårbarhet (”vulnerability”).

Artikeln identifierar tio problemområden. Ett problem är att AI fattar beslut på basis av algoritmer där beslutsprocessen inte är helt genomskinlig. Varför fick jag inte jobbet, lånet eller bidraget? Svårt att veta när datorprogram levererar beslut som om de vore orakel! Andra problem handlar om säkerhet och ansvar, exempelvis när automatiskt beslutsfattande används i bilar, i medicinska diagnoser, i vapen eller när regeringar övervakar medborgare. Andra problemområden kan handla om risker för diskriminering eller för integritetsintrång när AI samlar in och använder stora datamängder för att fatta beslut som berör individer och grupper. I artikeln kan du läsa om fler problemområden.

För var och en av de tio utmaningarna, identifierar Rowena Rodrigues lösningar som i nuläget finns på plats, samt utmaningarna som det kvarstår att hantera. Därefter diskuteras mänskliga rättigheter. Rowena Rodrigues menar att internationella mänskliga rättighetsfördrag, även om de inte nämner AI, är relevanta för de flesta av problemen som hon kartlagt. Hon framhäver betydelsen att bevaka mänskliga rättigheter ur ett sårbarhetsperspektiv. Genom ett sådant perspektiv ser vi tydligare var och hur AI kan utmana mänskliga rättigheter. Vi ser tydligare hur vi kan minska negativa effekter, utveckla motståndskraft hos sårbara, samt angripa roten till de olika formerna av sårbarhet.

Rowena Rodrigues är knuten till SIENNA-projektet, som avslutas denna månad. Läs hennes artikel om utmaningarna kring en teknik som används nästan överallt: Legal and human rights issues of AI: Gaps, challenges and vulnerabilities.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Rowena Rodrigues. 2020. Legal and human rights issues of AI: Gaps, challenges and vulnerabilities. Journal of Responsible Technology 4. https://doi.org/10.1016/j.jrt.2020.100005

Detta inlägg på engelska

Kommer med lästips

Att lära av internationella försök att lagstifta psykokirurgi

Så kallad psykokirurgi, där psykiska störningar behandlas genom att exempelvis skära av kopplingar i hjärnan, har kanske ett något skamfilat rykte efter det okänsliga bruket av lobotomi under 1900-talet för att behandla ångest och depression. Icke desto mindre kan psykokirurgi av olika slag hjälpa vissa patienter och området utvecklas snabbt. Området behöver antagligen en uppdaterad reglering, men vilka är utmaningarna?

Frågan undersöks ur ett internationellt perspektiv i en artikel i Frontiers in Human Neuroscience. Neurokirurgiska behandlingar av psykiska störningar behöver inte innebära att man förstör hjärnvävnad eller skär av kopplingar. Vid så kallad djup hjärnstimulering skickas exempelvis elektriska pulser till vissa områden av hjärnan. Metoden har visat sig lindra rörelsesvårigheter hos patienter med Parkinsons sjukdom. Denna oväntade möjlighet åskådliggör en av utmaningarna. Hur avgränsar vi de behandlingar som regleringen ska omfatta inom ett område med snabb vetenskaplig och teknisk utveckling?

Artikeln kartlägger lagstiftning av psykokirurgi runtom i världen. Syftet är att hitta styrkor och svagheter i de olika lagstiftningarna. Genom kartläggningen hoppas man kunna motivera rimliga sätt att hantera utmaningarna i framtiden, samtidigt som man uppnår större internationell harmonisering. Utmaningarna är som sagt flera, men beträffande utmaningen att avgränsa de behandlingar som ska omfattas i regleringen, nämns lagstiftningen i Skottland som ett exempel. Den ger ingen uttömmande lista på behandlingar som ska omfattas av regleringen, utan anger att även andra behandlingar än de listade kan komma att omfattas.

Har du är intresserad av juridik och vill ha en mer detaljerad bild av frågorna som behöver besvaras för en bra reglering, läs artikeln: International Legal Approaches to Neurosurgery for Psychiatric Disorders.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Chandler JA, Cabrera LY, Doshi P, Fecteau S, Fins JJ, Guinjoan S, Hamani C, Herrera-Ferrá K, Honey CM, Illes J, Kopell BH, Lipsman N, McDonald PJ, Mayberg HS, Nadler R, Nuttin B, Oliveira-Maia AJ, Rangel C, Ribeiro R, Salles A and Wu H (2021) International Legal Approaches to Neurosurgery for Psychiatric Disorders. Front. Hum. Neurosci. 14:588458. doi: 10.3389/fnhum.2020.588458

Detta inlägg på engelska

Juridiska funderingar

Hur ska framtidens AI-etik se ut?

josepine-fernow-sienna-svKanske använder du Google Maps när du tar dig runt i en ny stad. Frågar Siri, Alexa eller Ok Google att spela din favoritlåt på Spotify, Kanske ber du din AI hitta något du vill köpa på Amazon, eller läsa upp ett meddelande från en kompis när du sitter i bilen. Bilen kanske har en semi-autonom adaptiv farthållare… För att det ska fungera behöver mjukvaran i de olika maskinerna samla in information: Data om dig, vart du är på väg, vilken musik du gillar, var och vad du brukar handla, vilka dina vänner är och vad ni pratar om. Och såklart väcker det frågan om du är villig att ge upp en del av ditt privatliv och en bit av din personliga frihet för att kunna dra nytta av fördelarna som den här typen av teknik har att erbjuda.

Det är svårt att förutse konsekvenserna av att utveckla och använda ny teknik. Myndigheter och organisationer sliter med att utvärdera etiken, juridiken kring tekniken. Och vilka konsekvenser den kan få för mänskliga rättigheter. Vi använder IT-system i forskning, inom industrin och i våra hem. Regleringen av systemen behöver fungera för alla som berörs av den. Vi vill skydda etiska värden och mänskliga rättigheter, möjliggöra forskning och utveckling, ta innovationer från universiteten till industrin, och se till att både stora och små företag kan utveckla sina affärsidéer. Och samtidigt se till att det finns acceptans i samhället för teknikutveckling.

EU tar det här på allvar och vill utveckla policy som bygger på forskning, empiriska data och konsultationer med de aktörer som är berörda. De senaste åren har EU investerat 10 miljoner Euro i tre forskningsprojekt som ska ta sig an etiken och mänskliga rättigheter kopplat till utvecklingen av nya digitala teknologier. Satsningen har skett genom Horizon2020-programmet och projekten PANELFIT, SHERPA och SIENNA.

Det första projektet, PANELFIT (som står för Participatory Approaches to a New Ethical and Legal Framework for ICT), kommer att utveckla riktlinjer för hur man ska hantera etiken och juridiken kring forskning och innovation på informations- och kommunikationsteknikområdet. Det andra projektet, SHERPA (som står för Shaping the ethical dimensions of Smart Information Systems (SIS) – A European Perspective), kommer att utveckla olika verktyg för att identifiera och hantera de etiska aspekterna av ”smarta” informationssystem. Det vill säga IT-system som kombinerar artificiell intelligens med analys av stora datamängder. Det tredje projektet, SIENNA (som står för Stakeholder-informed ethics for new technologies with high socio- economic and human rights impact), kommer att utveckla verktyg för forskningsetikkommittéer, etiska koder för olika yrkesgrupper, och bättre etiska och legala ramverk för AI och robotik, men också genetik och genomik och teknologi som kan användas för att förbättra människors egenskaper.

SSP-graphic

Alla projekten arbetar på olika sätt med att engagera både olika intressenter och allmänheten. De stödjer EUs vision om ansvarsfull innovation (det som på engelska kallas för RRI, eller Responsible Research and Innovation). Projekten samarbetar och SIENNA, SHERPA och PANELFIT har nyligen publicerat en gemensam artikel i tidskriften Orbit, där vi bjuder in alla er som på något sätt berörs av de här frågorna att prata med oss och på så sätt bidra till vårt arbete.

Vill du läsa mer? Rowena Rodrigues och Anaïs Resseguier har skrivit om nåra av frågorna som användandet av AI väcker på bloggen Ethics Dialogues (The underdog in the AI and ethical debate: human autonomy). Du kan också läsa mer om SIENNA-projektet i en tidigare post här på Etikbloggen (Ethics, human rights and responsible innovation).

Vill du veta mer om samarbetet mellan SIENNA, SHERPA och PANELFIT? I så fall hoppas jag att du vill läsa vår artikel i Orbit (Setting future ethical standards for ICT, Big Data, AI and robotics: The contribution of three European Projects), eller följa oss på YouTube och se en video från vårt gemensamma webbinarium den 20 maj i år (SIENNA, SHERPA, PANELFIT: Setting future ethical standards for ICT, Big Data, SIS, AI & Robotics).

Vill du veta hur SIENNA-projektet tänker omkring AI och robotik? Ladda ner infografiken i pdf-format här och läs vår state-of-the-art review för AI och robotik (rapport från SIENNA projektet).

c_721882-l_1-k_webb

Josepine Fernow

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen

Nyhetsbrev 4 om biobanker

Nu kan du läsa årets fjärde nyhetsbrev från CRB och BBMRI.se om etik och juridik kring biobanker:

Nyhetsbrevet innehåller tre notiser:

  1. Moa Kindström Dahlin beskriver arbetet med etiska och juridiska frågor i den europeiska biobank-plattformen BBMRI-ERIC. Hon reflekterar också över vad juridik är.
  2. Josepine Fernow presenterar två doktorandprojekt om forskningsdeltagares och patienters preferenser och uppfattningar om riskinformation.
  3. Anna-Sara Lind diskuterar EU-domstolens ogiltigförklarande av Safe Harbour-avtalet med USA.

(Länk till pdf-versionen av nyhetsbrevet)

Slutligen, även en länk till decembernumret av nyhetsbrevet från BBMRI.se:

God jul och gott nytt år!

Pär Segerdahl

Kommer med lästips - Etikbloggen

Rätt att ha rätt? Om rättsvetenskapens etik

Moa Kindström DahlinNär man arbetar som jurist vid ett tvärvetenskapligt centrum för forsknings- och bioetik, uppstår ofta frågor om relationen mellan juridik och etik. En sådan fråga är vilken slags etisk kompetens som behövs inom rättsvetenskapen. Jag ska här peka på några etiska utmaningar vi som forskar inom juridiken ställs inför. Men framför allt ska jag bekänna hur jag tänker.

Jag är troende jurist.

Denna tro innebär inte att jag automatiskt tycker att all juridik är bra juridik. Bara att jag inte kan se något bättre sätt att styra världen, än genom ett system av rättsliga normer. Att vara troende jurist innebär att jag accepterar att jag lever i ett parallelluniversum och att detta juridiska universum kanske inte är synligt för icke-juristerna. Ni får helt enkelt lita på oss jurister, för under vår juristutbildning har vi tränat upp förmågan att se detta universum, och att tro på det.

Jag gillar inte alltid vad jag ser, men jag accepterar ändå att det existerar.

Jag tror att det krävs kännedom om juristers förståelse för vad juridik är, för att det ska vara möjligt att greppa det som jag här kallar rättsvetenskapens etik. Hur ser vi då på juridiken? Frågan har förstås en flora av svar, sprungna ur olika filosofiska teorier om juridikens funktion i samhället, men jag vill uttrycka det såhär:

Juridik är en idé, en realitet och en praktik.

Juridiken som realitet är summan av all reglering, lokalt (t.ex. i Sverige), regionalt (t.ex. i Europa/EU) och internationellt. Regleringen består av konventioner, fördrag, lagar, förarbeten, rättsfall, rättsvetenskaplig litteratur (doktrin), allmänna rättsprinciper och andra rättskällor där vi kan hitta svar på frågor som ”är det lagligt att…?” eller ”kan jag bli rättsligt ansvarig för den här handlingen?”

Juridiken som praktik handlar om hur vi når kunskap om rättsläget i förhållande till en rättslig fråga, eller en specifik situation. Det är här tolkningen av rättskällorna ska appliceras på den konkreta verkligheten, vilket innebär att juridiken är kontextuell. Rättstillämpning är alltid beroende av situation, tid och plats.

Juridiken som idé är illusionen om att det finns rättsliga svar därute, redo att upptäckas, beskrivas och tillämpas. Jurister lever i ett universum där denna illusion är accepterad, trots att varje jurist vet att idén är överförenklad. Sällan finns tydliga svar på de rättsliga frågorna och det finns ofta flera möjliga tolkningar.

I vårt rättsliga universum kretsar många himlakroppar: olika rättskällor och jurisdiktioner, olika rättstraditioner och lagtolkningsläror. Där cirkulerar otaliga teorier, perspektiv och ideologier: rättspositivism, kritisk rättsvetenskap, rättsekonomi och terapeutisk juridik, för att nämna några. Hur vi väljer att studera rätten – vilken lins vi väljer på vårt teleskop – påverkar hur vi uppfattar och avläser rättsläget.

Ibland beskrivs juridiken som kodifierad etik. De olika staternas rättssystem erbjuder strukturer för hur nya tekniker får användas liksom ramarna för den medicinska utvecklingen. I vårt rättsliga universum är juridiken grunden för allt samhällsbygge. Det betyder att juridiken spelar en viktig roll när man analyserar en stats organisation eller administration.

Kort sagt utgör juridiken en betydelsefull pusselbit när vi vill förstå den värld vi lever i.

Detta innebär att idén om juridiken som någonting konkret, någonting som vi kan upptäcka och beskriva, bidrar till vår uppfattning av verkligheten. Samtidigt måste vi hela tiden påminna oss om att juridiken i själva verket är både abstrakt och kontextuell samt att den hela tiden förändras. Juridiken är skapad av människor och svaren på de juridiska frågorna kan därför variera beroende på vilken jurist som besvarar en fråga och med vilken lins som rätten studeras.

Ibland är de rättsliga svaren tydliga och precisa, men många gånger är svaren vaga eller dunkla. När juridiken tycks oklar måste vi som jurister förtydliga den. Det är juristerna som måste leta efter svaren inom systemet, och om de inte står att finna, får vi skapa dem.

Vi kan inte acceptera luckor i lagen.

Idén om juridiken som ett system med alla svar, innebär alltså att systemet är självläkande och denna läkningsprocess utövas inte sällan inom rättsvetenskapen. Med denna aktivitet följer stor makt: Om en jurist påstår att något är en beskrivning av rätten – vad rätten är – kan en sådan beskrivning senare bli en del av den rättsliga (och politiska) utvecklingen.

Beskrivningar av vad som t.ex. är tillåtet på ett visst område måste därför alltid göras på ett nyanserat sätt och ställningstagandena bör underbyggas noga. Detta särskilt när rättsområdet är under utveckling eller i en politiskt känslig fas. Om beskrivningarna av vad som gäller baseras på vissa utgångspunkter, bör dessa tydliggöras så att argumentationen blir så transparant som möjligt.

Detta vill jag kalla för rättsvetenskapens etik.

Alltså. Forskning inom rättsvetenskap kräver alltid eftertänksamhet. Vi som forskar måste vara omsorgsfulla när vi gör våra framställningar och hela tiden vara etiskt medvetna. Våra rättsliga svar och ställningstaganden är alltid normativa, aldrig bara deskriptiva. Varje gång en rättsvetenskapsman besvarar en rättslig fråga i en monografi, en antologi eller i en vetenskaplig artikel, blir svaret genom publiceringen en rättskälla, och kan refereras till som en del av rätten.

Juridiken rekonstruerar alltså ständigt sig själv och är i viss utsträckning självförsörjande. Man kan dock ifrågasätta rimligheten i svaret på frågan om vad rätten är, om svaret alltid är att rätten är rätt.

Moa Kindström Dahlin

Juridiska funderingar - Etikbloggen