Hur ska framtidens AI-etik se ut?

11 juli, 2019

josepine-fernow-sienna-svKanske använder du Google Maps när du tar dig runt i en ny stad. Frågar Siri, Alexa eller Ok Google att spela din favoritlåt på Spotify, Kanske ber du din AI hitta något du vill köpa på Amazon, eller läsa upp ett meddelande från en kompis när du sitter i bilen. Bilen kanske har en semi-autonom adaptiv farthållare… För att det ska fungera behöver mjukvaran i de olika maskinerna samla in information: Data om dig, vart du är på väg, vilken musik du gillar, var och vad du brukar handla, vilka dina vänner är och vad ni pratar om. Och såklart väcker det frågan om du är villig att ge upp en del av ditt privatliv och en bit av din personliga frihet för att kunna dra nytta av fördelarna som den här typen av teknik har att erbjuda.

Det är svårt att förutse konsekvenserna av att utveckla och använda ny teknik. Myndigheter och organisationer sliter med att utvärdera etiken, juridiken kring tekniken. Och vilka konsekvenser den kan få för mänskliga rättigheter. Vi använder IT-system i forskning, inom industrin och i våra hem. Regleringen av systemen behöver fungera för alla som berörs av den. Vi vill skydda etiska värden och mänskliga rättigheter, möjliggöra forskning och utveckling, ta innovationer från universiteten till industrin, och se till att både stora och små företag kan utveckla sina affärsidéer. Och samtidigt se till att det finns acceptans i samhället för teknikutveckling.

EU tar det här på allvar och vill utveckla policy som bygger på forskning, empiriska data och konsultationer med de aktörer som är berörda. De senaste åren har EU investerat 10 miljoner Euro i tre forskningsprojekt som ska ta sig an etiken och mänskliga rättigheter kopplat till utvecklingen av nya digitala teknologier. Satsningen har skett genom Horizon2020-programmet och projekten PANELFIT, SHERPA och SIENNA.

Det första projektet, PANELFIT (som står för Participatory Approaches to a New Ethical and Legal Framework for ICT), kommer att utveckla riktlinjer för hur man ska hantera etiken och juridiken kring forskning och innovation på informations- och kommunikationsteknikområdet. Det andra projektet, SHERPA (som står för Shaping the ethical dimensions of Smart Information Systems (SIS) – A European Perspective), kommer att utveckla olika verktyg för att identifiera och hantera de etiska aspekterna av ”smarta” informationssystem. Det vill säga IT-system som kombinerar artificiell intelligens med analys av stora datamängder. Det tredje projektet, SIENNA (som står för Stakeholder-informed ethics for new technologies with high socio- economic and human rights impact), kommer att utveckla verktyg för forskningsetikkommittéer, etiska koder för olika yrkesgrupper, och bättre etiska och legala ramverk för AI och robotik, men också genetik och genomik och teknologi som kan användas för att förbättra människors egenskaper.

SSP-graphic

Alla projekten arbetar på olika sätt med att engagera både olika intressenter och allmänheten. De stödjer EUs vision om ansvarsfull innovation (det som på engelska kallas för RRI, eller Responsible Research and Innovation). Projekten samarbetar och SIENNA, SHERPA och PANELFIT har nyligen publicerat en gemensam artikel i tidskriften Orbit, där vi bjuder in alla er som på något sätt berörs av de här frågorna att prata med oss och på så sätt bidra till vårt arbete.

Vill du läsa mer? Rowena Rodrigues och Anaïs Resseguier har skrivit om nåra av frågorna som användandet av AI väcker på bloggen Ethics Dialogues (The underdog in the AI and ethical debate: human autonomy). Du kan också läsa mer om SIENNA-projektet i en tidigare post här på Etikbloggen (Ethics, human rights and responsible innovation).

Vill du veta mer om samarbetet mellan SIENNA, SHERPA och PANELFIT? I så fall hoppas jag att du vill läsa vår artikel i Orbit (Setting future ethical standards for ICT, Big Data, AI and robotics: The contribution of three European Projects), eller följa oss på YouTube och se en video från vårt gemensamma webbinarium den 20 maj i år (SIENNA, SHERPA, PANELFIT: Setting future ethical standards for ICT, Big Data, SIS, AI & Robotics).

Vill du veta hur SIENNA-projektet tänker omkring AI och robotik? Ladda ner infografiken i pdf-format här och läs vår state-of-the-art review för AI och robotik (rapport från SIENNA projektet).

c_721882-l_1-k_webb

Josepine Fernow

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


Nyhetsbrev 4 om biobanker

22 december, 2015

Nu kan du läsa årets fjärde nyhetsbrev från CRB och BBMRI.se om etik och juridik kring biobanker:

Nyhetsbrevet innehåller tre notiser:

  1. Moa Kindström Dahlin beskriver arbetet med etiska och juridiska frågor i den europeiska biobank-plattformen BBMRI-ERIC. Hon reflekterar också över vad juridik är.
  2. Josepine Fernow presenterar två doktorandprojekt om forskningsdeltagares och patienters preferenser och uppfattningar om riskinformation.
  3. Anna-Sara Lind diskuterar EU-domstolens ogiltigförklarande av Safe Harbour-avtalet med USA.

(Länk till pdf-versionen av nyhetsbrevet)

Slutligen, även en länk till decembernumret av nyhetsbrevet från BBMRI.se:

God jul och gott nytt år!

Pär Segerdahl

Kommer med lästips - Etikbloggen


Rätt att ha rätt? Om rättsvetenskapens etik

10 juni, 2015

Moa Kindström DahlinNär man arbetar som jurist vid ett tvärvetenskapligt centrum för forsknings- och bioetik, uppstår ofta frågor om relationen mellan juridik och etik. En sådan fråga är vilken slags etisk kompetens som behövs inom rättsvetenskapen. Jag ska här peka på några etiska utmaningar vi som forskar inom juridiken ställs inför. Men framför allt ska jag bekänna hur jag tänker.

Jag är troende jurist.

Denna tro innebär inte att jag automatiskt tycker att all juridik är bra juridik. Bara att jag inte kan se något bättre sätt att styra världen, än genom ett system av rättsliga normer. Att vara troende jurist innebär att jag accepterar att jag lever i ett parallelluniversum och att detta juridiska universum kanske inte är synligt för icke-juristerna. Ni får helt enkelt lita på oss jurister, för under vår juristutbildning har vi tränat upp förmågan att se detta universum, och att tro på det.

Jag gillar inte alltid vad jag ser, men jag accepterar ändå att det existerar.

Jag tror att det krävs kännedom om juristers förståelse för vad juridik är, för att det ska vara möjligt att greppa det som jag här kallar rättsvetenskapens etik. Hur ser vi då på juridiken? Frågan har förstås en flora av svar, sprungna ur olika filosofiska teorier om juridikens funktion i samhället, men jag vill uttrycka det såhär:

Juridik är en idé, en realitet och en praktik.

Juridiken som realitet är summan av all reglering, lokalt (t.ex. i Sverige), regionalt (t.ex. i Europa/EU) och internationellt. Regleringen består av konventioner, fördrag, lagar, förarbeten, rättsfall, rättsvetenskaplig litteratur (doktrin), allmänna rättsprinciper och andra rättskällor där vi kan hitta svar på frågor som ”är det lagligt att…?” eller ”kan jag bli rättsligt ansvarig för den här handlingen?”

Juridiken som praktik handlar om hur vi når kunskap om rättsläget i förhållande till en rättslig fråga, eller en specifik situation. Det är här tolkningen av rättskällorna ska appliceras på den konkreta verkligheten, vilket innebär att juridiken är kontextuell. Rättstillämpning är alltid beroende av situation, tid och plats.

Juridiken som idé är illusionen om att det finns rättsliga svar därute, redo att upptäckas, beskrivas och tillämpas. Jurister lever i ett universum där denna illusion är accepterad, trots att varje jurist vet att idén är överförenklad. Sällan finns tydliga svar på de rättsliga frågorna och det finns ofta flera möjliga tolkningar.

I vårt rättsliga universum kretsar många himlakroppar: olika rättskällor och jurisdiktioner, olika rättstraditioner och lagtolkningsläror. Där cirkulerar otaliga teorier, perspektiv och ideologier: rättspositivism, kritisk rättsvetenskap, rättsekonomi och terapeutisk juridik, för att nämna några. Hur vi väljer att studera rätten – vilken lins vi väljer på vårt teleskop – påverkar hur vi uppfattar och avläser rättsläget.

Ibland beskrivs juridiken som kodifierad etik. De olika staternas rättssystem erbjuder strukturer för hur nya tekniker får användas liksom ramarna för den medicinska utvecklingen. I vårt rättsliga universum är juridiken grunden för allt samhällsbygge. Det betyder att juridiken spelar en viktig roll när man analyserar en stats organisation eller administration.

Kort sagt utgör juridiken en betydelsefull pusselbit när vi vill förstå den värld vi lever i.

Detta innebär att idén om juridiken som någonting konkret, någonting som vi kan upptäcka och beskriva, bidrar till vår uppfattning av verkligheten. Samtidigt måste vi hela tiden påminna oss om att juridiken i själva verket är både abstrakt och kontextuell samt att den hela tiden förändras. Juridiken är skapad av människor och svaren på de juridiska frågorna kan därför variera beroende på vilken jurist som besvarar en fråga och med vilken lins som rätten studeras.

Ibland är de rättsliga svaren tydliga och precisa, men många gånger är svaren vaga eller dunkla. När juridiken tycks oklar måste vi som jurister förtydliga den. Det är juristerna som måste leta efter svaren inom systemet, och om de inte står att finna, får vi skapa dem.

Vi kan inte acceptera luckor i lagen.

Idén om juridiken som ett system med alla svar, innebär alltså att systemet är självläkande och denna läkningsprocess utövas inte sällan inom rättsvetenskapen. Med denna aktivitet följer stor makt: Om en jurist påstår att något är en beskrivning av rätten – vad rätten är – kan en sådan beskrivning senare bli en del av den rättsliga (och politiska) utvecklingen.

Beskrivningar av vad som t.ex. är tillåtet på ett visst område måste därför alltid göras på ett nyanserat sätt och ställningstagandena bör underbyggas noga. Detta särskilt när rättsområdet är under utveckling eller i en politiskt känslig fas. Om beskrivningarna av vad som gäller baseras på vissa utgångspunkter, bör dessa tydliggöras så att argumentationen blir så transparant som möjligt.

Detta vill jag kalla för rättsvetenskapens etik.

Alltså. Forskning inom rättsvetenskap kräver alltid eftertänksamhet. Vi som forskar måste vara omsorgsfulla när vi gör våra framställningar och hela tiden vara etiskt medvetna. Våra rättsliga svar och ställningstaganden är alltid normativa, aldrig bara deskriptiva. Varje gång en rättsvetenskapsman besvarar en rättslig fråga i en monografi, en antologi eller i en vetenskaplig artikel, blir svaret genom publiceringen en rättskälla, och kan refereras till som en del av rätten.

Juridiken rekonstruerar alltså ständigt sig själv och är i viss utsträckning självförsörjande. Man kan dock ifrågasätta rimligheten i svaret på frågan om vad rätten är, om svaret alltid är att rätten är rätt.

Moa Kindström Dahlin

Juridiska funderingar - Etikbloggen


%d bloggare gillar detta: