Etikbloggen

En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Etikett: sårbarhet

Mänskliga rättigheter och juridiska frågor kring artificiell intelligens

ethernetkabel
9 mars, 2021 / / 1 kommentar

Hur tar vi ansvar för en teknik som används nästan överallt? I takt med att alltfler användningar av artificiell intelligens (AI) utvecklas, växer utmaningarna att överblicka hur tekniken kan påverka människor och mänskliga rättigheter.

Även om AI-lagstiftning redan utvecklas på flera områden, menar Rowena Rodrigues att vi behöver en överblickbar karta över utmaningarna. Hur ser läget ut? Var kan människors rättigheter hotas? Hur hanteras hoten? Var behöver större ansträngningar göras? I en artikel i Journal of Responsible Technology föreslår hon en sådan karta, som sedan diskuteras med utgångspunkt i begreppet sårbarhet (”vulnerability”).

Artikeln identifierar tio problemområden. Ett problem är att AI fattar beslut på basis av algoritmer där beslutsprocessen inte är helt genomskinlig. Varför fick jag inte jobbet, lånet eller bidraget? Svårt att veta när datorprogram levererar beslut som om de vore orakel! Andra problem handlar om säkerhet och ansvar, exempelvis när automatiskt beslutsfattande används i bilar, i medicinska diagnoser, i vapen eller när regeringar övervakar medborgare. Andra problemområden kan handla om risker för diskriminering eller för integritetsintrång när AI samlar in och använder stora datamängder för att fatta beslut som berör individer och grupper. I artikeln kan du läsa om fler problemområden.

För var och en av de tio utmaningarna, identifierar Rowena Rodrigues lösningar som i nuläget finns på plats, samt utmaningarna som det kvarstår att hantera. Därefter diskuteras mänskliga rättigheter. Rowena Rodrigues menar att internationella mänskliga rättighetsfördrag, även om de inte nämner AI, är relevanta för de flesta av problemen som hon kartlagt. Hon framhäver betydelsen att bevaka mänskliga rättigheter ur ett sårbarhetsperspektiv. Genom ett sådant perspektiv ser vi tydligare var och hur AI kan utmana mänskliga rättigheter. Vi ser tydligare hur vi kan minska negativa effekter, utveckla motståndskraft hos sårbara, samt angripa roten till de olika formerna av sårbarhet.

Rowena Rodrigues är knuten till SIENNA-projektet, som avslutas denna månad. Läs hennes artikel om utmaningarna kring en teknik som används nästan överallt: Legal and human rights issues of AI: Gaps, challenges and vulnerabilities.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Rowena Rodrigues. 2020. Legal and human rights issues of AI: Gaps, challenges and vulnerabilities. Journal of Responsible Technology 4. https://doi.org/10.1016/j.jrt.2020.100005

Detta inlägg på engelska

Kommer med lästips

Fångad i ett system

trämänniska under och över sten
4 november, 2020 / / 1 kommentar

Anta att en filosof bygger ett system av idéer omkring vår dödlighet. Det är risken att dö, alltings sårbarhet, som gör att vi kan finna våra liv meningsfulla och våra livsprojekt engagerande. Om vi inte trodde på risken att dö och alltings sårbarhet, skulle vi inte bry oss om någonting alls. Därför måste vi tro vad systemet kräver, för att kunna leva och engagera oss. Faktum är att alla redan tror på vad systemet kräver, resonerar filosofen, även de som ifrågasätter det. De gör det i praktiken, eftersom de lever och bryr sig. Det vore omöjligt om de inte trodde vad systemet kräver.

Men vår dödlighet är mer än en risk. Den är ett faktum: vi ska dö. Döden är inte bara en möjlighet, något som kan hända, ett nederlag vi riskerar i våra projekt. Vad sker när vi ser dödens verklighet, snarare än fångas i systemets doktriner om nödvändiga möjlighetsvillkor för meningsfulla och engagerade liv? Vi kan naturligtvis rygga tillbaka och vägra tänka mer på saken. Men vi kan också börja tänka som aldrig förr. Om jag ska dö, då måste jag hinna förstå livet innan jag dör! Jag måste undersöka! Jag måste nå klarhet medan jag lever!

I detta undersökande av systemets utgångspunkt vaknar ett friare tänkande till liv, som undrar snarare än utfärdar krav. Vad är det att leva? Vem är jag, som säger mig leva ett liv? Hur dök ”jag” och ”mitt liv” upp som följeslagare? Är de åtskilda? Om inte, hur är vi förenade? Är livet inklämt mellan födelse och död? Eller är livet utsträckt, innefattande växlingarna mellan födelse och död? Vad är livet egentligen? Det lilla som begränsas av födelse och död, eller det stora som innefattar växlingarna mellan födelse och död? Eller bägge samtidigt? Detta är kanske de första trevande frågorna…

Dödligheten som systemet bygger på väcker passionerade frågor om begreppen som systemet opererar med som om de hade ristats i sten för tid och evighet. Den väcker ett självprövande liv, som inte låter sig styras av systemets doktriner om vad alla måste tro på. Även systemet ifrågasätts, för engagemanget i frågandet är lika stort som systemet skulle vilja vara.

Men om frågandet passionerat bryr sig om livet, om dödligheten och sårbarheten rentav ingår i engagemanget – får systemet därmed sista ordet?

(Inlägget är en undran inspirerad av Martin Hägglunds bok Vårt enda liv, som jag rekommenderar som en storartad stötesten för vår tid.)

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi ställer frågor