Det finns ett stort behov av etik gällande utveckling, implementering och användning av artificiell intelligens – ett behov AI-etik. En sådan etik utformas vanligen i termer av vissa etiska principer, såsom rättvisa, transparens och ansvarsskyldighet.
Att identifiera relevanta principer är ett första steg på vägen mot en välfungerande AI-etik. Men vad betyder abstrakta begrepp som ”rättvisa” i de konkreta sammanhang där människor lever, arbetar och använder AI? Om etiska principer ska göra verklig skillnad och inte bara skapa en etisk gloria runt tekniken måste de knytas närmare till de praktiska sammanhangen. Men var hittar vi AI-etikens sammanhang?
Kan AI-etikens sammanhang identifieras med egenskaper hos AI-tekniken – till exempel det faktum att AI-system tränas på data? Handlar AI-rättvisa om att AI-system ska tränas opartiskt så att vissa grupper inte missgynnas? Handlar AI-transparens om öppenhet gällande hur AI-system tränas och fungerar? Handlar AI-ansvarsskyldighet om tydlighet om vem som har ansvar för fel som uppkommer? Handlar AI-etik om dessa sidor av tekniken?
Givetvis kan AI-etik sägas handla om sådana sidor av tekniken – men AI-etikens sammanhang kan faktiskt inte avgränsas. AI-system utvecklas på bred front för otaliga tillämpningsområden: inom hälso- och sjukvård, utbildning, läkemedelsutveckling, finans- och bankverksamhet, inom handel och transport och mycket mer. De etiska problemen på dessa olikartade områden tenderar att vara unika och oväntade. AI-etiken måste följa med och anpassas till varje nytt användningsområde. Men inte ens hälso- och sjukvården är ett enda avgränsat användningsområde, för det finns många olika användningar av AI bara inom vården, och fler är på gång. Tekniken tycks vara närmast gränslöst tillämpbar och är därigenom omvälvande. Därför saknar AI-etiken ett givet sammanhang.
Vidare är principefterlevnad inte etiskt tillräckligt. Att implementera ett AI-system på ett visst område kan vara oetiskt även om systemet tillfredsställer AI-etikens centrala principer – för tillämpningen kan ändå ha oacceptabla konsekvenser på området. Kanske för skolbarns förmåga att läsa, skriva och tänka själva, om det handlar om en pedagogisk AI-tillämpning. Det finns alltså en klyfta mellan AI-etikens centrala principer och de sammanhang där tekniken tillämpas – konkreta sammanhang som alstrar oväntade utmaningar som behöver hanteras etiskt genomtänkt.
Detta ger upphov till en enormt viktig fråga. Hur får vi AI-etiken att hålla jämna steg med tillämpningarna? Frågan diskuteras i en artikel av Jennifer Viberg Johansson och Jessica Nihlén Fahlquist, publicerad i tidskriften AI and Ethics. Man skulle kunna tro att författarna förenklar frågan genom att avgränsa den till AI-etik tillämpad inom hälso- och sjukvården. Men som sagt utgör inte ens vården ett avgränsat användningsområde av AI. AI-etiken har inget givet sammanhang – inte ens inom vården. Frågan om hur AI-etiken håller jämna steg med AI-tillämpningarna är således lika stor och utmanande inom vården som överallt i samhället. Hur besvarar författarna den viktiga frågan?
Det svar som Jennifer Viberg Johansson och Jessica Nihlén Fahlquist ger kan överraska den som tror att etik huvudsakligen består av principer som sedan ska följas i praktiken – där etiker agerar som experter som kan rabbla sådana principer i sömnen. Etik är faktiskt inte minst en fortlöpande forskningsaktivitet som ständigt uppdaterar etiska principer och begrepp i relation till aktuella sammanhang. Det är genom sådan etikforskning som AI-etiken kan hålla jämna steg med de många olikartade AI-tillämpningarna. Genom att samordna empiriska studier av sammanhangen kring aktuella AI-tillämpningar med normativ etisk analys, blir det möjligt att identifiera och hantera de reella etiska utmaningar som alstras i dessa sammanhang.
Kort sagt: Utan fortlöpande etikforskning är AI-etiken blind och handfallen inför de etiska utmaningar som AI-utvecklingen ställer oss inför.
Läs författarnas resonemang om hur AI-etiken kan följa tillämpningarna av tekniken genom att samordna empiriska studier med normativ analys: Why applied AI ethics in healthcare requires the integration of empirical inquiry and normative ethical analysis.
Skrivet av…
Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.
Viberg Johansson, J., Nihlén Fahlquist, J. Why applied AI ethics in healthcare requires the integration of empirical inquiry and normative ethical analysis. AI Ethics 6, 533 (2026). https://doi.org/10.1007/s43681-026-01370-2
