En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Månad: april 2020

Inspiration till ansvarsfull forskning och innovation

Vår inställning till vetenskapen förändras. Frågan är om vi längre kan tala högstämt om den i bestämd form singularis, eller ens om vetenskaper. Det tycks idag mer träffande att tala om forskningsaktiviteter som producerar nyttiga och tillämpbara kunskaper.

Vetenskapen har detroniserats, tycks det. Förr vördades den som fritt och självständigt sanningssökande. Vi bugade som inför en högre sanningsinstans. I dag kräver vi att den levererar nyttigheter och anpassar sig till samhället. Förändringen är motsägelsefull eftersom vi samtidigt vill kunna åberopa vetenskaplig expertis som högre auktoritetskälla. Ska vi böja oss för experterna eller korrigera dem om de inte levererar ”rätt kunskaper” eller ”önskvärda fakta”?

Ett sätt att aktivt hantera den riskabla förändringen är ansvarsfull forskning och innovation, RRI (Responsible Research and Innovation). Långsiktigt försöker man anpassa vetenskapen till nya samhälleliga krav. Som du hör av namnet är RRI delvis ett uttryck för samma attitydförändring. Man kunde tala om ansvarsfull detronisering av vetenskapen.

Somliga sörjer detroniseringen, andra gläds. Här vill jag bara förknippa RRI med den ändrade inställningen till vetenskap. RRI kan uppfattas som ett försök att ansvarsfullt genomdriva förändringen, som man i grunden bejakar. Den tvetydiga inställningen till vetenskaplig expertis, som nämndes ovan, visar hur viktigt det är att vi tar ansvar för människors förtroende för vad som numera alltså kallas forskning och innovation. För varför bör vi lyssna till företrädare för en sektor med så föga aktningsvärd benämning?

RRI har införts i europeisk forskning inom Horisont 2020. Flera projekt handlar specifikt om att implementera och studera RRI. Viktiga aspekter av RRI är genus och jämställdhet; publicering med öppen tillgänglighet; vetenskapsundervisning och forskningskommunikation; allmänhetens delaktighet; samt etik. Det handlar om att anpassa forskning och innovation till ett samhälle med nya krav och förhoppningar på vad som förr stolt benämndes vetenskapen.

En nyutkommen bok redovisar erfarenheter av implementering av RRI i ett antal biovetenskapliga organisationer runtom i världen. Boken är skriven inom projektet STARBIOS2, som med partners i Europa, Afrika, Syd- och Nordamerika planerat och genomfört RRI-satsningar och reflekterat över arbetsprocessen. Syftet i STARBIOS2 har varit att förändra organisationerna långsiktigt och strukturellt. Med boken vill man hjälpa läsare att själva formulera handlingsplaner och initiera strukturförändringar på de egna arbetsplatserna.

Boken beskrivs något missvisande som riktlinjer (”guidelines”). Några formulerade riktlinjer hittar du inte. Däremot hittar du något som kanske är mer hjälpsamt, nämligen självreflekterande exempel på hur man i praktiken arbetat med RRI-handlingsplaner. Du hittar konkreta förslag på hur man lyfter ansvar i forskning och utveckling. Du kan således läsa om sätt att stödja jämställdhet, utbyte med allmänhet och samhälle, öppen publicering, samt etik och forskningskommunikation. Läs och inspireras!

Avslutningsvis kan jag nämna att Etikbloggen, liksom etikverksamheten på CRB, kan betraktas som exempel på RRI. Jag hoppas återkomma längre fram med ett inlägg om forskningskommunikation.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Declich, Andrea. 2019. RRI implementation in bioscience organisations: Guidelines from the STARBIOS2 project.

Detta inlägg på engelska

Vad är hållbarhet i framtiden?

Antropomorfism inom AI kan begränsa tekniken

Antropomorfism tycks nästan tillhöra forskning om artificiell intelligens (AI). Ända sedan områdets begynnelse har maskiner beskrivits i termer som normalt beskriver mänskliga förmågor, som att förstå och att lära sig. Betoningen ligger på likheter mellan människor och maskiner, medan skillnader ofta slätas över. Som när man säger att maskiner kan göra samma saker som människor, som att fatta beslut och lösa problem, med den förment obetydliga skillnaden att maskinerna gör det ”automatiserat”.

Detta kan du läsa mer om i en upplysande diskussion om antropomorfism inom och omkring AI, skriven av Arleen Salles, Kathinka Evers och Michele Farisco, samtliga vid vid CRB och Human Brain Project. Artikeln är publicerad i AJOB Neuroscience.

Artikeln uppmärksammar särskilt så kallad hjärninspirerad AI-forskning, där teknikutvecklingen hämtar inspiration från vad vi vet om hjärnans funktionssätt. Här betonas banden mellan AI och neurovetenskap: band som anses avgörande för utvecklingen inom bägge forskningsfälten. Neurovetenskapen behöver inspiration från AI-forskningen, menar man, liksom AI-forskningen behöver inspiration från hjärnforskningen.

Artikeln varnar dock för att denna idé om ett släktskap mellan områdena förutsätter att vi redan accepterat en antropomorf tolkning av AI. Faktum är att hjärninspirerad AI utvidgar de begreppsliga dubbelexponeringarna genom att projicera inte bara psykologiska utan även neurovetenskapliga begrepp på maskiner. Man talar om artificiella neuroner, synapser och neurala nätverk i datorer. Som om man byggt in konstgjord hjärnvävnad i maskinerna.

En förbisedd risk med antropomorfism inom AI, skriver artikelförfattarna, är att den kan dölja väsentliga egenarter hos tekniken som gör den fundamentalt annorlunda mänsklig intelligens. Antropomorfism kan riskera att begränsa den tekniska utvecklingen inom AI, eftersom man låser sig vid den mänskliga hjärnan som priviligierad inspirationskälla för AI. Antropomorfism kan locka även hjärnforskningen att okritiskt använda AI som förebild för hur hjärnan fungerar.

Författarna förnekar naturligtvis inte att AI och neurovetenskap ömsesidigt befruktar varandra och bör samarbeta. Men för att samarbetet ska fungera väl, utan att riskera att hämma utvecklingen, behövs även filosofiskt tänkande. Vi behöver klargöra våra olikartade begrepp om människor och maskiner, hjärnor och datorer. Detta för att befria oss från tendensen att låsa oss vid likheterna, som kan vara mer verbala än reella. Vi behöver uppmärksamma även skillnader mellan människor och maskiner, lära oss att inspireras av olikheter.

Antropomorfism inom AI riskerar dessutom att uppmuntra till oansvarig forskningskommunikation, menar artikelförfattarna. Detta eftersom överdrivna förhoppningar (”hype”) ligger i själva språkbruket. Genom att tala om datorer i psykologiska och neurologiska termer, kan det låta som om datorerna redan väsentligen fungerade som mänskliga hjärnor.

Filosofi kan därför bidra till ansvarsfullare kommunikationen om AI. Eftertänksam forskningskommunikation kan uppmärksamma överdrivna anspråk och förhoppningar som ligger i det antropomorfa språkbruket. Den kan motverka tendenser att överdriva likheter mellan maskiner och människor, som inte alltid går så djupt som orden får det att låta.

Skillnader kan kort sagt vara lika viktiga och lärorika som likheter. Inte bara i filosofi, utan även i vetenskap, teknikutveckling och ansvarsfull forskningskommunikation.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Arleen Salles, Kathinka Evers & Michele Farisco (2020) Anthropomorphism in AI, AJOB Neuroscience, 11:2, 88-95, DOI: 10.1080/21507740.2020.1740350

Detta inlägg på engelska

Vi söker klarhet

Vi kan inte kontrollera allt: livets filosofiska dimensioner

Livet överträffar oss alltid. Vi trodde att vi hade kontroll, men så händer något oväntat som tycks rubba ordningen i grunden. En storm, en skogsbrand, en pandemi. Livet framstår som en teckning i sand, vars konturer plötsligt upplöses.

Så illa är det naturligtvis inte, för även en storm, en skogsbrand, en pandemi, går över. Konturerna blir tydliga igen, i något nya former. Men det oväntade påminde oss om att livet är större än vår förmåga att kontrollera det. Min fråga i detta inlägg är hur vi balanserar viljan att kontrollera livet mot vetskapen om att livet alltid överträffar oss.

Att livet är större än vår förmåga att kontrollera det visar sig inte bara i form av stormar, skogsbränder och pandemier. Det visar sig också i form av skönt varierande väder, växande skogar och god hälsa. Visst bidrar medicinen till bättre hälsa. Men det är inte tack vare några piller som blod cirkulerar i våra kroppar och mat blir till näring för våra celler. Vi är med rätta tacksamma mot medicinen, som hjälper sjuka. Men kanske kunde vi även ägna livet självt en tacksamhetens tanke ibland. Är inte kroppen fantastisk, som utvecklar immunitet i samröre med virus? Är inte skogarna och klimatet underbara, som ger syre, sol och regn? Och naturen, som vi är som utväxter på?

Många vill nog invända att det är bortkastat att filosofera om sådant som vi inte kan göra något åt. Varför ödsla tid på att reflektera över livets okontrollerbara dimensioner, när vi kan utveckla nya mediciner? Borde vi inte fokusera alla krafter på att förbättra världen?

Jag påpekar bara att vi då resonerar som konstnären som trodde sig kunna måla enbart förgrunder, utan bakgrunder. Som om bakgrunden distraherade från det viktiga. Men vill du framhäva förgrunden, måste du uppmärksamma även bakgrunden. Då framträder förgrunden. Förgrunden behöver omfamnas av bakgrunden. Litet och stort förutsätter varandra.

Viljan till kontroll fungerar klokare, tror jag, om vi besinnar oss på vårt ofrånkomliga beroende av omfamning av en större bakgrund. Vi kan som sagt inte styra allt, lika lite som en konstnär kan måla enbart förgrunder. Jag vill föreslå att filosofi utmärks av att den påminner oss om just detta. Den hjälper oss att se det kontrollerbara mot bakgrund av det okontrollerbara. Den påminner om det större sammanhanget: bakgrunden som det mänskliga intellektet inte bemästrar, utan måste förutsätta och samspela klokt med.

Det behöver inte vara dramatiskt. Även vardagslivet har filosofiska dimensioner som överträffar vår medvetna kontroll. Barnen lär sig prata bortom föräldrarnas kontroll, utan vare sig läroplaner eller examinationer. Ingen språklärare i världen kan lära ett litet barn att prata genom lektioner i klassrum. Det kan bara ske spontant och gränslöst mitt i livet. Bara den som redan pratar kan lära sig språk genom lektioner i ett klassrum.

Förmågan att prata är alltså bakgrunden till språkundervisning i klassrum. En språklärare kan planera lektionerna i detalj. De yngstas språktillägnelse, däremot, är så oupplösligt förenad med vad det är att leva som människa, att den överträffar intellektets förmåga att ordna och styra. Vi kan bara påminna oss om skillnaden mellan förgrund och bakgrund. Här följer en sådan filosofisk påminnelse. En förälder till ett skolbarn kan säga: ”Nu har du pluggat engelska i två timmar och behöver en rast: gå ut och lek.” Men en förälder till ett litet barn som börjar prata kan inte säga: ”Nu har du pratat i två timmar och behöver en rast: gå ut och lek!” Barnet pratar jämt. Det lär sig mitt i leken, mitt i livet, bortom kontroll. Därför har barnet inga raster.

Hade Herb Terrace sett skillnaden mellan språkets förgrund och bakgrund, hade han aldrig använt den vansinniga metoden att träna teckenspråk med schimpansen Nim i ett särskilt klassrum, som om Nim var en skolelev som redan kunde prata. Ibland behövs en smula filosofi (en smula förnuft) för att våra projekt ska fungera. Förgrund och bakgrund samspelar överallt. Våra välfärdssamhällen fungerar inte om vi inte i grunden lever av egen kraft. Pandemier avtar knappast utan att virus vandrar genom tillräckligt många av våra därefter immuna kroppar – under kontrollerade former som skyddar riskgrupper och ger svårt sjuka vård. Överallt samspelar förgrund och bakgrund, kontrollerbart och okontrollerbart.

Strävan efter intellektuell kontroll är därför en fallgrop när vi filosoferar. Åtminstone om filosofi behövs för att belysa den levande bakgrunden till det som låter sig kontrolleras. Då kan vi inte drömma om att definiera livet som en enda intellektuellt kontrollerbar förgrund. En smula filosofi hjälper oss att se samspelet mellan förgrund och bakgrund. Den hjälper oss att leva aktivt och agera klokt i zonen mellan kontrollerbart och okontrollerbart.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

I dialog med filosofer

Forskarpodden om etiska vägval i vården under en pandemi

Uppsala universitets Forskarpodden (avsnitt 47) diskuterar etiska frågor om prioriteringar i vården samt begränsningar av individers rättigheter under pågående pandemi. Lyssna på det halvtimmeslånga programmet, där programledaren Annica Hulth samtalar med Anna T Höglund och Jessica Nihlén Fahlquist vid CRB:

Etiska vägval i en pandemi

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Pratar om svåra saker

Maning till försiktighet med vaccin mot covid-19

Läkemedelsföretag vill snabbtillverka vaccin mot covid-19, med tester på människor och lansering på marknaden så snart som möjligt. I en debattartikel varnar Jessica Nihlén Fahlquist vid CRB för risken att vi förlorar det större riskperspektivet: ”Tester på människor och en potentiellt för tidig massvaccination medför risker. Det är lätt att få tunnelseende och glömma tidigare liknande situationer,” skriver hon.

Bieffekter visar sig ibland först efter längre tid. Därför tar det tyvärr tid att utveckla säkra vaccin. Vi behöver utveckla vaccin, men även med nya vaccin behövs försiktighet.

Läs artikeln på Svenska Dagbladets debattsida: Gå försiktigt fram med vaccin mot covid-19

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Vi deltar i debatten

Vad är en moralisk maskin?

Jag läste nyss en på många sätt klargörande artikel om så kallade moraliska robotar. Filosofen John-Stewart Gordon varnar för fallgropar som icke-etiker (robotforskare och AI-programmerare) kan ramla ned i när de försöker konstruera moraliska maskiner. Helt enkelt för att de saknar etisk expertis.

Den första fallgropen är de rena nybörjarmisstagen. Man kanske naivt identifierar etik med vissa berömda bioetiska principer, som om etik inte kunde vara något annat än så kallad principlism. Eller så tror man att datorsystem genom automatiserad analys av enskilda fall kan ”lära sig” etiska principer och ”bli moraliska”. Som om moral kunde upptäckas erfarenhetsmässigt eller empiriskt.

Den andra utmaningen har att göra med att etikexperterna själva är oeniga om den ”rätta” moralteorin. Det finns flera konkurrerande etiska teorier (konsekvensetik, pliktetik, dygdeetik med mera). Vilken moralisk rättningsmall ska programmerarna använda när datorer ska fås att lösa moraliska problem och dilemman som uppkommer i olika verksamheter? (Tänk på robotbilar i svåra trafiksituationer.)

Den första fallgropen kan åtgärdas med mer kunskap i etik. Hur hanterar vi den andra? Ska programmerare få välja moralteori fritt som det passar dem? Ska vi tillåta såväl konsekvensetiska som pliktetiska robotbilar på våra gator?

John-Stewart Gordons förslag är att så kallad maskinetik bör fokusera på överensstämmelser mellan olika moralteorier angående vad man inte får göra. Robotar bör förses med en bindande lista på sådant som måste undvikas som omoraliskt. Med den inskränkningen får robotarna sedan spelrum att använda och balansera mångfalden av moralteorier, för att på olika sätt lösa moraliska problem.

Sammanfattningsvis bör robotforskare och AI-programmerare konsultera etikexperterna, så att de undviker nybörjarmisstagen och förstår de metodologiska problem som uppkommer när inte ens experterna på området kan enas om den rätta moralteorin.

Allt detta förefaller både klokt och klargörande på ett plan. Samtidigt känner jag mig uppriktigt förvirrad kring själva idén om ”moraliska maskiner” (även om artikeln inte diskuterar idén, utan fokuserar på etiska utmaningar för ingenjörerna). Vad betyder idén? Inte så att jag betvivlar att artificiell intelligens kan designas enligt etiska krav. Vi kanske inte vill att robotbilar ska undvika kollisioner i stadstrafik genom att svänga in på trottoarer där många människor promenerar. I den meningen kan det finnas etisk programvara, ungefär som det finns etiska aktiefonder. Vi kunde tala om moraliska och omoraliska robotbilar, lika självklart som vi talar om etiska och oetiska fonder.

Ändå känner jag mig som sagt osäker. Varför? Jag inledde med att skriva ”så kallade” moraliska robotar. Det gjorde jag för att jag inte är bekväm med att tala om moraliska maskiner, men är öppen för förslag på vad det kan betyda. Jag tror att vad som förvirrar mig är att moraliska maskiner omnämns utan distanserande uttryck, som om alla egentligen borde veta vad det måste betyda. Etikexperter är oense om den ”rätta” moralteorin. Men de tycks eniga om att moralteori bestämmer vad ett moraliskt beslut är, ungefär som språkläran bestämmer vad en grammatisk mening är. Med den tilltron till moralteori behöver man inte fundera över vad en moralisk maskin är. Det är helt enkelt en maskin som fattar beslut enligt accepterad moralteori. Men fattar maskiner beslut i samma mening som människor gör det?

Kanske handlar det om betoning. Vi talar om etiska fonder utan att känna yrsel inför att en aktiefond kan vara etisk (”Kan de vara humoristiska också?”). Det finns ingen mytologisk betoning i talet om etiska fonder. På samma sätt kan vi tala om etiska robotbilar utan att känna yrsel som inför något övernaturligt. Men i den filosofiska diskussionen om maskinetik omnämns ibland moraliska maskiner på ett mytologiskt sätt, tycks det mig. Som om en kentaur, en maskin-människa, snart ser dagens ljus. Samtidigt ska vi inte känna yrsel inför dessa sköna nya kentaurer, eftersom experterna kan bokstavera exakt vad de talar om. Med alla rättningsmallar i händerna behöver de inga distanserande uttryck!

Jag misstänker att även etisk expertis kan vara en filosofisk fallgrop när vi intellektuellt närmar oss så kallade moraliska maskiner. Expertattityden kan tysta de förvirrande frågor som vi alla behöver tid att reda ut, när uppriktiga tvivel gör uppror mot anspråket att veta.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Gordon, J. Building Moral Robots: Ethical Pitfalls and Challenges. Sci Eng Ethics 26, 141–157 (2020). https://doi.org/10.1007/s11948-019-00084-5

Detta inlägg på engelska

Vi ställer frågor