En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Etikett: ansvar

Säkerställa framtiden redan från början

Tänk om det fanns en säker metod för att förutse och hantera framtida risker, allt som kunde gå fel med ny teknik till exempel. Då kunde vi ansvarsfullt navigera förbi alla farorna, vi kunde säkerställa framtiden redan nu.

Naturligtvis är det bara en dröm. Om vi hade en ”säker metod” för att redan från början utesluta framtida risker, skulle tiden snart springa ifrån den metoden, som då visade sig opålitlig i en ny tid. Eftersom vi litade på metoden, blev metoden för att hantera framtida risker snart själv en framtida risk!

Det går alltså inte att säkerställa framtiden redan från början. Betyder det att vi måste ge upp alla försök att ta ansvar för framtiden, eftersom varje metod en vacker dag missar något oförutsebart nytt och därför orsakar olyckor? Är det kanske bättre att inte försöka ta något ansvar alls, för att inte riskera att orsaka olyckor genom våra ofullkomliga säkerhetsåtgärder? Märkligt nog är det lika omöjligt att vara oansvarig inför framtiden som att vara ansvarig. Du skulle behöva anstränga dig minutiöst, så att du inte råkar tillaga en hälsosam frukost eller undvika en bilkollision. Snart önskar du att du hade en ”säker metod” som kunde förutse alla framtida faror som du måste undvika att undvika om du vill leva fullkomligt oansvarigt. Din oansvarighet för framtiden skulle bli ett oöverstigligt ansvar.

Förlåt om jag driver tids- och ansvarsbegreppen över bristningsgränsen, men jag tror faktiskt att många av oss har en naturlig böjelse att göra det, för att framtiden skrämmer oss. Ett aktuellt exempel är tendensen att tänka att någon ansvarig borde ha förutsett pandemin och genomfört kraftfulla motåtgärder redan från början, som säkerställt att det aldrig blev någon pandemi. Jag vill inte förneka att det finns fall där vi kan resonera så – ”någon ansvarig borde ha…” – men nu tänker jag på frestelsen att resonera så rent instinktivt, så fort något oönskat inträffar. Som om framtiden kunde säkerställas redan från början och oönskade händelser därför undantagslöst vore skandaler.

Nu är vi i ett nytt läge. På grund av pandemin har det blivit oansvarigt att inte förbereda sig (bättre än tidigare) för pandemirisker. Så ser vårt ansvar för framtiden ut. Det ändras med tiden. Ansvaret vilar i nuet, i vårt faktiska läge idag. Där har ansvaret för framtiden sitt hem. Det kan låta oansvarigt att säga så. Ska vi sitta med armarna i kors och invänta att det oönskade inträffar, för att först därefter få ett ansvar att undvika det i framtiden? Problemet är att denna invändning återigen driver begreppen över bristningsgränsen. Den leker med tanken att framtiden kan överblickas och säkerställas redan nu, ett tankemönster som i sig kan utgöra en risk. Ett samhälle där varje instans måste säkerställa framtiden inom sitt ansvarsområde, riskerar att sparka nedåt för att hålla eventuella oroselement utanför den säkerställda ordningen: ”Vår uppdragsgivare kräver att vi säkerställer att…, därför behöver vi ett intyg samt en personlig deklaration där du…”. Många skulle hamna utanför den säkerställda ordningen, vilket knappast tryggar någon ordning. Och eftersom oroselementen definieras genom konstruerade kriterier, som kanske implementeras i automatiserade administrationssystem, riskerar systemen inte bara att begå systematiska misstag i mötet med verkliga människor. De rentav inbjuder till falskspel med systemen.

Så hur tar vi ansvar för framtiden på ett i praktiken ansvarsfullt sätt? Låt oss först lugna ner oss inför utmaningen. Vi har ju konstaterat att det är omöjligt att inte ta ansvar! Bara genom att andas tar vi ansvar för framtiden, genom att laga frukost, genom att styra bilen. Ansvarstagande är så naturligt, att ingen behöver ta ansvar för det. Men hur tar vi ansvar för något så dynamiskt som forskning och teknikutveckling? De är ju redan i framtiden, tycks det, eller åtminstone i framkant. Hur kan vi förlägga ansvaret för en skön ny värld till nuet, som tycks passé redan från början? Måste inte ansvaret vara lika framtidsinriktat, lika mycket i framkant, eftersom forskning och teknik ständigt rör sig mot framtiden, där de gör framtiden annorlunda det omkörda nuet?

Återigen drivs begreppen över bristningsgränsen. Den som läser detta inlägg uppmärksamt kan dock notera en hoppingivande motsägelse. Jag har påpekat att det är omöjligt att säkerställa framtiden redan nu. Samtidigt påpekar jag att det är i nuet som ansvaret för framtiden ligger. Det är bara här som vi i praktiken tar ansvar för framtiden. Hur kan jag vara så ologisk?

Svaret är att det första påpekandet riktas mot vår intellektuella tendens att driva tids-och ansvarsbegreppen över bristningsgränsen, när vi känner oss osäkra inför framtiden och önskar att vi kunde kontrollera den redan nu. Det andra påpekandet påminner oss om hur lugnt tids- och ansvarsbegreppen fungerar i praktiken, när vi tar ansvar för framtiden. Det första påpekandet drar alltså en gräns för intellektet, som hysteriskt gärna vill totalkontrollera framtiden redan från början. Det andra påpekandet öppnar upp för praktiken att i varje ögonblick ta ansvar.

När vi tar ansvar för framtiden, så lär vi oss av historien så som den framträder i vårt nuvarande minne, vilket jag redan antytt. Erfarenheterna från pandemin gör det möjligt att nu ta ansvar för framtiden på ett annat sätt än tidigare. De inte alltid positiva erfarenheterna av artificiell intelligens gör det möjligt att nu ta bättre ansvar för framtida robotiseringar. Det märkliga är alltså att ansvarstagande förutsätter att det går snett ibland och att vi intresserar oss för det. Annars hade vi inget att lära oss av inför framtiden. Det är egentligen självklart. Ansvar är möjligt bara i en värld som inte är helt säkerställd från början, en värld där det oönskade inträffar. Så motsägelsefullt är livet. Vi kan aldrig renodla säkerheten enligt intellektets ensidiga krav, för säkerheten förutsätter det osäkra och det oönskade.

Mot denna filosofiska bakgrund vill jag rekommendera en artikel i Journal of Responsible Innovation, som diskuterar ansvarsfull forskning och utveckling i ett stort europeiskt forskningsprojekt, Human Brain Project (HBP): From responsible research and innovation to responsibility by design. Artikeln beskriver hur man inom HBP försökt vara förutseende och ta ansvar för den dynamiska forskningen och teknikutvecklingen inom projektet. Artikeln reflekterar inte minst över frågan hur man fortsätter att ta ansvar även när projektet avslutas, inom den europeiska forskningsinfrastruktur som planeras bli projektets produkt: EBRAINS.

Författarna är väl medvetna om att specifika reglerade ansatser själva kan bli en källa till problem, när de möter det nya och oförutsedda. Ansvaret för framtiden kan inte regleras. Det kan inte reduceras till konstruerade kriterier och föreskrifter. En av författarnas viktigaste slutsatser är att ansvaret från början behöver vara en integrerad del av forskningen och teknikutvecklingen, snarare än ett yttre ramverk. Ansvaret för framtiden fordrar flexibilitet och öppenhet, förutseende och engagemang, reflektion och vidsynthet. Men vad är det?

Personligen vill jag säga att det delvis handlar om att acceptera livets dubbelhet. Om vi inte vågar sväva i ovisshet, utan alltid kräver säkerhet och inget annat än säkerhet, så kommer vi garanterat att undergräva säkerheten. Genom att vara uppriktigt intresserade av det osäkra och oönskade, kan ansvarstagandet bli en integrerad del av forskningen och teknikutvecklingen.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Bernd Carsten Stahl, Simisola Akintoye, Lise Bitsch, Berit Bringedal, Damian Eke, Michele Farisco, Karin Grasenick, Manuel Guerrero, William Knight, Tonii Leach, Sven Nyholm, George Ogoh, Achim Rosemann, Arleen Salles, Julia Trattnig & Inga Ulnicane. From responsible research and innovation to responsibility by design. Journal of Responsible Innovation. (2021) DOI: 10.1080/23299460.2021.1955613

Detta inlägg på engelska

Vad är hållbarhet i framtiden?

Genetisk risk medför genetiskt ansvar

Pär SegerdahlKunskapsoptimister har sett genetisk riskinformation som en seger över naturen. Informationen ger oss makt över vår framtida hälsa. Vad som tidigare var ett naturbestämt öde, börjar genetiken att förvandla till personliga valmöjligheter.

Verkligheten är dock inte lika rosenröd som i denna dröm om intellektets makt över livet. Där det finns risker finns det ansvar, skriver Silke Schicktanz i en artikel om genetisk risk och ansvar. Det är nog i praktiken så som människor upplever genetisk riskinformation. Den ger oss nya former av ansvar, snarare än befriar oss från naturen.

Silke Schicktanz beskriver hur ansvar växer fram ur situationer där genetisk risk undersöks, kommuniceras och hanteras. Analysen överstiger vad jag kan återge i ett kort blogginlägg. Men jag kan ge läsaren en känsla för hur genetisk riskinformation medför ett spektrum av ansvar. Ibland hos individen som får informationen. Ibland hos yrkespersonen som ger informationen. Ibland hos familjen som berörs av informationen. Exemplen är versioner av fallen som diskuteras i artikeln:

Anta att du blivit märkligt glömsk. Du gör ett genetiskt test för att avgöra om du har en gen förknippad med Alzheimers sjukdom. Du har genen! Genast får du ansvar för dig själv. Vad borde du göra för att försena eller mildra sjukdomsförloppet? Vilka praktiska åtgärder måste du vidta hemma för att kunna leva med sjukdomen? Du kan också känna ansvar för familjen. Har du överfört genen till dina barn och barnbarn? Bör du uppmana dem att testa sig? Vad kan de göra för att skydda sig? Även yrkespersonen som förmedlade testet får ansvar. Ska hon berätta att testet inte riktigt säkert kan förutsäga Alzheimers sjukdom? Kanske borde man ens ha oroat dig med informationen, eftersom resultatet är osäkert.

Anta att du har tarmcancer. Läkarna erbjuder dig att delta i en forskningsstudie där man gör ett genetiskt test av tumörcellerna, för att sedan pröva individanpassad behandling. Här får läkarna ansvar att förklara begreppet individanpassad eller personlig medicin, vilket kan vara svårt. De får också ansvar att inte framställa ditt forskningsdeltagande som en optimering av din behandling. Du själv kan känna ansvar att delta i studien, liksom patienter tidigare ställt upp för forskning. De har bidragit till den vård du får idag. Nu kan du bidra till att genetisk information förbättrar behandlingen av framtida cancerpatienter. För att återgå till läkarna: de har ansvar att motverka ett inbjudande missförstånd av det genetiska testet. Du kan lätt tro att testet säger något om sjukdomsgener som du eventuellt fört vidare, och att informationen därför borde vara relevant för dina barn. Men testet gäller mutationer i cancercellerna. Testet säger något enbart om tumören.

Anta att du har en ovanlig neurologisk sjukdom. En genetiker informerar dig om att du har en gensekvens som kan vara orsaken till sjukdomen. Här kan vi tänka oss att du känner ansvar inför familj och barn. Din 14-åriga son har börjat uppvisa symptom, men din 16-åriga dotter är frisk. Borde hon göra ett gentest? Du diskuterar saken med din ex-partner. Du berättar hur du själv blev hjälpt av informationen: du oroar dig mindre, du har börjat gå på regelbundna kontroller och du har vidtagit förebyggande åtgärder. Ni beslutar er för att berätta för er dotter om dina testresultat, så att hon själv kan avgöra om hon vill testa sig.

Dessa tre exempel räcker för att belysa hur genetisk risk medför genetiskt ansvar. Vad härligt det vore om informationen helt sonika lät oss triumfera över naturen, utan detta tyngande genetiska ansvar! En pessimist kunde invända att ansvaret blir övermäktigt. Snart får vi kapitulera inför naturens gång. Vi kan väl inte kontrollera allt, utan måste till slut acceptera våra öden?

Varken optimister eller pessimister brukar vara särskilt realistiska. Artikeln av Silke Schicktanz kan hjälpa oss att se mer realistiskt på ansvaret som genetisk riskinformation medför.

Pär Segerdahl

Schicktanz, S. 2018. Genetic risk and responsibility: reflections on a complex relationship. Journal of Risk Research 21(2): 236-258

Detta inlägg på engelska

Vi diskuterar aktuella frågor : www.etikbloggen.crb.uu.se

Vem tar ansvar för den förarlösa bilen?

Pär SegerdahlTeknikutvecklingen går allt snabbare. Tempot i samhället blir allt högre. Faktum är att teknikutvecklingen kan påminna om en av dess senaste produkter: den förarlösa bilen.

Vem tar ansvar när tekniken fattar besluten? Vem tar ansvar för teknikutvecklingen? Frågorna ställs av Jessica Nihlén Fahlquist i en debattartikel i NyTeknik.

Hon påpekar att teknikutvecklingen trots allt inte är förarlös, utan styrs av människor. Eftersom tekniken har både positiva och negativa konsekvenser, bör vi ta oss tid att reflektera över etik och ansvar kring ny teknik – i stället för att använda människor och miljö som labbråttor i olika samhällsexperiment, skriver hon.

Nihlén Fahlquist poängterar inte bara företagens ansvar, utan även de enskilda ingenjörernas. De bör få adekvat etikundervisning och hjälp att reflektera över sin egen roll i samhället. Genom att integrera etik och teknik från början, kan etiken förbättra tekniken i stället för att kritisera den i efterhand, påpekar hon.

Men har vi tid att tänka efter, när allt går så snabbt? Etisk eftertanke kommer måhända att innebära att teknikutvecklingen går något långsammare. Men kanske är det ett pris vi måste betala om vi vill ta ansvar för vad som annars kan likna en förarlös bil.

Läs artikeln och tänk efter!

Pär Segerdahl

Vad är hållbarhet i framtiden? - Etikbloggen

Förtroende, ansvar och Volkswagenskandalen

Jessica Nihlén FahlquistNyheten om Volkswagens fusk med utsläppssiffror har fått stor uppmärksamhet under hösten. Fusket leder till minskat förtroende både för företaget och bilbranschen, menar många. Så är det nog. Men vi behöver reflektera över vad förtroende är och vad det ska vara bra för. Är förtroende ett medel eller ett resultat?

Man kan få intrycket att förtroende har ett starkt instrumentellt värde eftersom det tas upp i ekonomiska sammanhang. Ibland används ordet förtroendekapital, vilket bekräftar att det har med ekonomi att göra. Volkswagen behöver folks förtroende eftersom de annars kommer att förlora pengar. Om kunderna sviker på grund av minskat förtroende så köps färre bilar.

Den diskussionen riskerar att dölja vad det egentligen handlar om. Förtroende är inte enbart ett medel för att skapa eller bevara ett varumärke, eller för att försäkra sig om att pengarna fortsätter att komma in. Förtroende är själva resultatet av etiskt ansvarsfullt beteende. Endast de företag som beter sig etiskt försvarbart förtjänar förtroende. Förtroende har därför framförallt med ansvar att göra.

Vad är då etiskt ansvar? En viktig skillnad är den mellan bakåtblickande och framåtblickande ansvar. Vi har nu hamnat i ett läge där vi letar efter den som har orsakat problemet, den som bär skuld, det vill säga den som har ansvar för det som har hänt. Men ansvar handlar inte bara om skuld för det som har hänt. Ansvar handlar också om att blicka framåt, att förhindra att fel begås och att göra vad man kan för att se till att den organisation man ingår i beter sig ansvarsfullt.

Ett problem i vår tid är att alltfler mänskliga aktiviteter sker i så stora sammanhang. Företag är globala och organisatoriskt komplexa och det är svårt att veta vem som har ansvar för vad. Alla gör bara en liten del, som kuggar i ett kugghjul. När en gigantisk aktör gör något som skadar till exempel miljö eller hälsa så är det svårt att veta vem som gjort vad och vem som kunde och borde agerat annorlunda. För att undvika detta måste vi ha individer som alla tar, och känner, ansvar. Individer kan inte längre ses som kuggar utan makt att påverka. Endast de företag där individer på alla nivåer tar ansvar för hur det beter sig förtjänar vårt förtroende.

Det viktigaste nu är inte att en aktör som Volkswagen arbetar för att återfå sitt förtroendekapital. Det vi bör kräva är i stället att Volkswagen och de individer som arbetar där höjer sin etiska medvetenhet och börjar agera ansvarsfullt gentemot människor, samhälle och miljö. Då blir förtroendet, med tiden, ett resultat av det ansvarstagandet.

Jessica Nihlén Fahlquist

(Denna text publicerades ursprungligen i Unionens medlemstidning för Industri och teknik, december 2015)

Lästips:

Nihlén Fahlquist, J. 2015. ”Responsibility as a virtue and the problem of many hands,” Ibo van de Poel, Lambèr Royakkers, Sjoerd Zwart. Moral Responsibility in Innovation Networks. Routledge.

Nihlén Fahlquist J. 2006. ”Responsibility ascriptions and Vision Zero,” Accident Analysis and Prevention 38, pp. 1113-1118.

Van de Poel, I. and Nihlén Fahlquist J. 2012. ”Risk and responsibility.” Sabine Roeser, Rafaela Hillerbrand, Martin Peterson, Per Sandin Handbook of Risk Theory, 2012, Springer, Dordrecht.

Nihlén Fahlquist J. 2009. ”Moral responsibility for environmental problems – individual or institutional?” Journal of Agricultural and Environmental Ethics 22(2), pp. 109-124.

Detta inlägg på engelska

Vi tar upp aktuella frågor : www.etikbloggen.crb.uu.se