Etikett: robotar

Tänk om det fanns en säker metod för att förutse och hantera framtida risker, allt som kunde gå fel med ny teknik till exempel. Då kunde vi ansvarsfullt navigera förbi alla farorna, vi kunde säkerställa framtiden redan nu.

Naturligtvis är det bara en dröm. Om vi hade en ”säker metod” för att redan från början utesluta framtida risker, skulle tiden snart springa ifrån den metoden, som då visade sig opålitlig i en ny tid. Eftersom vi litade på metoden, blev metoden för att hantera framtida risker snart själv en framtida risk!

Det går alltså inte att säkerställa framtiden redan från början. Betyder det att vi måste ge upp alla försök att ta ansvar för framtiden, eftersom varje metod en vacker dag missar något oförutsebart nytt och därför orsakar olyckor? Är det kanske bättre att inte försöka ta något ansvar alls, för att inte riskera att orsaka olyckor genom våra ofullkomliga säkerhetsåtgärder? Märkligt nog är det lika omöjligt att vara oansvarig inför framtiden som att vara ansvarig. Du skulle behöva anstränga dig minutiöst, så att du inte råkar tillaga en hälsosam frukost eller undvika en bilkollision. Snart önskar du att du hade en ”säker metod” som kunde förutse alla framtida faror som du måste undvika att undvika om du vill leva fullkomligt oansvarigt. Din oansvarighet för framtiden skulle bli ett oöverstigligt ansvar.

Förlåt om jag driver tids- och ansvarsbegreppen över bristningsgränsen, men jag tror faktiskt att många av oss har en naturlig böjelse att göra det, för att framtiden skrämmer oss. Ett aktuellt exempel är tendensen att tänka att någon ansvarig borde ha förutsett pandemin och genomfört kraftfulla motåtgärder redan från början, som säkerställt att det aldrig blev någon pandemi. Jag vill inte förneka att det finns fall där vi kan resonera så – ”någon ansvarig borde ha…” – men nu tänker jag på frestelsen att resonera så rent instinktivt, så fort något oönskat inträffar. Som om framtiden kunde säkerställas redan från början och oönskade händelser därför undantagslöst vore skandaler.

Nu är vi i ett nytt läge. På grund av pandemin har det blivit oansvarigt att inte förbereda sig (bättre än tidigare) för pandemirisker. Så ser vårt ansvar för framtiden ut. Det ändras med tiden. Ansvaret vilar i nuet, i vårt faktiska läge idag. Där har ansvaret för framtiden sitt hem. Det kan låta oansvarigt att säga så. Ska vi sitta med armarna i kors och invänta att det oönskade inträffar, för att först därefter få ett ansvar att undvika det i framtiden? Problemet är att denna invändning återigen driver begreppen över bristningsgränsen. Den leker med tanken att framtiden kan överblickas och säkerställas redan nu, ett tankemönster som i sig kan utgöra en risk. Ett samhälle där varje instans måste säkerställa framtiden inom sitt ansvarsområde, riskerar att sparka nedåt för att hålla eventuella oroselement utanför den säkerställda ordningen: ”Vår uppdragsgivare kräver att vi säkerställer att…, därför behöver vi ett intyg samt en personlig deklaration där du…”. Många skulle hamna utanför den säkerställda ordningen, vilket knappast tryggar någon ordning. Och eftersom oroselementen definieras genom konstruerade kriterier, som kanske implementeras i automatiserade administrationssystem, riskerar systemen inte bara att begå systematiska misstag i mötet med verkliga människor. De rentav inbjuder till falskspel med systemen.

Så hur tar vi ansvar för framtiden på ett i praktiken ansvarsfullt sätt? Låt oss först lugna ner oss inför utmaningen. Vi har ju konstaterat att det är omöjligt att inte ta ansvar! Bara genom att andas tar vi ansvar för framtiden, genom att laga frukost, genom att styra bilen. Ansvarstagande är så naturligt, att ingen behöver ta ansvar för det. Men hur tar vi ansvar för något så dynamiskt som forskning och teknikutveckling? De är ju redan i framtiden, tycks det, eller åtminstone i framkant. Hur kan vi förlägga ansvaret för en skön ny värld till nuet, som tycks passé redan från början? Måste inte ansvaret vara lika framtidsinriktat, lika mycket i framkant, eftersom forskning och teknik ständigt rör sig mot framtiden, där de gör framtiden annorlunda det omkörda nuet?

Återigen drivs begreppen över bristningsgränsen. Den som läser detta inlägg uppmärksamt kan dock notera en hoppingivande motsägelse. Jag har påpekat att det är omöjligt att säkerställa framtiden redan nu. Samtidigt påpekar jag att det är i nuet som ansvaret för framtiden ligger. Det är bara här som vi i praktiken tar ansvar för framtiden. Hur kan jag vara så ologisk?

Svaret är att det första påpekandet riktas mot vår intellektuella tendens att driva tids-och ansvarsbegreppen över bristningsgränsen, när vi känner oss osäkra inför framtiden och önskar att vi kunde kontrollera den redan nu. Det andra påpekandet påminner oss om hur lugnt tids- och ansvarsbegreppen fungerar i praktiken, när vi tar ansvar för framtiden. Det första påpekandet drar alltså en gräns för intellektet, som hysteriskt gärna vill totalkontrollera framtiden redan från början. Det andra påpekandet öppnar upp för praktiken att i varje ögonblick ta ansvar.

När vi tar ansvar för framtiden, så lär vi oss av historien så som den framträder i vårt nuvarande minne, vilket jag redan antytt. Erfarenheterna från pandemin gör det möjligt att nu ta ansvar för framtiden på ett annat sätt än tidigare. De inte alltid positiva erfarenheterna av artificiell intelligens gör det möjligt att nu ta bättre ansvar för framtida robotiseringar. Det märkliga är alltså att ansvarstagande förutsätter att det går snett ibland och att vi intresserar oss för det. Annars hade vi inget att lära oss av inför framtiden. Det är egentligen självklart. Ansvar är möjligt bara i en värld som inte är helt säkerställd från början, en värld där det oönskade inträffar. Så motsägelsefullt är livet. Vi kan aldrig renodla säkerheten enligt intellektets ensidiga krav, för säkerheten förutsätter det osäkra och det oönskade.

Mot denna filosofiska bakgrund vill jag rekommendera en artikel i Journal of Responsible Innovation, som diskuterar ansvarsfull forskning och utveckling i ett stort europeiskt forskningsprojekt, Human Brain Project (HBP): From responsible research and innovation to responsibility by design. Artikeln beskriver hur man inom HBP försökt vara förutseende och ta ansvar för den dynamiska forskningen och teknikutvecklingen inom projektet. Artikeln reflekterar inte minst över frågan hur man fortsätter att ta ansvar även när projektet avslutas, inom den europeiska forskningsinfrastruktur som planeras bli projektets produkt: EBRAINS.

Författarna är väl medvetna om att specifika reglerade ansatser själva kan bli en källa till problem, när de möter det nya och oförutsedda. Ansvaret för framtiden kan inte regleras. Det kan inte reduceras till konstruerade kriterier och föreskrifter. En av författarnas viktigaste slutsatser är att ansvaret från början behöver vara en integrerad del av forskningen och teknikutvecklingen, snarare än ett yttre ramverk. Ansvaret för framtiden fordrar flexibilitet och öppenhet, förutseende och engagemang, reflektion och vidsynthet. Men vad är det?

Personligen vill jag säga att det delvis handlar om att acceptera livets dubbelhet. Om vi inte vågar sväva i ovisshet, utan alltid kräver säkerhet och inget annat än säkerhet, så kommer vi garanterat att undergräva säkerheten. Genom att vara uppriktigt intresserade av det osäkra och oönskade, kan ansvarstagandet bli en integrerad del av forskningen och teknikutvecklingen.

Bernd Carsten Stahl, Simisola Akintoye, Lise Bitsch, Berit Bringedal, Damian Eke, Michele Farisco, Karin Grasenick, Manuel Guerrero, William Knight, Tonii Leach, Sven Nyholm, George Ogoh, Achim Rosemann, Arleen Salles, Julia Trattnig & Inga Ulnicane. From responsible research and innovation to responsibility by design. Journal of Responsible Innovation. (2021) DOI: 10.1080/23299460.2021.1955613

Detta inlägg på engelska

Vad är hållbarhet i framtiden?