En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Etikett: neuroetik (Sida 3 av 8)

Hjärninspirerad AI: mänsklig självbespegling?

Trots att användningarna av artificiell intelligens (AI) idag närmast exploderar på flera områden, så är tekniken i vissa avseenden mer begränsad än man kan tro. Det är inte konstigt. All teknik tenderar att vara både användbar och begränsad. Men när det gäller just AI finns en tendens att se varje begränsning som en defekt. Varför?

En jämförelse smyger sig vanligen in vår bild av AI: jämförelsen med människan. Rättare sagt så är detta en jämförelse inte med oss själva, utan med vår självbild som intelligenta varelser med en generaliserad problemlösningsförmåga, som vi antar har gjort oss mer anpassningsbara och framgångsrika än andra arter på planeten. Denna självbild jämförs med en bild av AI som teknisk renodling av denna mänskliga intelligens. Därför blir vi missnöjda med tekniken när den inte löser problem lika generaliserat och självständigt som vi föreställer oss att vi människor gör. Samtidigt kan vi bli missnöjda med oss själva, och kanske lite rädda, när vi upplever att AI löser vissa problem bättre än vi.

Idag talar man om hjärninspirerad AI som ett sätt att lösa de tekniska begränsningarna hos AI. Man söker alltså teknisk inspiration i forskningen om hur den mänskliga hjärnan fungerar. I ett inlägg på The Ethics Blog idag ställer Michele Farisco filosofiska frågor om denna användning av människohjärnan som förebild för AI-tekniken. Vad talar för att detta är den bästa vägen att utveckla tekniken? Många AI-system avviker redan från hur hjärnan arbetar. Kanske har tekniken större potential om vi låter den avvika från hur den biologiska hjärnan fungerar?

Michele Farisco ställer även frågor om vår tendens att spegla oss själva i idealiserade bilder av mänsklig och artificiell intelligens. En risk med detta självbespeglande är att det tudelar allt vi möter i antingen mänskligt eller omänskligt, intelligent eller ointelligent, perfekt eller defekt. Sådana tendenser i vår historia har inte varit harmlösa.

Läs Michele Fariscos blogginlägg som ställer frågor om AI och mänsklig självbespegling: Brain-inspired AI: human narcissism again?

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Vad är hållbarhet i framtiden?

Begreppsanalys när vi fastnar i tankar

När filosofer får frågan om vilken metod vi använder när vi filosoferar, så svarar vi gärna: vår viktigaste metod är begreppsanalys. Vi tillämpar begreppsanalys för att besvara filosofiska frågor som ”Vad är kunskap?”, ”Vad är rättvisa?”, ”Vad är sanning?” Vad vi då gör, är att vi föreslår allmänna definitioner av begreppen, som vi sedan stämmer av mot konkreta exempel, för att testa att definitionerna verkligen fångar alla enskilda fall av begreppen och bara dessa.

Problemet är att både den som frågar efter filosofins metod och den som svarar ”begreppsanalys” tycks anta att filosofin inte utmanas av djupt störande problem, utan definierar begrepp nästan på rutin. De allmänna frågorna ovan är ju knappt ens frågor, annat än rent grammatiskt. Vem ligger vaken och undrar ”Vad är kunskap, vad är rättvisa, vad är sanning, vad är godhet, vad är…?”

För att få sömnbrist av frågorna, för att frågorna ska bli levande filosofiska problem, för att vi ska störas, måste det till något mer än bara allmänt formulerade frågeställningar.

Dessutom, om det fanns en metod för att besvara filosofiska frågor, så borde frågorna redan vara besvarade. Jag menar, om det ända sedan Sokrates dagar funnits en metod som besvarar filosofiska ”Vad är?”-frågor genom att definiera begrepp, så kan det inte finnas så många frågor kvar att besvara. På sin höjd kan vi finputsa definitionerna, eller tillämpa metoden på begrepp som inte fanns för 2600 år sedan. I grund och botten borde filosofin inte ha särskilt många frågor kvar att utmanas av. Sedan antiken har vi ju en väl utprovad metod!

För att förstå varför filosofer fortsätter att undra, behöver vi förstå varför frågor som ytligt låter så sövande att vi somnar, ibland blir så djupt förbryllande att vi ligger vakna och tänker. Låt mig ge ett exempel som ger en glimt av filosofins djup, en glimt av det där otämjbara ”extra”, som håller filosofer vakna om nätterna.

Exemplet är en ”svensk” sjukdom, som uppmärksammats runtom i världen som någonting mycket märkvärdigt. Jag tänker på vad som först benämndes apati hos flyktingbarn, men som sedan fått benämningen uppgivenhetssyndrom. Sjukdomen drabbar vissa grupper av barn och ungdomar som söker asyl i Sverige. Barn från forna Jugoslavien och från centralasiatiska länder i forna Sovjet har varit överrepresenterade. Barnen förlorar kroppsliga och mentala funktioner och kan till slut varken röra sig eller kommunicera. De blir sängliggande, reagerar inte på smärta och måste tillföras näring genom sond. Mer än 1000 barn har drabbats av sjukdomen i Sverige sedan 1990-talet.

Konfronterade med denna sjukdom hos flyktingbarn, kan det kännas naturligt att tänka att tillståndet rimligen orsakas av traumatiska upplevelser i hemlandet och under flykten, samt av stressen att leva under utvisningshot. Det är inte orimligt att tänka så. Antagligen bidrar trauma och stress till sjukdomen. Det finns bara ett problem. Om detta vore orsaken, så borde uppgivenhetssyndrom förekomma hos flyktingbarn även i andra delar av världen. Flyktingbarn med traumatiska erfarenheter och stressande utvisningshot finns tyvärr inte bara i Sverige. Så varför drabbas (vissa grupper av) flyktingbarn av syndromet just i Sverige?

Vad är uppgivenhetssyndrom? Här har vi en fråga som på ytan inte låter mer utmanande än någon annan allmänt formulerad ”Vad är?”-fråga. Men frågan är idag ett utmanande filosofiskt problem, åtminstone för Karl Sallin, som skriver sin avhandling om syndromet här vid CRB, inom ramen för Human Brain Project. Vad är det där ”extra”, som gör frågan filosofiskt utmanande för Karl Sallin?

Det kan förefalla naturligt att tänka att det utmanande i frågan helt enkelt är att vi ännu inte vet svaret. Vi har inte alla fakta på bordet. Det är inte orimligt att tänka så. Kunskapsbrist bidrar naturligtvis till frågan. Det finns återigen bara ett problem. Vi anser oss redan veta svaret! Vi tänker att denna extrema form av uppgivenhet hos flyktingbarn naturligtvis måste orsakas av traumatiska erfarenheter och av stressen som utvisningshotet innebär. Till slut orkar de inte längre, utan stänger av! Om detta rimliga svar vore korrekt, så borde uppgivenhetssyndrom finnas inte bara i Sverige. Den filosofiska frågan uppkommer alltså för att det enda rimliga svaret kolliderar med uppenbara fakta.

Det är därför som frågan är filosofiskt utmanande. Inte för att vi inte vet svaret. Utan för att vi anser oss veta vad svaret måste vara! Svaret förefaller så rimligt, att vi knappt borde behöva forska mer om saken innan vi skrider till handling genom att lindra barnens stressande situation, som vi tänker är den enda tänkbara orsaken till syndromet. Och så blev det…

Riktlinjerna för personal i svensk hälso- och sjukvård betonar sedan några år familjens roll för tillfrisknande, liksom vikten av att arbeta för beviljat uppehållstillstånd. Riktlinjerna styrs av den till synes rimliga tanken att barnens tillfrisknande hänger på att man lindrar stressen som orsaker syndromet. Det finns återigen bara ett problem. Riktlinjerna fick aldrig någon positiv effekt på syndromet, trots att man försökte skapa lugn och stabilitet i familjen och arbetade för uppehållstillstånd. Syndromet fortsatte att vara en ”svensk” sjukdom. Varför är sjukdomstillståndet så envist kopplat till Sverige?

Ser du den filosofiska problematiken? Det handlar inte bara om brist på kunskap. Det handlar om att vi redan anser oss ha kunskap. Tanken att det måste handla om stress är så självklar för oss, att vi knappt märker att vi tänker den. Den förefaller omedelbart verklig. Vi har kort sagt kört fast i våra egna tankar, som vi upprepar gång på gång, trots att vi gång på gång krockar med fakta. Som en mygga som försöker ta sig ut genom en glasruta, men bara krockar, krockar, krockar.

När Karl Sallin behandlar frågan om uppgivenhetssyndrom som en filosofisk fråga, gör han därför något ytterst ovanligt, som det inte finns några rutinmässiga metoder för. Han riktar uppmärksamheten inte bara utåt mot sjukdomen, utan även inåt mot oss själva. Enbart mer empirisk forskning löser inte problemet. Lika lite som fortsatt krockande mot glasrutan löser myggans problem. Vi behöver stanna upp och granska oss själva.

Nu har detta inlägg blivit så långt, att jag måste sluta innan jag hinner beskriva Karl Sallins upplösning av gåtan. Kanske är det lika bra att vi inte rusar fram. Gåtor behöver tid, vilket vår otåliga tankeapparat sällan ger dem. Poängen om filosofins metod har förhoppningsvis ändå gått fram. Anledningen att filosofer analyserar begrepp, är att vi människor ibland fastnar i våra egna begrepp om verkligheten. I detta fall fastnar vi i vårt begrepp om uppgivenhetssyndrom som en stressjukdom. Kanske kan jag ändå säga så mycket, att Karl Sallins begreppsanalys av vårt tankemönster om syndromet upplöser känslan av att stå inför ett obegripligt mysterium. Syndromet står inte längre i konflikt med uppenbara fakta. Han visar dessutom att våra tankemönster kan ha bidragit till att sjukdomen blev så framträdande i Sverige. Vår uttalade tro att sjukdomen måste orsakas av stress, och våra försök att bota sjukdomen genom att lindra stressen, skapade en kulturell kontext där denna ”svenska” sjukdom blev möjlig. Kulturen påverkade psyket och hjärnan, som påverkade biologin i kroppen. I alla fall är det vad Karl Sallin föreslår: uppgivenhetssyndrom är en ”kultursjukdom”. Denna oväntade möjlighet befriar oss från tanken som vi fastnat i som det enda alternativet.

Så varför ställde Sokrates granskande frågor i Aten för 2600 år sedan? För att han upptäckte en metod som besvarar filosofiska frågor? Min gissning är att han gjorde det av samma skäl som Karl Sallin gör det idag. För att vi människor har en tendens att inbilla oss att vi redan vet svaren. När vi klart ser att vi inte vet vad vi trodde oss veta, befrias vi från att gång på gång kollidera med den verklighet som borde vara uppenbar.

I filosofin är det ofta svaret som är frågan.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Sallin, K., Evers, K., Jarbin, H., Joelsson, L., Petrovic, P. (2021) Separation and not Residency Permit Restores Function in Resignation Syndrome: A Retrospective Cohort Study. Eur Child Adolesc Psychiatry, 10.1007/s00787-021-01833-3

Sallin, K., Lagercrantz, H., Evers, K., Engström, I., Hjern, A., Petrovic, P. (2016) Resignation Syndrome: Catatonia? Culture-Bound? Frontiers in Behavioral Neuroscience, 10:7. 10.3389/fnbeh.2016.00007

Detta inlägg på engelska

Vi hittar nya angreppssätt

Filosofisk forskningskommunikation

Hur kommunicerar man om forskning med människor som inte är forskare? De vetenskapliga resultaten förutsätter ju vanligen ett komplicerat intellektuellt ramverk, som forskarna tillägnat sig genom lång utbildning och erfarenhet. Hur kan vi tala om deras forskning med människor som inte är forskare?

På CRB tar vi forskningskommunikation på allvar, så denna fråga följer oss dagligen. Ett vanligt sätt att lösa problemet är att ersätta forskarnas komplicerade intellektuella ramverk med enkla bilder, som människor i allmänhet är mer bekanta med. Ett exempel kunde vara att jämföra en kroppscell med en liten fabrik. Vi jämför alltså det obekanta med det bekanta, så att läsaren får en viss förståelse: ”Jaha, cellen fungerar alltså som en sorts fabrik”.

Att ge forskningsresultat ett begripligare sammanhang genom bilder, som ersätter forskarnas intellektuella ramverk, fungerar ofta bra. Vi använder ibland den metoden själva här på CRB. Men vi använder även ett annat sätt att rama in forskningen, så att den berör människor. Vi använder filosofiska reflektioner. Vi ställer frågor som man inte behöver vara expert för att undra över. Frågorna leder till tankegångar som man inte behöver vara specialist för att följa. Slutligen inlemmas forskningsresultaten i resonemangen. Vi påpekar då att en ny artikel kastar ljus över frågorna som vi tillsammans funderat kring. På så vis får forskningen ett begripligt sammanhang, nämligen i form av funderingar som vem som helst kan ha.

Vi kunde kalla detta filosofisk forskningskommunikation. Det finns en väsentlig skillnad mellan dessa två sätt att göra forskning begriplig. När enkla bilder används, syftar de enbart till att få människor att (anse sig) förstå vad de inte är insatta i. Bilderna är utbytbara. Hittar man en bättre bild, så använder man genast den i stället. Bilderna är inte väsentliga i sig själva. Att vi jämför kroppscellen med en fabrik, uttrycker inte något djupt intresse för fabriker. Men de filosofiska frågor och reflektioner som vi på CRB inramar forskningen i, är väsentliga i sig själva. De är uppriktiga frågor och funderingar. De kan inte ersättas med andra frågor och resonemang, bara för att effektivt förmedla forskningsresultat. I filosofisk forskningskommunikation ger vi forskningen ett väsentligt sammanhang, som inte bara är ett utbytbart pedagogiskt hjälpmedel. Inramningen är lika viktig som det som inramas.

Filosofisk forskningskommunikation är extra viktig för oss på CRB, eftersom vi är ett centrum för etikforskning. Forskningen drivs av filosofiska frågor och funderingar, exempelvis inom Human Brain Project, som undersöker så tänkvärda företeelser som medvetande och artificiell intelligens. Även när vi utför empiriska studier, så är poängen med de studierna att belysa etiska problem och resonemang. I forskningskommunikationen tar vi fasta på detta samspel mellan det filosofiskt tänkvärda och det empiriskt resultatmässiga.

En annan skillnad mellan dessa sätt att kommunicera forskning, har att göra med jämlikhet. Eftersom de enkla bilderna som ska förklara forskning inte är väsentliga i sig själva, så blir sådan forskningskommunikation trots allt en smula ojämlik. Jämförelsen, som tycktes göra oss jämlika, är inte vad kommunikationen egentligen handlar om. Läsarens bekantskap med fabriker hjälper inte läsaren att ha egna synpunkter kring forskning. Filosofisk forskningskommunikation är annorlunda. Genom att de inramande filosofiska frågorna och funderingarna är väsentliga och menade på allvar, så möts vi på samma jämlika nivå. Alla kan tillsammans undra över samma ärligt ställda frågor. När forskning kommuniceras filosofiskt, är såväl kommunikatörer som forskare och icke-forskare jämbördiga.

Filosofisk forskningskommunikation kan därigenom fördjupa innebörden av forskningen, ibland även för forskarna själva!

Eftersom filosofisk forskningskommunikation förenar oss kring gemensamma frågor och funderingar, är den viktig i ett alltmer fragmenterat och specialiserat samhälle. Den hjälper oss att tänka tillsammans, vilket är lättare än man kan tro, om vi vågar öppna oss för våra egna frågor. Här förutsätter jag naturligtvis att kommunikationen är uppriktig, att den kommer från självständigt tänkande människor, att den inte bygger på några intellektuellt konstruerade tankemönster, som man måste vara filosofiexpert för att förstå.

I så fall skulle filosofiska forskningskommunikatörer behöva väcka även själva filosofin till liv, genom att uppriktigt ställa de mest levande frågorna.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi hittar nya angreppssätt

Avbilda hjärnan utan att avslöja personen

Tre samtida tendenser skapar stora utmaningar för forskare. För det första förväntas vetenskapen bli alltmer öppen, bland annat genom att göra insamlade data tillgängliga för nya användare och nya syften. Samtidigt skärps dataskyddslagstiftningar för att skydda människors integritet. Slutligen hittar artificiell intelligens nya sätt att avslöja individerna bakom data, där detta tidigare var omöjligt.

Hjärnavbildning är ett exempel på hur öppnare vetenskap, starkare dataskyddslagstiftning och kraftfullare AI utmanar forskarsamhället. Du tänker kanske inte på att man kan identifiera personen vars hjärna avbildats med magnetkamera? Men där avbildas faktiskt även skallens och ansiktets form, inklusive eventuella ärr. Man skulle alltså kunna känna igen personen. För att kunna dela hjärnavbildningsdata utan att avslöja personen, har man hittills trott att det räckt med att på olika sätt ta bort skall- och ansiktsformen i bilderna, eller göra konturen suddig. Problemet är den tredje tendensen: kraftfullare AI.

AI kan lära sig att identifiera personer, där mänskliga ögon misslyckas. Hjärnavbildningar där huvudets och ansiktets former gjorts oigenkännliga visar sig nämligen ofta innehålla tillräckligt mycket information för att självlärande ansiktsigenkänningsprogram ska kunna identifiera personerna. AI lyckas åter-identifiera vad som avidentifierats. Dessutom är även själva hjärnans anatomi individuell. Liksom våra fingrar har unika fingeravtryck, har våra hjärnor unika ”hjärnavtryck”. Detta gör det möjligt att koppla hjärnavbildningsdata till person, nämligen om man har tidigare identifierade hjärnavbildningsdata från personen. Exempelvis via någon annan databas, eller om personen spridit sina hjärnavbildningar via sociala media så att ”hjärnavtryck” och person kopplats ihop.

Att göra personerna helt oidentifierbara skulle förändra bilderna så kraftigt, att de skulle förlora sitt värde för forskningen. De tre samtida tendenserna – öppnare vetenskap, skarpare dataskyddslagstiftning och kraftfullare AI – tycks således vara på kollisionskurs. Är det överhuvudtaget möjligt att dela vetenskapligt användbara hjärnavbildningsdata på ett ansvarsfullt sätt, när AI verkar kunna avslöja personerna vars hjärnor avbildats?

Nå, allt oönskat som kan ske, måste inte ske. Vore världen lika lömskt konstruerad som i en konspirationsteori, skulle inga säkerhetsåtgärder i världen kunna rädda oss från undergång. Tvärtom skulle sådana totala säkerhetskrav garanterat hota säkerheten, vilket jag nyligen bloggade om.

Så hur ska forskarna göra i praktiken, när de bygger internationella forskningsinfrastrukturer för att dela hjärnavbildningsdata (enligt första tendensen ovan)? Ett konstruktivt förslag presenteras i en artikel i Neuroimage: Reports. Författarna framhåller bland annat ökad och kontinuerligt uppdaterad medvetenhet bland forskare om realistiska dataskyddsrisker. Forskare som arbetar med hjärnavbildning behöver utbildas att tänka i termer av dataskydd och se detta som en naturlig del av forskningen.

Framförallt föreslår författarna flera konkreta åtgärder för att tekniskt och organisatoriskt bygga forskningsinfrastrukturer där dataskyddet finns med från början, som inbyggd standard. Eftersom fullständigt anonymiserade hjärnavbildningsdata är en omöjlighet (sådana data skulle förlora sitt vetenskapliga värde), framhålls i stället pseudonymisering samt kryptering av data. Vidare föreslås tekniska system för att kontrollera åtkomst av data (inte vem som helst ska ha tillgång), samt tydliga dataanvändningsavtal som begränsar vad användaren får göra med data. Utöver detta är givetvis informerat samtycke från personerna som deltar i hjärnavbildningsstudier en del av ordningen.

Sammantaget skulle denna från början inbyggda säkerhetsordning göra det möjligt att bygga forskningsinfrastrukturer som tillfredsställer hårdare dataskyddslagstiftningar, även i en värld där artificiell intelligens i princip kan se vad mänskliga ögon inte ser. De tre samtida tendenserna är kanske inte på kollissionskurs, trots allt. Om dataskydd byggs in från början, kan forskarna dela data utan att tvingas förstöra det vetenskapliga värdet av bilderna, och människor kan fortsätta att vilja delta i forskning.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Damian Eke, Ida E.J. Aasebø, Simisola Akintoye, William Knight, Alexandros Karakasidis, Ezequiel Mikulan, Paschal Ochang, George Ogoh, Robert Oostenveld, Andrea Pigorini, Bernd Carsten Stahl, Tonya White, Lyuba Zehl. “Pseudonymisation of neuroimages and data protection: Increasing access to data while retaining scientific utility,” Neuroimage: Reports, 2021,Volume 1, Issue 4

Detta inlägg på engelska

Vad är hållbarhet i framtiden?

Säkerställa framtiden redan från början

Tänk om det fanns en säker metod för att förutse och hantera framtida risker, allt som kunde gå fel med ny teknik till exempel. Då kunde vi ansvarsfullt navigera förbi alla farorna, vi kunde säkerställa framtiden redan nu.

Naturligtvis är det bara en dröm. Om vi hade en ”säker metod” för att redan från början utesluta framtida risker, skulle tiden snart springa ifrån den metoden, som då visade sig opålitlig i en ny tid. Eftersom vi litade på metoden, blev metoden för att hantera framtida risker snart själv en framtida risk!

Det går alltså inte att säkerställa framtiden redan från början. Betyder det att vi måste ge upp alla försök att ta ansvar för framtiden, eftersom varje metod en vacker dag missar något oförutsebart nytt och därför orsakar olyckor? Är det kanske bättre att inte försöka ta något ansvar alls, för att inte riskera att orsaka olyckor genom våra ofullkomliga säkerhetsåtgärder? Märkligt nog är det lika omöjligt att vara oansvarig inför framtiden som att vara ansvarig. Du skulle behöva anstränga dig minutiöst, så att du inte råkar tillaga en hälsosam frukost eller undvika en bilkollision. Snart önskar du att du hade en ”säker metod” som kunde förutse alla framtida faror som du måste undvika att undvika om du vill leva fullkomligt oansvarigt. Din oansvarighet för framtiden skulle bli ett oöverstigligt ansvar.

Förlåt om jag driver tids- och ansvarsbegreppen över bristningsgränsen, men jag tror faktiskt att många av oss har en naturlig böjelse att göra det, för att framtiden skrämmer oss. Ett aktuellt exempel är tendensen att tänka att någon ansvarig borde ha förutsett pandemin och genomfört kraftfulla motåtgärder redan från början, som säkerställt att det aldrig blev någon pandemi. Jag vill inte förneka att det finns fall där vi kan resonera så – ”någon ansvarig borde ha…” – men nu tänker jag på frestelsen att resonera så rent instinktivt, så fort något oönskat inträffar. Som om framtiden kunde säkerställas redan från början och oönskade händelser därför undantagslöst vore skandaler.

Nu är vi i ett nytt läge. På grund av pandemin har det blivit oansvarigt att inte förbereda sig (bättre än tidigare) för pandemirisker. Så ser vårt ansvar för framtiden ut. Det ändras med tiden. Ansvaret vilar i nuet, i vårt faktiska läge idag. Där har ansvaret för framtiden sitt hem. Det kan låta oansvarigt att säga så. Ska vi sitta med armarna i kors och invänta att det oönskade inträffar, för att först därefter få ett ansvar att undvika det i framtiden? Problemet är att denna invändning återigen driver begreppen över bristningsgränsen. Den leker med tanken att framtiden kan överblickas och säkerställas redan nu, ett tankemönster som i sig kan utgöra en risk. Ett samhälle där varje instans måste säkerställa framtiden inom sitt ansvarsområde, riskerar att sparka nedåt för att hålla eventuella oroselement utanför den säkerställda ordningen: ”Vår uppdragsgivare kräver att vi säkerställer att…, därför behöver vi ett intyg samt en personlig deklaration där du…”. Många skulle hamna utanför den säkerställda ordningen, vilket knappast tryggar någon ordning. Och eftersom oroselementen definieras genom konstruerade kriterier, som kanske implementeras i automatiserade administrationssystem, riskerar systemen inte bara att begå systematiska misstag i mötet med verkliga människor. De rentav inbjuder till falskspel med systemen.

Så hur tar vi ansvar för framtiden på ett i praktiken ansvarsfullt sätt? Låt oss först lugna ner oss inför utmaningen. Vi har ju konstaterat att det är omöjligt att inte ta ansvar! Bara genom att andas tar vi ansvar för framtiden, genom att laga frukost, genom att styra bilen. Ansvarstagande är så naturligt, att ingen behöver ta ansvar för det. Men hur tar vi ansvar för något så dynamiskt som forskning och teknikutveckling? De är ju redan i framtiden, tycks det, eller åtminstone i framkant. Hur kan vi förlägga ansvaret för en skön ny värld till nuet, som tycks passé redan från början? Måste inte ansvaret vara lika framtidsinriktat, lika mycket i framkant, eftersom forskning och teknik ständigt rör sig mot framtiden, där de gör framtiden annorlunda det omkörda nuet?

Återigen drivs begreppen över bristningsgränsen. Den som läser detta inlägg uppmärksamt kan dock notera en hoppingivande motsägelse. Jag har påpekat att det är omöjligt att säkerställa framtiden redan nu. Samtidigt påpekar jag att det är i nuet som ansvaret för framtiden ligger. Det är bara här som vi i praktiken tar ansvar för framtiden. Hur kan jag vara så ologisk?

Svaret är att det första påpekandet riktas mot vår intellektuella tendens att driva tids-och ansvarsbegreppen över bristningsgränsen, när vi känner oss osäkra inför framtiden och önskar att vi kunde kontrollera den redan nu. Det andra påpekandet påminner oss om hur lugnt tids- och ansvarsbegreppen fungerar i praktiken, när vi tar ansvar för framtiden. Det första påpekandet drar alltså en gräns för intellektet, som hysteriskt gärna vill totalkontrollera framtiden redan från början. Det andra påpekandet öppnar upp för praktiken att i varje ögonblick ta ansvar.

När vi tar ansvar för framtiden, så lär vi oss av historien så som den framträder i vårt nuvarande minne, vilket jag redan antytt. Erfarenheterna från pandemin gör det möjligt att nu ta ansvar för framtiden på ett annat sätt än tidigare. De inte alltid positiva erfarenheterna av artificiell intelligens gör det möjligt att nu ta bättre ansvar för framtida robotiseringar. Det märkliga är alltså att ansvarstagande förutsätter att det går snett ibland och att vi intresserar oss för det. Annars hade vi inget att lära oss av inför framtiden. Det är egentligen självklart. Ansvar är möjligt bara i en värld som inte är helt säkerställd från början, en värld där det oönskade inträffar. Så motsägelsefullt är livet. Vi kan aldrig renodla säkerheten enligt intellektets ensidiga krav, för säkerheten förutsätter det osäkra och det oönskade.

Mot denna filosofiska bakgrund vill jag rekommendera en artikel i Journal of Responsible Innovation, som diskuterar ansvarsfull forskning och utveckling i ett stort europeiskt forskningsprojekt, Human Brain Project (HBP): From responsible research and innovation to responsibility by design. Artikeln beskriver hur man inom HBP försökt vara förutseende och ta ansvar för den dynamiska forskningen och teknikutvecklingen inom projektet. Artikeln reflekterar inte minst över frågan hur man fortsätter att ta ansvar även när projektet avslutas, inom den europeiska forskningsinfrastruktur som planeras bli projektets produkt: EBRAINS.

Författarna är väl medvetna om att specifika reglerade ansatser själva kan bli en källa till problem, när de möter det nya och oförutsedda. Ansvaret för framtiden kan inte regleras. Det kan inte reduceras till konstruerade kriterier och föreskrifter. En av författarnas viktigaste slutsatser är att ansvaret från början behöver vara en integrerad del av forskningen och teknikutvecklingen, snarare än ett yttre ramverk. Ansvaret för framtiden fordrar flexibilitet och öppenhet, förutseende och engagemang, reflektion och vidsynthet. Men vad är det?

Personligen vill jag säga att det delvis handlar om att acceptera livets dubbelhet. Om vi inte vågar sväva i ovisshet, utan alltid kräver säkerhet och inget annat än säkerhet, så kommer vi garanterat att undergräva säkerheten. Genom att vara uppriktigt intresserade av det osäkra och oönskade, kan ansvarstagandet bli en integrerad del av forskningen och teknikutvecklingen.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Bernd Carsten Stahl, Simisola Akintoye, Lise Bitsch, Berit Bringedal, Damian Eke, Michele Farisco, Karin Grasenick, Manuel Guerrero, William Knight, Tonii Leach, Sven Nyholm, George Ogoh, Achim Rosemann, Arleen Salles, Julia Trattnig & Inga Ulnicane. From responsible research and innovation to responsibility by design. Journal of Responsible Innovation. (2021) DOI: 10.1080/23299460.2021.1955613

Detta inlägg på engelska

Vad är hållbarhet i framtiden?

Kan subjektiviteten förklaras objektivt?

Föreställningen om ett medvetet universum besjälat av icke-observerbara upplevelser framställs idag nästan som en vetenskaplig hypotes. Hur är det möjligt? Bidrar kosmologernas hypoteser om att universum är fyllt av mörk materia och mörk energi till att göra tanken på ett universum fyllt av ”mörkt medvetande” nästan trovärdig?

Jag ställer frågan för att jag själv förundras av hur föreställningen att elementarpartiklar har elementära upplevelser plötsligt blivit akademiskt rumsren. Föreställningen om alltings besjälade natur brukar kallas panpsykism och anses ha företrätts av flera filosofer i historien. Panpsykismens påstått vetenskapliga status motiveras idag genom att framhålla två klassiska filosofiska misslyckanden att förklara medvetandet. Materialismen har inte lyckats förklara hur medvetandet kan uppstå ur icke-medveten materia. Dualismen har inte lyckats förklara hur medvetandet, om det är separat från materien, kan interagera med den fysiska verkligheten.

Mot denna nedslående bakgrund framställs panpsykismen som en attraktiv, rentav elegant lösning på medvetandeproblemet. Hypotesen är att medvetandet finns fördolt i universum, som en fundamental icke-observerbar egenskap hos materien. Förespråkarna av denna eleganta lösning föreslår att detta ”mörka medvetande” i universum är ytterst blygsamt. Medvetandet finns i varje elementarpartikel i form av ofattbart oansenliga elementarupplevelser. Dessa oansenliga upplevelser förenas och förstärks i hjärnans nervsystem, vilket ger upphov till vad vi känner som vårt kraftfulla mänskliga medvetande, med sina stormande känslor och tankar.

Denna motivering av panpsykismen som elegant lösning av ett stort vetenskapligt problem förutsätter emellertid att det verkligen finns ett stort vetenskapligt problem att ”förklara medvetandet”. Är inte utgångspunkten en smula märklig, att även subjektiviteten måste förklaras som vilken objektiv företeelse som helst? Även dualismen tenderar att objektifiera medvetandet, eftersom den framställer medvetandet närmast som ett parallelluniversum till vårt fysiska universum.

De alternativa förklaringarna är således alla lika objektifierande. Antingen reduceras subjektiviteten till rent materiella processer, eller så förklaras subjektiviteten som ett separat mentalt parallelluniversum, eller så hypostaseras subjektiviteten som ”mörkt medvetande” i universum: som elementära upplevelseartade kvaliteter hos materien. Kan vi inte låta subjektiviteten vara subjektivitet och objektiviteten vara objektivitet?

Det fanns en gång en filosof som hette Immanuel Kant. Han såg hur vår ständigt objektifierande subjektivitet går i baklås, när den försöker förstå sig själv utan att dra gränser för sitt eget objektifierande sätt att närma sig alla frågor. Vi börjar då likna katter som utsiktslöst jagar sina egna svansar: än åt höger, än åt vänster. Båda riktningarna är lika frustrerande. Finns det en elegant lösning på den snurriga kattens problem? Nu vill jag inte påstå att Kant definitivt avslöjade medvetandeproblemet som en intellektuell fälla, men han påvisade betydelsen av att självkritiskt granska vår projektiva, ständigt objektifierande utåtriktadhet. Om vi levde lika gränslöst expansivt som vi förklarar allting objektivt, skulle vi snart förpesta planeten… är det inte precis vad vi gör?

Under en filosofilektion försökte jag visa studenterna hur vi kan fångas av skenbara problem, av pseudoproblem som naturligtvis inte är vetenskapliga problem, eftersom de får oss att likna katter, som jagar sina egna svansar utan att inse utsiktslösheten. En student gillade inte vad hon upplevde som en godtycklig begränsning av vetenskapens enorma landvinningar, så hon invände: ”Men om det är vetenskapens uppgift att förklara alla stora problem, då måste den försöka förklara även dessa gåtor”. Invändningen liknar motiveringen av panpsykismen, som antar att det är vetenskapens uppgift att förklara allting objektivt, även subjektiviteten, oberoende av hur hopplöst frågorna snurrar i våra huvuden.

Den snurriga kattens problem har en enkel lösning: sluta jaga svansen. Människan däremot behöver klart inse hopplösheten i sitt eget snurrande för att kunna stoppa det. Därför behöver människan filosofera för att leva väl på denna planet.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Vill du läsa mer om panpsykism, här är två länkar:

Does consciousness pervade the universe?

The idea that everything from spoons to stones is conscious is gaining academic credibility

Detta inlägg på engelska

Vi söker klarhet

Medvetande och komplexitet: teoretiska utmaningar för en praktiskt användbar idé

Den samtida forskningen om medvetandet har en kanske något pinsam dubbelhet, som kan föra tankarna till guden Janus med sina två ansikten. Detta skriver Michele Farisco idag i ett inlägg på den engelska versionen av Etikbloggen. Å ena sidan har forskningen uppnått imponerande praktiska resultat, som möjliggör bättre vård av patienter med hjärnskador. Å andra sidan kännetecknas fältet av djup begreppslig oenighet. Man saknar fortfarande en övergripande teori om medvetandet, som forskarna kan vara överens om.

En teori som alltmer diskuteras, förknippar medvetande med komplexitet. Idén är att medvetande kan förklaras som en viss typ av informationsbehandling. Idén föreslogs ursprungligen av Giulio Tononi och Gerald Edelman i en artikel från 1998 med titeln Consciousness and Complexity. Sedan dess har flera artiklar undersökt idén att förknippa medvetande med komplexitet.

I sitt inlägg påtalar Michele Farisco flera allvarliga teoretiska utmaningar för idén, samtidigt som han framhåller att komplexitet är ett praktiskt användbart mått på medvetande, exempelvis hos patienter med hjärnskador. Vill du veta mer om de teoretiska utmaningarna, läs Michele Fariscos inlägg: Consciousness and complexity: theoretical challenges for a practically useful idea.

Om de teoretiska utmaningar är så allvarliga som Michele Farisco får åtminstone mig att tro, så får nog medvetandeforskningen leva ännu ett tag med den kanske något pinsamma likheten med guden Janus.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Vi söker klarhet

Att förändra den föränderliga människan

Neurovetenskapen bidrar till vår mänskliga självförståelse men väcker även oro att den skulle kunna förändra mänskligheten. Exempelvis genom ny neuroteknik som påverkar hjärnan så djupt att människan inte längre är sant mänsklig, eller slutar att uppleva sig som människa. Patienter som behandlas med så kallad djup hjärnstimulering kan exempelvis uppge att de känner sig som robotar.

Vilka etiska och juridiska åtgärder skulle en sådan utveckling kunna motivera?

Arleen Salles, neuroetiker i Human Brain Project, menar att frågan är förhastad eftersom vi inte klargjort vårt begrepp om människan. Saken kompliceras av att det finns flera begrepp om den mänskliga naturen att bekymra sig över. Om vi tror att vår mänsklighet består i vissa unika förmågor som särskiljer människan från djuren (såsom moral), så tenderar vi att avhumanisera varelser som vi menar saknar dessa förmågor som ”djuriska.” Om vi tror att vår mänsklighet består i vissa förmågor som särskiljer människan från livlösa föremål (såsom känslor), så tenderar vi att avhumanisera varelser som vi menar saknar dessa förmågor som ”mekaniska.” Antagligen är det i den senare meningen som patienterna ovan uppger att de inte känner sig riktigt mänskliga, utan som robotar.

Efter en genomgång av grunddragen i flera centrala filosofiska begrepp om människan, tar Arleen Salles reflektioner en överraskande vändning. Hon presenterar nämligen ett begrepp om vår mänsklighet som utgår från den neurovetenskapliga forskning som man oroar sig skulle kunna förändra vår mänsklighet! Det riktigt överraskande är att detta begrepp om vår mänskliga natur i viss utsträckning ifrågasätter själva frågan. Begreppet framhäver nämligen människans djupgående föränderlighet.

Vad betyder det att oroa sig över att neurovetenskapen kan förändra människans natur, om den mänskliga naturen till stor del kännetecknas av förmågan att förändras?

Den som följer Etikbloggen och minns ett inlägg om Kathinka Evers idé om ett neurovetenskapligt motiverat ansvar för den mänskliga naturen, är redan bekant med det dynamiska begrepp om människan som Arleen Salles presenterar. Förenklat kan man säga att det handlar om att komplettera människans genetiska evolution med en ”epigenetisk” selektiv stabilisering av synapser, som varje människa genomgår under uppväxten. Dessa kopplingar mellan hjärnceller är inte medfödda, utan selekteras i den levande hjärnan under dess samspel med miljön. Språket kan antas tillhöra de mänskliga förmågor som till stor del utvecklas epigenetiskt. Jag har föreslagit ett liknande språkbegrepp tillsammans med två amerikanska apspråksforskare.

Tro nu inte att detta dynamiska begrepp om den mänskliga naturen skulle förutsätta att människan är någonting mycket instabilt. Som om minsta vindpust kunde rubba den mänskliga evolutionen och förändra vår natur i grunden. Tvärtom bidrar antagligen språket som vi utvecklar under uppväxten till att stabilisera de många mänskliga egenskaper som utvecklas samtidigt med språket. Språket stödjer antagligen förmedlingen till nya generationer av de mänskliga livsformer, där språket har sina användningar.

Arleen Salles reflektioner är viktiga bidrag till den neuroetiska diskussionen om människans natur, hjärnan och neurovetenskapen. För att kunna ta etiskt ansvar behöver vi klargöra våra begrepp, framhåller hon. Vi behöver beakta att människan utvecklas i tre sammanvävda dimensioner. Det handlar om genetik tillsammans med selektiv stabilisering av synapser i levande hjärnor, i samspel med sociala-kulturella-språkliga miljöer. Allt samtidigt!

Arleen Salles reflektioner finns utgivna som ett kapitel i en ny antologi, Developments in Neuroethics and Bioethics (Elsevier). Jag är osäker på om publikationen kommer att vara öppet tillgänglig, men förhoppningsvis hittar du Arleen Salles bidrag via den här länken: Humanness: some neuroethical reflections.

Kapitlet rekommenderas som nyskapande bidrag till förståelsen av vår mänskliga natur och frågan huruvida neurovetenskapen kan förändra människan. Frågan tar en överraskande vändning, som antyder vi alla tillsammans har ett fortlöpande ansvar för vår föränderliga mänskliga natur.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Arleen Salles (2021). Humanness: some neuroethical reflections. Developments in Neuroethics and Bioethics. https://doi.org/10.1016/bs.dnb.2021.03.002

Detta inlägg på engelska

Vi tänker om bioetik

Kan du klonas?

Varför kan vi känna metafysiskt illamående inför tanken på klonade människor? Gissningsvis sammanhänger det med hur vi, utan att ge oss tillräckligt med tid för att reflektera, fångas av en enkel bild av individualitet och kloning. Sedan styr bilden vårt tänkande. Vi föreställer oss kanske att kloning består i att vår unika individualitet mångfaldigas i oskiljbara kopior. Vi känner då yrsel inför den otänkbara tanken att vårt individuella jag skulle mångfaldigas som kopior som alla på något märkligt sätt är jag, eller inte kan skiljas från mig.

I ett bidrag till en filosofisk nättidskrift diagnostiserar Kathinka Evers detta metafysiska illamående inför kloning. Om du har minsta tendens att oroas av att du skulle kunna mångfaldigas som ”identiska kopior” som inte kan särskiljas från dig, ge dig då de sju minuter det tar att läsa texten och befria dig från åkomman:

”I cannot be cloned: the identity of clones and what it tells us about the self.”

Naturligtvis förnekar inte Kathinka Evers att kloning är möjligt eller förenat med risker av olika slag. Hon ifrågasätter den förhastade bilden av kloning, genom att ge oss tid reflektera över identitet och individualitet, utan att fångas av bilden.

Vi störs av tanken att modern forskning på något märkligt sätt skulle kunna göra något som borde vara otänkbart. När vi klart ser att vad vi oroas av verkligen är otänkbart, försvinner yrseln. I sin upplysande diagnos av vårt metafysiska illamående, kombinerar Kathinka Evers filosofiska reflektioner med belysande fakta om bland annat genetik och personlighetsutveckling.

Ge dig de sju minuter det tar att befrias från metafysiskt illamående inför kloning!

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi tänker om tänkande

Artificiell intelligens och medvetande

I ett inlägg på den engelska versionen av denna blogg diskuterar Michele Farisco idag en hisnande fråga om artificiell intelligens (AI): kan vi skapa medvetna maskiner?

Michele Farisco menar att frågan förutsätter att vi först klargör vad vi menar med medvetande. Han ger exempel på definitioner som använts i diskussionen om medveten AI och konstaterar att de föga överraskande definierar medvetande i termer av olika former av beräkningar inom informationsbehandling. Uppenbarligen bäddar man som man vill ligga. Det vill säga, man definierar sina termer efter den typ av svar man söker. Är det ett filosofiskt uppriktigt sätt att närma sig frågan?

Michele Farisco menar att vi måste närma oss frågan om medveten AI med stor försiktighet och eftertänksamhet. Annars riskerar viktiga filosofiska frågor att försvinna ur sikte bakom en begreppslig slöja av förhastade språkliga analogier mellan det mänskliga och det maskinella.

Läs Michele Fariscos inlägg på The Ethics Blog: Can AI be conscious? Let us think about the question.

Vi söker klarhet

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

« Äldre inlägg Nyare inlägg »