En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Författare: Pär Segerdahl (Sida 8 av 46)

Bilder av god och ond artificiell intelligens

Som Michele Farisco påpekat på den engelska versionen av denna blogg, fungerar artificiell intelligens (AI) ofta som projektionsyta för våra självbilder som människor. Ibland även som projektionsyta för våra bilder av gott och ont, som du snart ska få se.

Inom AI och robotteknik eftersträvas ofta autonomi, i meningen att den artificiella intelligensen ska kunna utföra sina uppgifter på bästa sätt utan mänsklig vägledning. Som en självkörande bil, som säkert tar dig dit du vill utan att du behöver styra, gasa eller bromsa. En annan form av autonomi som ofta eftersträvas är att den artificiella intelligensen ska vara självlärande och därmed kunna förbättra sig själv och bli kraftfullare utan mänsklig vägledning.

Filosofer har diskuterat om AI kan vara autonom även i en annan mening, som förknippas med vårt mänskliga förnuft. En autonom person kan, enligt denna bild, granska sina yttersta mål i livet och revidera dem, om hon bedömer att ny kunskap om världen gör det nödvändigt. Vissa filosofer menar att AI inte kan göra detta, eftersom det förprogrammerade målet, eller nyttofunktionen, skulle göra det irrationellt att ändra målet. Målet ligger fast. Idén om en sådan envist målinriktad AI kan väcka oroande bilder av ondskefull AI som löper amok mittibland oss. Men även betryggande bilder av god AI som pålitligt stödjer oss.

Oroade filosofer har föreställt sig en AI som har det yttersta målet att tillverka vanliga gem. Denna AI antas vara självförbättrande. Den blir därför allt intelligentare och kraftfullare vad gäller målet att tillverka gem. När råvaror sinar lär den sig nya sätt att förvandla jordens resurser till gem och när människor försöker hindra den från att förgöra planeten lär den sig att förgöra mänskligheten. När planeten är utplånad ger den sig ut i rymden och förvandlar universum till gem.

Filosofer som varnar för en sådan ”ond” superintelligent AI hyser även förhoppningar om en ”god” superintelligent AI. Anta nämligen att vi kunde ge självförbättrande AI målet att tjäna mänskligheten. Utan att tröttna skulle den utveckla allt intelligentare och kraftfullare sätt att vara vid vår sida, till tidens ände. Till skillnad från religionens gud skulle denna konstgjorda superintelligens höra våra böner och vidta allt smartare åtgärder för att hjälpa oss. Den skulle antagligen förr eller senare lära sig att förhindra jordbävningar och våra klimatproblem skulle snart vara borta. Inga teodicéproblem i världen kunde undergräva vår tro på denna AI-gud, vars makt att skydda oss mot allt ont bara ökar. Naturligtvis är det oklart hur målet att tjäna mänskligheten kan definieras. Men givet möjligheten att äntligen säkerställa mänsklighetens framtid, menar vissa hoppfulla filosofer att utveckling av människovänlig självförbättrande AI borde vara en av vår tids främsta uppgifter.

Allt detta läste jag i en välskriven artikel av Wolfhart Totschnig, som ifrågasätter den icke-reviderbara målorientering som förknippas med autonom AI i scenarierna ovan. Hans viktigaste poäng är att målstyrd AI som löper amok i universum eller räddar mänskligheten ur varje knipa inte ens är tänkbar. Utanför sin domän förlorar nämligen målet sin meningsfullhet. Målet för en självkörande bil att säkert ta användaren till destinationen har ingen mening utanför domänen vägtrafik. Domänspecifik AI kan därför inte generaliseras till världen som helhet, för nyttofunktionen förlorar sin mening utanför domänen, långt innan universum hinner förvandlas till gem eller mänsklighetens framtid hinner säkerställas av en artificiellt god gud.

Detta är naturligtvis en viktig filosofisk poäng om mål och mening, om begränsade domäner och världen som helhet. Kritiken hjälper oss att mer realistiskt bedöma risker och möjligheter av framtida AI, utan att förhäxas av våra bilder. Samtidigt får jag intrycket att även Totschnig fortsätter att använda AI som projektionsyta för bilder av oss själva. Han menar nämligen att framtida AI mycket väl kan revidera även sina yttersta mål i takt med att den utvecklar en allmän förståelse för världen. Svagheten i scenarierna ovan var ju att de utgick från dagens domänspecifika AI, inte från människans allmänna förnuftsförmåga. Vi ser då inte möjligheten av en äkta människolik AI, som självkritiskt omprövar sina yttersta mål när ny kunskap om världen motiverar detta. Sant människoekvivalent AI skulle ha full autonomi.

Att projicera mänskliga självbilder på framtida AI är inte bara en tendens, såvitt jag kan bedöma, utan en norm som styr diskussionen. Enligt denna norm projiceras fel bild i scenarierna ovan. En bild av dagens maskiner, inte av vår allmänna mänskliga intelligens. Att projicera rätt självbild på framtida AI framstår därmed som ett övergripande mål i diskussionen. Är målet meningsfullt eller borde det omprövas självkritiskt?

Detta är svåra frågor och mitt intryck av diskussionen kan vara felaktigt. Vill du göra en egen bedömning, läs artikeln: Fully autonomous AI.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Totschnig, W. Fully Autonomous AI. Sci Eng Ethics 26, 2473–2485 (2020). https://doi.org/10.1007/s11948-020-00243-z

Detta inlägg på engelska

Vi ställer frågor

Individualiserad läkemedelsbehandling ur patientens perspektiv

Individualiserad läkemedelsbehandling, där rätt patient får rätt dos av rätt läkemedel i rätt tid, kunde tolkas som en rent medicinsk uppgift. Efter genetiska och andra tester på patienten, så bedömer läkaren vilket läkemedel mot sjukdomen och vilken dos som ur medicinsk synvinkel borde fungera effektivast och säkrast för patienten ifråga.

Individualisering kan även tolkas så att uppgiften inbegriper patientens uppfattningar om behandlingen, patientens egna preferenser. Ledgångsreumatism är en sjukdom med många olika symptom. Flera läkemedel finns att tillgå som har olika effekt på olika symptom, samt olika biverkningar. Dessutom tas läkemedlen på olika sätt och med olika intervall. Alla dessa läkemedelsegenskaper påverkar naturligtvis patienternas vardagsliv olika. Ett läkemedel reducerar kanske smärtan effektivt, men ger nedstämdhet, och så vidare. Vid individualiserad behandling av ledgångsreumatism finns därför goda skäl att fråga patienterna om vad de själva anser är viktiga läkemedelsegenskaper och vad de vill uppnå med behandlingen.

I en studie i Clinical Rheumatology förbereder Karin Schölin Byvall och fem medförfattare för individualiserad behandling av ledgångsreumatism ur patientens perspektiv. Detta i förhoppning att underlätta inte bara gemensamt beslutsfattande med patienter som har sjukdomen, utan även framtida kvantitativa studier av preferenser hos patientgruppen.

Så här gick författarna (mycket förenklat) tillväga. Först gjordes en litteraturgenomgång för att identifiera möjliga relevanta läkemedelsegenskaper. Därefter fick patienter i Sverige med ledgångsreumatism ranka nio av dessa egenskaper. I ett tredje steg intervjuades några av patienterna närmare om hur de uppfattade de viktigaste egenskaperna.

I ett sista steg strukturerades intervjuresultaten i ett ramverk med fyra särskilt relevanta läkemedelsegenskaper. De första två handlar om förbättrad förmåga att fungera fysiskt respektive psykosocialt i vardagen. De senare två handlar om allvarliga respektive milda biverkningar. Sammanfattningsvis handlar de viktigaste läkemedelegenskaperna, ur patienternas perspektiv, om förbättrad förmåga att fungera i vardagen samt om acceptabla biverkningar.

Vill du veta mer om studien, läs artikeln: Functional capacity vs side effects: treatment attributes to consider when individualising treatment for patients with rheumatoid arthritis.

Författarna betonar betydelsen av att beakta patienternas egna mål med behandlingen. Individualiserad läkemedelsbehandling förutsätter inte bara medicinska tester, utan kan även förutsätta studier av patientpreferenser.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Bywall, K.S., Esbensen, B.A., Lason, M. et al. Functional capacity vs side effects: treatment attributes to consider when individualising treatment for patients with rheumatoid arthritis. Clin Rheumatol (2021). https://doi.org/10.1007/s10067-021-05961-8

Detta inlägg på engelska

I dialog med patienter

Digitala tvillingar, virtuella hjärnor och språkets faror

En ny datorsimuleringsteknik har börjat användas exempelvis inom tillverkningsindustrin. Simuleringen kallas en digital tvilling, vilket utmanar mig att levandegöra för läsaren vad något som låter så fantasieggande kan vara i verkligheten.

Den mest realistiska förklaring jag kan hitta kommer faktiskt från Harry Potters värld. Minns du kartan över Hogwarts, som inte bara visar alla rum och korridorer, utan även fotstegen i realtid av dem som smyger omkring på skolan? En liknande karta kan lätt skapas i datormiljö genom att förbinda kartan i datorn med sensorer i golvet på byggnaden som kartan avbildar. Genast har du en interaktiv digital karta över byggnaden som automatiskt uppdateras och visar människors rörelser i den. Tänk dig vidare att datorsimuleringen kan göra beräkningar som förutsäger folksamlingar som överstiger myndigheternas rekommendationer, och att den automatiskt sänder ut varningsmeddelanden via ett högtalarsystem. Såvitt jag förstår kan en sådan interaktiv digital karta kallas en digital tvilling för ett intelligent hus.

Naturligtvis är detta en revolutionerande teknik. Arkitektens ritning i något datorprogram får förlängt liv i såväl produktionen som underhållet av byggnaden. Den digitala simuleringen kopplas till sensorer som uppdaterar simuleringen med aktuella data om relevanta faktorer i byggprocessen och därefter i den färdiga byggnaden. Huset får en digital tvilling som under byggnadens hela livscykel automatiskt kontaktar underhållstekniker när sensorerna visar att tvättmaskinerna börjar bli slitna eller luften inte cirkulerar som den ska.

Användningsområdet för digitala tvillingar är enormt. Poängen med dem, som jag förstår det, är inte att de är ”exakta virtuella kopior av verkligheten”, vad det nu kunde betyda. Poängen är att datorsimuleringen är sammanlänkad med det simulerade objektet på ett praktiskt relevant sätt. Sensorer uppdaterar automatiskt simuleringen med relevanta data, samtidigt som simuleringen automatiskt uppdaterar det simulerade objektet på relevanta sätt. Samtidigt uppdateras användare, tillverkare, underhållstekniker och andra aktörer, som lätt överblickar objektets aktuella status, möjligheter och risker, var de än befinner sig i världen.

Det europeiska flaggskeppsprojektet Human Brain Project planerar att utveckla digitala tvillingar till mänskliga hjärnor, detta genom att bygga virtuella hjärnor i datormiljö. I en artikel undersöker filosoferna Kathinka Evers och Arleen Salles, som båda arbetar i projektet, de enorma utmaningar som det skulle innebära att utveckla digitala tvillingar till levande mänskliga hjärnor. Är det ens tänkbart?

Författarna jämför typer av föremål som kan få digitala tvillingar. Det kan handla om artefakter såsom byggnader och bilar eller om naturliga livlösa företeelser såsom berggrunden vid en gruva. Men det skulle alltså även kunna handla om levande ting såsom hjärtat eller hjärnan. Jämförelserna i artikeln visar att hjärnan utmärker sig på flera sätt, som alla gör det oklart om det är rimligt att tala om digitala tvillingar till mänskliga hjärnor. Vore det mer klargörande att tala om digitala kusiner?

Hjärnan är astronomiskt komplex och trots ny kunskap om den så är den i hög grad ogenomskinlig för vårt kunskapssökande. Hur kan vi tala om en digital tvilling till något som är komplext som en galax och okänt som ett svart hål? Dessutom är hjärnan genomgående dynamiskt interaktiv. Den är sammankopplad inte bara med kroppen utan även med kultur, samhälle och omvärld, som den utvecklas i oavbrutet samspel med. Hjärnan smälter närmast ihop med omgivningen. Betyder det att en digital tvilling skulle behöva vara en tvilling till hjärnan-kroppen-kulturen-samhället-världen, det vill säga en digital tvilling till allting?

Nej, så är det naturligtvis inte. Syftet inom projektet är att finna specifika medicinska tillämpningar av den nya datorsimuleringstekniken. Genom att utveckla digitala tvillingar till vissa aspekter av vissa delar av patienters hjärnor, hoppas man kunna förbättra och individanpassa exempelvis kirurgiska ingrepp vid sjukdomar såsom epilepsi. Liksom kartan från Harry Potters värld följer människors fotsteg, skulle den digitala hjärntvillingen kunna följa vissa nervimpulsers utbredning i vissa delar av patientens hjärna. Detta kan öppna nya möjligheter att överblicka, diagnostisera, förutse och behandla sjukdomar såsom epilepsi.

Borde vi undvika termen digital tvilling när vi talar om hjärnan? Ja, det vore antagligen klokare att tala om digitala syskon eller om digitala kusiner, argumenterar Kathinka Evers och Arleen Salles. Även om experterna på området förstår begreppets tekniska användning, är uttrycket ”digital tvilling” språkligt riskabelt när vi talar om den mänskliga hjärnan. Det leder lätt tanken vilse. Vi tänker oss att den digitala tvillingen måste vara en exakt kopia av en människas hela hjärna. Detta riskerar att skapa orealistiska förväntningar och grundlös rädsla omkring teknikutvecklingen. Historien visar dessutom att språket rymmer fler faror. Ord kommer med normativa förväntningar som kan få etiska och sociala konsekvenser som kanske inte avsågs. Att tala om en digital tvilling till en gruvborr är nog ingen större språklig fara. Men handlar det om individuella människors hjärnor, kan talet om digitala tvillingar bli en ny språklig arena där vi befäster fördomar och sprider rädslor.

Efter att ha läst några populärvetenskapliga förklaringar av digital tvillingar vill jag tillägga att försiktighet kan behövas även i anknytning till industriella tillämpningar. För den digitala tvillingen till gruvborren är ju ingen ”exakt virtuell kopia av den verkliga borren” i någon absolut mening, ända ner till rörelserna hos enskilda atomer. Den digitala tvillingen är en kopia i den praktiska mening som tillämpningen gör relevant. Ibland räcker det att kopiera var människor sätter ner sina fötter, som i Harry Potters värld, vars magi oväntat hjälper oss att förstå begreppet digital tvilling mer realistiskt än många verbala ordförklaringar kan göra. Att förklara ord med hjälp av andra ord är inte alltid klargörande, om alla orden styr tanken i samma riktning. Orden ”kopia” och ”replik” leder vårt tänkande precis lika rätt och precis lika fel som ordet ”tvilling” gör.

Vill du bättre förstå utmaningarna kring digitala tvillingar till mänskliga hjärnor och vikten av begreppslig klarhet kring utvecklingen, läs den filosofiskt upplysande artikeln: Epistemic Challenges of Digital Twins & Virtual Brains: Perspectives from Fundamental Neuroethics.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Evers, Kathinka & Salles, Arleen. (2021). Epistemic Challenges of Digital Twins & Virtual Brains: Perspectives from Fundamental Neuroethics. SCIO: Revista de Filosofía. 27-53. 10.46583/scio_2021.21.846

Detta inlägg på engelska

Vi söker klarhet

Inspirerad

Vad betyder det att inspireras av någon? Tänk på dessa inspirerade musikalbum där artister kärleksfullt hyllar en stor musiker genom att göra egna låttolkningar. Dessa tolkningar uttrycker ofta djup tacksamhet för inspirationen man fått från musikern. Liknande tacksamhet kan vi känna till inspirerande människor på många olika områden.

Varför inspireras vi av inspirerande människor? Här är en frestande bild. Den som inspirerar oss har något som vi saknar. Att vara inspirerad är att vilja ha vad den inspirerande har: ”Jag vill också kunna…”; ”Jag vill bli lika bra som…” och så vidare. Därför imiterar vi den som inspirerar oss, därför hårdtränar vi. Genom att imitera, genom att öva, kan den inspirerandes förmågor överföras till oss som saknar dem.

Detta kunde kallas en pneumatisk bild av inspiration. Den inspirerande är så att säga en luftbehållare med övertryck. Vi andra är behållare med undertryck. Tryckskillnaden orsakar inspirationen. Genom att imitera den inspirerande människan, utjämnas tryckskillnaden. Trycket vandrar över från den inspirerande till de inspirerade. Vi inandas luften som flödar från behållaren med övertryck.

Bilden är säkert delvis riktig, men hela sanningen om inspiration är den knappast. Jag är inte musiker. Det finns en stor tryckskillnad mellan mig och vilken musiker som helst. Varför orsakar inte denna tryckskillnad inspiration? Varför börjar jag inte imitera musiker, hårdträna så att något av musikernas övertryck överförs till mig?

Den pneumatiska bilden är inte hela sanningen, andra bilder av inspiration är möjliga. Här är en. Kanske väcks inspiration inte av olikhet, inte av att vi saknar vad den inspirerande har. Kanske väcks inspiration av likhet, av att vi anar ett djupt släktskap med den som inspirerar oss. När vi inspireras kan vi känna igen oss i den som inspirerar oss. Vi upptäcker något som vi inte visste om oss själva. Frön som vi inte trodde fanns inom oss börjar gro, när den inspirerande människan gör oss uppmärksam på att vi har samma känsla, samma passion, samma kreativitet… I det ögonblicket väcks inspirationen hos oss.

I denna alternativa bild av inspiration sker ingen överföring av förmågor från den inspirerande till de inspirerade. Förmågorna växer snarare spontant hos de inspirerade själva, när de anar sin likhet med den inspirerande. Hos den inspirerande har detta växande redan fullbordats. Kreativiteten har hunnit ta form, så att vi andra kan spegla oss i den och ana hur den gror i oss själva. Denna alternativa bild av inspiration ger även en alternativ bild av människans historia på olika områden. Vi är bekanta med historiska framställningar av hur föregångare inspirerat efterföljare, som om föregångarnas förmågor överfördes horisontellt i tiden. I den alternativa bilden är historien inte bara horisontell. Den har framförallt en vertikal djupdimension hos var och en av oss. Ett växande sker vertikalt i varje ny generation, ungefär som frön gror i jorden och växer mot himlen. Historien är, i denna alternativa bild, en serie av vertikalt växande, där det är svårt att skilja kreativiteten på djupet från imitationen på ytan.

Varför skriver jag ett inlägg om inspiration? Förutom att det är inspirerande att fundera över något så livsviktigt som inspiration, så vill jag visa hur obemärkt vi gör oss bilder av fakta. Vi ser inte att det faktiskt bara är bilder, som kunde ersättas av helt andra bilder. Detta har jag lärt mig av filosofen Ludwig Wittgenstein, som inspirerat mig att själv undersöka filosofiska frågor. Dessa frågor bygger överraskande ofta på hur vi fastnar i våra bilder av saker och ting. Låsningen vid bilderna hindrar oss från att se andra möjligheter och uppenbara fakta.

Dessutom vill jag visa att det verkligen gör skillnad om vi sitter fast i våra bilder eller öppnar oss för möjligheten av helt andra bilder. Det var länge sedan jag skrev om apspråksforskning på denna blogg, men försöket att lära apor mänskligt språk är ett exempel på vilken enorm skillnad det kan göra, om vi befriar oss från en bild som hindrar oss från att se möjligheten av andra bilder.

Försöken att lära apor mänskligt språk utgick från den första bilden, som framhäver skillnaden mellan den som inspirerar och den som inspireras. Man tänkte att eftersom apor saknar språkförmågan som vi människor har, så finns bara en möjlighet att lära apor mänskligt språk. Vi måste överföra språkförmågan horisontellt till aporna, genom att träna dem. Denna ”enda” möjlighet misslyckades så tydligt och väldokumenterat, att bara ett fåtal forskare därefter var öppna för resultaten från ett markant framgångsrikare, minst lika väldokumenterat försök, som utgick från den alternativa bilden av inspiration.

I det alternativa försöket såg forskarna en möjlighet som den första bilden gjorde det svårt att se. Om apor och människor dagligen lever tillsammans i en sammansvetsad grupp, så att de får möjlighet att känna igen sig i varandra, ana släktskap, så skulle språkfrön som vi inte visste fanns hos apor kunna inspireras att gro och växa spontant hos aporna själva. Vertikalt inom aporna, snarare än genom horisontell överföring, som när människor tränar djur. Faktum är att detta alternativa försök lyckades så väl, att det resulterade i en serie av spontant växande av språk hos apor. Allteftersom tiden gick, inspirerades nyfödda apor inte bara av människorna i gruppen, utan även av de äldre apor vars språkliga kreativitet hunnit ta form.

Vill du läsa mer om denna oväntade möjlighet av inspiration mellan arter, som antyder oanat släktskap, som när människor inspireras av varandra, hittar du en bokreferens nedan. Boken skrev jag för länge sedan med William M. Fields och Sue Savage-Rumbaugh. Båda har inspirerat mig – vilket jag är tacksam för – bland annat till detta blogginlägg, med sin alternativa bild av inspiration. Att jag återigen påminner om boken beror på att jag hoppas att tiden är mogen för filosofer, psykologer, antropologer, pedagoger, språkvetare, hjärnforskare och många andra, att inspireras av den oväntade möjligheten av människoinspirerad språklig kreativitet hos våra släktingar bland djuren.

För att avslutningsvis knyta ihop trådarna musik och språk hos apor, kan jag berätta att två stora musiker, Paul McCartney och Peter Gabriel, har besökt de språkinspirerade aporna. Bägge två spelade musik med aporna och Peter Gabriel och Panbanisha skapade även en låt tillsammans. Kan vi leva utan inspiration?

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Segerdahl, P., Fields, W. & Savage-Rumbaugh, S. 2005. Kanzi’s Primal Language. The Cultural Initiation of Primates into Language. Palgrave Macmillan

Segerdahl, P. 2009. Djuren i kulturen: Hur naturligt kan våra husdjur leva? Göteborg: Daidalos.

Wittgenstein, L. 2020. Filosofiska undersökningar, översättning av Martin Gustafsson och Lars Hertzberg. Stockholm: Thales

Detta inlägg på engelska

Vi pratar med apor

Hjärninspirerad AI: mänsklig självbespegling?

Trots att användningarna av artificiell intelligens (AI) idag närmast exploderar på flera områden, så är tekniken i vissa avseenden mer begränsad än man kan tro. Det är inte konstigt. All teknik tenderar att vara både användbar och begränsad. Men när det gäller just AI finns en tendens att se varje begränsning som en defekt. Varför?

En jämförelse smyger sig vanligen in vår bild av AI: jämförelsen med människan. Rättare sagt så är detta en jämförelse inte med oss själva, utan med vår självbild som intelligenta varelser med en generaliserad problemlösningsförmåga, som vi antar har gjort oss mer anpassningsbara och framgångsrika än andra arter på planeten. Denna självbild jämförs med en bild av AI som teknisk renodling av denna mänskliga intelligens. Därför blir vi missnöjda med tekniken när den inte löser problem lika generaliserat och självständigt som vi föreställer oss att vi människor gör. Samtidigt kan vi bli missnöjda med oss själva, och kanske lite rädda, när vi upplever att AI löser vissa problem bättre än vi.

Idag talar man om hjärninspirerad AI som ett sätt att lösa de tekniska begränsningarna hos AI. Man söker alltså teknisk inspiration i forskningen om hur den mänskliga hjärnan fungerar. I ett inlägg på The Ethics Blog idag ställer Michele Farisco filosofiska frågor om denna användning av människohjärnan som förebild för AI-tekniken. Vad talar för att detta är den bästa vägen att utveckla tekniken? Många AI-system avviker redan från hur hjärnan arbetar. Kanske har tekniken större potential om vi låter den avvika från hur den biologiska hjärnan fungerar?

Michele Farisco ställer även frågor om vår tendens att spegla oss själva i idealiserade bilder av mänsklig och artificiell intelligens. En risk med detta självbespeglande är att det tudelar allt vi möter i antingen mänskligt eller omänskligt, intelligent eller ointelligent, perfekt eller defekt. Sådana tendenser i vår historia har inte varit harmlösa.

Läs Michele Fariscos blogginlägg som ställer frågor om AI och mänsklig självbespegling: Brain-inspired AI: human narcissism again?

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Vad är hållbarhet i framtiden?

Medförfattarskap när inte allas forskning inkluderas i artikeln

Frågor om författarskap tillhör de känsligaste yrkesangelägenheterna för forskare. Förutom att forskare lever och gör karriär på sina publikationer, så är det viktigt av vetenskapliga och forskningsetiska skäl att veta vilka som är ansvariga för innehållet i publikationerna.

Något som kan skapa oklarhet om vem som bör räknas som medförfattare till en vetenskaplig publikation, är att sådana publikationer vanligen redovisar forskningsarbete som väsentligen redan genomförts när man skriver artikeln. Många forskare kan ha bidragit till forskningsarbetet, men bara några av dem bidrar kanske till skrivandet av artikeln. Borde alla ändå räknas som författare? Eller bara de som bidrar till artikelskrivandet?

En internationell kommitté av redaktörer för medicinska tidskrifter har formulerat en rekommendation, som skapar större klarhet. Förenklat är rekommendationen den följande. Författarskap kan ges till forskare som tydligt uppfyller fyra kriterier. Man ska: (1) ha gjort betydande bidrag till forskningsstudien (t.ex. planering, eller insamling, analys och tolkning av data); (2) ha bidragit till artikelutkast (skrivit och reviderat intellektuellt innehåll); (3) ha godkänt slutversionen av artikeln; (4) ha accepterat ansvar för alla aspekter av arbetet genom att se till att frågor om noggrannhet och integritet utreds.

Vidare rekommenderas att forskare som uppfyller kriterium (1) bör inbjudas att delta i skrivprocessen, så att de kan uppfylla även kriterierna (2)(4) och därmed räknas som medförfattare.

Forskning går emellertid inte alltid enligt planerna. Ibland behöver planerna justeras under arbetets gång. Det kan innebära att någon av forskarna redan hunnit göra en betydande forskningsinsats, när forskargruppen beslutar att inte inkludera de resultaten i artikeln. Hur ska medförfattarskap hanteras i en sådan situation, när någons resultat faller bort ur publikationen?

Frågan diskuteras av Gert Helgesson, Zubin Master och William Bülow i tidskriften Science and Engineering Ethics. Bland annat med tanke på hur lätt oenighet om författarskap kan störa dynamiken i en forskargrupp är det viktigt att det finns en etablerad ordning kring författarskap, som hanterar situationer som denna.

Diskussionen i artikeln utgår från ett tänkt, konkret fall: I en forskargrupp ingår tre yngre forskare, Ann, Bo och Choi. De har alla fått individuellt ansvar för olika delar av planering och utförande av det empiriska arbetet. De arbetar många timmar i laboratoriet. När forskargruppen ser resultaten enas man om innehållet i artikeln som ska skrivas. Det visar sig då att Anns och Bos analyser är centrala för idén i artikeln, medan Chois analyser faller vid sidan av. Chois resultat inkluderas därför inte i artikeln. Bör Choi inkluderas som medförfattare?

Vi kan lätt tänka oss Choi bidra till artikelskrivandet, men hur är det med kriterium (1)? Om Chois resultat inte beskrivs i artikeln, har hon då gjort betydande bidrag till den publicerade forskningsstudien? Helgesson, Master och Bülow påpekar här att kriteriet är tvetydigt. Att göra betydande bidrag till en forskningsstudie kan naturligtvis betyda att man bidrar till resultaten som beskrivs i artikeln. Men det kan också betyda att man bidrar till forskningsprocessen som leder fram till artikeln. Den förra tolkningen utesluter Choi som medförfattare. Den senare tolkningen gör medförfattarskap möjligt för Choi.

Den mer inkluderande tolkningen är inte orimlig, eftersom forskning är en delvis osäker och prövande process. Men talar några starka skäl för den tolkningen? Ja, menar Helgesson, Master och Bülow, som anger två typer av skäl. För det första handlar det om öppenhet och ansvarighet kring forskningsprocessen: vad hände och vilka var involverade? Att utesluta Choi vore vilseledande. För det andra handlar det om vederbörligt erkännande av förtjänst och om rättvisa. Choi arbetade lika hårt i laboratoriet som Ann och Bo och bidrog lika mycket till forskningen som ledde fram till artikeln. Visst, artikelns syfte ändrades under resans gång och Chois bidrag blev irrelevant för innehållet i artikeln. Men hennes insats var fortfarande relevant för forskningsprocessen som ledde fram till artikeln. Hon gjorde dessutom ett bra arbete som forskare i gruppen: det förefaller orättvist om hennes goda arbete av en tillfällighet inte ska erkännas på samma sätt som de andra forskarnas.

Förslaget i artikeln är därför att första kriteriet för författarskap bör tolkas som betydande bidrag till forskningsprocessen som leder fram till artikeln, och att detta bör förtydligas i rekommendationen.

Artikeln diskuterar även möjliga motargument mot den mer inkluderande tolkningen av författarskapsrekommendationen. Vill du fördjupa dig i resonemangen och bilda dig en egen uppfattning, läs artikeln: How to Handle Co-authorship When Not Everyone’s Research Contributions Make It into the Paper.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Helgesson, G., Master, Z. & Bülow, W. How to Handle Co-authorship When Not Everyone’s Research Contributions Make It into the Paper. Sci Eng Ethics 27, 27 (2021). https://doi.org/10.1007/s11948-021-00303-y

Detta inlägg på engelska

Kommer med lästips

Begreppsanalys när vi fastnar i tankar

När filosofer får frågan om vilken metod vi använder när vi filosoferar, så svarar vi gärna: vår viktigaste metod är begreppsanalys. Vi tillämpar begreppsanalys för att besvara filosofiska frågor som ”Vad är kunskap?”, ”Vad är rättvisa?”, ”Vad är sanning?” Vad vi då gör, är att vi föreslår allmänna definitioner av begreppen, som vi sedan stämmer av mot konkreta exempel, för att testa att definitionerna verkligen fångar alla enskilda fall av begreppen och bara dessa.

Problemet är att både den som frågar efter filosofins metod och den som svarar ”begreppsanalys” tycks anta att filosofin inte utmanas av djupt störande problem, utan definierar begrepp nästan på rutin. De allmänna frågorna ovan är ju knappt ens frågor, annat än rent grammatiskt. Vem ligger vaken och undrar ”Vad är kunskap, vad är rättvisa, vad är sanning, vad är godhet, vad är…?”

För att få sömnbrist av frågorna, för att frågorna ska bli levande filosofiska problem, för att vi ska störas, måste det till något mer än bara allmänt formulerade frågeställningar.

Dessutom, om det fanns en metod för att besvara filosofiska frågor, så borde frågorna redan vara besvarade. Jag menar, om det ända sedan Sokrates dagar funnits en metod som besvarar filosofiska ”Vad är?”-frågor genom att definiera begrepp, så kan det inte finnas så många frågor kvar att besvara. På sin höjd kan vi finputsa definitionerna, eller tillämpa metoden på begrepp som inte fanns för 2600 år sedan. I grund och botten borde filosofin inte ha särskilt många frågor kvar att utmanas av. Sedan antiken har vi ju en väl utprovad metod!

För att förstå varför filosofer fortsätter att undra, behöver vi förstå varför frågor som ytligt låter så sövande att vi somnar, ibland blir så djupt förbryllande att vi ligger vakna och tänker. Låt mig ge ett exempel som ger en glimt av filosofins djup, en glimt av det där otämjbara ”extra”, som håller filosofer vakna om nätterna.

Exemplet är en ”svensk” sjukdom, som uppmärksammats runtom i världen som någonting mycket märkvärdigt. Jag tänker på vad som först benämndes apati hos flyktingbarn, men som sedan fått benämningen uppgivenhetssyndrom. Sjukdomen drabbar vissa grupper av barn och ungdomar som söker asyl i Sverige. Barn från forna Jugoslavien och från centralasiatiska länder i forna Sovjet har varit överrepresenterade. Barnen förlorar kroppsliga och mentala funktioner och kan till slut varken röra sig eller kommunicera. De blir sängliggande, reagerar inte på smärta och måste tillföras näring genom sond. Mer än 1000 barn har drabbats av sjukdomen i Sverige sedan 1990-talet.

Konfronterade med denna sjukdom hos flyktingbarn, kan det kännas naturligt att tänka att tillståndet rimligen orsakas av traumatiska upplevelser i hemlandet och under flykten, samt av stressen att leva under utvisningshot. Det är inte orimligt att tänka så. Antagligen bidrar trauma och stress till sjukdomen. Det finns bara ett problem. Om detta vore orsaken, så borde uppgivenhetssyndrom förekomma hos flyktingbarn även i andra delar av världen. Flyktingbarn med traumatiska erfarenheter och stressande utvisningshot finns tyvärr inte bara i Sverige. Så varför drabbas (vissa grupper av) flyktingbarn av syndromet just i Sverige?

Vad är uppgivenhetssyndrom? Här har vi en fråga som på ytan inte låter mer utmanande än någon annan allmänt formulerad ”Vad är?”-fråga. Men frågan är idag ett utmanande filosofiskt problem, åtminstone för Karl Sallin, som skriver sin avhandling om syndromet här vid CRB, inom ramen för Human Brain Project. Vad är det där ”extra”, som gör frågan filosofiskt utmanande för Karl Sallin?

Det kan förefalla naturligt att tänka att det utmanande i frågan helt enkelt är att vi ännu inte vet svaret. Vi har inte alla fakta på bordet. Det är inte orimligt att tänka så. Kunskapsbrist bidrar naturligtvis till frågan. Det finns återigen bara ett problem. Vi anser oss redan veta svaret! Vi tänker att denna extrema form av uppgivenhet hos flyktingbarn naturligtvis måste orsakas av traumatiska erfarenheter och av stressen som utvisningshotet innebär. Till slut orkar de inte längre, utan stänger av! Om detta rimliga svar vore korrekt, så borde uppgivenhetssyndrom finnas inte bara i Sverige. Den filosofiska frågan uppkommer alltså för att det enda rimliga svaret kolliderar med uppenbara fakta.

Det är därför som frågan är filosofiskt utmanande. Inte för att vi inte vet svaret. Utan för att vi anser oss veta vad svaret måste vara! Svaret förefaller så rimligt, att vi knappt borde behöva forska mer om saken innan vi skrider till handling genom att lindra barnens stressande situation, som vi tänker är den enda tänkbara orsaken till syndromet. Och så blev det…

Riktlinjerna för personal i svensk hälso- och sjukvård betonar sedan några år familjens roll för tillfrisknande, liksom vikten av att arbeta för beviljat uppehållstillstånd. Riktlinjerna styrs av den till synes rimliga tanken att barnens tillfrisknande hänger på att man lindrar stressen som orsaker syndromet. Det finns återigen bara ett problem. Riktlinjerna fick aldrig någon positiv effekt på syndromet, trots att man försökte skapa lugn och stabilitet i familjen och arbetade för uppehållstillstånd. Syndromet fortsatte att vara en ”svensk” sjukdom. Varför är sjukdomstillståndet så envist kopplat till Sverige?

Ser du den filosofiska problematiken? Det handlar inte bara om brist på kunskap. Det handlar om att vi redan anser oss ha kunskap. Tanken att det måste handla om stress är så självklar för oss, att vi knappt märker att vi tänker den. Den förefaller omedelbart verklig. Vi har kort sagt kört fast i våra egna tankar, som vi upprepar gång på gång, trots att vi gång på gång krockar med fakta. Som en mygga som försöker ta sig ut genom en glasruta, men bara krockar, krockar, krockar.

När Karl Sallin behandlar frågan om uppgivenhetssyndrom som en filosofisk fråga, gör han därför något ytterst ovanligt, som det inte finns några rutinmässiga metoder för. Han riktar uppmärksamheten inte bara utåt mot sjukdomen, utan även inåt mot oss själva. Enbart mer empirisk forskning löser inte problemet. Lika lite som fortsatt krockande mot glasrutan löser myggans problem. Vi behöver stanna upp och granska oss själva.

Nu har detta inlägg blivit så långt, att jag måste sluta innan jag hinner beskriva Karl Sallins upplösning av gåtan. Kanske är det lika bra att vi inte rusar fram. Gåtor behöver tid, vilket vår otåliga tankeapparat sällan ger dem. Poängen om filosofins metod har förhoppningsvis ändå gått fram. Anledningen att filosofer analyserar begrepp, är att vi människor ibland fastnar i våra egna begrepp om verkligheten. I detta fall fastnar vi i vårt begrepp om uppgivenhetssyndrom som en stressjukdom. Kanske kan jag ändå säga så mycket, att Karl Sallins begreppsanalys av vårt tankemönster om syndromet upplöser känslan av att stå inför ett obegripligt mysterium. Syndromet står inte längre i konflikt med uppenbara fakta. Han visar dessutom att våra tankemönster kan ha bidragit till att sjukdomen blev så framträdande i Sverige. Vår uttalade tro att sjukdomen måste orsakas av stress, och våra försök att bota sjukdomen genom att lindra stressen, skapade en kulturell kontext där denna ”svenska” sjukdom blev möjlig. Kulturen påverkade psyket och hjärnan, som påverkade biologin i kroppen. I alla fall är det vad Karl Sallin föreslår: uppgivenhetssyndrom är en ”kultursjukdom”. Denna oväntade möjlighet befriar oss från tanken som vi fastnat i som det enda alternativet.

Så varför ställde Sokrates granskande frågor i Aten för 2600 år sedan? För att han upptäckte en metod som besvarar filosofiska frågor? Min gissning är att han gjorde det av samma skäl som Karl Sallin gör det idag. För att vi människor har en tendens att inbilla oss att vi redan vet svaren. När vi klart ser att vi inte vet vad vi trodde oss veta, befrias vi från att gång på gång kollidera med den verklighet som borde vara uppenbar.

I filosofin är det ofta svaret som är frågan.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Sallin, K., Evers, K., Jarbin, H., Joelsson, L., Petrovic, P. (2021) Separation and not Residency Permit Restores Function in Resignation Syndrome: A Retrospective Cohort Study. Eur Child Adolesc Psychiatry, 10.1007/s00787-021-01833-3

Sallin, K., Lagercrantz, H., Evers, K., Engström, I., Hjern, A., Petrovic, P. (2016) Resignation Syndrome: Catatonia? Culture-Bound? Frontiers in Behavioral Neuroscience, 10:7. 10.3389/fnbeh.2016.00007

Detta inlägg på engelska

Vi hittar nya angreppssätt

Vårt individuella ansvar för antibiotikaresistens

Antibiotikaresistens är ett globalt hot mot folkhälsan, eftersom möjligheterna att behandla infektioner minskar när antibiotika förlorar sin effekt på bakterietillväxt. Men vem har ansvaret för antibiotikaresistensen och hur ser ansvaret ut?

Vi tänker kanske att problemet är alltför stort och komplext för oss som individer. Antibiotikaresistens är ett problem för regeringar och internationella organisationer, tänker vi. Ändå är det inte minst vår individuella antibiotikaanvändning som driver utvecklingen. Vi tar kanske antibiotika när det egentligen inte är nödvändigt. Vi följer kanske inte anvisningarna, utan avbryter antibiotikakuren i förtid och kastar överblivna piller i soptunnan. Sedan ger vi oss ut på resa och sprider bakterier som är resistenta mot antibiotikan som vi slarvade med. Eller så struntar vi i att vaccinera oss, för vi tänker att det finns ju antibiotika om vi blir sjuka. Snart gör det kanske inte det!

Om vi som individer har ett moraliskt ansvar att agera miljö-medvetet, är det inte orimligt att tänka sig att vi även har ett individuellt ansvar att agera antibiotika-medvetet. Mirko Ancillotti (som nyligen disputerade vid CRB) undersöker denna möjlighet i en artikel i Bioethics. Har vi ett individuellt moraliskt ansvar för antibiotikaresistensen och hur ska ansvaret förstås?

Mirko Ancillotti framhåller omedelbart att inte alla människor har samma förutsättningar att förändra sitt antibiotikabeteende. Förutom att många saknar information om att här finns ett stort hälsoproblem, har inte alla lika lätt att förändra sin antibiotikaanvändning. Somliga har sämre tillgång än andra till medicinskt korrekt utskrivna behandlingar, exempelvis om de bor långt från ett sjukhus men lätt kan köpa antibiotika över disk. Dessutom har inte alla samma ekonomiska förutsättningar att stanna hemma om de är sjuka.

Ytterligare något som gör det svårt att tala om individuellt ansvar för antibiotikaresistens, är att man knappast fastställa hur mycket pillren du slängde bland soporna faktiskt bidrog till problemet. Vi vet att människor dör av antibiotikaresistenta bakterier, men det är svårt fastställa konsekvenserna av just ditt individuella antibiotikabeteende.

Av dessa skäl prövar Mirko Ancillotti ett dygdetiskt begrepp om ansvar. Han föreslår att vi som individer odlar personliga karaktärsdrag och vanor, som stödjer ansvarsfull antibiotikaanvändning som en dygd. Såvitt jag förstår honom, förutsätter detta att vi odlar vissa normer kring antibiotika, som vi försöker uppfylla. Exempelvis normer om att följa anvisningarna för antibiotikakuren, inte använda antibiotika om det inte är nödvändigt, inte tjata på läkaren att skriva ut antibiotika, samt se till att vi är vaccinerade. Men eftersom förutsättningarna att agera med denna normativa känslighet varierar, behövs ofta även bättre förutsättningar och institutionellt stöd för ansvarsfull antibiotikaanvändning.

En jämförelse: Vi har lärt oss att vi helst inte bör ta flyget, att det är oansvarigt och kanske rentav skamligt att flyga om det inte är nödvändigt. För att i praktiken kunna ta ansvar enligt denna nya norm för resor, behövs nya samhälleliga förutsättningar i form av bättre internationella tågförbindelser med enklare biljettsystem. På samma sätt kan nya normativa känsligheter kring antibiotika utvecklas, samtidigt som förutsättningarna att uppfylla normerna förbättras, föreslår Mirko Ancillotti.

Vill du läsa mer om Mirko Ancillottis dygdetiska begrepp om vårt individuella ansvar för antibiotikaresistens, läs artikeln i Bioethics: Individual moral responsibility for antibiotic resistance.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Ancillotti, M., Nihlén Fahlquist, J., & Eriksson, S. (2021). Individual moral responsibility for antibiotic resistance. Bioethics, 1– 7. https://doi.org/10.1111/bioe.12958

Detta inlägg på engelska

Vi diskuterar aktuella frågor

Filosofisk forskningskommunikation

Hur kommunicerar man om forskning med människor som inte är forskare? De vetenskapliga resultaten förutsätter ju vanligen ett komplicerat intellektuellt ramverk, som forskarna tillägnat sig genom lång utbildning och erfarenhet. Hur kan vi tala om deras forskning med människor som inte är forskare?

På CRB tar vi forskningskommunikation på allvar, så denna fråga följer oss dagligen. Ett vanligt sätt att lösa problemet är att ersätta forskarnas komplicerade intellektuella ramverk med enkla bilder, som människor i allmänhet är mer bekanta med. Ett exempel kunde vara att jämföra en kroppscell med en liten fabrik. Vi jämför alltså det obekanta med det bekanta, så att läsaren får en viss förståelse: ”Jaha, cellen fungerar alltså som en sorts fabrik”.

Att ge forskningsresultat ett begripligare sammanhang genom bilder, som ersätter forskarnas intellektuella ramverk, fungerar ofta bra. Vi använder ibland den metoden själva här på CRB. Men vi använder även ett annat sätt att rama in forskningen, så att den berör människor. Vi använder filosofiska reflektioner. Vi ställer frågor som man inte behöver vara expert för att undra över. Frågorna leder till tankegångar som man inte behöver vara specialist för att följa. Slutligen inlemmas forskningsresultaten i resonemangen. Vi påpekar då att en ny artikel kastar ljus över frågorna som vi tillsammans funderat kring. På så vis får forskningen ett begripligt sammanhang, nämligen i form av funderingar som vem som helst kan ha.

Vi kunde kalla detta filosofisk forskningskommunikation. Det finns en väsentlig skillnad mellan dessa två sätt att göra forskning begriplig. När enkla bilder används, syftar de enbart till att få människor att (anse sig) förstå vad de inte är insatta i. Bilderna är utbytbara. Hittar man en bättre bild, så använder man genast den i stället. Bilderna är inte väsentliga i sig själva. Att vi jämför kroppscellen med en fabrik, uttrycker inte något djupt intresse för fabriker. Men de filosofiska frågor och reflektioner som vi på CRB inramar forskningen i, är väsentliga i sig själva. De är uppriktiga frågor och funderingar. De kan inte ersättas med andra frågor och resonemang, bara för att effektivt förmedla forskningsresultat. I filosofisk forskningskommunikation ger vi forskningen ett väsentligt sammanhang, som inte bara är ett utbytbart pedagogiskt hjälpmedel. Inramningen är lika viktig som det som inramas.

Filosofisk forskningskommunikation är extra viktig för oss på CRB, eftersom vi är ett centrum för etikforskning. Forskningen drivs av filosofiska frågor och funderingar, exempelvis inom Human Brain Project, som undersöker så tänkvärda företeelser som medvetande och artificiell intelligens. Även när vi utför empiriska studier, så är poängen med de studierna att belysa etiska problem och resonemang. I forskningskommunikationen tar vi fasta på detta samspel mellan det filosofiskt tänkvärda och det empiriskt resultatmässiga.

En annan skillnad mellan dessa sätt att kommunicera forskning, har att göra med jämlikhet. Eftersom de enkla bilderna som ska förklara forskning inte är väsentliga i sig själva, så blir sådan forskningskommunikation trots allt en smula ojämlik. Jämförelsen, som tycktes göra oss jämlika, är inte vad kommunikationen egentligen handlar om. Läsarens bekantskap med fabriker hjälper inte läsaren att ha egna synpunkter kring forskning. Filosofisk forskningskommunikation är annorlunda. Genom att de inramande filosofiska frågorna och funderingarna är väsentliga och menade på allvar, så möts vi på samma jämlika nivå. Alla kan tillsammans undra över samma ärligt ställda frågor. När forskning kommuniceras filosofiskt, är såväl kommunikatörer som forskare och icke-forskare jämbördiga.

Filosofisk forskningskommunikation kan därigenom fördjupa innebörden av forskningen, ibland även för forskarna själva!

Eftersom filosofisk forskningskommunikation förenar oss kring gemensamma frågor och funderingar, är den viktig i ett alltmer fragmenterat och specialiserat samhälle. Den hjälper oss att tänka tillsammans, vilket är lättare än man kan tro, om vi vågar öppna oss för våra egna frågor. Här förutsätter jag naturligtvis att kommunikationen är uppriktig, att den kommer från självständigt tänkande människor, att den inte bygger på några intellektuellt konstruerade tankemönster, som man måste vara filosofiexpert för att förstå.

I så fall skulle filosofiska forskningskommunikatörer behöva väcka även själva filosofin till liv, genom att uppriktigt ställa de mest levande frågorna.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi hittar nya angreppssätt

Avbilda hjärnan utan att avslöja personen

Tre samtida tendenser skapar stora utmaningar för forskare. För det första förväntas vetenskapen bli alltmer öppen, bland annat genom att göra insamlade data tillgängliga för nya användare och nya syften. Samtidigt skärps dataskyddslagstiftningar för att skydda människors integritet. Slutligen hittar artificiell intelligens nya sätt att avslöja individerna bakom data, där detta tidigare var omöjligt.

Hjärnavbildning är ett exempel på hur öppnare vetenskap, starkare dataskyddslagstiftning och kraftfullare AI utmanar forskarsamhället. Du tänker kanske inte på att man kan identifiera personen vars hjärna avbildats med magnetkamera? Men där avbildas faktiskt även skallens och ansiktets form, inklusive eventuella ärr. Man skulle alltså kunna känna igen personen. För att kunna dela hjärnavbildningsdata utan att avslöja personen, har man hittills trott att det räckt med att på olika sätt ta bort skall- och ansiktsformen i bilderna, eller göra konturen suddig. Problemet är den tredje tendensen: kraftfullare AI.

AI kan lära sig att identifiera personer, där mänskliga ögon misslyckas. Hjärnavbildningar där huvudets och ansiktets former gjorts oigenkännliga visar sig nämligen ofta innehålla tillräckligt mycket information för att självlärande ansiktsigenkänningsprogram ska kunna identifiera personerna. AI lyckas åter-identifiera vad som avidentifierats. Dessutom är även själva hjärnans anatomi individuell. Liksom våra fingrar har unika fingeravtryck, har våra hjärnor unika ”hjärnavtryck”. Detta gör det möjligt att koppla hjärnavbildningsdata till person, nämligen om man har tidigare identifierade hjärnavbildningsdata från personen. Exempelvis via någon annan databas, eller om personen spridit sina hjärnavbildningar via sociala media så att ”hjärnavtryck” och person kopplats ihop.

Att göra personerna helt oidentifierbara skulle förändra bilderna så kraftigt, att de skulle förlora sitt värde för forskningen. De tre samtida tendenserna – öppnare vetenskap, skarpare dataskyddslagstiftning och kraftfullare AI – tycks således vara på kollisionskurs. Är det överhuvudtaget möjligt att dela vetenskapligt användbara hjärnavbildningsdata på ett ansvarsfullt sätt, när AI verkar kunna avslöja personerna vars hjärnor avbildats?

Nå, allt oönskat som kan ske, måste inte ske. Vore världen lika lömskt konstruerad som i en konspirationsteori, skulle inga säkerhetsåtgärder i världen kunna rädda oss från undergång. Tvärtom skulle sådana totala säkerhetskrav garanterat hota säkerheten, vilket jag nyligen bloggade om.

Så hur ska forskarna göra i praktiken, när de bygger internationella forskningsinfrastrukturer för att dela hjärnavbildningsdata (enligt första tendensen ovan)? Ett konstruktivt förslag presenteras i en artikel i Neuroimage: Reports. Författarna framhåller bland annat ökad och kontinuerligt uppdaterad medvetenhet bland forskare om realistiska dataskyddsrisker. Forskare som arbetar med hjärnavbildning behöver utbildas att tänka i termer av dataskydd och se detta som en naturlig del av forskningen.

Framförallt föreslår författarna flera konkreta åtgärder för att tekniskt och organisatoriskt bygga forskningsinfrastrukturer där dataskyddet finns med från början, som inbyggd standard. Eftersom fullständigt anonymiserade hjärnavbildningsdata är en omöjlighet (sådana data skulle förlora sitt vetenskapliga värde), framhålls i stället pseudonymisering samt kryptering av data. Vidare föreslås tekniska system för att kontrollera åtkomst av data (inte vem som helst ska ha tillgång), samt tydliga dataanvändningsavtal som begränsar vad användaren får göra med data. Utöver detta är givetvis informerat samtycke från personerna som deltar i hjärnavbildningsstudier en del av ordningen.

Sammantaget skulle denna från början inbyggda säkerhetsordning göra det möjligt att bygga forskningsinfrastrukturer som tillfredsställer hårdare dataskyddslagstiftningar, även i en värld där artificiell intelligens i princip kan se vad mänskliga ögon inte ser. De tre samtida tendenserna är kanske inte på kollissionskurs, trots allt. Om dataskydd byggs in från början, kan forskarna dela data utan att tvingas förstöra det vetenskapliga värdet av bilderna, och människor kan fortsätta att vilja delta i forskning.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Damian Eke, Ida E.J. Aasebø, Simisola Akintoye, William Knight, Alexandros Karakasidis, Ezequiel Mikulan, Paschal Ochang, George Ogoh, Robert Oostenveld, Andrea Pigorini, Bernd Carsten Stahl, Tonya White, Lyuba Zehl. “Pseudonymisation of neuroimages and data protection: Increasing access to data while retaining scientific utility,” Neuroimage: Reports, 2021,Volume 1, Issue 4

Detta inlägg på engelska

Vad är hållbarhet i framtiden?

« Äldre inlägg Nyare inlägg »