En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Etikett: neuroetik (Sida 1 av 8)

Varför försöka skapa medveten AI?

Trots att det är oklart vad det kan innebära att tala om ”medveten AI” så finns det en vilja att skapa ”det”. Vad kunde vi tänka oss att fördelarna med medveten AI vore? Varför försöka skapa subjektiv erfarenhet i AI-system? Vad kunde vi förvänta oss av en sådan strävan? Detta är frågor som Michele Farisco diskuterar på den engelska versionen av denna blogg.

Michele Farisco nämner flera möjliga svar på frågorna. Till exempel kunde strävan efter artificiellt medvetande bidra till bättre kunskap om biologiskt medvetande och till bättre teknisk prestanda hos AI-system. Han reflekterar även över möjliga etiska och samhälleliga effekter av medveten AI. Man kunde till exempel hoppas att medveten AI skulle hjälpa människan att förutse negativa konsekvenser av långsiktiga beslut och bidra till en mer hållbar och etisk utveckling. Men om mänskligt medvetande inte lyckats med detta, utan tvärtom ofta visar prov på själviskhet och närsynthet, varför skulle artificiellt medvetande lyckas bättre?

Dessa frågor är naturligtvis hypotetiska, men eftersom det faktiskt finns en vilja att skapa ”medveten AI” behöver de ställas. Läs Michele Fariscos engelska blogginlägg här: Why should we try to build conscious AI?

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Vi ställer frågor

Ödmjukhet inför frågan om artificiellt medvetande

Möjligheten av artificiellt medvetande har på senare tid blivit en fråga som alltfler tar på allvar. Utan att fundera alltför länge kring vad det kan betyda, frågar somliga redan ”När kan vi förvänta oss det?”, som om man spekulerade kring lanseringen av en ny, tekniskt avancerad produkt: medveten AI. Parallellt med denna förväntan om stora teknikframsteg poängteras även möjligheten av stora filosofiska framsteg. Om vi lyckas konstruera medvetna maskiner, som har upplevelser, känslor och självkännedom, då kan vi väl även sägas förstå vad det betyder att vara till, vad det innebär att existera?

Nja, om medvetandet är så fundamentalt att det omfattar allt som vi uppfattar, känner och tänker, om medvetandet är vår existens, så att säga, vilket tycks förutsättas i dessa stora anspråk, så är väl även dessa anspråk innefattade i medvetandet, utan att det erkänns? För hur kan man drömma om resor utanför medvetandet, för att långt där ute förklara tillvarons gåta, om medvetandet redan omfattar allt som vi uppfattar, känner, tänker eller drömmer om att kunna göra? Sådana ”långresor” kan man väl spekulera om bara om man glömmer var spekulerandet redan måste ske och vara hemma, enligt samma anspråk? Den anspråksfulle långresenären glömmer sig själv hemma, vill jag säga: glömmer existensen som skulle förklaras.

I ett inlägg på den engelska versionen av denna blogg skriver Michele Farisco om behovet av kunskapsmässig ödmjukhet inför frågan om artificiellt medvetande. Hans överväganden kunde beskrivas som vetenskapliga självbetraktelser, i det att han utgår från vad dagens vetenskap vet om biologiskt medvetande, liksom om hjärnan, som vetenskapen funnit är väsentlig för medvetande. Han utesluter inte att medvetande kan uppkomma på andra sätt, exempelvis i maskiner. Men för att klargöra frågorna om tänkbarheten och genomförbarheten av artificiellt medvetande, så behöver vi utgå från dagens vetenskapliga kunskap om hjärna och medvetande: som ett slags riktmärke eller referensmodell. Han påpekar flera egenskaper hos hjärnan som kan bedömas väsentliga för medvetande, men som dagens AI väsentligen saknar. Samtidigt som detta motiverar ödmjukhet, kan skillnaderna mellan hjärna och AI inspirera bättre forskning om artificiellt medvetande, menar Michele Farisco, som försiktigt vill hålla dörren öppen för andra former av medvetande än vårt eget.

Läs blogginlägget här: Artificial consciousness and the need for epistemic humility.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Kommer med lästips

En väg ut ur den babyloniska språkförbistringen i teoretiserandet av medvetandet?

Det finns idag ett brett spektrum av konkurrerande teorier, som var och en på sitt sätt försöker redogöra för medvetandet i neurobiologiska termer. Parallellt med den ”babyloniska språkförbistring” och oförmåga att samarbeta som detta innebär i teoretiserandet av medvetandet, har framsteg gjorts i det empiriska studiet av hjärnan. Avancerade metoder för att avbilda och mäta hjärnan och dess aktiviteter kartlägger strukturer och funktioner som möjligen kan vara relevanta för medvetandet. Problemet är att dessa empiriska data återigen inspirerar ett brett spektrum av teorier om medvetandets plats i hjärnan.

Det har påpekats ett splittrat intellektuellt tillstånd som detta, där konkurrerande skolbildningar förespråkar sina egna teorier utifrån sina egna utgångpunkter – utan gemensamt ramverk eller paradigm där förslagen kan jämföras och bedömas – är typiskt för ett förvetenskapligt stadium av en möjligen begynnande vetenskap. Med tanke på att de divergerande teorierna var och en gör anspråk på vetenskaplig status, är detta naturligtvis besvärande. Men kanske att teorierna trots allt inte är så divergerande som de förefaller?

Det har föreslagits att flera av teorierna, vid närmare analys, möjligen delar vissa fundamentala idéer om medvetandet, som skulle kunna ligga till grund för en framtida enhetlig teori. Jag vill idag rekommendera en artikel som självkritiskt granskar denna förhoppning om en väg ut ur språkförbistringen. Om strävan efter en enhetlig medvetandeteori inte ska förfalla till ett slags ”fabricerad enhetlighet”, måste vi först fastställa att teorierna som integreras verkligen är jämförbara i relevanta avseenden. Men kan vi identifiera sådana gemensamma nämnare bland dagens konkurrerande teorier, som kunde stödja utvecklingen av ett övergripande ramverk för vetenskaplig forskning om medvetandet? Det är frågan som Kathinka Evers, Michele Farisco och Cyriel Pennartz undersöker för några av de mest omtalade neurovetenskapligt orienterade teorierna om medvetandet.

Vad kommer författarna fram till? Något överraskande!De kommer nämligen fram till att det faktiskt är fullt möjligt att identifiera ett antal gemensamma nämnare, som uppvisar mönster av likheter och olikheter bland teorierna, men att detta ändå inte är vägen till en övergripande medvetandeteori som stödjer hypoteser som kan testas experimentellt. Varför? Dels för att de gemensamma nämnarna, såsom ”information”, ibland är alltför allmänna för att fungera som kärnbegrepp i forskning specifikt om medvetandet. Dels för att teorier som har gemensamma nämnare trots allt kan vara begreppsligt artskilda.

Författarna föreslår därför, som jag förstår dem, att en mer framkomlig väg möjligen vore att utveckla ett gemensamt metodologiskt tillvägagångssätt kring prövning av hypoteser om relationer mellan medvetande och hjärna. Det är måhända först i den empiriska verkstaden, öppen för det oväntade, så att säga, som ett vetenskapligt ramverk, eller paradigm, eventuellt kan börja ta form. Inte genom att avsiktligt formulera enhetlig teori utifrån identifiering av gemensamma nämnare bland konkurrerande teorier, vilket riskerar att fabricera en fasad av enhetlighet.

Artikeln är skriven i en filosofiskt öppensinnad anda, utan bindningar till specifika teorier. Den kan därigenom stimulera det kreativa samarbete som hittills hämmats av självupptagen konkurrens mellan skolbildningar. Läs artikeln här: Assessing the commensurability of theories of consciousness: On the usefulness of common denominators in differentiating, integrating and testing hypotheses.

Jag skulle vilja avsluta med att nämna en ofta försummad sida av hur vetenskapliga paradigm fungerar (enligt Thomas Kuhn). Ett paradigm genererar inte bara möjliga förklaringar av fenomen. Det genererar även problemen som forskarna försöker lösa inom paradigmet. Kvantmekaniken och evolutionsbiologin möjliggjorde nya frågor, som gjorde naturen problematisk på nya utforskningsbara sätt. Ett eventuellt framtida paradigm för vetenskaplig medvetandeforskning skulle i så fall inte besvara de frågor om medvetandet som förbryllar oss idag (åtminstone inte utan att först omtolka dem). Det skulle snarare skapa nya, ännu inte ställda frågor, som är utforskningsbara inom paradigmet som genererar dem. 

Artikelförfattarna kan därför mycket väl ha rätt i att det mest fruktbara för tillfället är att ställa sonderande frågor som hjälper oss att avgränsa vad som faktiskt låter sig undersökas, snarare än att börja med att fabricera övergripande teoretisk enhetlighet. Det senare tillvägagångssättet vore möjligen att spänna vagnen framför hästen.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

K. Evers, M. Farisco, C.M.A. Pennartz, “Assessing the commensurability of theories of consciousness: On the usefulness of common denominators in differentiating, integrating and testing hypotheses,” Consciousness and Cognition, Volume 119, 2024

Detta inlägg på engelska

Vi hittar nya angreppssätt

https://doi.org/10.1016/j.concog.2024.103668

För en mer balanserad diskussion om medveten artificiell intelligens

Idag vill jag rekommendera ett blogginlägg på den engelska versionen av denna etikblogg. Michele Farisco diskuterar där utvecklingen av så kallad medveten AI, något som givetvis väcker funderingar.

Etikdiskussionen är livlig. Vissa kräver ett internationellt moratorium för alla försök att skapa konstgjort medvetande: riskerar vi att skapa konstgjort lidande? Andra menar att redan ”vanlig” AI är tillräckligt riskfylld: riskerar vi att skapa ännu mer svårhanterliga former av AI?

Dessa och andra etiska farhågor är svåra att bedöma. Inte bara för att den vetenskapliga och tekniska utvecklingen är snabb och avancerad, utan även för att vi allvarligt talat inte riktigt vet vad vi pratar om! Vad är medvetande? Vet vi ens vad det innebär att människor och andra djur är medvetna?

Michele Farisco har länge undersökt frågan om mänskligt medvetande. Han har bland annat bidragit till att utveckla indikatorer för olika dimensioner av mänskligt medvetande som kan användas för vid bedömningar medvetandegraden hos patienter. Hans förslag är att indikatorerna kan vara relevanta även för att identifiera medvetenhet i artificiella system, samt att detta kan göra den etiska diskussionen mer balanserad och realistisk.

Läs blogginlägget här: A strategy for a balanced discussion of conscious AI.

Utgångspunkten för blogginlägget är ett bokkapitel som Michele Farisco nyligen skrivit. Du hittar referens och länk till kapitlet nedan.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Michele Farisco. The ethical implications of indicators of consciousness in artificial systems. Developments in Neuroethics and Bioethics. Available online 1 March 2024. https://doi.org/10.1016/bs.dnb.2024.02.009

Vi söker klarhet

Neuroetik: låt inte namnet lura dig

Benämningar ger lätt bilden av att det benämnda är något avgränsat och självständigt: något som man kan fästa en etikett på. Om du vill lansera något och få uppmärksamhet – ”här är någonting alldeles nytt att räkna med” – är det således en god idé att genast skapa ett nytt namn som sprider bilden av något alldeles särskilt.

Trots detta kommer namn vanligen eftersläntrande. Det benämnda har redan hunnit ta form, utan att någon noterat det som någonting särskilt. I friheten från en särskiljande benämning har rötter haft tid att spridas och grenar att sträcka sig långt. Eftersom allt som fått frihet att växa inte är avgränsat och självständigt, utan rotat, sammanvuxet och i utbyte med omgivningarna, lägger människor till slut märke till det som något intressant, och ger det därför ett särskilt namn. Nya namn kan således ge en vilseledande bild av det benämnda som nyare och mer avgränsat och självständigt än det i själva verket är. När namnet anländer är det mesta redan förberett i omgivningarna.

I en öppen kommentar i tidskriften AJOB Neuroscience utvecklar Kathinka Evers, Manuel Guerrero och Michele Farisco ett liknande resonemang om neuroetiken. De kommenterar en artikel publicerad i samma nummer som presenterar neuroetik som ett nytt fält med bara 15 år på nacken. Artikelförfattarna bekymras av fältets ännu ofärdiga och isolerade karaktär och lanserar därför en vision om en ”translationell neuroetik”, som ska likna det där trädet som fått tid att växa samman med omgivningarna. I visionen beskrivs den nya versionen av neuroetiken således som integrerad, inkluderande och praktiskt verkningsfull.

I sin kommentar framhåller Kathinka Evers och medförfattare att det enbart är etiketten ”neuroetik” som funnits i 15 år. Den sorts frågor som neuroetiken arbetar med behandlades redan under 1900-talet inom tillämpad etik och bioetik, och vissa av de begreppsliga problemen har diskuterats i filosofin ända sedan antiken. Vidare har etikkommittéer hanterat neuroetiska frågor långt innan etiketten fanns. Sålunda betraktad är neuroetiken inget nytt och separat fält, utan snarare en sedan länge integrerad och samverkande underdisciplin till neurovetenskapen, filosofin och bioetiken – beroende på vilka omgivningar vi väljer att betona.

För det andra, påpekar kommentatorerna, är de tre egenskaperna hos en ”translationell neuroetik” – integrerad, inkluderande och verkningsfull – en förutsättning för att något ska kunna betraktas som ett vetenskapligt fält. Ett isolerat fält som inte inkluderar kunskap och perspektiv från omgivande vetenskaper och intresseområden, och som saknar praktisk verkan, är knappast vad vi idag ser som ett forskningsfält. De tre egenskaperna är därför inte helt lyckade som en vision om en framtida utveckling av neuroetiken. Om fältet alls ska förtjäna sitt namn måste egenskaperna redan genomsyra neuroetiken. Gör de det?

Ja, menar kommentatorerna om jag förstår dem rätt. Men för att vi ska se detta får vi inte luras av det särskiljande namnet, som ger bilden av något nytt, avgränsat och självständigt. Vi måste se att arbetet med frågorna pågått länge i flera olika filosofiska och vetenskapliga sammanhang. Redan när fältet fick sitt särskiljande namn var det integrerat, inkluderande och verkningsfullt, inte minst inom den akademiskt etablerade bioetiken. Vissa problematiska tendenser till isolering har visserligen funnits, men de sammanhängde med den särskiljande etiketten, eftersom den ibland användes av isolerade grupper för att presentera sina verksamheter som någonting alldeles nytt och särskilt att räkna med.

Den öppna kommentaren sammanfattas genom påpekandet att vi bör undvika frestelsen att se neuroetik som en ny, självständig och separat disciplin: frestelsen som namnet bidrar till. En sådan bild gör oss närsynta, skriver kommentatorerna, vilket paradoxalt nog kan göra det svårare att stödja de tre målsättningarna i visionen. Det är både riktigare och fruktbarare att betrakta neuroetik och bioetik som distinkta men inte separata fält. Om detta stämmer behöver vi inte lansera en ännu nyare version av neuroetiken under en ännu nyare beteckning.

Läs den öppna kommentaren här: Neuroethics & bioethics: distinct but not separate. Vill du läsa artikeln som kommenteras hittar du referensen längst ner i detta inlägg.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

K. Evers, M. Guerrero & M. Farisco (2023) Neuroethics & Bioethics: Distinct but Not Separate, AJOB Neuroscience, 14:4, 414-416, DOI: 10.1080/21507740.2023.2257162

Anna Wexler & Laura Specker Sullivan (2023) Translational Neuroethics: A Vision for a More Integrated, Inclusive, and Impactful Field, AJOB Neuroscience, 14:4, 388-399, DOI: 10.1080/21507740.2021.2001078

Detta inlägg på engelska

Vi söker klarhet

Uppmuntra barn att ta ansvar för andra?

Det händer att akademiker skriver visionära texter som belyser stora mänskliga utmaningar. En sådan filosofiskt visionär artikel bloggade jag om för några år sedan; en artikel där Kathinka Evers diskuterade samspelet mellan samhället och hjärnan. I artikeln utvecklade hon tanken att vi har ett ”proaktivt” ansvar att anpassa våra samhällen efter vad vi vet om hjärnans styrkor och svagheter. Framförallt betonade hon att dagens kunskap om hjärnans föränderlighet ger oss ett proaktivt ansvar för vår egen mänskliga natur, eftersom denna natur formas och omformas i samspel med samhällena vi bygger.

Idag vill jag rekommendera en visionär filosofisk artikel av Jessica Nihlén Fahlquist, en artikel som jag tror har beröringspunkter med Kathinka Evers text. Även här handlar det om vårt ansvar för stora mänskliga utmaningar, såsom klimat och framförallt folkhälsa. Även här handlar det om människans föränderlighet, inte minst under barndomen. Även här handlar det om att vara proaktiv (även om termen inte används). Men där Kathinka Evers utgår från neurovetenskapen, utgår Jessica Nihlén Fahlquist från dygdetiken och från samhällsvetenskaper som ser barn som sociala aktörer.

Jessica Nihlén Fahlquist framhåller att vi lever i komplexare samhällen och står inför större globala utmaningar än någonsin tidigare i mänsklighetens historia. Men även människan är komplex och kan under gynnsamma omständigheter utveckla stora förmågor till ansvarstagande. Dygdetiken har detta fokus på människan själv och på hennes karaktärsdrag, som kan odlas och utvecklas i olika hög grad. Dygdetiken kritiseras ibland för att inte vara tydligt handlingsvägledande. Men det är svårt att föreställa sig att vi kan hantera stora mänskliga utmaningar enbart genom vägledande regler och föreskrifter. Regler är aldrig lika komplexa som människan själv. Handlingsvägledande regler förutsätter att utmaningarna redan är under någon sorts kontroll och således inte är så osäkra längre. Inför komplexa utmaningar med stora osäkerheter kan vi behöva lära oss att lita på människan själv. Vågar vi lita på oss själva när vi ofta själva skapat problemen?

Här resonerar Jessica Nihlén Fahlquist på ett sätt som för tankarna till Kathinka Evers idé om ett proaktivt ansvar för våra samhällen och vår mänskliga natur. Nihlén Fahlquist förslår, om jag förstår henne rätt, att vi redan nu har ansvar att skapa miljöer som stödjer utvecklingen av mänskliga karaktärsegenskaper som i framtiden kan hjälpa oss att bemöta utmaningarna. Vi har redan nu ett ansvar att stödja utvecklingen av framtida ansvarstagande, kunde man säga.

Nihlén Fahlquist fokuserar på folkhälsoutmaningar och hennes resonemang utgår från pandemin och frågan om vaccination av barn. Föräldrar har rätten och plikten att skydda sina barn mot risker. Men rimligen kan föräldrar även anses vara förpliktade att inte vara överbeskyddande utan även beakta barnets utveckling av aktörskap och värderingar. Viruset som spreds under pandemin gav inga svåra symtom hos barn. Vaccination skyddar därför inte nämnvärt barnets egen hälsa, utan skulle göras med tanke på andra. Studier visar att barn kan vara kapabla att resonera i termer av ett sådant ansvar för andra. Barn som deltar i medicinsk forskning kan till exempel svara att de deltar bland annat för att hjälpa andra. Vågar vi uppmuntra kapabla barn att ta ansvar för folkhälsan genom att låta dem resonera om sin egen vaccination? Är det rentav så att vi bör stödja barn att odla ett sådant ansvar som en dygd?

Nihlén Fahlquist menar inte att barn själva har detta ansvar att låta vaccinera sig av solidaritet med andra. Men om vissa barn visar sig kunna resonera så pass moraliskt komplext om sin egen vaccination, kunde man säga att barnens ansvarstagande är någonting oväntat och beundransvärt, något som man inte kan begära av ett barn. Genom att uppmuntra och stödja det oväntade och beundransvärda hos barn, kan det med tiden bli ett förväntat ansvarstagande hos vuxna, föreslår Jessica Nihlén Fahlquist. Dygdetiken gör det meningsfullt att tänka i termer av sådana möjligheter, där människor kan förändras och växa med uppgiften. Vågar vi tro på sådana möjligheter hos oss själva? Om du inte väntar dig det oväntade kommer du inte att finna det, sa en visionär grekisk filosof vid namn Herakleitos.

Jessica Nihlén Fahlquists artikel är mångfasetterad och uppslagsrik. I detta inlägg har jag bara betonat en av hennes tankegångar, som jag hoppas gjort dig nyfiken på en angelägen akademisk text: Taking risks to protect others – pediatric vaccination and moral responsibility.

Sammanfattningsvis menar Jessica Nihlén Fahlquist att vaccination bör betraktas som en möjlighet för barn att utveckla sin ansvarskänsla och att föräldrar, skolor, vårdpersonal och folkhälsomyndigheter bör inkludera barn i debatter om etiska folkhälsofrågor.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Jessica Nihlén Fahlquist, Taking Risks to Protect Others – Pediatric Vaccination and Moral Responsibility, Public Health Ethics, 2023;, phad005, https://doi.org/10.1093/phe/phad005

Detta inlägg på engelska

Vi tolkar framtiden

När vanliga ord får vetenskapliga användningar

För några veckor sedan skrev Josepine Fernow ett angeläget blogginlägg om vetenskap och språk. Hon anknöt till en forskardebatt om begreppsliga utmaningar för neurovetenskapen, utmaningar som uppkommer när vanliga ord får specialiserade användningar i vetenskapen som tekniskt definierade termer.

I fallet som debatterades var det ordet ”medvetenhet” eller ”förnimmelseförmåga” (på engelska, ”sentience”) som importerats till det vetenskapliga studiet av hjärnan. En forskargrupp rapporterade att de kunnat fastställa att odlade neuroner från människa och mus har inlärningsförmåga och att de uppvisar ”sentience” i en simulerad spelvärld. Naturligtvis väckte det stort uppseende att några neuroner odlade i ett laboratorium kunde uppvisa medvetenhet! Men forskargruppen menade inte det som väckte uppmärksamhet. De menade något mycket tekniskt som bara en specialist på området kan förstå. Det uppseendeväckande var alltså snarast ordvalet.

När det uppseendeväckande ordvalet ifrågasattes av andra forskare, försvarade sig forskargruppen med att de definierat termen ”sentience” strängt vetenskapligt, så att alla borde ha förstått vad de menade, åtminstone kollegerna på området. Nå, nu är ju inte alla människor specialister på det relevanta området. Upptäckten – vad det nu var som upptäcktes – väckte således uppståndelse bland människor som om det handlade om en upptäckt av förnimmelseförmåga hos neuroner som odlats i ett laboratorium.

Forskargruppens inställning till sitt eget tekniska språkbruk liknar en attityd som jag för länge sedan stötte på hos en berömd språkteoretiker, Noam Chomsky. Så här sa Chomsky om det vetenskapliga studiet av språkets natur: ”… varje allvarligt förhållningssätt till studiet av språk avviker från det vanliga begreppet och ersätter det med något tekniskt begrepp”. Chomsky har naturligtvis rätt i att språkvetenskapen definierar sina egna tekniska begrepp om språk. Men man kan ana en viss hybris i uttalandet, för det låter som om bara en språkteoretiker kan förstå ”språk” på ett sätt som är värt allvarlig uppmärksamhet. Detta är ohållbart, för det väcker frågan vad ett tekniskt begrepp om språk är. I vilken mening är ett tekniskt begrepp ett begrepp om språk? Är det ett tekniskt begrepp om språk i den vanliga meningen? Eller är det ett tekniskt begrepp om språk i samma svårtillgängliga mening? I det senare fallet fall tycks det seriösa studiet av språk förfalla till ett navelskåderi som inte kommer åt språket.

För att ett tekniskt begrepp om språk ska vara ett begrepp om språk, måste våra vanliga begrepp beaktas. Annars upphör det tekniska begreppet att vara ett begrepp om språk.

Detta är kanske något att beakta även inom neurovetenskapen. Nämligen i den utsträckning som man där vill kasta ljus över företeelser som medvetande eller förnimmelseförmåga. Naturligtvis kommer neurovetenskapen att definiera sina egna tekniska begrepp om dessa företeelser, som i det debatterade fallet. Men om de tekniska begreppen ska fungera som begrepp om medvetande och förnimmelseförmåga, så kan man inte negligera vårt vanliga språkbruk.

Vetenskap är något mycket allvarligt och betydelsefullt. Men om dess särskilda betydelse stiger oss åt huvudet, så riskerar attityden att urholka vetenskapens stora betydelse för mänskligheten. Här kan du läsa tre neuroetikers syn på dessa viktiga språkfrågor: Conceptual conundrums for neuroscience.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi söker klarhet

Att förvalta arvet från ansvarsfull forskning och innovation i Human Brain Project

Etikbloggen har under tio års tid följt Human Brain Project (HBP), främst arbetet i neuroetik som har förankring här vid CRB. Det stora projektet avslutas nu och en viktig uppgift blir att förvalta det arbete som gjorts och göra det tillgängligt och användbart i framtiden.

På den engelska versionen av denna blogg beskriver Josepine Fernow hur utvecklingen inom HBP av strategier för ansvarsfull forskning och innovation (det som kallas RRI) resulterat i en verktygslåda som kan användas av andra. Hon diskuterar även en artikel från HBP som undersöker hur liknande verktygslådor kan fungera som resurser som förvaltar arv från projekt.

I inlägget hittar du även länkar till andra HBP-baserade online-resurser samt till en verktygslåda för jämställdhet, mångfald och inkludering i forskning. Läs Josepine Fernows blogginlägg här: Taking care of the legacy: curating responsible research and innovation practice.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Deltar i internationella samarbeten

Vetenskap, forskningskommunikation och ordens betydelse

All form av kommunikation förutsätter ett gemensamt språk. För att en diskussion ska hjälpa oss framåt och för att vi ska förstå vad den andre menar behöver vi gemensamma termer och tydliga begrepp. När vi definierar samma ord på olika sätt, eller beskriver samma fenomen på olika sätt blir det en utmaning. Inte bara för hur vi förstår varandra när vi pratar över en kopp kaffe. Utan också för vetenskapen. Det utmanar kommunikationen mellan olika forskningsfält, mellan olika professioner och gör det svårt att kommunicera med allmänheten. Forskningskommunikation når ofta en bred publik med olika förutsättningar att förstå. Men forskningsfrågor och resultat behöver också kommuniceras inom fältet, mellan olika fält, eller med beslutsfattare och allmänheten. Och för att kommunikationen ska vara effektiv behöver språket, tonen och kanalen anpassas till publikens behov, värderingar och förväntningar.

Det här gäller inte bara när vi kommunicerar vetenskap till allmänheten. En debatt som nyligen förts i tidskriften Neuron har fokuserat på semantiken för begreppet ”sentience”. Debatten utgick från en artikel av Brett J Kagan et al. om hur neuroner in vitro lär sig och uppvisar ”sentience” i en simulerad spelvärld. Ordet ”sentience” brukar syfta på förmågan att förnimma eller känna saker. Artikeln publicerades i december 2022 och har fått mycket uppmärksamhet. Resultaten har mottagits positivt i media och väckt lite mer blandade reaktioner från vetenskapssamhället. En av rektionerna finns i en respons till artikeln författad av Fuat Balci et al., där författarna är bekymrade över påståendet som görs i artikeln, nämligen att forskarna kunnat visa att neuroner i hjärnbarken kan självorganisera sig in vitro och uppvisa intelligent och ”sentient” beteende i en simulerad spelvärld. Bland annat är Balci et al. kritiska till hur forskarna använder termer och begrepp som de menar är vilseledande i sammanhanget. De hävdar också att Kagan et al. överdriver relevansen och överförbarheten av resultaten. I korthet att de skapar hype kring sin egen forskning. Diskussionen de väcker handlar egentligen om forskningskommunikation. Media brukar återge information som finns i abstracts och inte minst påståenden om forskningens betydelse. Och forskarna själva förstärker budskapen när de uttalar sig i media. Enligt Balci et al. finns ett problem här. Att ”översälja” värdet av forskningsresultat påverkar hur vi utvärderar vetenskaplig trovärdighet och tillförlitlighet.

Hur hänger det ihop? Balci et al. hänvisar till en artikel av Jevin D. West och Carl T. Bergstrom från 2021 som handlar om vilseledande information inom och om vetenskap, där författarna skriver att hype, retoriska överdrifter och det vi kallar för publikationsbias (när resultatet av ett experiment eller en studie påverkar beslutet att publicera) kan hänga ihop med krav som ställs på forskare att visa hur produktiva de är. Enligt West och Bergstrom är det inte bara allmänheten som vilseleds av överdrifter i populärvetenskaplig kommunikation. Även forskare vilseleds. I längden kan det leda det till att forskare väljer att citera sådant som styrker deras egna påståenden, eller som visar på samband de hade förväntat sig, men inte hittat. Ett relaterat problem är publicering i så kallade rovtidskrifter, som erbjuder billig och snabb publicering, eller ”predatory publishing” som det kallas på engelska. Här finns det också en risk att vi blir vilseledda eftersom många av oss saknar den erfarenhet som krävs för att kunna avgöra vilka förlag och tidskrifter som är seriösa. Och ovanpå det har vi ekokammare och filterbubblor som hjälper oss att välja det innehåll vi vill ha, men också att välja bort sådant vi inte vill ha. Med resultatet att budskap förstärks.

Diskussionen i Neuron har fortsatt med ett svar av Brett Kagan et al., som skriver om vetenskaplig kommunikation och semantiken kring ”sentience”. De inleder med att säga att den vetenskapliga diskursen kräver att vi väljer ord med omsorg. Men huruvida vetenskaplig kommunikation är effektiv eller inte beror på kontexten där språket används. De framhåller att termen ”sentience” i det här fallet har en teknisk betydelse som är i linje med terminologin i den vetenskapliga litteraturen inom teoretisk biologi och principen om fri energi, där biotisk självorganisering definieras som antingen ”aktiv inferens” eller ”sentient beteende”. Kagan et al. gör en poäng som tar oss tillbaka till början av den här texten, nämligen den om utmaningarna i mångvetenskapligt arbete. Samarbeten mellan olika fält är ofta utmanande i början på grund av just den här typen av svårigheter. Men om man ser olika system av termer och tillvägagångssätt i olika fält som en möjlighet till bättre forskning och innovation, så kan det tvärtom var en styrka.

Nyligen publicerade Neuron ännu ett inlägg i debatten, den här gången av tre neuroetiker, Karen S. Rommelfanger, Khara M. Ramos och Arleen Salles. De bidrar med ännu ett lager av reflektion kring de mer begreppsliga utmaningarna för neurovetenskap. I neuroetiken har man gjort flera upprop till klarspråk och tydliga begrepp inom både vetenskaplig praktik och forskningskommunikation. Alla tre har publicerat argument för hur begreppslig tydlighet kan utveckla forskningen, öka vår förståelse och leda till en mer nyanserad och produktiv diskussion kring etiska frågor. I sin text gör de en viktig poäng om vetenskap och samhälle. Nämligen att om vi verkligen tror att vetenskaplig terminologi kan behålla sin tekniska mening när vi överför termerna till kontexter som genomsyras av olika kulturella antaganden och vardagliga sätt att använda samma ord, så riskerar vi att trivialisera hur valet av vetenskapliga termer kan påverka vårt samhälle och hur vi uppfattar de etiska aspekterna av forskning. De ställer frågan om det verkligen är ansvarsfullt av forskare att utgå från att deras enda (relevanta) målgrupp är forskare inom samma fält. Eller om det kanske snarare är så att tydliga begrepp kräver både att vi involverar allmänheten och att vi för mångvetenskapliga diskussioner.

Hjälper termerna ”sentience” och ”intelligens” forskningen framåt i det aktuella fallet? Kanske är valet av dessa termer för att prata om neuroner i petriskålar tveksamt även ur det perspektivet. Om vi är överens om att neurovetenskapen kan hjälpa oss att förstå intelligens, förnimmelser och känslor, så kanske vi samtidigt behöver erkänna att vi ännu inte vet hur neurovetenskapen kommer att kunna göra det. Och det betyder kanske att det är lite tidigt att knyta en specifik teknisk mening till ord som redan bär betydelser, både i vår kultur och i vårt vardagliga språk, som neurovetenskapen kan kasta oväntat ljus på i framtiden.

Du kanske undrar hur en etikbloggare kan våga ha synpunkter på vetenskapliga begrepp? Poängen jag försöker göra är att vi alla använder och producerar språk. Varje dag. Tillsammans. I nästan allt vi gör. Orden tillhör oss alla och vi har gemensamt ansvar för hur vi använder dem. Att tillskriva vanliga ord teknisk innebörd får konsekvenser för hur människor uppfattar neurovetenskaplig forskning. Men valet av ord kan också få konsekvenser för vetenskapen. Kanske är gränserna mellan vetenskap och samhälle inte så tydliga?

Josepine Fernow

Skrivet av…

Josepine Fernow, koordinator och forskningskommunikatör hos Centrum för forsknings- och bioetik, som utvecklar kommunikationsstrategier för europeiska forskningsprojekt

Detta inlägg på engelska

Vi tar upp aktuella frågor

Projekt om möjligheten av artificiell medvetenhet

Vore det i princip möjligt att bygga en robot som inte bara uppför sig intelligent utan dessutom har medvetande? Denna hisnande fråga ska undersökas i ett 4-årigt europeiskt projekt om artificiell medvetenhet, koordinerat från Radboud University i Nederländerna.

I projektet samarbetar ingenjörer och datavetare med filosofer från CRB som arbetar inom området neuroetik. En av dessa filosofer är Michele Farisco, som du kanske redan läst om på Etikbloggen. Idag beskriver han projektet på den engelska versionen av denna blogg: A new project will explore the prospect of artificial awareness.

Filosoferna i projektet, däribland Kathinka Evers, kommer att skärskåda och analysera begreppet medvetande, samt identifiera indikatorer på medvetenhet som skulle kunna användas för att bedöma medvetenhet hos artificiella system. De kommer även att bidra till etisk analys av möjliga framtida scenarier.

Naturligtvis kommer Etikbloggen att följa arbetet i projektet!

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Deltar i internationella samarbeten

« Äldre inlägg