En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Kategori: Tänkvärt (Sida 1 av 17)

Att förändra den föränderliga människan

Neurovetenskapen bidrar till vår mänskliga självförståelse men väcker även oro att den skulle kunna förändra mänskligheten. Exempelvis genom ny neuroteknik som påverkar hjärnan så djupt att människan inte längre är sant mänsklig, eller slutar att uppleva sig som människa. Patienter som behandlas med så kallad djup hjärnstimulering kan exempelvis uppge att de känner sig som robotar.

Vilka etiska och juridiska åtgärder skulle en sådan utveckling kunna motivera?

Arleen Salles, neuroetiker i Human Brain Project, menar att frågan är förhastad eftersom vi inte klargjort vårt begrepp om människan. Saken kompliceras av att det finns flera begrepp om den mänskliga naturen att bekymra sig över. Om vi tror att vår mänsklighet består i vissa unika förmågor som särskiljer människan från djuren (såsom moral), så tenderar vi att avhumanisera varelser som vi menar saknar dessa förmågor som ”djuriska.” Om vi tror att vår mänsklighet består i vissa förmågor som särskiljer människan från livlösa föremål (såsom känslor), så tenderar vi att avhumanisera varelser som vi menar saknar dessa förmågor som ”mekaniska.” Antagligen är det i den senare meningen som patienterna ovan uppger att de inte känner sig riktigt mänskliga, utan som robotar.

Efter en genomgång av grunddragen i flera centrala filosofiska begrepp om människan, tar Arleen Salles reflektioner en överraskande vändning. Hon presenterar nämligen ett begrepp om vår mänsklighet som utgår från den neurovetenskapliga forskning som man oroar sig skulle kunna förändra vår mänsklighet! Det riktigt överraskande är att detta begrepp om vår mänskliga natur i viss utsträckning ifrågasätter själva frågan. Begreppet framhäver nämligen människans djupgående föränderlighet.

Vad betyder det att oroa sig över att neurovetenskapen kan förändra människans natur, om den mänskliga naturen till stor del kännetecknas av förmågan att förändras?

Den som följer Etikbloggen och minns ett inlägg om Kathinka Evers idé om ett neurovetenskapligt motiverat ansvar för den mänskliga naturen, är redan bekant med det dynamiska begrepp om människan som Arleen Salles presenterar. Förenklat kan man säga att det handlar om att komplettera människans genetiska evolution med en ”epigenetisk” selektiv stabilisering av synapser, som varje människa genomgår under uppväxten. Dessa kopplingar mellan hjärnceller är inte medfödda, utan selekteras i den levande hjärnan under dess samspel med miljön. Språket kan antas tillhöra de mänskliga förmågor som till stor del utvecklas epigenetiskt. Jag har föreslagit ett liknande språkbegrepp tillsammans med två amerikanska apspråksforskare.

Tro nu inte att detta dynamiska begrepp om den mänskliga naturen skulle förutsätta att människan är någonting mycket instabilt. Som om minsta vindpust kunde rubba den mänskliga evolutionen och förändra vår natur i grunden. Tvärtom bidrar antagligen språket som vi utvecklar under uppväxten till att stabilisera de många mänskliga egenskaper som utvecklas samtidigt med språket. Språket stödjer antagligen förmedlingen till nya generationer av de mänskliga livsformer, där språket har sina användningar.

Arleen Salles reflektioner är viktiga bidrag till den neuroetiska diskussionen om människans natur, hjärnan och neurovetenskapen. För att kunna ta etiskt ansvar behöver vi klargöra våra begrepp, framhåller hon. Vi behöver beakta att människan utvecklas i tre sammanvävda dimensioner. Det handlar om genetik tillsammans med selektiv stabilisering av synapser i levande hjärnor, i samspel med sociala-kulturella-språkliga miljöer. Allt samtidigt!

Arleen Salles reflektioner finns utgivna som ett kapitel i en ny antologi, Developments in Neuroethics and Bioethics (Elsevier). Jag är osäker på om publikationen kommer att vara öppet tillgänglig, men förhoppningsvis hittar du Arleen Salles bidrag via den här länken: Humanness: some neuroethical reflections.

Kapitlet rekommenderas som nyskapande bidrag till förståelsen av vår mänskliga natur och frågan huruvida neurovetenskapen kan förändra människan. Frågan tar en överraskande vändning, som antyder vi alla tillsammans har ett fortlöpande ansvar för vår föränderliga mänskliga natur.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Arleen Salles (2021). Humanness: some neuroethical reflections. Developments in Neuroethics and Bioethics. https://doi.org/10.1016/bs.dnb.2021.03.002

Detta inlägg på engelska

Vi tänker om bioetik

Kan du klonas?

Varför kan vi känna metafysiskt illamående inför tanken på klonade människor? Gissningsvis sammanhänger det med hur vi, utan att ge oss tillräckligt med tid för att reflektera, fångas av en enkel bild av individualitet och kloning. Sedan styr bilden vårt tänkande. Vi föreställer oss kanske att kloning består i att vår unika individualitet mångfaldigas i oskiljbara kopior. Vi känner då yrsel inför den otänkbara tanken att vårt individuella jag skulle mångfaldigas som kopior som alla på något märkligt sätt är jag, eller inte kan skiljas från mig.

I ett bidrag till en filosofisk nättidskrift diagnostiserar Kathinka Evers detta metafysiska illamående inför kloning. Om du har minsta tendens att oroas av att du skulle kunna mångfaldigas som ”identiska kopior” som inte kan särskiljas från dig, ge dig då de sju minuter det tar att läsa texten och befria dig från åkomman:

”I cannot be cloned: the identity of clones and what it tells us about the self.”

Naturligtvis förnekar inte Kathinka Evers att kloning är möjligt eller förenat med risker av olika slag. Hon ifrågasätter den förhastade bilden av kloning, genom att ge oss tid reflektera över identitet och individualitet, utan att fångas av bilden.

Vi störs av tanken att modern forskning på något märkligt sätt skulle kunna göra något som borde vara otänkbart. När vi klart ser att vad vi oroas av verkligen är otänkbart, försvinner yrseln. I sin upplysande diagnos av vårt metafysiska illamående, kombinerar Kathinka Evers filosofiska reflektioner med belysande fakta om bland annat genetik och personlighetsutveckling.

Ge dig de sju minuter det tar att befrias från metafysiskt illamående inför kloning!

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi tänker om tänkande

Artificiell intelligens och medvetande

I ett inlägg på den engelska versionen av denna blogg diskuterar Michele Farisco idag en hisnande fråga om artificiell intelligens (AI): kan vi skapa medvetna maskiner?

Michele Farisco menar att frågan förutsätter att vi först klargör vad vi menar med medvetande. Han ger exempel på definitioner som använts i diskussionen om medveten AI och konstaterar att de föga överraskande definierar medvetande i termer av olika former av beräkningar inom informationsbehandling. Uppenbarligen bäddar man som man vill ligga. Det vill säga, man definierar sina termer efter den typ av svar man söker. Är det ett filosofiskt uppriktigt sätt att närma sig frågan?

Michele Farisco menar att vi måste närma oss frågan om medveten AI med stor försiktighet och eftertänksamhet. Annars riskerar viktiga filosofiska frågor att försvinna ur sikte bakom en begreppslig slöja av förhastade språkliga analogier mellan det mänskliga och det maskinella.

Läs Michele Fariscos inlägg på The Ethics Blog: Can AI be conscious? Let us think about the question.

Vi söker klarhet

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

En ovanligt stor fråga

Ibland är de intellektuella anspråken på vetenskapen så stora att de riskerar att skymma den egentliga forskningen. Detta tycks hända inte minst när anspråken förknippas med någon stor prestigefull fråga, som livets ursprung eller medvetandets natur. Genom att betona den stora frågan, vill man ofta visa att modern vetenskap är bättre lämpad än äldre mänskliga traditioner att besvara livets gåtor. Bättre än filosofin till exempel.

Jag tänker på detta när jag läser en kort artikel om en sådan gåta: ”What is consciousness? Scientists are beginning to unravel a mystery that has long vexed philosophers”. Artikeln av Christof Koch ger intrycket att det bara är en tidsfråga innan vetenskapen fastställer inte bara var i hjärnan medvetandet uppkommer (man tycks redan hittat en misstänkt), utan även de unika mekanismer som där ger upphov till – allt du någonsin upplevt. Åtminstone om man ska tro på en av de fundamentala teorierna om saken.

Att läsa om upptäckterna bakom identifieringen av var i hjärnan medvetandet uppkommer är lika spännande som att läsa en pusseldeckare. Man förstår att här görs viktig forskning om de effekter som bortfall eller stimulering av olika delar av hjärnan kan ha på människors upplevelser, mentala förmågor och personligheter. Även beskrivningen av en ny teknik och matematisk algoritm för att avgöra om patienter är medvetna eller inte är spännande och tyder på att forskningen gör fascinerande framsteg, som kan få viktiga användningar i sjukvården. Men när matematisk symbolism används för att antyda en möjlig fundamental förklaring till allt du någonsin upplevt, blir artikeln lika svår att förstå som den dunklaste filosofiska text från svunna tider.

Eftersom även företrädare för vetenskapen ibland gör filosofiska anspråk, nämligen när de vill besvara prestigefulla gåtor, är det kanske klokare att öppna sig för filosofin, i stället för att konkurrera med den. Filosofi består nämligen inte bara i att spekulera kring stora frågor. Filosofi handlar även om att ödmjukt klargöra frågorna, som annars tenderar att växa bortom alla rimliga gränser. Sådan öppenhet för filosofin blomstrar inom Human Brain Project, där några av mina filosofiska kolleger vid CRB samarbetar med neurovetare för att begreppsligt klargöra frågor om medvetandet och hjärnan.

Något som jag själv undrade över vid läsningen av den vetenskapligt spännande men samtidigt filosofiskt ambitiösa artikeln, är idén att medvetandet är allt vi upplever: ”Det är melodin som fastnat i huvudet, chokladmoussens sötma, tandvärkens dunkande smärta, den intensiva kärleken till ditt barn och den bittra vetskapen om att alla känslor en dag kommer att upphöra”. Vad betyder det att ta ett så allomfattande anspråk på allvar? Vad är i så fall inte medvetande? Om allt vi kan erfara i själva verket är medvetande, från smaken av chokladmousse till anblicken av stjärnorna på himlen och våra mänskliga kroppar med sina olika organ, var är den objektiva verklighet som vetenskapen vill relatera medvetandet till? Är även den i medvetandet?

Om medvetandet är vår ständiga utgångspunkt, om allt vi erfar som verkligt är medvetande, blir det oklart hur vi kan behandla medvetandet som en objektiv företeelse i världen jämte kroppen och andra ting. Nu talar jag naturligtvis inte om den vetenskapliga forskningen om hjärnan och medvetandet, utan om det gränslösa intellektuella anspråket att vetenskapen förr eller senare upptäcker de neurala mekanismerna som ger upphov till allt vi någonsin kan uppleva.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Christof Koch, What Is Consciousness? Scientists are beginning to unravel a mystery that has long vexed philosophers, Nature 557, S8-S12 (2018) https://doi.org/10.1038/d41586-018-05097-x

Detta inlägg på engelska

I dialog med filosofer

Faktaresistens och det mänskliga missnöjet med verkligheten

Vad är faktaresistens egentligen? Man brukar tala om en tendens att inte låta sig påverkas av fakta som talar emot ens egna övertygelser. Eller om en tendens att hysa trosuppfattningar trots att det saknas evidens för dem. För att göra faktaresistens mänskligt begripligare, vill jag uppmärksamma ett sätt att uttrycka frågor, som kan påminna oss om hur ofta vi faktiskt gör motstånd mot verkligheten.

Har du lagt märke till att många varför-frågor inte alls uttrycker någon uppriktig undran? Vi ställer frågorna för att uttrycka vårt missnöje med verkligheten. Varför måste det alltid regna på midsommarafton? Varför måste jag alltid välja den kö som tar längst tid? Redan i frågan skuldbeläggs verkligheten. Redan i frågan gör vi motstånd mot verkligheten. Det måste vara något fundamentalt fel på det svenska vädret! Jag måste vara en idiot som alltid väljer fel kö!

Faktaresistens är antagligen en djupare mänsklig tendens än bara bristande källkritik. Den är en sida av vårt mänskliga missnöje med tillvaron. Våra varför-frågor gör uppror mot själva universum, om jag får uttrycka mig dramatiskt. När vi ställer dessa frågor, förväntar vi oss inga klart lugnande besked, utan tvärtom svar som bekräftar världens galenskap. Om jag minns rätt sa pessimisten Arthur Schopenhauer, som bara såg elände överallt, att världen är så genomsyrad av elände, att bara världen själv kan hållas ansvarig för eländet. Världen måste vara fundamentalt felkonstruerad. Han beskrev världens felkonstruktion i ett stort filosofiskt system, som hyllades av pessimister i hela världen.

Tänk dig vad som händer när våra varför-frågor inte längre handlar om midsommarvädret eller något annat trivialt, utan om företeelser som skrämmer och upprör många samtidigt. Som COVID-19 och pandemiåtgärder. Många tvivelaktiga påståenden kommer att spridas som om de vore säkra, eftersom redan frågorna är säkra på att något måste vara fundamentalt fel. Jag tror att faktaresistens blir begripligare, om vi ser hur mänskligt instinktivt vi gör uppror mot verkligheten.

Väcks inte motståndsmönstret även när vi vill bekämpa faktaresistensen? ”Varför sprider folk så många uppenbara lögner på sociala medier? Det måste vara något fundamentalt fel, här fordras massiva utbildningsinsatser!” Faktaresistens är så näraliggande för oss, att även vårt begrepp om mönstret tenderar att fastna i mönstret.

Det fantastiska är, att när vi ser mönstret hos oss själva, så blir faktaresistens begripligare som faktum och därför lättare att erkänna, utan att vi utbrister i upprörda varför-frågor. Vi ser mönstret i ett försonande ljus. Det fantastiska är alltså, att när vi blir förlåtande, så reagerar vi inte längre mot faktaresistensen. Vi är ute ur leken, fria från vår egen faktaresistens. Först då kan vi hantera faktaresistensen klokt, utan att återskapa den i vårt motstånd mot den.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi hittar nya vinklar

Hotad av superintelligenta maskiner

Det finns en rädsla att vi snart skapar artificiell intelligens (AI) som är så superintelligent, att vi inte längre kan kontrollera den. Den gör oss människor till sina slavar. Om vi försöker koppla ur nätverkskabeln så hoppar superintelligensen över till ett annat nätverk, eller så beordrar den en robot att döda oss. Alternativt så hotar den att spränga en hel stad i bitar, om vi tar ett enda steg mot nätverksuttaget.

Jag slås emellertid av hur denna självhävdande artificiella intelligens liknar en sida av vår egen mänskliga intelligens. En viss typ av mänsklig intelligens har redan tagit över. Den styr våra tankar när vi känner oss hotade av superintelligent AI och överväger smarta motåtgärder för att kontrollera den. Ett typiskt drag i denna självhävdande intelligens är just detta att den aldrig ser sig själv som problemet. Alla hot är externa och måste neutraliseras. Vi ska överleva, kosta vad det vill för andra. Jag först! Vårt parti först! Vi betraktar världen med misstro: den tycks fylld av hot mot oss.

I denna självcentrerade anda utpekas AI som nytt främmande hot: okontrollerbara maskiner som sätter sig själva först. Alltså måste vi övervaka maskinerna och bygga smarta försvarssystem som kontrollerar dem. De borde vara våra slavar! Mänskligheten först! Ser du hur vi beter oss lika blint självhävdande som vi fantiserar att supersmart AI skulle göra? En kapprustning i småsinthet.

Kan du se mönstret hos dig själv? Om du kan göra det, så har du upptäckt den andra sidan av den mänskliga intelligensen. Du har upptäckt den självgranskande intelligens som alltid livnär filosofin när den ödmjukt söker orsaken till våra misslyckanden hos oss själva. Paradoxen är: när vi försöker kontrollera världen, så fångas vi i småsinthet; när vi granskar oss själva, så öppnas vi för världen.

Linnés första försök att artbestämma människan var faktiskt inte Homo sapiens, som om vi kunde hävda vår visdom. Linnés första försök att artbestämma oss var en ödmjuk uppmaning till självgranskning:

HOMO. Nosce te ipsum.

På svenska: Människa, känn dig själv!

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi tänker om tänkande

Fångad i ett system

Anta att en filosof bygger ett system av idéer omkring vår dödlighet. Det är risken att dö, alltings sårbarhet, som gör att vi kan finna våra liv meningsfulla och våra livsprojekt engagerande. Om vi inte trodde på risken att dö och alltings sårbarhet, skulle vi inte bry oss om någonting alls. Därför måste vi tro vad systemet kräver, för att kunna leva och engagera oss. Faktum är att alla redan tror på vad systemet kräver, resonerar filosofen, även de som ifrågasätter det. De gör det i praktiken, eftersom de lever och bryr sig. Det vore omöjligt om de inte trodde vad systemet kräver.

Men vår dödlighet är mer än en risk. Den är ett faktum: vi ska dö. Döden är inte bara en möjlighet, något som kan hända, ett nederlag vi riskerar i våra projekt. Vad sker när vi ser dödens verklighet, snarare än fångas i systemets doktriner om nödvändiga möjlighetsvillkor för meningsfulla och engagerade liv? Vi kan naturligtvis rygga tillbaka och vägra tänka mer på saken. Men vi kan också börja tänka som aldrig förr. Om jag ska dö, då måste jag hinna förstå livet innan jag dör! Jag måste undersöka! Jag måste nå klarhet medan jag lever!

I detta undersökande av systemets utgångspunkt vaknar ett friare tänkande till liv, som undrar snarare än utfärdar krav. Vad är det att leva? Vem är jag, som säger mig leva ett liv? Hur dök ”jag” och ”mitt liv” upp som följeslagare? Är de åtskilda? Om inte, hur är vi förenade? Är livet inklämt mellan födelse och död? Eller är livet utsträckt, innefattande växlingarna mellan födelse och död? Vad är livet egentligen? Det lilla som begränsas av födelse och död, eller det stora som innefattar växlingarna mellan födelse och död? Eller bägge samtidigt? Detta är kanske de första trevande frågorna…

Dödligheten som systemet bygger på väcker passionerade frågor om begreppen som systemet opererar med som om de hade ristats i sten för tid och evighet. Den väcker ett självprövande liv, som inte låter sig styras av systemets doktriner om vad alla måste tro på. Även systemet ifrågasätts, för engagemanget i frågandet är lika stort som systemet skulle vilja vara.

Men om frågandet passionerat bryr sig om livet, om dödligheten och sårbarheten rentav ingår i engagemanget – får systemet därmed sista ordet?

(Inlägget är en undran inspirerad av Martin Hägglunds bok Vårt enda liv, som jag rekommenderar som en storartad stötesten för vår tid.)

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi ställer frågor

Vi formar samhällena som formar oss: vårt ansvar för den mänskliga naturen

Visionära akademiska texter är ovanliga – texter som belyser hur forskning kan bidra till de riktigt stora mänskliga frågorna. I en artikel i filosofitidskriften Theoria öppnar Kathinka Evers upp ett djupt visionärt perspektiv på neurovetenskapen och den mänskliga naturen. Vågar ni följa med?

I årtusenden har känsliga tänkare bekymrats över människan själv. Visst skapar vi välstånd och säkerhet åt oss. Men som inga andra djur har vi även en olycklig benägenhet att skapa elände åt oss själva (och andra livsformer). 1900-talet var extremt i bägge riktningarna. Vad är mekanismen bakom det mänskliga självskadebeteendet? Kan den belysas och förändras?

Som jag läser henne, ställer Kathinka Evers väsentligen denna stora mänskliga fråga. Hon gör det utifrån dagens neurovetenskapliga syn på hjärnan, som hon menar motiverar ett nytt sätt att förstå och påverka mekanismen bakom det storskaliga mänskliga självskadebeteendet. Väsentligt i den neurovetenskapliga synen, är att människohjärnan är byggd för att aldrig bli helt färdigbyggd. Liksom vi har ett unikt självskadebeteende, föds vi med unikt ofärdiga hjärnor. Dessa hjärnor är formbara under decennier och skulle behöva lika lång omsorg. De formas inte passivt, utan genom att aktivt finna nya, mer eller mindre lyckliga sätt att fungera i samhällena som vi utsätter oss för.

Eftersom våra hjärnor påverkar våra samhällen, kan man säga att vi bygger samhällena som bygger oss själva, i ett ständigt kretslopp. Mitt i detta känsliga utbyte mellan människa och samhälle står alltså hjärnan. Med sin kreativa formbarhet gör den många deterministiska anspråk på genetiken och människans ”medfödda” natur problematiska. Varför är vi som vi är? Delvis för att vi skapar samhällena som skapar oss så som vi är. I årtusenden har vi genererat oss själva via samhällena som vi byggt, okunniga om det hyperinteraktiva organet mitt i processen. Det är alltid bakom våra ögon.

Kathinka Evers poäng är att vi idag har vi så stor kunskap om hjärnans inneboende aktivitet, dynamik och variabilitet, att vi får ett nytt ansvar för vår egen natur. Hon uttrycker tekniskt läget så här: Dagens neurovetenskapliga kunskap om hjärnan ger oss ett naturalistiskt ansvar att vara epigenetiskt proaktiva. Om vi vet att vår aktiva och variabla hjärna stödjer en kulturell evolution bortom vårt genetiska arv, så får vi ett ansvar att påverka evolutionen genom att anpassa samhället till vad vi vet om hjärnans styrkor och svagheter.

Tanken på ett neurovetenskapligt ansvar att utforma samhällen som formar den mänskliga naturen i önskvärd riktning, kan låta som en uppmaning till en ny social ingenjörskonst. Artikeln utvecklar emellertid tanken om detta ansvar inom ramen för en samvetsgrann genomgång av liknande tendenser i vår historia, tendenser som ofta kretsat kring genetiken. Det handlar inte om att stödja ideologier som redan bestämt sig för hur människan bör vara. Det handlar snarare om att låta kunskap om hjärnan inspirera till sociala förändringar, där vi annars okunnigt skulle riskera att återskapa mänskligt elände. Sådan kunskap förutsätter givetvis samarbete mellan natur-, samhälls- och humanvetenskaperna, tillsammans med fri filosofisk reflektion.

I artikeln nämns exemplet ungdomsvåld. I vissa länder finns en politisk vilja att döma ungdomsbrottslingar som om de vore vuxna och även placera dem i vuxenfängelser. Idag vet vi att hjärnan under puberteten är i en utvecklingskris, där viktiga neurala kretsar förändras dramatiskt. Krisande ungdomshjärnor behöver särskild hänsyn. Men här riskerar de att placeras i precis sådana miljöer som vi kan räkna med genererar mer mänskligt elände.

Kunskap om hjärnan kan alltså motivera sociala förändringar som minskar det mänskliga självskadebeteende som bekymrat tänkare i årtusenden. Neurovetenskaplig självkännedom ger oss en nyckel till mekanismen bakom beteendet och ett ansvar att använda den.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Kathinka Evers. 2020. The Culture‐Bound Brain: Epigenetic Proaction Revisited. Theoria. doi:10.1111/theo.12264

Detta inlägg på engelska

I dialog med filosofer

En ideologi som är helt främmande för min ideologi

Jag läste en ledarartikel som kritiserade ideologiska moment i skolundervisningen. Artikelförfattaren hade besökt hemsidan för en av organisationerna som anlitats av skolorna och fann där tydliga uttryck för en samhällssyn baserad på ideologiska dogmer av ett bestämt slag.

Kritiken kan mycket väl ha varit befogad. Vad som gjorde mig fundersam var hur problemet uttrycktes. Det lät nämligen som om problemet var att ideologin ifråga var främmande för ledarskribentens egen ideologi: ”främmande för mig och de flesta andra …-ister”.

Jag kände mig ledsen när jag läste detta. Det kan ju låta som om det vore vårt mänskliga öde att leva innestängda i ideologiska labyrinter, oförstående för varandra. Men om vi är främmande för en ideologi, betyder det verkligen inget mer än att den ideologin är främmande för vår egen ideologi?

Kan vi befria oss från ideologiernas labyrint? Eller vore det bara ännu en ideologi: ”Vi anti-ideologer uppmanar till kamp mot alla ideologier”!? Uppenbarligen är det svårt att bekämpa alla ideologier utan att själv bli ideologisk. Även fredsrörelser bär på fröet till nya konflikter. Vilken sida för fred står du på?

Kan vi befria oss genom att strängt hålla oss till fakta och inget annat än fakta? Att hålla sig till fakta är viktigt. Ett problem är att ideologier redan älskar att hänvisa till fakta, för att stärka ideologin och framställa den som sanningen. Att påpeka fakta ger lätt ammunition till ännu mer ideologisk debatt, som vi snart blir en engagerad del av: ”Vi rationalister motsätter oss bestämt alla ideologiskt vinklade beskrivningar av verkligheten”!?

Kan lösningen vara att alltid bekänna ideologisk färg, så att vi sprider medvetenhet om våra ideologiska ensidigheter: ”Hej, jag representerar riksorganisationen mot tarmsköljning – en praktik som vi anti-sköljare ser som ett brott mot mänsklig värdighet”!? Det kan vara bra att informera andra om våra motiv, så att de inte vilseleds till att tro på vad vi säger. Men det visar knappast en vackrare sida av mänskligheten, utan förstärker bilden att motstridiga former av ideologisk ensidighet är människans öde.

Men om vi nu ser problemet klart och tydligt, om vi ser hur varje försök att lösa problemet återskapar problemet, har vi inte öppnat oss för vår belägenhet då? Har vi inte sett oss själva med en blick som inte längre är ensidig? Är vi inte fria?

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi söker klarhet

Etik som förnyad klarhet om nya situationer

En artikel i tidskriften Big Data & Society kritiserar skarpt den form av etik som kommit att dominera forskning och utveckling inom artificiell intelligens (AI). Det handlar om samma ramverkstolkning av etiken som du kunde läsa om på Etikbloggen förra veckan. Men med en oroväckande skillnad. Snarare än att fungera som staket som sätter nödvändiga gränser för utvecklingen, riskerar ramverket att användas som etisk täckmantel av AI-företag, som vill undvika juridisk reglering av området. Genom att hänvisa till etisk självreglering – vackra deklarationer av principer, värdeord och riktlinjer – hoppas man kunna undvika juridisk reglering, som verkligen kunde sätta viktiga gränser för AI.

Problemet med AI-etik som ”mjuk etiklagstiftning” är inte bara att den kan användas för att undvika nödvändig juridisk reglering av området. Problemet är framförallt, menar SIENNA-forskarna som skrivit artikeln, att den formen av etik inte hjälper oss att tänka klart om nya situationer. Vad vi behöver, menar de, är en etik som ständigt förnyar vår blick för det nya. Det är nämligen så att AI ständigt ställer oss inför nya situationer: nya användingar av robotar, nya möjligheter för regeringar och företag att övervaka människor, nya former av teknikberoende, nya risker för diskriminering, samt utmaningar som vi kanske inte så lätt förutser.

Författarna betonar att en sådan ögonöppnande AI-etik kräver nära samarbete med samhällsvetenskaperna. Det är naturligtvis riktigt. Själv vill jag betona att en etik som förnyar vår blick för det nya, även måste vara filosofisk i ordets djupaste mening. För att klart se det nya och oväntade, kan du inte ens vila i din professionella kompetens, med sina etablerade metoder, teorier och begrepp. Du måste ifrågasätta dina egna intellektuella ramar. Du måste tänka själv.

Läs den redan uppmärksammade artikeln, som jag upplevde som frisk fläkt.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Anaïs Rességuier, Rowena Rodrigues. 2020. AI ethics should not remain toothless! A call to bring back the teeth of ethics. Big Data & Society

Detta inlägg på engelska

Vi söker klarhet

« Äldre inlägg