Förbered er på robottrams

26 februari, 2018

Pär SegerdahlI takt med att datorer och robotar tar över uppgifter som hittills bara kunnat utföras av människor, som att köra bil, kommer vi antagligen att utsättas för alltfler försåtliga språkliga glidningar från teknikens prästerskap.

Idén om intelligenta datorer, om medvetna robotar, är av någon anledning ohyggligt fascinerande. Vi ser oss själva som intelligenta och medvetna varelser. Tänk om robotar också kan vara intelligenta och medvetna! Faktum är att vi redan har sett dem (nästan): på bioduken. Snart ser vi dem kanske i verkligheten också (på riktigt)!

Tänk om artefakter som vi betraktat som dött mekaniska en vacker dag får livets karaktär! Tänk om vi skapar intelligent liv! Har vi tillräckligt många utropstecken för ett sådant mirakel?

Idén om intelligent liv i superdatorer kommer ofta tillsammans med idén att det finns ett test som kan avgöra om en superdator är intelligent. Det är lite som om jag ville göra idén om evighetsmaskiner trovärdig genom att tala om ett evighetsmaskin-test, uppfunnet av en supersmart matematiker på 1600-talet. Frågan om något är en evighetsmaskin är i princip avgörbar och alltså värd att beakta! Snart driver de kanske våra intelligenta, robotstyrda bilar!

Det finns en välkänd idé om ett intelligenstest för datorer, uppfunnet av den brittiske matematikern Alan Turing. Testet antas kunna avgöra om en maskin ”har vad vi har”: intelligens. Hur funkar testet? I princip handlar det om huruvida du kan skilja en dator från en människa – eller inte kan göra det.

Men det är väl ingen konst att skilja en dator från en människa? Nej, visst! Jag glömde säga att det finns dimridåer i testet, så att du varken ser, hör, känner, smakar eller luktar något! I princip skickar du in nedskrivna frågor i dimman. Ur dimman kommer nedskrivna svar. Men vem skrev/genererade svaren? Människa eller dator? Om du inte kan skilja de datorgenererade svaren från mänskliga svar – ja, då är det säkrast att du hukar, för då lurar en intelligent superdator i dimman!

Testet är alltså anpassat till datorn, som inte kan ha ett intelligent ansiktsuttryck eller se perplex ut, och som inte kan stöna ”Åh neej, vilken dum fråga!” Testet är anpassat till ett ingenjörsbegrepp om intelligent hantering av skrivna symbolsekvenser. Att den stackars testpersonen är en människa som inte alltid är säker på ”vem” som ”genererat” det skrivna svaret, döljer allt detta.

Dessa språkliga glidningar syns ovanligt tydligt i en artikel jag stött på via en ganska smart sökmotor. Artikeln frågar om maskiner kan vara medvetna. Och den svarar: Ja, och ett nytt Turing-test kan bevisa det.

Artikeln börjar med att hänryckas av medvetandet som ”vårt obeskrivliga och gåtfulla inre liv”. Medvetandet exemplifieras sedan med virveln av sensationer som väcks inom oss när vi äntligen återser vår käresta, hör ett underbart violinsolo, eller avnjuter en makalös måltid.

Efter denna extatiska hyllning av medvetandet, börjar anpassningarna av begreppet, så att det till slut bara är ett begrepp om maskinell informationshantering. Författarna ”visar” att medvetande inte förutsätter något samspel med omgivningen. Det förutsätter inte heller minnen. Medvetande förutsätter vidare inga känslor som ilska, rädsla eller glädje. Det förutsätter varken uppmärksamhet, självreflektion, språk eller förmåga att agera i världen.

Vad blir då kvar av medvetandet, som det nyss lät så läckert att ha? Svaret i artikeln är att medvetande har att göra med ”mängden integrerad information som en organism, eller en maskin, kan generera”.

Begreppet anpassas alltså gradvis till vad som skulle bevisas. Det blir slutligen något som föga överraskande kan karaktärisera en datamaskin. Efter att vi svalt denna anpassning, är det meningen att vi i slutet av artikeln återigen ska häpna och känna hänryckning över att en maskin kan ha ”detta gåtfulla inre liv” som vi har, medvetande: ”Åh, vilket utsökt violinsolo, för att inte tala om sniglarna, åh så ljuvligt att återses så här!”

Det nya Turing-test som författarna föreställer sig är såvitt jag förstår ett slags bildidentifierings-test: Kan en dator identifiera innehållet i en bild som ”ett rån mot ett affärsbiträde”? En medveten dator ska kunna identifiera bildinnehåll lika bra som en människa. Jag gissar att tanken är att uppgiften kräver supermycket integrerad information. Inga enkla tumregler av typen man + pistol + byggnad + rädd kund = rån. Det måste handla om så himla mycket integrerad information att datorn verkligen alldeles själv fattar att det är ett rån (och inte en femåring som leker med en leksakspistol).

Tron på testet förutsätter alltså att vi svalt anpassningarna av begreppet medvetande och börjat hänryckas av superstora mängder integrerad information som: ”Vårt obeskrivliga och gåtfulla inre liv”.

Den här typen av försåtliga språkliga glidningar kommer att attrahera oss ännu mer i takt med att robottekniken utvecklas. Tänk dig en android med mimik och röst som kan uttrycka intelligens och som kan stöna inför dumma frågor. Då har vi väl en intelligent och medveten maskin!

Eller bara en bedrägligare dimridå, en vandrande interaktiv superbioduk?

Pär Segerdahl

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se


Nytt begrepp om medvetandet utmanar språket

31 januari, 2018

Pär SegerdahlFör några veckor sedan rekommenderade jag en spännande artikel av Michele Farisco. Nu är det dags igen! Jag vill rekommendera ännu en artikel, där Farisco (tillsammans med Steven Laureys och Kathinka Evers) argumenterar ännu mer grundligt för ett nytt begrepp om medvetandet.

Artikeln i Mind & Matter är komplex och jag tvivlar på att jag kan göra den rättvisa. Jag måste utgå från egna erfarenheter. När Farisco ifrågasätter motsättningen mellan medveten och omedveten, liknar det nämligen något som jag skrivit om: motsättningen mellan människa och djur.

Motsättningar som fungerar utmärkt i vardagsspråket blir ofta ohållbara för vetenskapliga syften. I vardagen är motsättningen mellan människa och djur oproblematisk. Om ett barn berättar att det sett ett djur, så vet vi att det inte var en människa som barnet såg. Men för biologen vore idén om människan som ett icke-djur en absurditet. Biologin kan inte utgå från motsättningen mellan människa och djur, trots att den är i sin ordning i vardagsspråket. Motsättningen döljer kontinuiteter mellan oss och de andra djuren.

Farisco säger (om jag förstår honom) något liknande om neurovetenskapen. Även om motsättningen mellan medveten och omedveten fungerar i vardagsspråket, så blir den problematisk i neurovetenskapen. Den döljer kontinuiteter i hjärnans arbetssätt. Neurovetenskapen bör därför betrakta medvetandet och det omedvetna som former av en och samma företeelse i den levande hjärnan.

Om biologin talar om människan som ett av djuren, hur föreslår Farisco att neurovetenskapen talar om medvetandet? Här ställs vi inför språkliga utmaningar som kräver större våld på våra språkvanor än när människan beskrivs som ett av djuren.

Fariscos förslag är att vidga begreppet om medvetandet så att det innefattar även vad vi vanligen kallar det omedvetna (ungefär som biologen vidgar begreppet djur). Farisco menar alltså att hjärnan är medveten så länge den lever, även under djup sömn eller i koma. Men observera att han använder ordet i en ny mening! Han påstår inte vad det låter som om han påstod!

Hjärnan arbetar ständigt, antingen vi är medvetna eller inte (i vanlig mening). De flesta neurala processer är omedvetna och en förutsättning för medvetande (i vanlig mening). Farisco föreslår att vi använder ordet medvetande för alla dessa processer i den levande hjärnan. Tillstånden vi vanligen ställer mot varandra – medveten och omedveten – är alltså former av  samma företeelse, nämligen medvetandet i Fariscos vidgade mening (”consciousness” på engelska).

Farisco stödjer det vidgade begreppet om medvetandet på en stor mängd neurovetenskapliga rön, som jag inte kan gå in på i detta inlägg. Det enda jag vill göra här, är att påpeka att Fariscos utveckling av begreppet medvetande i neurovetenskapen antagligen är lika följdriktigt som biologins begrepp om människan som en djurart.

Låt inte de språkliga utmaningarna hindra dig från att se det följdriktiga i Fariscos förslag!

Pär Segerdahl

Farisco, M., Laureys, S. and Evers, K. 2017. The intrinsic activity of the brain and its relation to levels and disorders of consciousness. Mind and Matter 15: 197-219

Detta inlägg på engelska

Kommer med lästips - Etikbloggen


Att inte veta varför

17 januari, 2018

Pär SegerdahlOfta vet vi inte varför vi tycker som vi gör. Vi kanske tycker om en teckning, men vi kan inte säga varför vi tycker den är bra. Vi kanske finner det obehagligt att forskare studerar mänskliga embryon som sedan förstörs, men vi kan inte säga varför vi tycker så.

Personligen finner jag det intressant att inte veta och har inget emot att tillbringa långa tider utan att kunna ange ett enda vettigt skäl. Det finns något fruktbart i det, något hemlighetsfullt lovande. Men det kan också irritera folk till vansinne. Det märkliga är att man ofta kan ange vilket idiotiskt skäl som helst för att tillfredsställa dem, bara det på ett ytligt plan låter som om man ”säger varför”. Det tillfredsställer nämligen intellektet, som överhuvudtaget inte kan begripa hur någon kan tycka något utan att ha en grund. Det påminner mig om Torssons textrad om grannens hund, ”Den skäller ofta utan rimlig grund”.

Jag skulle inte platsa i ett debattprogram på TV. Det märkliga är att där om någonstans skäller man på varandra, just genom att ange grunder: ”Din åsikt är fullständigt idiotisk, för vov-vov-vov”! – Debatter är antagligen överskattade… men varför tycker jag det?

Att omedelbart tillfredsställa intellektets krav på skäl tycks oklokt. Förutom att det binder oss vid åsikter som måste försvaras, vilket gör det svårt att ändra sig, så tvingas vi att ge prematur form åt våra tankar. De får inte tillfälle att fördjupas och överraska oss.

En kinesisk filosof sa: ”Den som tror sig veta vad han icke vet är sjuk”. Men intellektet tvingar oss att låtsas veta. Intellektet blir vansinnigt om vi inte uppvisar detta vansinne.

Att erkänna att man inte vet, och sedan ge sig tid, det är visdom.

Pär Segerdahl

Detta inlägg på engelska

Vi vill ha djup : www.etikbloggen.crb.uu.se


Det omedvetna förtjänar moralisk uppmärksamhet

10 januari, 2018

Pär SegerdahlI höstas skrev Michele Farisco ett av de mest lästa inläggen på The Ethics Blog. Inlägget speglades senare av BioEdge.

Jag vill nu tipsa om en ny artikel där Farisco utvecklar sina tankar – läs den i tidskriften Philosophy, Ethics, and Humanities in Medicine.

Artikeln kommer säkert att väcka minst lika mycket uppmärksamhet som blogginlägget gjorde. Tillsammans med Kathinka Evers utvecklar nämligen Farisco ett sätt att tänka om det omedvetna som vid första påseende tycks kontroversiellt, men som vid närmare eftertanke ter sig alltmer trovärdigt. Den kombinationen är svårslagbar.

Vad handlar det om? Det handlar om patienter med hjärnskador, kanske efter en trafikolycka. Etiska diskussioner om dessa patienter fokuserar vanligen på eventuellt kvarvarande medvetande. Vi tänker nämligen att det finns en absolut skillnad mellan medvetenhet och omedvetenhet. Bara en medveten person kan uppleva välbefinnande. Bara en medveten person kan ha intressen. En patient med kvarvarande medvetande förtjänar därför en helt annan omtanke än en medvetslös patient. En helt annan uppmärksamhet vad gäller smärtlindring, lugn och ro, eller stimulans. – Varför skapa en varm och stimulerande miljö kring en patient som är helt omedveten om omgivningen?

I artikeln ifrågasätter Farisco den absoluta skillnaden mellan medvetenhet och omedvetenhet. Han redogör för neurovetenskaplig forskning som visar på två ofta förbisedda kopplingar mellan medvetna och omedvetna hjärnprocesser. Den första är att det omedvetna (åtminstone delvis) har de förmågor som anses etiskt relevanta när spår av kvarvarande medvetande diskuteras. Den andra kopplingen är att medvetna och omedvetna hjärnprocesser är ömsesidigt beroende. De formar varandra. Även omedvetet reagerar hjärnan unikt på familjemedlemmars röster.

Nu menar inte Farisco att detta bevisar att vi har en skyldighet att behandla omedvetna patienter som medvetna. Men den omedvetna hjärnan förtjänar moralisk uppmärksamhet. Kanske bör vi försöka bedöma även de omedvetna förmågor som kvarstår hos patienten. Kanske borde vi i vissa fall spela den musik som patienten älskade före olyckan?

Pär Segerdahl

Farisco, M. and Evers, K. The ethical relevance of the unconscious. Philosophy, Ethics, and Humanities in Medicine (2017) DOI 10.1186/s13010-017-0053-9

Detta inlägg på engelska

Kommer med lästips - Etikbloggen


Stora frågor har inte små svar

20 december, 2017

Pär SegerdahlVissa frågor upplever vi som ”större” än andra frågor. Vad är det att leva, existera – snarare än inte vara till? När börjar livet och när slutar det? Vad är en människa? Har livet en mening med oss eller är det vi som ger mening åt livet?

Det här är frågor som man inte väntar sig bestämda svar på, annat än på skämt. Det är undringar som man bär med sig och då och då konfronteras med. Märkligt nog kan man märka att man har en inställning till frågorna. Kanske en annan idag än för tio år sedan. Inställningen är inget bestämt svar, ingen doktrin om verkligheten som torra undersökningar kunde stödja eller kullkasta.

Bioetiken kommer ibland nära dessa stora frågor, nämligen när forskare studerar sådant som vi förknippar med mysteriet att vi lever, existerar, är. Ett exempel är embryonal stamcellsforskning, där forskare skördar stamceller från mänskliga embryon. Till och med förespråkare av sådan forskning kan uppleva att något är mycket känsligt med embryot. Jag skulle inte leva, inte vara till, inte existera, om det inte en gång funnits ett embryo…

Embryot förknippas alltså lätt med de stora frågorna om livet. Det betyder att även bioetiken måste hantera dessa frågor. Hur gör den det?

Vanligen genom att söka mycket bestämda svar på frågorna. Lite som supersmarta advokater som äntligen tar sig an de där dunkla gamla livsfrågorna för att få lite rätsida på dem.

Vet ni till exempel när en människa börjar existera? Två bioetiker studerade frågan såväl biologiskt som filosofiskt, och gav ett bestämt svar: En människa börjar existera sexton dagar efter befruktningen.

Fel, invände andra bioetiker. Även de studerade frågan grundligt men nådde ett annat bestämt svar: Människan börjar existera i befruktningsögonblicket. Enda undantaget är tvillingar. De börjar existera senare, men mycket tidigare än sexton dagar efter befruktningen.

Bioetikerna jag talar om här är mäkta stolta över att kunna ge bestämda svar på en så stor fråga om mänsklig existens. Men om stora frågor inte har små svar, annat än på skämt, så har man väl levererat svaret till priset av att förlora frågan?

Den fråga jag själv arbetar med just nu är hur bioetiken undviker att förlora frågorna som vi upplever som ”större” än andra frågor.

Pär Segerdahl

Smith, B. & Brogaard, B. 2003. Sixteen days. Journal of Medicine and Philosophy 28: 45-78.

Damschen, G., Gómez-Lobo, A. & Schönecker, D. 2006. Sixteen days? A reply to B. Smith and B. Brogaard on the beginning of human individuals. Journal of Medicine and Philosophy 31: 165-175.

Detta inlägg på engelska

Vi vill ha djup : www.etikbloggen.crb.uu.se


Teknik, etik och mänskliga rättigheter

31 oktober, 2017

Josepine FernowNy teknik påverkar både samhället och oss som individer, men det är svårt att förutse hur. Idag använder de flesta både smarta telefoner och intelligent programvara varje dag. Vissa behöver proteser eller implantat för att få livet att fungera. Många av oss kommer att leva när förarlösa bilar kan ses i trafiken. Forskning visar att dementa som klappar robotkatter får ökad livskvalitet. Genetiska tester är billigare än någonsin och tillgängliga för både patienter och konsumenter. Om du spottar i ett provrör och skickar det till ett företag i USA får du en genetisk analys som berättar var dina förfäder kommer ifrån. Vem vet, kanske är en liten andel av dina gener från en överraskande exotisk plats. Kanske påverkar det din bild av vem du är?

Ny (och gammal) teknik kommer med både etiskt och juridiskt bagage. Sådant vi förr bara kunde föreställa oss i science fiction är möjligt idag. Teknik utvecklas fort och det är svår att förutse hur den kommer att användas när nästa generation växer upp. Dagens lagstiftning, reglering och etiska riktlinjer utvecklades för en annan framtid än vår nutid. Politiska beslutsfattare sliter med att förstå och hantera de etiska (och juridiska) konsekvenserna av ny teknik. Teknik väcker också frågor om mänskliga rättigheter. Vad händer när Saudiarabien, ett land som kritiseras för att inte ge kvinnor lika rättigheter, ger en robot hedersmedborgarskap? Den här hösten kommer en grupp forskare från Europa, Asien, Afrika och Amerika att belysa några av de här frågorna och börja sitt arbete med att förbättra etiska och juridiska ramverk för ny teknik.

SIENNA-projektet, eller Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact som det egentligen heter, kommer att leverera förslag på professionella etiska koder, riktlinjer för forskningsetikkommittéer och förslag på förbättringar i Europeisk lagstiftning. Gruppen kommer också att arbeta med de mer filosofiska frågorna som teknikutvecklingen väcker: Var drar vi gränsen mellan hälsa och sjukdom? Kan vi förvänta oss att intelligent programvara beter sig på ett moraliskt sätt? Går vi med på att ge upp en del av vår integritet för att ta reda på om vi har risk för genetisk sjukdom? Och om priset vi betalar för att interagera med maskiner är att ge upp en del av vår personliga frihet, är vi i så fall villiga att betala det?

Projektet koordineras av tekniska universitetet i Twente, Nederländerna. Uppsala universitets Centrum för forsknings- & bioetik (CRB) bidrar med sin expertis kring etiken, juridiken och de sociala konsekvenserna av genteknik. Vi bidrar också med vår erfarenhet av att arbeta med forskningskommunikation i Europeiska projekt. Vill du veta mer? Besök www.sienna-project.eu.

Josepine Fernow

SIENNA-projektet – Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact – har fått närmare €4 miljoner för ett projekt som löper på 3,5 år inom ramen för Europeiska Unionens H2020 forsknings- och innovationsprogram, grant agreement No 741716. Observera att den här texten och dess innehåll enbart uttrycker SIENNA-projektets synpunkter. EU-Kommisionen är inte ansvarig för hur innehållet används.

SIENNA project: Technology, ethics and human rights

Detta inlägg på engelska

Vi tolkar framtiden - etikbloggen


Neuroetik bortom medvetandet

23 oktober, 2017

Hur bör vi tänka etiskt om vården av patienter som, kanske efter en trafikolycka, ligger medvetslösa i sjukhussängen?

På den engelska versionen av Etikbloggen ifrågasätter Michele Farisco tendensen att fokusera enbart på eventuellt kvarvarande medvetande hos dessa patienter. Han hänvisar till forskning som pekar på att processer och tillstånd som vi förknippar med medvetandet förekommer även i den omedvetna hjärnan.

Därför frågar Michele Farisco: Borde vi inte tänka mer på att vårda även dessa patienters kvarvarande omedvetna, inte bara spåren av kvarvarande medvetande?

Läs inlägget på The Ethics Blog!

Pär Segerdahl

Vi hittar nya vinklar : www.etikbloggen.crb.uu.se


%d bloggare gillar detta: