Rovdjurstidskrifter och etisk utbildning

5 juni, 2018

Idag ger jag tre lästips. Först två artiklar i tidningen Curie, fint skrivna av Sara Nilsson, om fenomenet rovdjurstidskrifter:

De ger en klar överblick av företeelsen och kan vara upplysande inte bara för etablerade forskare och doktorander, utan för alla och envar. Detta händer nu! (Observera länkarna vidare till engelska översättningar av artiklarna.)

I båda artiklarna intervjuas Stefan Eriksson vid CRB, som inte bara forskar om rovdjurstidskrifter utan dessutom menar att vi bör sluta använda begreppet. Han föreslår att vi i stället talar om bedrägliga respektive lågkvalitativa tidskrifter. De är problematiska på olika sätt.

Kan man genom etisk utbildning dana forskare som inte faller för frestelsen att publicera sig i bedrägliga tidskrifter? Om inte, varför lyckas det inte? Kan neurovetenskapen kasta ljus över det? Mitt tredje lästips idag är ett inlägg på The Ethics Blog:

Där berättar Daniel Pallarés Domínguez om sitt postdoktorala projekt vid CRB. Han kommer att kritiskt undersöka ambitioner att förena neurovetenskapen med strävan att genom utbildning göra människor mer moraliska.

Pär Segerdahl

Kommer med lästips - Etikbloggen


Kan en robot lära sig tala?

29 maj, 2018

Pär SegerdahlDet finns självmodifierande datorprogram som ”lär sig” av framgång och misslyckande. Schackspelande datorer kan exempelvis bli bättre av att spela mot människor.

Skulle en liknande robot kunna lära sig tala? Om roboten får samma input som ett barn får, så borde det väl i princip vara möjligt?

Lägg märke till hur frågan växlar fram och tillbaka mellan människa och maskin. Vi säger att roboten lär sig. Vi säger att barnet får input. Vi talar roboten som om den vore ett barn. Vi talar om barnet som om det vore en robot. Sedan tar vi detta språkliga sicksackande på allvar som en fascinerande fråga, kanske till och med en stor forskningsuppgift.

En AI-expert och blivande far som drömde om forskningsuppgiften vidtog följande ambitiösa åtgärd. Han utrustade hela huset med kameror och mikrofoner. Syfte? Han ville veta exakt vilken typ av språklig input barnet får när det lär sig tala. I ett senare skede skulle han kunna ge en självmodifierande robot samma slags input och testa om den också lär sig tala.

Hur utföll projektet? Den personliga erfarenheten av barnet fick AI-experten att ifrågasätta hela projektet att lära en robot tala. Hur kunde en personlig erfarenhet leda till att ett till synes seriöst vetenskapligt projekt ifrågasattes?

Här kunde jag börja jollra om hur varmt sociala barn är jämfört med iskalla maskiner. Hur de lär sig i intima relationer till föräldrarna. Hur de nyfiket och med upptäckarglädje tar initiativet, i stället för att beräknande invänta input.

Problemet är att sådant joller från min sida får det att låta som om AI-experten enbart hade fel om robotar och barn. Att han saknade faktakoll, men nu vet bättre. Så enkelt är det inte. Idén om projektet förutsatte nämligen ett omedvetet språkligt sicksackande. Redan i frågan suddas gränserna mellan robotar och barn ut. Redan i frågan har man till hälften besvarat den!

Vi kan alltså inte nöja oss med att besvara frågan i rubriken med ett Nej. Vi måste tillbakavisa frågan som nonsens. Det är frågans bedrägliga sicksackande som får den att låta trovärdig; som något att utforska.

Att språkteknologiska lösningar alltmer använder självmodifierande program är däremot troligt. Men det är en annan fråga.

Pär Segerdahl

Beard, Alex. How babies learn – and why robots can’t compete. The Guardian, 3 April 2018

Detta inlägg på engelska

Vi är kritiska : www.etikbloggen.crb.uu.se


Läs denna intervju med Kathinka Evers!

26 april, 2018

Genom filosofisk analys och begreppsutveckling bidrar Uppsala universitet starkt till den stora europeiska satsningen, Human Brain Project. Det handlar om nya sätt att tänka om hjärnan och medvetandet, som tar oss bortom motsättningar mellan medvetet och omedvetet; mellan medvetande och materia.

Vill du veta mer? Läs den fascinerande intervjun med Kathinka Evers: A continuum of consciousness: The Intrinsic Consciousness Theory

Kathinka Evers vid CRB i Uppsala leder arbetet kring neuroetik och neurofilosofi i Human Brain Project.

Pär Segerdahl

Kommer med lästips - Etikbloggen


Förbered er på robottrams

26 februari, 2018

Pär SegerdahlI takt med att datorer och robotar tar över uppgifter som hittills bara kunnat utföras av människor, som att köra bil, kommer vi antagligen att utsättas för alltfler försåtliga språkliga glidningar från teknikens prästerskap.

Idén om intelligenta datorer, om medvetna robotar, är av någon anledning ohyggligt fascinerande. Vi ser oss själva som intelligenta och medvetna varelser. Tänk om robotar också kan vara intelligenta och medvetna! Faktum är att vi redan har sett dem (nästan): på bioduken. Snart ser vi dem kanske i verkligheten också (på riktigt)!

Tänk om artefakter som vi betraktat som dött mekaniska en vacker dag får livets karaktär! Tänk om vi skapar intelligent liv! Har vi tillräckligt många utropstecken för ett sådant mirakel?

Idén om intelligent liv i superdatorer kommer ofta tillsammans med idén att det finns ett test som kan avgöra om en superdator är intelligent. Det är lite som om jag ville göra idén om evighetsmaskiner trovärdig genom att tala om ett evighetsmaskin-test, uppfunnet av en supersmart matematiker på 1600-talet. Frågan om något är en evighetsmaskin är i princip avgörbar och alltså värd att beakta! Snart driver de kanske våra intelligenta, robotstyrda bilar!

Det finns en välkänd idé om ett intelligenstest för datorer, uppfunnet av den brittiske matematikern Alan Turing. Testet antas kunna avgöra om en maskin ”har vad vi har”: intelligens. Hur funkar testet? I princip handlar det om huruvida du kan skilja en dator från en människa – eller inte kan göra det.

Men det är väl ingen konst att skilja en dator från en människa? Nej, visst! Jag glömde säga att det finns dimridåer i testet, så att du varken ser, hör, känner, smakar eller luktar något! I princip skickar du in nedskrivna frågor i dimman. Ur dimman kommer nedskrivna svar. Men vem skrev/genererade svaren? Människa eller dator? Om du inte kan skilja de datorgenererade svaren från mänskliga svar – ja, då är det säkrast att du hukar, för då lurar en intelligent superdator i dimman!

Testet är alltså anpassat till datorn, som inte kan ha ett intelligent ansiktsuttryck eller se perplex ut, och som inte kan stöna ”Åh neej, vilken dum fråga!” Testet är anpassat till ett ingenjörsbegrepp om intelligent hantering av skrivna symbolsekvenser. Att den stackars testpersonen är en människa som inte alltid är säker på ”vem” som ”genererat” det skrivna svaret, döljer allt detta.

Dessa språkliga glidningar syns ovanligt tydligt i en artikel jag stött på via en ganska smart sökmotor. Artikeln frågar om maskiner kan vara medvetna. Och den svarar: Ja, och ett nytt Turing-test kan bevisa det.

Artikeln börjar med att hänryckas av medvetandet som ”vårt obeskrivliga och gåtfulla inre liv”. Medvetandet exemplifieras sedan med virveln av sensationer som väcks inom oss när vi äntligen återser vår käresta, hör ett underbart violinsolo, eller avnjuter en makalös måltid.

Efter denna extatiska hyllning av medvetandet, börjar anpassningarna av begreppet, så att det till slut bara är ett begrepp om maskinell informationshantering. Författarna ”visar” att medvetande inte förutsätter något samspel med omgivningen. Det förutsätter inte heller minnen. Medvetande förutsätter vidare inga känslor som ilska, rädsla eller glädje. Det förutsätter varken uppmärksamhet, självreflektion, språk eller förmåga att agera i världen.

Vad blir då kvar av medvetandet, som det nyss lät så läckert att ha? Svaret i artikeln är att medvetande har att göra med ”mängden integrerad information som en organism, eller en maskin, kan generera”.

Begreppet anpassas alltså gradvis till vad som skulle bevisas. Det blir slutligen något som föga överraskande kan karaktärisera en datamaskin. Efter att vi svalt denna anpassning, är det meningen att vi i slutet av artikeln återigen ska häpna och känna hänryckning över att en maskin kan ha ”detta gåtfulla inre liv” som vi har, medvetande: ”Åh, vilket utsökt violinsolo, för att inte tala om sniglarna, åh så ljuvligt att återses så här!”

Det nya Turing-test som författarna föreställer sig är såvitt jag förstår ett slags bildidentifierings-test: Kan en dator identifiera innehållet i en bild som ”ett rån mot ett affärsbiträde”? En medveten dator ska kunna identifiera bildinnehåll lika bra som en människa. Jag gissar att tanken är att uppgiften kräver supermycket integrerad information. Inga enkla tumregler av typen man + pistol + byggnad + rädd kund = rån. Det måste handla om så himla mycket integrerad information att datorn verkligen alldeles själv fattar att det är ett rån (och inte en femåring som leker med en leksakspistol).

Tron på testet förutsätter alltså att vi svalt anpassningarna av begreppet medvetande och börjat hänryckas av superstora mängder integrerad information som: ”Vårt obeskrivliga och gåtfulla inre liv”.

Den här typen av försåtliga språkliga glidningar kommer att attrahera oss ännu mer i takt med att robottekniken utvecklas. Tänk dig en android med mimik och röst som kan uttrycka intelligens och som kan stöna inför dumma frågor. Då har vi väl en intelligent och medveten maskin!

Eller bara en bedrägligare dimridå, en vandrande interaktiv superbioduk?

Pär Segerdahl

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se


Nobelpris i ekonomi

10 oktober, 2017

Pär SegerdahlFörr fick ekonomer nobelpriset för att de identifierade människan med ett ekonomiskt rationalitetsideal.

Numera får de nobelpriset för att de påpekar att människan inte är rationell.

Uppenbarligen vet ekonomer hur hur de maximerar nobelpristilldelningen med ett intellektuellt kapital de aldrig hade. 🙂

Pär Segerdahl

Vi hittar nya vinklar : www.etikbloggen.crb.uu.se


Vi söker en kommunikatör

26 september, 2017

Är du intresserad av att arbeta med forskningskommunikation? Vi behöver en kommunikatör i ett Europeiskt forskningsprojekt med partners från Europa, Amerika, Afrika och Asien.

Ta en titt på jobbannonsen! Sista dag för ansökan är 12 oktober.

Pär Segerdahl

Vi vill ha dialog : www.etikbloggen.crb.uu.se


Moralpanik i intellektet

6 september, 2017

Pär SegerdahlMoralpanik utvecklas antagligen i intellektet. Det är våra tankar som rusar iväg med oss. Mentala bilder gör så starkt intryck på oss, att vi tar dem för Verkligheten, för Sanningen, för Fakta. Tro inte att intellektet är iskallt och objektivt. Det kan koka av oroliga tankar.

Detta visar sig i bioetiken, där många frågor svettas ångest. Forskningsinformation om klonade djur, om nya tekniker för att redigera i arvsmassan, eller om embryonal stamcellsforskning, frammanar otäcka bilder av samhällsomstörtande forskning som hotar mänsklig moral. Paniken förutsätter ett känsligt intellekt. Där får bilderna sådana dimensioner, att vi inte längre kan se forskningen inramad i sina vardagliga sammanhang. Bilderna av forskningen tar i stället över intellektet som sanningens referensram. Alldagliga påpekanden, som kunde stödja besinning, framstår för intellektet som naiva.

Mina funderingar föranleds av en vetenskapsnyhet i National Geographic. Nyheten handlar om det första försöket i USA att genetiskt redigera mänskliga embryon. Forskarna använde så kallad CRISPR-teknik för att redigera bort en mutation som är associerad med ärftligt hjärtfel. Efter det lyckade försöket förstördes embryona.

När man tar del av sådan forskningsinformation, känner man onekligen oro i kroppen. Oron tar snart intellektet i besittning: Vad ska de göra härnäst? Utveckla nya supermänniskor som ser oss vanliga människor som lägre stående? Får vetenskapen verkligen ändra människans natur? NEJ, vi måste genast införa lagstiftning som definitivt förbjuder all genetisk redigering av mänskliga embryon!

Om intellektet kan koka av sådana ångestfyllda tankar, och om det vore oklokt att paniklagstifta på grundval av överhettade föreställningar, då tror jag att bioetiken behöver utveckla mer terapeutiska färdigheter än den har idag. Somliga bioetiska frågor behöver antagligen behandlas som ett slags intellektets sjukdomar. Bioetisk ångest uppkommer ofta, tror jag, när forskningskommunikation presenterar vetenskap som sanningens horisont, i stället för att ge vetenskapen en alldaglig, mänsklig horisont.

Nu kan det låta som om jag ensidigt tagit ställning för vetenskapen, genom att framställa kritiker som förblindade av moralpanik. Så är det inte, för moralpanikens andra sida är storhetsvansinnet. Hypade bilder av Stora Genombrott och Miralkelkurer kan lyfta hela forskningsfält. Mentala bilder som oroar de flesta av oss, stimulerar andra personlighetstyper. Måhända var Paolo Macchiarini  en sådan personlighet. Och kanske lyftes han fram i en vetenskapskultur präglad av vansinniga mentala förväntningar på forskningen och dess hjältar.

Vi behöver en terapeutisk bioetik som lugnar ner det oroliga intellektet.

Pär Segerdahl

Detta inlägg på engelska

Vi tänker om bioetik : www.etikbloggen.crb.uu.se


%d bloggare gillar detta: