En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Månad: maj 2018

Kan en robot lära sig tala?

Pär SegerdahlDet finns självmodifierande datorprogram som ”lär sig” av framgång och misslyckande. Schackspelande datorer kan exempelvis bli bättre av att spela mot människor.

Skulle en liknande robot kunna lära sig tala? Om roboten får samma input som ett barn får, så borde det väl i princip vara möjligt?

Lägg märke till hur frågan växlar fram och tillbaka mellan människa och maskin. Vi säger att roboten lär sig. Vi säger att barnet får input. Vi talar roboten som om den vore ett barn. Vi talar om barnet som om det vore en robot. Sedan tar vi detta språkliga sicksackande på allvar som en fascinerande fråga, kanske till och med en stor forskningsuppgift.

En AI-expert och blivande far som drömde om forskningsuppgiften vidtog följande ambitiösa åtgärd. Han utrustade hela huset med kameror och mikrofoner. Syfte? Han ville veta exakt vilken typ av språklig input barnet får när det lär sig tala. I ett senare skede skulle han kunna ge en självmodifierande robot samma slags input och testa om den också lär sig tala.

Hur utföll projektet? Den personliga erfarenheten av barnet fick AI-experten att ifrågasätta hela projektet att lära en robot tala. Hur kunde en personlig erfarenhet leda till att ett till synes seriöst vetenskapligt projekt ifrågasattes?

Här kunde jag börja jollra om hur varmt sociala barn är jämfört med iskalla maskiner. Hur de lär sig i intima relationer till föräldrarna. Hur de nyfiket och med upptäckarglädje tar initiativet, i stället för att beräknande invänta input.

Problemet är att sådant joller från min sida får det att låta som om AI-experten enbart hade fel om robotar och barn. Att han saknade faktakoll, men nu vet bättre. Så enkelt är det inte. Idén om projektet förutsatte nämligen ett omedvetet språkligt sicksackande. Redan i frågan suddas gränserna mellan robotar och barn ut. Redan i frågan har man till hälften besvarat den!

Vi kan alltså inte nöja oss med att besvara frågan i rubriken med ett Nej. Vi måste tillbakavisa frågan som nonsens. Det är frågans bedrägliga sicksackande som får den att låta trovärdig; som något att utforska.

Att språkteknologiska lösningar alltmer använder självmodifierande program är däremot troligt. Men det är en annan fråga.

Pär Segerdahl

Beard, Alex. How babies learn – and why robots can’t compete. The Guardian, 3 April 2018

Detta inlägg på engelska

Vi är kritiska : www.etikbloggen.crb.uu.se

Bioetik utan den deprimerades missförstånd

Pär SegerdahlNär vi är deppiga gör vi ofta misstaget att vi skannar omgivningen för att finna orsaken till vårt tillstånd där. Man kunde tala om den deprimerades missriktade världslighet. Vi är övertygade om att något i världen gör oss deprimerade. Att vi själva skulle ha en roll i dramat ser vi som uteslutet: ”Jag är deprimerad för att han/hon/de/samhället är så himla…”

Självklart tror den deprimerade att vägen till lycka består i att undanröja de yttre orsakerna till nedstämdheten: ”Om jag bara slapp honom/henne/dem/samhället, så skulle jag må mycket bättre”. Så ser den deprimerades världslighet ut. Vi lyckas inte vända blicken inåt, för att se (och hantera) hur problemen uppkommer inom oss själva.

Främlingsfientlighet är antagligen ännu ett exempel på den deprimerades missförstånd. Vi kunde tala om den otrygges missriktade världslighet. Återigen skannar man omgivningen för att finna orsaken till otryggheten där. När man ”finner” den, så ”bevisar” man den samtidigt för sig själv, bortom allt tvivel. Så fort man tänker på invandring, attackeras man nämligen av stark otrygghet. Att man själv bär omkring på otryggheten ser man som uteslutet. ”Jag lider på grund av att samhället blir alltmer otryggt.”

Slutligen gör man politik av svårigheten att granska sig själv. Man vill undanröja orsaken till otryggheten man upplever: ”Om vi stoppar invandringen, så blir samhället säkrare och jag slipper känna otrygghet!” Så ser den otrygges missriktade världslighet ut.

Nu blir du nog överraskad, för även anti-främlingsfientlighet kan uppvisa den deprimerades missförstånd. Om vi inte hyser djup förståelse för hur främlingsfientlighet kan uppkomma inom en människa, så kommer vi att tro att det finns personer som i sin outgrundliga ondska fabricerar alternativ statistik om otryggheten i samhället. Dessa grupper måste bekämpas, tänker vi: ”Om det inte fanns främlingsfientliga grupper i samhället, så skulle jag må mycket bättre”. Så kan den gode motdemonstrantens världslighet se ut.

Ja, så där håller vi på, i vår missriktade världslighet, för att vi inte ser våra egna roller i dramat. Vi gör politik av våra inre tillstånd, som spiller över på världen som om de vore fakta som borde synas i statistiken. (Och därför ser vi dem i statistiken!)

Nu blir du kanske överraskad igen, för även bioetiken kan uppvisa den deprimerades missförstånd. Jag tänker på tendensen att göra etiken till en institution som upprätthåller moralisk ordning samhället. Visst behövs etisk reglering av biomedicinsk forskning, men ibland går kanske denna reglering en missriktad världslighets ärenden.

En person som upplever moraliskt obehag inför forskning kan tänka: ”Om forskarna inte dödade mänskliga embryon, så skulle jag må mycket bättre”. Ska vi göra reglering av detta inre tillstånd, genom att förbjuda embryonal stamcellsforskning? Eller vore det att missriktat projicera vårt inre tillstånd på världen?

Jag kan inte besvara frågan i detta inlägg; den kräver mycket mer uppmärksamhet. Jag vågar bara säga att vi oftare än vi tror är som deprimerade människor som söker tillståndets orsak i världen. Bara att kunna fråga om vi lever i den deprimerades missförstånd är stort nog.

Jag tänker mig att bioetiken borde kunna ställa den självgranskande frågan och söka praktiska vägar att hantera den inom oss själva. Så att vi inte spiller över på världen.

Pär Segerdahl

Detta inlägg på engelska

Vi tänker om bioetik : www.etikbloggen.crb.uu.se

Att publicera bioetik 2018 – var och var inte?

Stefan Eriksson och Gert Helgesson uppdaterar varje år en lista över tveksamma tidskrifter – ofta kallade ”predatory journals” – som kan locka bioetikforskare att publicera sig i dem.

Listan för 2018 finns nu tillgänglig på The Ethics Blog: Where to publish and not to publish in bioethics – the 2018 list

Tanken är att listan ska fungera som en utgångspunkt när forskare i bioetik överväger lämplig tidskrift att publicera sitt arbete i.

Pär Segerdahl

Vi tycker om etik : www.etikbloggen.crb.uu.se