En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Författare: Pär Segerdahl (Sida 23 av 50)

Kan en robot lära sig tala?

Pär SegerdahlDet finns självmodifierande datorprogram som ”lär sig” av framgång och misslyckande. Schackspelande datorer kan exempelvis bli bättre av att spela mot människor.

Skulle en liknande robot kunna lära sig tala? Om roboten får samma input som ett barn får, så borde det väl i princip vara möjligt?

Lägg märke till hur frågan växlar fram och tillbaka mellan människa och maskin. Vi säger att roboten lär sig. Vi säger att barnet får input. Vi talar roboten som om den vore ett barn. Vi talar om barnet som om det vore en robot. Sedan tar vi detta språkliga sicksackande på allvar som en fascinerande fråga, kanske till och med en stor forskningsuppgift.

En AI-expert och blivande far som drömde om forskningsuppgiften vidtog följande ambitiösa åtgärd. Han utrustade hela huset med kameror och mikrofoner. Syfte? Han ville veta exakt vilken typ av språklig input barnet får när det lär sig tala. I ett senare skede skulle han kunna ge en självmodifierande robot samma slags input och testa om den också lär sig tala.

Hur utföll projektet? Den personliga erfarenheten av barnet fick AI-experten att ifrågasätta hela projektet att lära en robot tala. Hur kunde en personlig erfarenhet leda till att ett till synes seriöst vetenskapligt projekt ifrågasattes?

Här kunde jag börja jollra om hur varmt sociala barn är jämfört med iskalla maskiner. Hur de lär sig i intima relationer till föräldrarna. Hur de nyfiket och med upptäckarglädje tar initiativet, i stället för att beräknande invänta input.

Problemet är att sådant joller från min sida får det att låta som om AI-experten enbart hade fel om robotar och barn. Att han saknade faktakoll, men nu vet bättre. Så enkelt är det inte. Idén om projektet förutsatte nämligen ett omedvetet språkligt sicksackande. Redan i frågan suddas gränserna mellan robotar och barn ut. Redan i frågan har man till hälften besvarat den!

Vi kan alltså inte nöja oss med att besvara frågan i rubriken med ett Nej. Vi måste tillbakavisa frågan som nonsens. Det är frågans bedrägliga sicksackande som får den att låta trovärdig; som något att utforska.

Att språkteknologiska lösningar alltmer använder självmodifierande program är däremot troligt. Men det är en annan fråga.

Pär Segerdahl

Beard, Alex. How babies learn – and why robots can’t compete. The Guardian, 3 April 2018

Detta inlägg på engelska

Vi är kritiska : www.etikbloggen.crb.uu.se

Bioetik utan den deprimerades missförstånd

Pär SegerdahlNär vi är deppiga gör vi ofta misstaget att vi skannar omgivningen för att finna orsaken till vårt tillstånd där. Man kunde tala om den deprimerades missriktade världslighet. Vi är övertygade om att något i världen gör oss deprimerade. Att vi själva skulle ha en roll i dramat ser vi som uteslutet: ”Jag är deprimerad för att han/hon/de/samhället är så himla…”

Självklart tror den deprimerade att vägen till lycka består i att undanröja de yttre orsakerna till nedstämdheten: ”Om jag bara slapp honom/henne/dem/samhället, så skulle jag må mycket bättre”. Så ser den deprimerades världslighet ut. Vi lyckas inte vända blicken inåt, för att se (och hantera) hur problemen uppkommer inom oss själva.

Främlingsfientlighet är antagligen ännu ett exempel på den deprimerades missförstånd. Vi kunde tala om den otrygges missriktade världslighet. Återigen skannar man omgivningen för att finna orsaken till otryggheten där. När man ”finner” den, så ”bevisar” man den samtidigt för sig själv, bortom allt tvivel. Så fort man tänker på invandring, attackeras man nämligen av stark otrygghet. Att man själv bär omkring på otryggheten ser man som uteslutet. ”Jag lider på grund av att samhället blir alltmer otryggt.”

Slutligen gör man politik av svårigheten att granska sig själv. Man vill undanröja orsaken till otryggheten man upplever: ”Om vi stoppar invandringen, så blir samhället säkrare och jag slipper känna otrygghet!” Så ser den otrygges missriktade världslighet ut.

Nu blir du nog överraskad, för även anti-främlingsfientlighet kan uppvisa den deprimerades missförstånd. Om vi inte hyser djup förståelse för hur främlingsfientlighet kan uppkomma inom en människa, så kommer vi att tro att det finns personer som i sin outgrundliga ondska fabricerar alternativ statistik om otryggheten i samhället. Dessa grupper måste bekämpas, tänker vi: ”Om det inte fanns främlingsfientliga grupper i samhället, så skulle jag må mycket bättre”. Så kan den gode motdemonstrantens världslighet se ut.

Ja, så där håller vi på, i vår missriktade världslighet, för att vi inte ser våra egna roller i dramat. Vi gör politik av våra inre tillstånd, som spiller över på världen som om de vore fakta som borde synas i statistiken. (Och därför ser vi dem i statistiken!)

Nu blir du kanske överraskad igen, för även bioetiken kan uppvisa den deprimerades missförstånd. Jag tänker på tendensen att göra etiken till en institution som upprätthåller moralisk ordning samhället. Visst behövs etisk reglering av biomedicinsk forskning, men ibland går kanske denna reglering en missriktad världslighets ärenden.

En person som upplever moraliskt obehag inför forskning kan tänka: ”Om forskarna inte dödade mänskliga embryon, så skulle jag må mycket bättre”. Ska vi göra reglering av detta inre tillstånd, genom att förbjuda embryonal stamcellsforskning? Eller vore det att missriktat projicera vårt inre tillstånd på världen?

Jag kan inte besvara frågan i detta inlägg; den kräver mycket mer uppmärksamhet. Jag vågar bara säga att vi oftare än vi tror är som deprimerade människor som söker tillståndets orsak i världen. Bara att kunna fråga om vi lever i den deprimerades missförstånd är stort nog.

Jag tänker mig att bioetiken borde kunna ställa den självgranskande frågan och söka praktiska vägar att hantera den inom oss själva. Så att vi inte spiller över på världen.

Pär Segerdahl

Detta inlägg på engelska

Vi tänker om bioetik : www.etikbloggen.crb.uu.se

Att publicera bioetik 2018 – var och var inte?

Stefan Eriksson och Gert Helgesson uppdaterar varje år en lista över tveksamma tidskrifter – ofta kallade ”predatory journals” – som kan locka bioetikforskare att publicera sig i dem.

Listan för 2018 finns nu tillgänglig på The Ethics Blog: Where to publish and not to publish in bioethics – the 2018 list

Tanken är att listan ska fungera som en utgångspunkt när forskare i bioetik överväger lämplig tidskrift att publicera sitt arbete i.

Pär Segerdahl

Vi tycker om etik : www.etikbloggen.crb.uu.se

Läs denna intervju med Kathinka Evers!

Genom filosofisk analys och begreppsutveckling bidrar Uppsala universitet starkt till den stora europeiska satsningen, Human Brain Project. Det handlar om nya sätt att tänka om hjärnan och medvetandet, som tar oss bortom motsättningar mellan medvetet och omedvetet; mellan medvetande och materia.

Vill du veta mer? Läs den fascinerande intervjun med Kathinka Evers: A continuum of consciousness: The Intrinsic Consciousness Theory

Kathinka Evers vid CRB i Uppsala leder arbetet kring neuroetik och neurofilosofi i Human Brain Project.

Pär Segerdahl

Kommer med lästips - Etikbloggen

När rädslan för det dunkla slår knut på sig själv

Pär SegerdahlDunkelt skrivna texter gör oss arga. Först blir vi irriterade för att vi inte förstår. Sedan kommer rädslan: rädslan att bli lurad av skojare. Den rädslan är så stark att vi inte vågar titta närmare på den. I stället misstänker vi på allvar att det finns galenpannor som av outgrundliga skäl skriver hyllmeter av gallimatias. Bäst att förskansa sig i förnuftets högborg!

Visst finns det galenpannor som rabblar dumheter. Min egen farhåga i detta inlägg är att rädslan för det dunkla kan förytliga oss. Insiktsfullhet framstår nämligen lätt som dunkelhet. Det tar tid att smälta insiktsfulla texter. Ofta återkommer vi till dem under ett helt liv. Skänker vi oss inte den tiden, utan kräver omedelbar tillfredsställelse, avfärdar vi lätt texterna som dunkla och kanske även farliga.

Det finns ett ideal för att utrota all dunkelhet: Att skriva verbalt explicit, utan minsta hål i resonemangskedjan. Så fingranskas ofta de stora tänkarnas texter: Finns det förbisedda hål i argumenten där sanningen riskerar att rinna ut? Kan hålen täppas igen, eller sjunker skeppet med sin last av sanningsanspråk?

Ett problem med detta förnuftsideal är att det kan undergräva den egna läskunnigheten. Idealet kan få även helt vanliga texter att framstå som obskyra, vilket i sin tur förstärker rädslan att bli lurad av skojare; horder av dem. Plötsligt vill man korrigera hela mänskligheten, som tydligen ännu inte lärt sig hur man tar sitt förnuft till fånga.

Förnuftsidealet blir ett asketiskt krav hos en liten krets stålsatta, som skriver intrikat argumenterande texter till varandra; texter som blir obegripliga för resten av mänskligheten. Som ointagliga murar, skyddande förnuftets högborg.

Rädslan för det dunkla riskerar att göra oss både ytliga och obskyra. Ta därför hand om din rädsla! Det är också ett sätt att ta sitt förnuft till fånga. Kanske ett insiktsfullare sätt.

Pär Segerdahl

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se

Regler för författarskap bör preciseras

Pär SegerdahlNyligen skrev jag om hedersförfattare i forskarvärlden. När jag försökte återge kriterierna för akademiskt författarskap, kände jag mig dum. Jag visste inte hur jag med egna ord skulle återge främst fjärde kriteriet, som på engelska lyder:

”Agreement to be accountable for all aspects of the work in ensuring that questions related to the accuracy or integrity of any part of the work are appropriately investigated and resolved.”

För att räknas som författare till en akademisk publikation, räcker det inte att man bidrar till forskningsarbetet, att man bidrar till skrivandet eller reviderandet av det intellektuella innehållet i texten, samt godkänner slutversionen. Man måste även uppfylla detta fjärde kriterium, som har att göra med ansvar kring oredlighet i forskning.

Men vad säger kriteriet? Efter att ha läst en debattartikel av Gert Helgesson och Stefan Eriksson i tidskriften Learned Publishing, förstår jag att det inte bara var min dumhet som orsakade svårigheten att återge fjärde kriteriet. Formuleringen är verkligen mångtydig, vilket kan bero på oenighet mellan författarna av kriteriet.

Helgesson och Eriksson konstaterar tre möjliga tolkningar av kriteriet:

  1. Läggs betoningen på de första tio orden (till och med första förekomsten av ”work”), tycks kriteriet säga att alla författare är ansvariga, eller bör hållas ansvariga, för alla delar av artikeln. Om oredlighet förekommit bör samtliga författare hållas ansvariga, även om de varit ovetande om vad som pågått.
  2. Fortsätter man att läsa, ändras betydelsen. Kriteriet tycks då säga att om oredlighet misstänks, så har alla författare ansvar att underlätta undersökningen av misstankarna (oberoende av vilken del av arbetet som misstankarna gäller).
  3. En tredje tolkningsmöjlighet går längre än den andra. Den innebär att en författare ska stödja undersökningar av oredlighet inte bara efter att artikeln skickats till tidskrift. En författare bör själv initiera sådana undersökningar redan under forsknings- och skrivprocessen, om denne anar oråd.

Det går inte att avgöra vilken tolkning som gäller. Helgesson och Eriksson anser att tredje tolkningen vore rimligast ur forskningsetisk synvinkel. Om det är denna tolkning som avses bör man vid nästa revidering av författarkriterierna göra detta språkligt tydligt, avslutar de debattartikeln.

Pär Segerdahl

Helgesson, G. and Eriksson, S. Revise the ICMJE Recommendations regarding authorship responsibility! Learned Publishing 2018. doi: 10.1002/leap.1161

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se

Risker för diskriminering i populationsbaserad biobanksforskning

Pär SegerdahlÄven de bästa avsikter kan leda snett. Att omtänksamt behandla vissa grupper som ”sårbara”, såsom gravida och barn, kan orsaka att de diskrimineras. Om de skyddas från deltagande i klinisk forskning, vet vi mindre om hur de reagerar på läkemedel. Därmed utsätts de för större risker som patienter i behov av vård. Tack för omtanken.

Deborah Mascalzoni påpekar i ett föredrag möjliga diskrimineringsmönster i populationsbaserad biobanksforskning. Hon uppmärksammar särskilt personer som lider av psykisk sjukdom, som ofta utesluts från sådana studier. Men hon nämner även barn, som sällan deltar i populationsbaserade biobanker, liksom människor med tidiga symtom på demenssjukdom eller med missbruksproblematik.

Mascalzoni frågar alltså hur representativa de populationsbaserade biobankerna egentligen är. Detta är viktigt, eftersom resultat från sådan forskning allt oftare används i planeringen av vården. Vi behöver därför förstå diskrimineringsmönstren, så att exempelvis människor som lider av psykisk sjukdom får samma nytta av forskning som andra.

Mönstren orsakas dock inte enbart av hur grupper behandlas som ”sårbara”. Även rent praktiska svårigheter, som man kanske inte tänker på, kan orsaka diskriminering. Det är etiskt och juridiskt omständligt att rekrytera barn till forskning. Människor som lider av depression kan ha självmordstankar, vilket kräver särskilda insatser. Människor med början till demens kan ha svårt att förstå komplex information, vilket komplicerar samtyckesprocessen.

Vissa grupper är därmed i praktiken svårare att rekrytera till populationsbaserade biobanker. Antingen det beror på omtanke eller inga tankar alls, kan forskningsresultaten bli skeva, vilket kan leda till sämre vård för vissa grupper. Det finns alltså skäl att fråga om representativitet.

Pär Segerdahl

Mascalzoni, D. 2017. Reverse discrimination for psychiatric genetic studies in population-based biobanks. European Neuropsychopharmacology 27: 475-476

Detta inlägg på engelska

Vi ställer frågor : www.etikbloggen.crb.uu.se

Att bli medveten om något

Pär SegerdahlDet finns många beskrivningar av företeelsen jag uppmärksammar i detta inlägg. Här är några beskrivningar: Att uppmärksamma något; att notera; att lägga märke till; att slås av; att observera; att bli klar över; att inse; att bli medveten om något.

Alla är vi med om det. Med jämna mellanrum sker det som beskrivningarna pekar mot. Vi inser något, vi blir medvetna om något. Det kan handla om elementära saker, som att slås av hur blå himlen är. Det kan handla om känsliga saker, som att bli varse (ännu en beskrivning) hur självupptagna vi är eller hur ogint vi behandlar någon.

Vad vore livet om vi inte då och då blev medvetna om livet?

Det kan också handla om mer komplexa, filosofiska insikter. Som att bli klar över vad det innebär att förlåta någon. Förlåtelse kan inte beordras, lika lite vi kan beordra någon att vara glad. Orden ”Jag förlåter dig” låter kanske som en viljemässig handling som kan beordras, men enbart några tomma ord kommer att lyda ordern. Själva förlåtelsen kommer spontant, eller inte alls. Jag utbrister ”Jag förlåter dig” när jag med lättnad märker (ännu en beskrivning) att jag förlåtit; att jag inte längre tänker oförsonliga tankar etc.

Vad vore mänskligt liv utan dessa insikter om hur vi lever? Vad vore etiken?

Lika lite som förlåtelse kan beordras, kan medvetenhet beordras. ”Inse detta!” är ingen uppmaning, utan ren och skär desperation. Medvetenheten är lika skygg som förlåtelsen. Den kommer spontant, eller inte alls. Så snart en medvetenhet beordras, avkrävs, eller förutsätts, så krymper den till påbjuden norm för tanken. Så skapas trosgemenskaper, kyrkor, eller filosofiska skolor. Där bekräftar medlemmarna varandra och talar illa om ”de andra”, de insiktslösa, som måste uteslutas.

Med tanke på hur medvetenheten vägrar lyda order, kunde man se den som något radikalt. Den tar oss bortom alla normer och trosgemenskaper! Plötsligt inser vi något som överträffar allt vi trodde oss veta. Men försöker vi plumpt meddela andra våra insikter, bevisa dem som fakta, så reducerar vi vår fria öppna klarhet till tvingande slutna normer. Vår radikala frihet är omärkbar på ytan, vi kan inte skylta med den utan att förlora den.

Om medvetenheten är fri och omöjlig att fånga som faktum, betyder det att vi måste tiga om alla skygga insikter? Nej, filosofiskt arbete försöker att med ord locka fram dem i ljuset: hos oss själva och hos andra. Genom slående exempel, betraktelser, liknelser och träffande ordvändningar, försöker vi locka fram vad som radikalt vägrar lyda order. Detta är hemligheten bakom en äkta filosofisk undersökning. Den bevisar inte utan lockar fram sanningen. Huruvida undersökningen lyckas får var och en bedöma själv. I filosofin kan ingen säga, ”Elementärt, min käre Watson”. Men många yrkestänkare drömmer om det. De drömmer om de tvingande normerna för tanken. Förnuftstro är ren och skär desperation.

Detta inlägg kan tyckas innehålla orakeluttalanden om exempelvis förlåtelse. Men meningen är inte att någon ska tro på mig eller använda inlägget som norm för tanken. Uttalandena är till sist frågor människor emellan: Ser du också dessa drag, som jag ser hos förlåtelse och medvetenhet? Annars fortsätter vi att undersöka tillsammans. För i filosofin kan vi inte framtvinga sanningen, bara locka fram den. Den kommer spontant, eller inte alls.

Pär Segerdahl

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se

Intellektuella vanor hindrar självgranskning

Pär SegerdahlIntellektet är världsligt utåtriktat. Det försöker få ordning på fakta om världen. Även när det riktas inåt, mot vårt eget medvetande, där intellektet hör hemma, tolkar intellektet medvetandet som om det vore ett objekt i världen.

Intellektet blir aldrig medvetet om sig självt. Det expanderar alltid utåt, mot något annat.

Den kinesiske filosofen Konfucius gav en fantastisk bild av en självgranskande människa: ”Då bågskytten missar pricken på tavlan vänder han sig om och söker orsaken till sitt misslyckande hos sig själv.”

Intellektet är som en bågskytt som inte kan vända sig om. Om intellektet skulle försöka att granska sig självt, så skulle det tolka sig självt som ännu en måltavla att träffa med sina spetsiga pilar! Intellektet är oförmöget till visdom och vet inget om självkännedom. Intellektet kan bara avfyra projektiler mot världen, det kan bara expandera och erövra.

Jag skriver filosofi. Det betyder att jag alltid vänder mig om för att söka orsaken till våra misslyckanden hos oss själva. Jag skjuter sällan pil, och definitivt inte mot yttre måltavlor.

Samtidigt stöter detta inre arbete på hinder i akademiska vanor och ideal, som i hög grad är intellektuella och syftar till att få koll på fakta om världen. Jag kan exempelvis inte undersöka våra sätt att tänka, utan att belägga dessa tänkesätt genom att ange litteraturkällor som gör det troligt att tänkesätten faktiskt förekommer i världen (hos författarna x, y och z, till exempel).

Därigenom förvandlas tänkesätten till världsliga måltavlor som jag måste skjuta mot. Men jag ville ju vända mig om och söka orsaken till våra misslyckanden hos oss själva!

Vad behöver vi idag? Vi behöver något radikalt annat än bara faktakoll. Vi behöver lära oss konsten att vända oss om. Vi behöver lära oss att söka orsaken till våra misslyckanden hos oss själva. Intellektets ihärdiga skjutande av projektiler mot världen har blivit mänsklighetens mest utmärkande ovana – närmast det mänskliga tillståndet.

Tror ni att intellektet kan skjuta sig ur de kriser som dess egen skjutgladhet orsakar? Tror ni att det kan expandera sig ur de problem som dess egen expansion producerar?

Om Elon Musk tar oss till Mars, så löser han säkert alla våra problem!

Pär Segerdahl

Detta inlägg på engelska

Vi tänker om tänkande - Etikbloggen

Två åtgärder mot hedersförfattarkulturen

Pär SegerdahlInom akademin är det viktigt att veta vem som faktiskt bidragit som författare till de texter som publiceras. Dels för att författarskap är meriterande när forskare söker anställningar och forskningsmedel. Dels för att misstänkt oredlighet i forskning ska kunna utredas.

Därför finns publiceringsetiska regler för akademiskt författarskap. De betonar att en författare inte bara ska bidra till idéerna, insamlingen av data, eller analyserna bakom publikationen. En författare ska även bidra till själva skrivandet och reviderandet av texten. En författare ska vidare godkänna slutversionen av texten, samt ta ansvar för att arbetet som helhet genomförts samvetsgrant och korrekt.

Antalet författare till akademiska publikationer tenderar att öka. Som exempel på hur långt det kan gå, kan nämnas att under 2011 publicerades 140 vetenskapliga artiklar som vardera uppgav fler än 1.000 författare!

En anledning till de allt större antalen författare till varje publikation är givetvis att forskningen blir alltmer komplex och kräver allt större samarbeten. Mycket tyder dock på att antalet oförtjänta författarskap ökar. Man kunde tala om en hedersförfattarkultur inom akademin.

Det finns starka drivkrafter bakom hedersförfattarkulturen. Det kan handla om att stödja sammanhållningen i en forskargrupp genom att undvika det obekväma beslutet att utesluta medarbetare som bidragit minimalt till arbetet som publiceras. Det kan handla om skapa goda relationer till inflytelserika personer i forskarvärlden genom att ge dem författarskap; ibland kräver de det. Det kan handla om att öka chanserna att bli publicerad genom att ha ett berömt forskarnamn i författarlistan. Och eftersom det är prestige med stora forskningsprojekt, så ser en lång författarlista snygg ut. Den skapar ett tryck på tidskrifterna att publicera vad som uppenbarligen krävt så många kompetenta forskares bidrag – tänker man.

Vad göra åt saken? I en artikel med det numera modesta författarantalet fyra, framhålls att publiceringsetiska regler, som funnits länge och är välkända, uppenbarligen inte räcker. I tidskriften Insights skriver Stefan Eriksson, Tove Godskesen, Lars Andersson och Gert Helgesson att vi förmodligen behöver skapa psykologiska motkrafter mot hedersförfattarkulturen.

Närmare bestämt föreslås två enkla åtgärder som kan reducera de oförtjänta författarskapen inom akademin:

  1. När forskare söker anställningar, intervjua dem om deras bidrag till publikationer som de anför som meriter i ansökan. Om de enbart är hedersförfattare kan de kanske inte redogöra för artiklarna eller hur de bidrog till dem. Vetskap om att detta ingår i rekryteringsprocessen kan skapa ett psykologiskt tryck att undvika oförtjänta hedersförfattarskap.
  2. Dividera poängvärdet av författarskap och citeringar med antalet författare. Vetskap om att poängvärden beräknas på detta sätt skapar ett psykologiskt tryck att inte ta upp oförtjänta författare i författarlistan.

Det ligger nära till hands att invända att detta förslag i stället riskerar att exkludera medarbetare från att bidra som författare, trots att de mycket väl kunde ges tillfälle att fungera som välförtjänta medförfattare. Denna invändning bemöts givetvis i artikeln. I stället för att redogöra för författarnas försvar hoppas jag genom tystnad kunna locka dig som läser Etikbloggen att läsa den viktiga artikeln. Så att jag inte pådyvlar dig ett oförtjänt hedersläsarskap! Hur ofta säger vi inte att vi läst något jätteintressant, som vi i själva verket bara ögnat igenom eller fått refererat?

Jag vill understryka det rimliga i analysen att vi har att göra med en akademisk hedersförfattarkultur. Den försvinner inte om vi inte skapar motkrafter. Etiska publiceringsregler räcker inte, det står klart. Det bästa vore givetvis om vi alla blev helgon. I väntan på att det sker behövs psykologiska incitament att bete sig bra.

Pär Segerdahl

Eriksson, S., Godskesen, T., Andersson, L., Helgesson, G. (2018). How to counter undeserving authorship. Insights. 31(1), p.1. DOI: http://doi.org/10.1629/uksg.395

Detta inlägg på engelska

Vi diskuterar aktuella frågor : www.etikbloggen.crb.uu.se

« Äldre inlägg Nyare inlägg »