Förbered er på robottrams

26 februari, 2018

Pär SegerdahlI takt med att datorer och robotar tar över uppgifter som hittills bara kunnat utföras av människor, som att köra bil, kommer vi antagligen att utsättas för alltfler försåtliga språkliga glidningar från teknikens prästerskap.

Idén om intelligenta datorer, om medvetna robotar, är av någon anledning ohyggligt fascinerande. Vi ser oss själva som intelligenta och medvetna varelser. Tänk om robotar också kan vara intelligenta och medvetna! Faktum är att vi redan har sett dem (nästan): på bioduken. Snart ser vi dem kanske i verkligheten också (på riktigt)!

Tänk om artefakter som vi betraktat som dött mekaniska en vacker dag får livets karaktär! Tänk om vi skapar intelligent liv! Har vi tillräckligt många utropstecken för ett sådant mirakel?

Idén om intelligent liv i superdatorer kommer ofta tillsammans med idén att det finns ett test som kan avgöra om en superdator är intelligent. Det är lite som om jag ville göra idén om evighetsmaskiner trovärdig genom att tala om ett evighetsmaskin-test, uppfunnet av en supersmart matematiker på 1600-talet. Frågan om något är en evighetsmaskin är i princip avgörbar och alltså värd att beakta! Snart driver de kanske våra intelligenta, robotstyrda bilar!

Det finns en välkänd idé om ett intelligenstest för datorer, uppfunnet av den brittiske matematikern Alan Turing. Testet antas kunna avgöra om en maskin ”har vad vi har”: intelligens. Hur funkar testet? I princip handlar det om huruvida du kan skilja en dator från en människa – eller inte kan göra det.

Men det är väl ingen konst att skilja en dator från en människa? Nej, visst! Jag glömde säga att det finns dimridåer i testet, så att du varken ser, hör, känner, smakar eller luktar något! I princip skickar du in nedskrivna frågor i dimman. Ur dimman kommer nedskrivna svar. Men vem skrev/genererade svaren? Människa eller dator? Om du inte kan skilja de datorgenererade svaren från mänskliga svar – ja, då är det säkrast att du hukar, för då lurar en intelligent superdator i dimman!

Testet är alltså anpassat till datorn, som inte kan ha ett intelligent ansiktsuttryck eller se perplex ut, och som inte kan stöna ”Åh neej, vilken dum fråga!” Testet är anpassat till ett ingenjörsbegrepp om intelligent hantering av skrivna symbolsekvenser. Att den stackars testpersonen är en människa som inte alltid är säker på ”vem” som ”genererat” det skrivna svaret, döljer allt detta.

Dessa språkliga glidningar syns ovanligt tydligt i en artikel jag stött på via en ganska smart sökmotor. Artikeln frågar om maskiner kan vara medvetna. Och den svarar: Ja, och ett nytt Turing-test kan bevisa det.

Artikeln börjar med att hänryckas av medvetandet som ”vårt obeskrivliga och gåtfulla inre liv”. Medvetandet exemplifieras sedan med virveln av sensationer som väcks inom oss när vi äntligen återser vår käresta, hör ett underbart violinsolo, eller avnjuter en makalös måltid.

Efter denna extatiska hyllning av medvetandet, börjar anpassningarna av begreppet, så att det till slut bara är ett begrepp om maskinell informationshantering. Författarna ”visar” att medvetande inte förutsätter något samspel med omgivningen. Det förutsätter inte heller minnen. Medvetande förutsätter vidare inga känslor som ilska, rädsla eller glädje. Det förutsätter varken uppmärksamhet, självreflektion, språk eller förmåga att agera i världen.

Vad blir då kvar av medvetandet, som det nyss lät så läckert att ha? Svaret i artikeln är att medvetande har att göra med ”mängden integrerad information som en organism, eller en maskin, kan generera”.

Begreppet anpassas alltså gradvis till vad som skulle bevisas. Det blir slutligen något som föga överraskande kan karaktärisera en datamaskin. Efter att vi svalt denna anpassning, är det meningen att vi i slutet av artikeln återigen ska häpna och känna hänryckning över att en maskin kan ha ”detta gåtfulla inre liv” som vi har, medvetande: ”Åh, vilket utsökt violinsolo, för att inte tala om sniglarna, åh så ljuvligt att återses så här!”

Det nya Turing-test som författarna föreställer sig är såvitt jag förstår ett slags bildidentifierings-test: Kan en dator identifiera innehållet i en bild som ”ett rån mot ett affärsbiträde”? En medveten dator ska kunna identifiera bildinnehåll lika bra som en människa. Jag gissar att tanken är att uppgiften kräver supermycket integrerad information. Inga enkla tumregler av typen man + pistol + byggnad + rädd kund = rån. Det måste handla om så himla mycket integrerad information att datorn verkligen alldeles själv fattar att det är ett rån (och inte en femåring som leker med en leksakspistol).

Tron på testet förutsätter alltså att vi svalt anpassningarna av begreppet medvetande och börjat hänryckas av superstora mängder integrerad information som: ”Vårt obeskrivliga och gåtfulla inre liv”.

Den här typen av försåtliga språkliga glidningar kommer att attrahera oss ännu mer i takt med att robottekniken utvecklas. Tänk dig en android med mimik och röst som kan uttrycka intelligens och som kan stöna inför dumma frågor. Då har vi väl en intelligent och medveten maskin!

Eller bara en bedrägligare dimridå, en vandrande interaktiv superbioduk?

Pär Segerdahl

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se


Sluta prata om rovdjurstidskrifter?

22 november, 2017

Pär SegerdahlIngen forskare har väl undkommit uppvaktningen via epost från tidskrifter som envetet erbjuder sig att publicera ens forskning. Haken är att vinstmotivet styr. Oftast tar de friskt betalt av författaren och den vetenskapliga granskning som utlovas är mer eller mindre en tom fasad. Bara du skickar in din text och är beredd att betala, så hugger de!

Företeelsen har fått en etablerad beteckning. Man talar om rovdjurstidskrifter. Beteckningen används såväl av forskare och traditionella förläggare som av bibliotekarier som vill varna sina användare för tidskrifterna. De ger sken av att vara vetenskapliga, men är det knappast.

Beteckningen börjar dock att ifrågasättas. Dels för att det finns forskare som själva utnyttjar dessa tidskrifter och därmed inte är några oskyldiga bytesdjur. Dels för att även etablerade tidskrifter och förlag ibland använder rovdjurstidskrifternas metoder, såsom envetna epostutskick och höga publiceringsavgifter. Det är problematiskt, men är beteckningen rimlig på dem?

Ett annat problem som påpekats är risken att vi överreagerar och misstänker även lovande tendenser inom den akademiska förlagsvärlden, såsom publicering med öppen tillgång (Open Access). Även här förekommer det att tidskrifter tar betalt av författarna, men syftet är lovvärt: att göra vetenskapliga publikationer öppet tillgängliga på internet, utan betalspärrar.

Hur ska vi då prata, om vi vill undvika att prata om rovdjurstidskrifter?

Stefan Eriksson och Gert Helgesson uppdaterar varje år en lista över rovdjurstidskrifter inom medicinsk etik, bioetik och forskningsetik. De har även skrivit artiklar om problematiken. Men i en färsk debattartikel i Learned Publishing föreslår de att vi i stället pratar om två typer av problematiska tidskrifter: bedrägliga respektive lågkvalitativa tidskrifter.

Bedrägliga tidskrifter vilseleder författare, läsare och institutioner genom att uppge falsk information om den vetenskapliga granskningen, om redaktionen, om tidskriftens ”impact factor”, om kostnader i samband med publicering, med mera. Bedrägliga tidskrifter ska bekämpas via rättsväsendet.

Lågkvalitativa tidskrifter gör sig inte skyldiga till brottsliga handlingar. De är bara dåliga som vetenskapliga tidskrifter betraktade. Förutom låg vetenskaplig kvalitet kan de igenkännas på flera sätt. De kan exempelvis publicera artiklar inom ett löjligt brett fält (medicin och icke-medicin). De kan skicka ut förfrågningar till forskare inom ”fel” fält. De saknar strategier för att hantera forskningsfusk. Listan kunde göras lång.

Stefan Eriksson och Gert Helgesson poängterar att distinktionen mellan bedrägliga och lågkvalitativa tidskrifter gör det lättare att se vad vi faktiskt har att göra med. Och agera därefter. Somliga tidskrifter kan förknippas med handlingar som borde vara brottsliga. Andra tidskrifter utmärks snarare av sin låga kvalitet. Den skillnaden lyckas vi inte fokusera på, när vi pratar om rovdjurstidskrifter.

Dags alltså att lämna det färgstarka språkbruket kring rovdjur?

Pär Segerdahl

Eriksson, S. and Helgesson, G. (2017), Time to stop talking about ‘predatory journals’. Learned Publishing. doi:10.1002/leap.1135

Detta inlägg på engelska

Vi deltar i debatten : www.etikbloggen.crb.uu.se


Globalt forskningssamarbete, nationell dataskyddstillsyn

8 november, 2017

Pär SegerdahlVetenskap har en internationell karaktär och globala forskningssamarbeten är vanliga. För medicinsk forskning innebär detta att känsliga data och biologiska prover kopplade till personer i ett land ofta skickas över nationsgränserna till forskare i andra länder.

Samtidigt innebär utvecklingen av informations- och kommunikationsteknologi att människors rätt till dataskydd får allt större betydelse. För att ge människor persondataskydd i en ny IT-värld skärps dataskyddsregleringen, inte minst inom EU .

I en artikel i Health and Technology lyfter juristen Jane Reichel fram utmaningar som denna utveckling för med sig för biomedicinsk forskning.

Jag är inte jurist, men förstår jag Reichel rätt så handlar det inte minst om att lagstiftningen så att säga följer med persondata över nationsgränserna. EU ställer exempelvis kravet att den som mottar EU-medborgares persondata hanterar dessa data i enlighet med lagstiftningen i EU – även om mottagaren är en forskargrupp i USA eller Japan.

Detta att man i en nation kan behöva följa en främmande nations lagstiftning utmanar inte bara idéer om suveränitet och territorialitet. Det utmanar också de forskningsetiska kommittéernas ansvar. Dessa kommittéer fungerar administrativt på nationell nivå. Plötsligt tycks de behöva bevaka även utländska rättigheter och globala överenskommelser. Har dessa nationella organ expertisen och auktoriteten för en sådan internationell uppgift?

Läs artikeln om dessa spännande och oväntade juridiska problem!

Pär Segerdahl

Reichel, J. Health Technol. (2017). https://doi.org/10.1007/s12553-017-0182-6

Detta inlägg på engelska

Juridiska funderingar - Etikbloggen


Teknik, etik och mänskliga rättigheter

31 oktober, 2017

Josepine FernowNy teknik påverkar både samhället och oss som individer, men det är svårt att förutse hur. Idag använder de flesta både smarta telefoner och intelligent programvara varje dag. Vissa behöver proteser eller implantat för att få livet att fungera. Många av oss kommer att leva när förarlösa bilar kan ses i trafiken. Forskning visar att dementa som klappar robotkatter får ökad livskvalitet. Genetiska tester är billigare än någonsin och tillgängliga för både patienter och konsumenter. Om du spottar i ett provrör och skickar det till ett företag i USA får du en genetisk analys som berättar var dina förfäder kommer ifrån. Vem vet, kanske är en liten andel av dina gener från en överraskande exotisk plats. Kanske påverkar det din bild av vem du är?

Ny (och gammal) teknik kommer med både etiskt och juridiskt bagage. Sådant vi förr bara kunde föreställa oss i science fiction är möjligt idag. Teknik utvecklas fort och det är svår att förutse hur den kommer att användas när nästa generation växer upp. Dagens lagstiftning, reglering och etiska riktlinjer utvecklades för en annan framtid än vår nutid. Politiska beslutsfattare sliter med att förstå och hantera de etiska (och juridiska) konsekvenserna av ny teknik. Teknik väcker också frågor om mänskliga rättigheter. Vad händer när Saudiarabien, ett land som kritiseras för att inte ge kvinnor lika rättigheter, ger en robot hedersmedborgarskap? Den här hösten kommer en grupp forskare från Europa, Asien, Afrika och Amerika att belysa några av de här frågorna och börja sitt arbete med att förbättra etiska och juridiska ramverk för ny teknik.

SIENNA-projektet, eller Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact som det egentligen heter, kommer att leverera förslag på professionella etiska koder, riktlinjer för forskningsetikkommittéer och förslag på förbättringar i Europeisk lagstiftning. Gruppen kommer också att arbeta med de mer filosofiska frågorna som teknikutvecklingen väcker: Var drar vi gränsen mellan hälsa och sjukdom? Kan vi förvänta oss att intelligent programvara beter sig på ett moraliskt sätt? Går vi med på att ge upp en del av vår integritet för att ta reda på om vi har risk för genetisk sjukdom? Och om priset vi betalar för att interagera med maskiner är att ge upp en del av vår personliga frihet, är vi i så fall villiga att betala det?

Projektet koordineras av tekniska universitetet i Twente, Nederländerna. Uppsala universitets Centrum för forsknings- & bioetik (CRB) bidrar med sin expertis kring etiken, juridiken och de sociala konsekvenserna av genteknik. Vi bidrar också med vår erfarenhet av att arbeta med forskningskommunikation i Europeiska projekt. Vill du veta mer? Besök www.sienna-project.eu.

Josepine Fernow

SIENNA-projektet – Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact – har fått närmare €4 miljoner för ett projekt som löper på 3,5 år inom ramen för Europeiska Unionens H2020 forsknings- och innovationsprogram, grant agreement No 741716. Observera att den här texten och dess innehåll enbart uttrycker SIENNA-projektets synpunkter. EU-Kommisionen är inte ansvarig för hur innehållet används.

SIENNA project: Technology, ethics and human rights

Detta inlägg på engelska

Vi tolkar framtiden - etikbloggen


Att utveckla biobanker bör vara meriterande

16 oktober, 2017

Pär SegerdahlAlltmer biomedicinsk forskning använder information samlad i biobanker. För att en biobank ska fungera effektivt är det viktigt inte bara att det biologiska materialet förvaras väl. Materialet måste även göras tillgängligt för vetenskapen, så att många forskare lätt kan dela prover och information.

Att skapa en sådan biobanksresurs är emellertid en enorm arbetsinsats. Forskare och kliniker som samlar biobanksmaterial kan rentav vara ovilliga att göra biobanken öppet tillgänglig. Varför ge andra tillgång till din biobank, om de inte ger dig något erkännande?

I en artikel i Journal of Community Genetics diskuterar bland andra Heidi C. Howard och Deborah Mascalzoni från CRB en åtgärd för att göra det attraktivare att bygga väl fungerande biobanksresurser. Åtgärden är ett system för att belöna forskare och kliniker som bygger högkvalitativa biobanker, genom att göra arbetet meriterande.

I artikeln presenteras systemet, som går under namnet ”The Bioresource Research Impact Factor” (BRIF). Förstår jag saken rätt, kan systemet bland annat innebära att biobanker beskrivs i artiklar publicerade i särskilda bioresurstidskrifter. Forskare som får tillgång till en biobank citerar sedan artikeln som beskriver resursen. På så vis kan man räkna citeringar av bioresurser, som man räknar citeringar av forskningsartiklar.

I artikeln beskrivs även resultat av en studie av intressenters kännedom om BRIF, samt en etisk analys av hur BRIF kan bidra till ett mer ansvarsfullt biobankande.

Bygger du biobank, läs artikeln och lär dig mer om BRIF!

Pär Segerdahl

Howard, H.C., Mascalzoni, D., Mabile, L. et al. “How to responsibly acknowledge research work in the era of big data and biobanks: ethical aspects of the Bioresource Research Impact Factor (BRIF).” J Community Genet (2017). https://doi.org/10.1007/s12687-017-0332-6

Detta inlägg på engelska

Vad är hållbarhet i framtiden? - Etikbloggen


Moralpanik i intellektet

6 september, 2017

Pär SegerdahlMoralpanik utvecklas antagligen i intellektet. Det är våra tankar som rusar iväg med oss. Mentala bilder gör så starkt intryck på oss, att vi tar dem för Verkligheten, för Sanningen, för Fakta. Tro inte att intellektet är iskallt och objektivt. Det kan koka av oroliga tankar.

Detta visar sig i bioetiken, där många frågor svettas ångest. Forskningsinformation om klonade djur, om nya tekniker för att redigera i arvsmassan, eller om embryonal stamcellsforskning, frammanar otäcka bilder av samhällsomstörtande forskning som hotar mänsklig moral. Paniken förutsätter ett känsligt intellekt. Där får bilderna sådana dimensioner, att vi inte längre kan se forskningen inramad i sina vardagliga sammanhang. Bilderna av forskningen tar i stället över intellektet som sanningens referensram. Alldagliga påpekanden, som kunde stödja besinning, framstår för intellektet som naiva.

Mina funderingar föranleds av en vetenskapsnyhet i National Geographic. Nyheten handlar om det första försöket i USA att genetiskt redigera mänskliga embryon. Forskarna använde så kallad CRISPR-teknik för att redigera bort en mutation som är associerad med ärftligt hjärtfel. Efter det lyckade försöket förstördes embryona.

När man tar del av sådan forskningsinformation, känner man onekligen oro i kroppen. Oron tar snart intellektet i besittning: Vad ska de göra härnäst? Utveckla nya supermänniskor som ser oss vanliga människor som lägre stående? Får vetenskapen verkligen ändra människans natur? NEJ, vi måste genast införa lagstiftning som definitivt förbjuder all genetisk redigering av mänskliga embryon!

Om intellektet kan koka av sådana ångestfyllda tankar, och om det vore oklokt att paniklagstifta på grundval av överhettade föreställningar, då tror jag att bioetiken behöver utveckla mer terapeutiska färdigheter än den har idag. Somliga bioetiska frågor behöver antagligen behandlas som ett slags intellektets sjukdomar. Bioetisk ångest uppkommer ofta, tror jag, när forskningskommunikation presenterar vetenskap som sanningens horisont, i stället för att ge vetenskapen en alldaglig, mänsklig horisont.

Nu kan det låta som om jag ensidigt tagit ställning för vetenskapen, genom att framställa kritiker som förblindade av moralpanik. Så är det inte, för moralpanikens andra sida är storhetsvansinnet. Hypade bilder av Stora Genombrott och Miralkelkurer kan lyfta hela forskningsfält. Mentala bilder som oroar de flesta av oss, stimulerar andra personlighetstyper. Måhända var Paolo Macchiarini  en sådan personlighet. Och kanske lyftes han fram i en vetenskapskultur präglad av vansinniga mentala förväntningar på forskningen och dess hjältar.

Vi behöver en terapeutisk bioetik som lugnar ner det oroliga intellektet.

Pär Segerdahl

Detta inlägg på engelska

Vi tänker om bioetik : www.etikbloggen.crb.uu.se


Puffa människor i rätt riktning

27 juni, 2017

Pär SegerdahlBeteendevetare har studerat hur miljöer kan utformas så att människor puffas mot klokare beslut. Genom att placera salladen först på buffén väljer människor kanske mer grönsaker än de annars skulle gjort. De väljer själva, men miljön är riggad så att den puffar fram ”rätt” val. (På engelska talar man om nudging.)

Att puffa människor att agera rationellt kan låta självmotsägande, kanske till och med oetiskt. En förnuftig människa ska väl ges tillfälle att fatta sina beslut alldeles självständigt, utan att påverkas av placeringen av salladsskålar? Att styra människor genom riggade miljöer stödjer kanske förståndigare vanor, men det är en skymf mot Förnuftet!

Som filosof uppskattar jag naturligtvis självständigt tänkande. Men jag kräver inte att varje vardagsbeslut ska resoneras fram. Tvärtom, det är bra om de flesta beslut inte kräver alltför mycket dividerande. Det ger tid och kraft att tänka om sådant som förtjänar eftertanke. En puff från en salladsskål på rätt ställe stödjer åtminstone mitt oberoende tänkande.

Linnea Wickström Östervall, tidigare forskare vid CRB, har försökt att puffa människor till en mer återhållsam användning av antibiotika. Det är viktigt att minska antibiotikaanvändningen, eftersom överanvändning orsakar antibiotikaresistens: en stor utmaning att hantera.

I försöket bäddade hon in en liten påminnelse om antibiotikaresistens i frågeformuläret som patienter besvarar innan de besöker doktorn. Denna puff nådde alltså inte bara patienterna, utan även läkarna som gick igenom formuläret med patienterna. Effekten var tydlig på kliniknivå. På de kliniker där det puffades minskade användningen av antibiotika med 12,6 procent jämfört med de kliniker som användes som kontroll.

Vill du läsa mer om detta försök, ta en titt på Linneas artikel i Journal of Economic Behavior & Organization, där de intressanta resultaten presenteras i detalj. Exempelvis tycks puffen påverka framförallt mötet mellan läkare och patient, snarare än de enskilda patienterna.

Kan du utforma din vardag så att du lever klokt utan att fatta rationella beslut?

Pär Segerdahl

Wickström Östervall, L. 2017. “Nudging to prudence? The effect of reminders on antibiotics prescriptions.” Journal of Economic Behavior & Organization 135: 39-52.

Detta inlägg på engelska

Vi tar upp aktuella frågor : www.etikbloggen.crb.uu.se


%d bloggare gillar detta: