Etikbloggen

En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Etikett: forskningskommunikation (Sida 2 av 2)

Antropomorfism inom AI kan begränsa tekniken

smiling robot
15 april, 2020 / / 1 kommentar

Antropomorfism tycks nästan tillhöra forskning om artificiell intelligens (AI). Ända sedan områdets begynnelse har maskiner beskrivits i termer som normalt beskriver mänskliga förmågor, som att förstå och att lära sig. Betoningen ligger på likheter mellan människor och maskiner, medan skillnader ofta slätas över. Som när man säger att maskiner kan göra samma saker som människor, som att fatta beslut och lösa problem, med den förment obetydliga skillnaden att maskinerna gör det ”automatiserat”.

Detta kan du läsa mer om i en upplysande diskussion om antropomorfism inom och omkring AI, skriven av Arleen Salles, Kathinka Evers och Michele Farisco, samtliga vid vid CRB och Human Brain Project. Artikeln är publicerad i AJOB Neuroscience.

Artikeln uppmärksammar särskilt så kallad hjärninspirerad AI-forskning, där teknikutvecklingen hämtar inspiration från vad vi vet om hjärnans funktionssätt. Här betonas banden mellan AI och neurovetenskap: band som anses avgörande för utvecklingen inom bägge forskningsfälten. Neurovetenskapen behöver inspiration från AI-forskningen, menar man, liksom AI-forskningen behöver inspiration från hjärnforskningen.

Artikeln varnar dock för att denna idé om ett släktskap mellan områdena förutsätter att vi redan accepterat en antropomorf tolkning av AI. Faktum är att hjärninspirerad AI utvidgar de begreppsliga dubbelexponeringarna genom att projicera inte bara psykologiska utan även neurovetenskapliga begrepp på maskiner. Man talar om artificiella neuroner, synapser och neurala nätverk i datorer. Som om man byggt in konstgjord hjärnvävnad i maskinerna.

En förbisedd risk med antropomorfism inom AI, skriver artikelförfattarna, är att den kan dölja väsentliga egenarter hos tekniken som gör den fundamentalt annorlunda mänsklig intelligens. Antropomorfism kan riskera att begränsa den tekniska utvecklingen inom AI, eftersom man låser sig vid den mänskliga hjärnan som priviligierad inspirationskälla för AI. Antropomorfism kan locka även hjärnforskningen att okritiskt använda AI som förebild för hur hjärnan fungerar.

Författarna förnekar naturligtvis inte att AI och neurovetenskap ömsesidigt befruktar varandra och bör samarbeta. Men för att samarbetet ska fungera väl, utan att riskera att hämma utvecklingen, behövs även filosofiskt tänkande. Vi behöver klargöra våra olikartade begrepp om människor och maskiner, hjärnor och datorer. Detta för att befria oss från tendensen att låsa oss vid likheterna, som kan vara mer verbala än reella. Vi behöver uppmärksamma även skillnader mellan människor och maskiner, lära oss att inspireras av olikheter.

Antropomorfism inom AI riskerar dessutom att uppmuntra till oansvarig forskningskommunikation, menar artikelförfattarna. Detta eftersom överdrivna förhoppningar (”hype”) ligger i själva språkbruket. Genom att tala om datorer i psykologiska och neurologiska termer, kan det låta som om datorerna redan väsentligen fungerade som mänskliga hjärnor.

Filosofi kan därför bidra till ansvarsfullare kommunikationen om AI. Eftertänksam forskningskommunikation kan uppmärksamma överdrivna anspråk och förhoppningar som ligger i det antropomorfa språkbruket. Den kan motverka tendenser att överdriva likheter mellan maskiner och människor, som inte alltid går så djupt som orden får det att låta.

Skillnader kan kort sagt vara lika viktiga och lärorika som likheter. Inte bara i filosofi, utan även i vetenskap, teknikutveckling och ansvarsfull forskningskommunikation.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Arleen Salles, Kathinka Evers & Michele Farisco (2020) Anthropomorphism in AI, AJOB Neuroscience, 11:2, 88-95, DOI: 10.1080/21507740.2020.1740350

Detta inlägg på engelska

Vi söker klarhet

Vardagsnära forskningskommunikation om det tänkvärda

11 december, 2019 / / 3 kommentarer

Pär SegerdahlEfter att ha varit redaktör för Etikbloggen i åtta år, vill jag försöka beskriva den forskningskommunikation som brukar förekomma på denna blogg.

Etikbloggen undviker helst den populärvetenskapliga stil som ibland förekommer i media, som rapporterar forskningsresultat på formen, ”Vi har traditionellt trott att…, men en ny vetenskaplig studie visar att…”. Det beror delvis på att Etikbloggen drivs av ett etikforskningscentrum, CRB. Även om etikforskning kan innebära empiriska studier (intervjuer och enkäter till exempel), så är etik framförallt en fråga om att tänka själv. Om du som etikforskare vill utarbeta nya rekommendationer kring informerat samtycke, så måste du tänka klart och grundligt. Men hur rigoröst du än tänker, så kan du aldrig säga: ”Vi har traditionellt ansett det viktigt att ge patienter information om…, men nya filosofiska tankar visar att vi snarare bör undvika det”.

Tänkande ger inte den auktoritet som empirisk forskning ger. Som etiker kan jag inte rapportera mina slutsatser som om de vore forskningsresultat. Jag kan inte heller åberopa ”nya tankar” som evidens för slutsatserna. Tankar ger ingen evidens. Etiker redovisar därför öppet sitt tänkande inför läsarnas kritiska blickar. Slutsatserna framställs som öppna förslag till läsaren: ”Så här tänker jag, kan du se det så också?”

Etikbloggen undviker därför att bara pumpa ut forskningsresultat. Naturligtvis informerar den om nya rön. Men den betonar det tankeväckande i dem. Den väljer att reflektera kring det tänkvärda i etikforskningen. Kommunikationen blir därmed jämlikare, eftersom författare och läsare kan mötas i ett tänkande om frågor som gör båda lika undrande. Och eftersom varje inlägg försöker stå på egna ben, utan att åberopa intellektuell auktoritet (”forskarnas senaste tankar visar att…”), kan läsaren sparka undan benen på den tänkande bloggaren.

Kort sagt: Om forskning kommuniceras i en filosofisk anda, så kan den möta människor på mer jämlika villkor. Genom att fokusera på det tänkvärda blir det möjligt att skriva om forskning utan att ställa sig över läsaren. Det är åtminstone Etikbloggens strävan.

En annan sida av forskningskommunikationen vid CRB, även vid sidan av Etikbloggen, är att vi vill använda ett så vardagsnära språk som möjligt. Att skriva enkelt är inte lätt! Varför gör vi den ansträngningen, som nästan är dömd att misslyckas när det handlar om akademisk forskning? Varför försöker Anna Holm, Josepine Fernow och jag kommunicera forskning utan att använda konstiga ord?

Vi har faktiskt en tanke med det. Inte nog med att vi vill nå flera olika läsargrupper: allmänheten, patienter och anhöriga, vårdpersonal, beslutsfattare, forskare, genetiker med mera. Vi vill också att dessa grupper ska förstå varandra lite bättre. Förhoppningen är att vi alla ska förstå oss själva bättre. I vardagsspråket är vi mer förenade än vi kan tro.

Nu råkar det dessutom vara så att etikforskning ofta handlar om människors svårigheter att förstå varandra. Det kan handla om patienters svårigheter att förstå genetisk riskinformation, eller om genetikers svårigheter att förstå hur patienter tänker om genetisk risk. Det kan handla om cancerpatienters svårigheter att förstå vad det betyder att delta i cancerstudier, eller om cancerforskarnas svårigheter att förstå hur patienterna tänker.

Om etikforskare identifierar mänskliga förståelsesvårigheter som viktiga etiska problem, så får vi forskningskommunikatörer ett extra stort ansvar att tala klarspråk. Annars riskerar vi att skapa ännu fler språkproblem, utöver de problem som etikforskarna identifierar! Etikforskningen skulle själv bli ett kommunikationsproblem. Vi vill därför skriva så familjärt som vi kan. För att nå de människor och grupper som etikforskarna visar inte alltid når varandra.

Vill du se ett färskt exempel, läs gärna vår slutrapport från forskningsprogrammet ”Mind the risk” (finansierat av Riksbankens Jubileumsfond).

Vi hoppas att vår vardagsnära kommunikation om det tänkvärda i etikforskningen kan stimulera läsare att fundera vidare om etiska frågor. Alla kan undra. Oförståelse är faktiskt källan till större visdom, om vi vågar erkänna den.

Pär Segerdahl

Mats G. Hansson, Anna Holm och Pär Segerdahl. 2019. Mind the risk: Den genetiska informationens etik för individ och samhälle. RJ:s skriftserie nr 17. Makadam förlag.

Detta inlägg på engelska

Vi söker klarhet - www.etikbloggen.crb.uu.se

Ärliga frågor granskar vår intellektuella synd

21 oktober, 2019 / / Inga kommentarer

Pär SegerdahlVarför ska vi vara stolta över vår filosofiska tradition? Varför ska vi vörda Sokrates och andra stora tänkare? För att de stärkt förnuftet? För att de lärt mänskligheten att ställa känslorna åt sidan och i stället renodla fakta och logik?

Det låter som om vi borde vörda filosoferna för att de bepansrat människor. För att de gjort oss till sinnrika neurotiker utan kontakt med känslolivet.

Jag vågar påstå att det storartade hos dessa filosofer är ödmjukare, enklare och mänskligare. De hade en pinsamt tydlig medvetenhet om sina egna intellektuella synder. De hade modet att bekänna sina synder och granska dem mycket nära. De hade modet att känna sig själva.

Den ödmjukheten tror jag kännetecknar äkta tänkare från hela världen. Liksom Sokrates mitt i en replik kunde höra en inre röst hejda honom från att tala med intellektuell auktoritet om något ämne, såg Lao Tzu det som en sjukdom att tala som om vi visste vad vi inte vet.

Sådana tänkare talade knappast med intellektuell säkerhet. Åtminstone inte i sina mest kreativa stunder. De kände antagligen skam över det tvärsäkra tonläge som utmärker våra intellektuella diskussioner om prestigefulla ämnen. De talade nog snarare trevande och de resonerade undrande.

Vi är alla felbara. Filosofi är i själ och hjärta en medvetenhet om detta mänskliga faktum. Hur uttrycker sig denna medvetenhet hos en tänkande människa? Ofta genom frågor som öppet bekänner att jag vet att jag inte vet. En filosofisk undersökning är en serie bekännelser. En serie ärliga frågor som granskar vår vilja att besitta intellektuell kontroll över olika ämnen. Frågorna blir klarare i takt med att vi får upp ögonen för denna maktvilja hos oss själva. I takt med att vi ser hur böjelsen att intellektuellt föreskriva hur det måste vara, gör oss blinda för hur det är.

Vågar du och jag bekänna vår intellektuella synd? Vågar vi som akademiker erkänna att vi inte vet? Vågar vi tala trevande? Vågar vi resonera undrande?

Jag tror att vi gjorde oss själva och mänskligheten en stor tjänst om vi oftare vågade tala öppet i ett sådant tonläge. Men vi står inför en viljans svårighet. För som forskare förväntas vi ha koll på fakta och logik. Vi får väl inte betalt för att vara okunniga och irrationella? Då måste vi väl snarare sprida vårt vetande och vårt kunnande?

Naturligtvis! Men utan medvetenhet om vår syndfullhet, som kunde stoppa Sokrates mitt i en mening, så riskerar vi att bidra till sjukdomen som Sokrates bearbetade hos sig själv. Vi visar upp inte bara vad vi råkar veta, utan även en skinande fasad som ger sken av att vi har kontroll över sanningen om olika ämnen.

Vi riskerar kort sagt att bete oss som intellektuella fariséer, uppvisande en alltid lika välpolerad yta. Under den ytan förtvinar vi och samhället som vi vill bidra till. Vi tappar kontakten med det som faktiskt lever i oss. Det kvävs under våra allmänna doktriner om hur det måste ligga till. Intellektualism är en ödesdiger form av faktaförnekelse. I sin iver efter allmän sanningskontroll förnekar den vad som ligger oss närmast.

Bepansra dig inte med förnuftstro, som om sanningen kunde kontrolleras. Gör i stället som de största tänkarna ur hela mänsklighetens filosoferande historia. Öppna dig för vad du inte vet och ta det på blodigt allvar.

Du är större än ditt inbillade vetande. Känn dig själv.

Pär Segerdahl

Mer om sanningen kanske? Två aktuella lästips:

Nora Hämäläinen. 2019. Är Trump postmodern? En essä om sanning och populism. (Förlaget)

Ikaros, tidskrift om människan och vetenskapen 2019-2, temanummer: Sanning?

Detta inlägg på engelska

I dialog med filosofer : www.etikbloggen.crb.uu.se

 

Att lära sig av det svåra

11 september, 2019 / / Inga kommentarer

Pär SegerdahlI populärvetenskaplig litteratur kan forskning ibland låta bedrägligt enkelt: ”Förr trodde man att… Men när forskarna tittade närmare efter, så fann de att…” Det kan låta som om forskare inte behöver göra mycket mer än besöka arkiv eller laboratorier. Där tittar de närmare på saker och ting och upptäcker häpnadsväckande resultat.

Det är inget fel på denna populärvetenskapliga prosa. Det är spännande att läsa om nya forskningsresultat. Men prosan döljer ofta det svåra i forskningsarbetet, det fråge- och probleminriktade. Det är som sagt inget fel i detta. Läsare av populärvetenskap behöver sällan veta hur fysiker eller sociologer dagligen kämpar med att formulera sina frågor och rota i problemen. Läsarna är mer intresserade av nya rön om vår fascinerande värld.

Det finns dock akademiska fält där frågorna mer direkt berör oss alla och där frågorna står i centrum under hela forskningsprocessen. Två exempel är filosofi och etik. Här kan identifieringen av frågorna vara det viktiga. Idag utvecklas exempelvis genetiken rasande snabbt. Det innebär att den kommer närmare fler människor, närmare oss alla. Gentester kan numera köpas på internet och alltfler patienter kan komma att testas genetiskt inom sjukvården för att individanpassa behandlingen.

Att identifiera etiska frågor kring denna utveckling, att rota i problemen, att göra sig medveten om svårigheterna, kan vara själva huvudmomentet i etikforskningen. Sådant ”svårighetsarbete” kan göra oss bättre förberedda, så att vi agerar klokare.

Dessutom uppkommer etiska problem ofta i mötet mellan livs levande människor och nya tekniska möjligheter. Att identifiera dessa mänskliga frågor kan förutsätta att det språk som filosofin och etiken använder är mindre specialiserat, att det talar till oss alla, antingen vi är experter eller inte. Därför försöker många av inläggen här på Etikbloggen att tala direkt till människan inom oss alla.

Det kan låta märkligt att forskning som fördjupar sig i frågorna ska kunna hjälpa oss att agera klokt. Blir vi inte snarare handlingsförlamade av alla frågor och problem? Behöver vi inte tydliga etiska riktlinjer för att kunna agera klokt?

Jo, ibland behöver vi riktlinjer. Men de får inte överdrivas. Tänk på hur mycket klokare du själv fungerar när du gör något för andra gången (blir förälder för andra gången, till exempel). Varför fungerar vi klokare andra gången? Är det för att vi andra gången följer tydliga riktlinjer?

Vi växer av att utmanas av svårigheter. Filosofi och etik rotar i svårigheterna av precis detta skäl. För att vi ska växa, mogna, bli klokare. Enskilt och tillsammans, som samhälle. Jag känner ingen som vuxit som människa av att läsa riktlinjer.

Pär Segerdahl

Detta inlägg på engelska

svåra frågor - Etikbloggen

Avstånd mellan mediabilden av syntetisk biologi och allmänhetens uppfattningar

24 maj, 2016 / / 1 kommentar

Mirko AncillottiMedia kan normalt inte sägas återspegla allmänhetens syn på syntetisk biologi, och tyvärr ges inte heller en balanserad eller kritiskt granskad bild av fältet. Hittills har mediabevakningen inte fungerat bra som utgångspunkt för en offentlig debatt om syntetisk biologi, vilket vore önskvärt för en ansvarsfull och lyhörd utveckling av fältet.

I ett tidigare inlägg på Etikbloggen, skrivet tillsammans med Josepine Fernow, uttryckte jag viss oro över hur media rapporterar syntetisk biologi. Journalisternas berättelser följer ofta uppenbart de versioner de fått från sina källor, främst syntetiska biologer. Därför är de flesta rapporter okritiskt positiva och optimistiska om området och dess möjligheter.

I en artikel nyligen undersökte jag, tillsammans med forskare från Nederländerna, Österrike, och Tyskland, om denna journalistiska passivitet är unik för svenska medier eller om den är en allmän trend. Om ni undrar, så är svaret att det handlar om en allmän trend. Även om jag inte kan påstå att trenden är global så är det en trend i minst tretton europeiska länder och i USA.

Men hur reagerar olika grupper på vad syntetisk biologi gör och kan göra? Är de lika stödjande och progressiva som journalisternas berättelser (som återspeglar forskarnas berättelser)? Det är vad vi har försökt att förstå.

”The meeting of Young Minds” är ett evenemang som 2011 och 2012 anordnades av Rathenau Instituut. Unga syntetiska biologer (studenter) träffades och diskuterade med representanter för holländska politiska ungdomsorganisationer. Analysen av mötet visade positiva förväntningar och en öppen attityd gentemot syntetisk biologi bland de blivande politikerna. Men de uttryckte även oro för miljön, liksom kring begreppet att designa nya livsformer.

Men politiska organisationer är givetvis inte är neutrala och kan inte antas spegla allmänhetens uppfattningar.

Vad händer när vi vänder blicken mot allmänheten? Deltagare i medborgarpaneler i Österrike tenderade att i första hand fokusera på utmaningar och risker kring syntetisk biologi, och uttryckte bara dämpad entusiasm för möjliga tillämpningar. Anmärkningsvärt är att stödet för syntetisk biologi alltid var villkorat till ett antal krav, framför allt öppenhet och information, som ansågs väsentliga. Det österrikiska experimentet med medborgarengagemang visade också en ganska oroande misstro mot forskare och beslutsfattare, i kombination med en känsla av resignation inför det oundvikliga i den vetenskapliga och tekniska utvecklingen. Liknande studier i Storbritannien, Österrike och USA visade att allmänhetens attityder är antingen balanserade eller huvudsakligen negativa till syntetisk biologi.

Dessa skillnader mellan rapporteringen i media och allmänhetens uppfattningar visar på behovet av en mer ansvarsfull journalistik om syntetisk biologi.

Mirko Ancillotti

(Du kan läsa mer om Mirkos arbete på CRB här.)

Ancillotti M., Rerimassie V., Seitz S. and Steurer W. 2016 ”An update of public perceptions of synthetic biology: still undecided?” NanoEthics, DOI: 10.1007/s11569-016-0256-3

Detta inlägg på engelska

I dialog med allmänheten : www.crb.uu.se

 

 

(Översättning: Pär Segerdahl)

 

Forskare formar mediabilden av syntetisk biologi

27 oktober, 2015 / / Inga kommentarer

mirko-ancillotti-sv2De flesta av oss hör om vetenskapliga framsteg genom media. Journalister och redaktörer väljer inte bara vilka nyheter vi ska få höra utan också hur de presenteras. Frågan är hur vi kan vara säkra på att det som rapporteras har kollats innan det går ut.

Nu publiceras nya studier om hur media presenterar syntetisk biologi i olika länder. Det visar sig att mediabilden är både obalanserad och okritisk. De flesta framställningarna använder samma terminologi, liknelser och fält där tekniken skulle kunna komma att appliceras. Det beror på att materialet kommer från samma källor: pressmeddelanden, presskonferenser och intervjuer med ett litet antal välkända och produktiva amerikanska forskare där Craig Venter är en av huvudpersonerna. Mediabilden av syntetisk biologi är optimistisk och framtidsorienterad. Tillämpningarna är lovande och kopplade till hälsa, miljö och andra saker som vi människor tycker är värt att prioritera. Men att forskarnas bild dominerar betyder också att potentiella risker utesluts ur berättelsen, eller presenteras med några väl valda ord i slutet av artiklarna.

josepine-fernow2-svForskare och vetenskapssamhället spelar en viktig roll och har ett ansvar att dela med sig av sina resultat. Och att kommunicera dem på ett ansvarsfullt sätt. Det här ansvaret förstärks när forskare interagerar med media. Därför finns det flera nationella och internationella regler och riktlinjer som pekar på hur rollen och ansvaret ser ut, vilken typ av relation och kommunikation forskare ska ha med media och vilka fallgropar de bör undvika. Men är det ett problem att media kopierar forskarnas inramning och presenterar fältet med deras ord? Om forskare kan nå allmänheten på det här sättet, betyder det att vi behöver ställa högre krav på deras kommunikation? Kanske inte. Kanske ska vi istället applådera den forskare som lyckas popularisera och presentera sin forskning på ett sätt som drar till sig medias uppmärksamhet? Och vara glada för att människor som annars inte är så engagerade eller uppmärksama på den här typen av forskning får höra talas om syntetisk biologi och dess fördelar?

Journalister har ett etiskt ansvar och en stark professionell etik. Det syns i det ganska anmärkningsvärda antalet nationella och internationella regler och riktlinjer som riktar sig till dem. Men gör journalisterna ett bra jobb när de behåller och sprider budskapet och visionen som forskarna förser dem med? Borde vi kanske kräva att journalister är mer kritiska och filtrerar forskarnas röster?

Nja, självklart skulle vi föredra att få balanserad information som granskats av kunniga vetenskapsjournalister. Men det är inte alltid de som hanterar vetenskapsnyheterna. Kanske är det verkliga bekymret en logik som finns i dagens medialandskap: Det är kort om tid och man hinner inte alltid kritiskt granska pressmedelanden. Och om inte redaktionen släpper igenom så hinner andra media före. I extrema fall leder den här logiken till att pressmeddelandebluffar blir nyheter (som den som fick Emulex-aktien att rasa år 2000). Om vi vill att journalister ska kunna göra ett bra jobb så behöver de få tid på sig att göra det. För tanken på att media i princip bara ”retweetar” det som en liten grupp forskare och entreprenörer serverar dem är såklart oroande.

Vill du veta mer kan du läsa Mirko Ancillotti’s artiklar i ämnet: Uncritical and unbalanced coverage of synthetic biology in the Nordic press som precis publicerades i Public Understanding of Science, eller Synthetic Biology in the Press: Media Portrayal in Sweden and Italy.

Mirko Ancillotti & Josepine Fernow

Vi tar upp aktuella frågor : www.etikbloggen.crb.uu.se

Nyare inlägg »