Etikbloggen

En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Etikett: artificiell intelligens (Sida 1 av 4)

Debatt om ansvar och akademiskt författarskap

Uppslagsverk "Collaborate", bild av Dianne Hope från Pixabay
8 oktober, 2024 / / 2 kommentarer

Vem får räknas som författare till en forskningsartikel? Viss förvirring tycks råda kring de så kallade Vancouver-reglerna för akademiskt författarskap, som fungerar som publiceringsetiska riktlinjer inom främst medicin och naturvetenskap (men ibland även inom humaniora och samhällsvetenskap). En akademisk författare måste enligt dessa regler ha bidragit intellektuellt till studien, ha deltagit i skrivprocessen samt ha godkänt artikelns slutversion. Den djupaste förvirringen tycks dock röra den fjärde regeln, som kräver att en akademisk författare måste ta ansvar för att den publicerade forskningen genomförts korrekt och hederligt. Förvirringen blir inte mindre av att artificiella intelligenser som ChatGPT börjat användas i forsknings- och skrivprocessen. Det händer att forskare ber AI:n att generera invändningar till forskarnas resonemang, vilket naturligtvis kan ge betydande bidrag till forskningsprocessen. AI:n kan även generera text som bidrar till processen att skriva artikeln. Borde en sådan AI räknas som medförfattare?

Nej, menar en publikationsetisk kommitté (Committee on Publication Ethics, COPE) med hänvisning till det sista kravet i Vancouver-reglerna: en AI kan inte vara författare till en akademisk publikation, eftersom den inte kan ta ansvar för den publicerade forskningen. Kommitténs avfärdande av AI-författarskap har väckt en liten men lärorik debatt i Journal of Medical Ethics. Först ut var Neil Levy, som argumenterade för att ansvar (för hela studier) inte är ett rimligt krav för akademiskt författarskap, och att en AI redan idag skulle kunna räknas som författare (om kravet slopas). Detta föranledde en respons från Gert Helgesson och William Bülow, som argumenterade för att ansvar (realistiskt tolkat) är ett rimligt krav, och att en AI inte kan räknas som författare, eftersom den inte kan ta ansvar.

Vad handlar detta om? Vad säger regeln som väckte debatten? Den säger att du, för att räknas som författare till en vetenskaplig artikel, måste försäkra dig om att frågor om korrekthet och hederlighet utretts och säkerställts på ett tillfredsställande sätt. En akademisk författare måste alltså kunna svara för att forskningen utförts riktigt. Enligt Neil Levy är detta krav alltför starkt. I medicin och naturvetenskap är det ofta fallet att nästan ingen av forskarna som räknas som medförfattare kan ta ansvar för hela den publicerade studien. Samarbetena kan vara enorma och forskarna är specialister inom sina egna smala områden. De saknar överblicken och kompetensen att bedöma och svara för studien i dess helhet. I många fall kan inte ens huvudförfattaren göra detta, menar Neil Levy. Om vi inte vill göra det närmast omöjligt att räknas som författare inom medicinska och naturvetenskapliga ämnen, måste ansvar slopas som krav för författarskap, menar han. Då får vi acceptera att AI redan idag kan räknas som medförfattare till många vetenskapliga studier, om den gjort betydande intellektuella bidrag till forskningen.

Neil Levy öppnar dock för en tredje möjlighet. Ansvarskriteriet skulle kunna omtolkas så att det kan uppfyllas av de forskare som idag brukar räknas som författare. Hur då? En forskare som gjort ett betydande intellektuellt bidrag till en forskningsartikel måste, för att få räknas som författare, acceptera ansvaret för sitt ”lokala” bidrag till studien, inte för studien i dess helhet. En AI kan då inte räknas som akademisk författare, eftersom den inte kan svara eller hållas ansvarig ens för sitt ”lokala” bidrag till studien.

Enligt Gert Helgesson och William Bülow är denna tredje möjlighet den uppenbart riktiga tolkningen av den fjärde Vancouver-regeln. Den rimliga tolkningen, menar de, är att alla som listas som författare till en akademisk publikation har ansvar att stödja en utredning, om oegentligheter eller misstag kan misstänkas i studien. Inte bara efter att studien publicerats, utan under hela forskningsprocessen. Ingen kan dock hållas ansvarig för en hel studie, ibland inte ens huvudförfattaren. Man kan hållas ansvarig bara för det egna bidraget, för den del av studien som man själv har insyn i och kompetensen att bedöma. Men om man misstänker oegentligheter i andra delar av studien, så har man som akademisk författare ändå ansvar att påtala detta, och agera för att misstankarna utreds om de inte omedelbart kan avfärdas.

Förvirringen kring det fjärde författarskapskriteriet är naturlig, det är faktiskt inte lätt att förstå kriteriet och det bör därför preciseras. Debatten i Journal of Medical Ethics ger en lärorik bild av hur olika man kan tolka kriteriet, och den kan på så vis motivera förslag på hur kriteriet bör preciseras. Du kan läsa Neil Levys artikel här: Responsibility is not required for authorship. Responsen från Gert Helgesson och William Bülow finner du här: Responsibility is an adequate requirement for authorship: a reply to Levy.

Personligen vill jag fråga om en AI, som inte kan ta ansvar för forskningsarbete, ens kan sägas ge betydande intellektuella bidrag till vetenskapliga studier. I akademin förväntas vi vara öppna för kritik från andra och inte minst från oss själva. Vi förväntas kunna kritiskt bedöma våra idéer, teorier och metoder: bedöma om invändningar är riktiga och därefter försvara oss eller ändra uppfattning. Detta är ett viktigt moment i doktorandutbildningen och i forskarseminariet. Vi kan alltså inte sägas bidra intellektuellt till forskning, om vi inte har förmågan att självkritiskt bedöma bidragens riktighet. ChatGPT kan därför knappast sägas ge betydande intellektuella bidrag till forskning, är jag benägen att säga. Inte ens när den genererar självkritisk eller självförsvarande text på basis av statistiska beräkningar i enorma språkdatabaser. Det är forskarna som bedömer om genererad text ger dem uppslag till goda anledningar att antingen ändra sig eller försvara sig. Det vore i så fall ett missförstånd att tacka ChatGPT:n för bidrag till en forskningsartikel, som man brukar göra med forskarkollegor som bidragit intellektuellt till studien utan att de levt upp till övriga krav på akademiskt författarskap. Snarare bör studiens författare redovisa hur ChatGPT:n använts som ett verktyg i studien, liksom man redovisar användningen av andra verktyg och metoder. Hur bör detta ske? I debatten poängteras att även detta behöver preciseras.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Levy N. Responsibility is not required for authorship. Journal of Medical Ethics. Published Online First: 15 May 2024. doi: 10.1136/jme-2024-109912

Helgesson G, Bülow W. Responsibility is an adequate requirement for authorship: a reply to Levy. Journal of Medical Ethics. Published Online First: 04 July 2024. doi: 10.1136/jme-2024-110245

Detta inlägg på engelska

Vi deltar i debatten

Varför försöka skapa medveten AI?

Visuell tolkning av Artificiell Intelligens (AI).
1 oktober, 2024 / / Inga kommentarer

Trots att det är oklart vad det kan innebära att tala om ”medveten AI” så finns det en vilja att skapa ”det”. Vad kunde vi tänka oss att fördelarna med medveten AI vore? Varför försöka skapa subjektiv erfarenhet i AI-system? Vad kunde vi förvänta oss av en sådan strävan? Detta är frågor som Michele Farisco diskuterar på den engelska versionen av denna blogg.

Michele Farisco nämner flera möjliga svar på frågorna. Till exempel kunde strävan efter artificiellt medvetande bidra till bättre kunskap om biologiskt medvetande och till bättre teknisk prestanda hos AI-system. Han reflekterar även över möjliga etiska och samhälleliga effekter av medveten AI. Man kunde till exempel hoppas att medveten AI skulle hjälpa människan att förutse negativa konsekvenser av långsiktiga beslut och bidra till en mer hållbar och etisk utveckling. Men om mänskligt medvetande inte lyckats med detta, utan tvärtom ofta visar prov på själviskhet och närsynthet, varför skulle artificiellt medvetande lyckas bättre?

Dessa frågor är naturligtvis hypotetiska, men eftersom det faktiskt finns en vilja att skapa ”medveten AI” behöver de ställas. Läs Michele Fariscos engelska blogginlägg här: Why should we try to build conscious AI?

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Vi ställer frågor

Ödmjukhet inför frågan om artificiellt medvetande

4 juni, 2024 / / Inga kommentarer

Möjligheten av artificiellt medvetande har på senare tid blivit en fråga som alltfler tar på allvar. Utan att fundera alltför länge kring vad det kan betyda, frågar somliga redan ”När kan vi förvänta oss det?”, som om man spekulerade kring lanseringen av en ny, tekniskt avancerad produkt: medveten AI. Parallellt med denna förväntan om stora teknikframsteg poängteras även möjligheten av stora filosofiska framsteg. Om vi lyckas konstruera medvetna maskiner, som har upplevelser, känslor och självkännedom, då kan vi väl även sägas förstå vad det betyder att vara till, vad det innebär att existera?

Nja, om medvetandet är så fundamentalt att det omfattar allt som vi uppfattar, känner och tänker, om medvetandet är vår existens, så att säga, vilket tycks förutsättas i dessa stora anspråk, så är väl även dessa anspråk innefattade i medvetandet, utan att det erkänns? För hur kan man drömma om resor utanför medvetandet, för att långt där ute förklara tillvarons gåta, om medvetandet redan omfattar allt som vi uppfattar, känner, tänker eller drömmer om att kunna göra? Sådana ”långresor” kan man väl spekulera om bara om man glömmer var spekulerandet redan måste ske och vara hemma, enligt samma anspråk? Den anspråksfulle långresenären glömmer sig själv hemma, vill jag säga: glömmer existensen som skulle förklaras.

I ett inlägg på den engelska versionen av denna blogg skriver Michele Farisco om behovet av kunskapsmässig ödmjukhet inför frågan om artificiellt medvetande. Hans överväganden kunde beskrivas som vetenskapliga självbetraktelser, i det att han utgår från vad dagens vetenskap vet om biologiskt medvetande, liksom om hjärnan, som vetenskapen funnit är väsentlig för medvetande. Han utesluter inte att medvetande kan uppkomma på andra sätt, exempelvis i maskiner. Men för att klargöra frågorna om tänkbarheten och genomförbarheten av artificiellt medvetande, så behöver vi utgå från dagens vetenskapliga kunskap om hjärna och medvetande: som ett slags riktmärke eller referensmodell. Han påpekar flera egenskaper hos hjärnan som kan bedömas väsentliga för medvetande, men som dagens AI väsentligen saknar. Samtidigt som detta motiverar ödmjukhet, kan skillnaderna mellan hjärna och AI inspirera bättre forskning om artificiellt medvetande, menar Michele Farisco, som försiktigt vill hålla dörren öppen för andra former av medvetande än vårt eget.

Läs blogginlägget här: Artificial consciousness and the need for epistemic humility.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Kommer med lästips

Föremål som beter sig mänskligt

smiling robot
23 april, 2024 / / 1 kommentar

Ja, så kunde man betrakta vissa former av artificiell intelligens, som föremål som beter sig mänskligt. Det krävs dock inte mycket för att vi människor ska personifiera icke-levande ting. Vi blir arga på bilen som inte startar eller på vädret som inte låter oss ha picknick, som om de var emot oss. Barn personifierar spontant enkla leksaker och kan beskriva relationen mellan geometriska former som ”den lilla cirkeln försöker fly från den stora triangeln”.

Vi stöter allt oftare på artificiell intelligens som designats för att ge mänskligt intryck, exempelvis i form av chattbottar för kundservice när du handlar online. Sådan AI kan rentav utrustas med personliga karaktärsdrag, en persona som blir en viktig del av kundupplevelsen. Chattbotten kan föreslå ännu fler produkter åt dig och effektivt generera merförsäljning utifrån data som insamlas om dig. Inte konstigt att intresset för att utveckla människolik AI är enormt. Delvis har det naturligtvis med användarvänlighet att göra, men samtidigt kommer en AI som du finner personligt attraktiv att fånga din uppmärksamhet. Du kanske rentav fattar tycke för chattbotten eller känner att det vore oartigt att stänga av. Under tiden som chattbotten har din uppmärksamhet exponeras du för alltmer anpassad reklam och får alltfler paketerbjudanden.

Detta och mycket mer kan du läsa om i en artikel om mänskliga relationer till AI designad för att ge ett mänskligt intryck: Human/AI relationships: challenges, downsides, and impacts on human/human relationships. Författarna diskuterar ett stort antal exempel på sådan AI, allt från chattbottarna ovan till vårdrobotar och AI som erbjuder psykoterapi, eller AI som människor chattar med för att motverka ensamhet. Möjligheterna är stora, men det är även utmaningarna och de möjliga nackdelarna, vilket artikeln framhäver. 

Särskilt intressant är kanske ändå insikten om hur effektivt AI kan skapa förvirring genom att exponera oss för objekt som utrustats medmänskliga responsmönster. Vår naturliga tendens att förmänskliga icke-mänskliga ting möter högteknologiska ansträngningar att producera föremål som är konstruerade för att bete sig mänskligt. Här handlar det inte längre om att fantasifullt projicera sociala relationer på icke-mänskliga ting, som i det geometriska exemplet ovan. I samspel med AI-föremålen reagerar vi på subtila sociala signaler som föremålen utrustas med. Vi kan rentav känna ett moraliskt ansvar för sådan AI och sörja när företagen avslutar eller modifierar den.

Författarna manar till försiktighet så att vi inte övertolkar AI-föremål som personer. Samtidigt varnar de för risken att vi, genom att undvika empatiska reaktioner, blir mindre känsliga för verkliga personer i nöd. Sannerligen förvirrande!

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Zimmerman, A., Janhonen, J. & Beer, E. Human/AI relationships: challenges, downsides, and impacts on human/human relationships. AI Ethics (2023). https://doi.org/10.1007/s43681-023-00348-8

Detta inlägg på engelska

Vi tar upp aktuella frågor

För en mer balanserad diskussion om medveten artificiell intelligens

Bild av Gerd Altman på Pixabay
9 april, 2024 / / Inga kommentarer

Idag vill jag rekommendera ett blogginlägg på den engelska versionen av denna etikblogg. Michele Farisco diskuterar där utvecklingen av så kallad medveten AI, något som givetvis väcker funderingar.

Etikdiskussionen är livlig. Vissa kräver ett internationellt moratorium för alla försök att skapa konstgjort medvetande: riskerar vi att skapa konstgjort lidande? Andra menar att redan ”vanlig” AI är tillräckligt riskfylld: riskerar vi att skapa ännu mer svårhanterliga former av AI?

Dessa och andra etiska farhågor är svåra att bedöma. Inte bara för att den vetenskapliga och tekniska utvecklingen är snabb och avancerad, utan även för att vi allvarligt talat inte riktigt vet vad vi pratar om! Vad är medvetande? Vet vi ens vad det innebär att människor och andra djur är medvetna?

Michele Farisco har länge undersökt frågan om mänskligt medvetande. Han har bland annat bidragit till att utveckla indikatorer för olika dimensioner av mänskligt medvetande som kan användas för vid bedömningar medvetandegraden hos patienter. Hans förslag är att indikatorerna kan vara relevanta även för att identifiera medvetenhet i artificiella system, samt att detta kan göra den etiska diskussionen mer balanserad och realistisk.

Läs blogginlägget här: A strategy for a balanced discussion of conscious AI.

Utgångspunkten för blogginlägget är ett bokkapitel som Michele Farisco nyligen skrivit. Du hittar referens och länk till kapitlet nedan.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Michele Farisco. The ethical implications of indicators of consciousness in artificial systems. Developments in Neuroethics and Bioethics. Available online 1 March 2024. https://doi.org/10.1016/bs.dnb.2024.02.009

Vi söker klarhet

Kvinnor om AI-assisterad mammografi

Radiolog som tittar på bilder, foto av National Cancer Institute på Unsplash
12 mars, 2024 / / 1 kommentar

Användning av AI-verktyg inom vård och hälsa har blivit ett återkommande tema på denna blogg. Hittills har inläggen främst handlat om mobil- och onlineappar för användning av patienter och allmänheten. Idag är temat mer avancerade AI-verktyg som används yrkesmässigt av vårdpersonal.

Inom det svenska programmet för bröstcancerscreening tolkar radiologer stora mängder röntgenbilder för att upptäcka bröstcancer på ett tidigt stadium. Arbetsbördan är stor och för det mesta visar röntgenbilderna inga tecken på cancer eller förstadier till cancer. Idag utprovas AI-verktyg som skulle kunna förbättra mammografin på flera sätt. AI skulle kunna användas som assisterande resurs för radiologerna för att upptäcka ytterligare tumörer. Den skulle även kunna användas som oberoende tolkare av röntgenbilder för att avlasta radiologer, samt för att stödja bedömningar av vilka patienter som mer omedelbart bör få vård.

För att AI-assisterad mammografi ska fungera behöver inte bara tekniken utvecklas. Forskare behöver även undersöka hur kvinnor tänker kring AI-assisterad mammografi. Hur uppfattar de AI-stödd bröstcancerscreening? Fyra forskare, däribland Jennifer Viberg Johansson och Åsa Grauman vid CRB, intervjuade sexton kvinnor som genomgick mammografi på ett svenskt sjukhus där ett AI-verktyg testades som tredje bedömare av röntgenbilderna, jämte de två radiologerna.

Flera av de intervjuade framhöll att AI bara är ett verktyg: AI inte kan ersätta läkaren eftersom människor har förmågor bortom bildigenkänning, såsom intuition, empati och helhetstänkande. Ett annat resultat var att några av de intervjuade hade större tolerans för mänskliga misstag än om AI-verktyget misslyckades, vilket betraktades som oacceptabelt. Några menade att om AI-verktyget gör ett fel, så kommer felet att upprepas systematiskt, medan mänskliga misstag är tillfälliga. Några menade att ansvaret när tekniken fallerar ligger hos människan och inte hos tekniken.

Personligen kan jag inte låta blir att spekulera att den skarpa åtskillnaden mellan mänskliga misstag, som man lättare försonar sig med, och oacceptabelt fallerande teknik, sammanhänger med att vi om en människa som misslyckas kan säga: ”Radiologen gjorde säkert trots allt sitt bästa”. Däremot säger vi knappast om fallerande AI: ”Tekniken gjorde säkert trots allt sitt bästa”. Teknik blir inte föremål för vissa former av försonande betraktelser.

Författarna själva framhåller att deltagarna i studien såg AI som ett värdefullt verktyg inom mammografin, men att verktyget inte kan ersätta människor i processen. Författarna framhåller även att de intervjuade föredrog att AI-verktyget identifierar möjliga tumörer med stor känslighet, även om detta leder till många falska positiva resultat och därmed till onödig oro och rädsla. För att patienter ska förstå AI-assisterad sjukvård krävs effektiva kommunikationsinsatser, avslutar författarna.

Det är svårt att sammanfatta det rika materialet från intervjustudier. För att ta del av fler resultat, läs studien här: Women’s perceptions and attitudes towards the use of AI in mammography in Sweden: a qualitative interview study.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Viberg Johansson J, Dembrower K, Strand F, et al. Women’s perceptions and attitudes towards the use of AI in mammography in Sweden: a qualitative interview study. BMJ Open 2024;14:e084014. doi: 10.1136/bmjopen-2024-084014

Detta inlägg på engelska

I dialog med patienter

Att använda artificiell intelligens med akademisk integritet

Mobiltelefon som visar appen ChatGPT
6 juni, 2023 / / 3 kommentarer

AI-verktyg kan både förändra och producera innehåll såsom texter, bilder och musik. Verktygen blir dessutom alltmer tillgängliga som onlinetjänster. Ett exempel är verktyget ChatGPT, som du kan ställa frågor till och få välinformerade, logiskt resonerande svar från. Svar som verktyget dessutom kan korrigera om du påpekar fel och oklarheter. Du kan interagera med verktyget nästan som om du samtalade med en människa.

Ett sådant verktyg kan naturligtvis vara oerhört användbart. Det kan hjälpa dig att lösa problem och finna relevant information. Jag vågar gissa att responsen från verktyget dessutom kan stimulera kreativiteten och öppna sinnet för oväntade möjligheter, precis som samtal med människor brukar göra. Men liksom all teknik kan verktygen även missbrukas och studenter har redan använt ChatGPT för att klara sina inlämningsuppgifter.

Utmaningen inom utbildning och forskning är alltså att lära sig att använda dessa AI-verktyg med akademisk integritet. Det är inte automatiskt fusk att använda AI-verktyg. Sju deltagare i ett europeiskt nätverk för akademisk integritet (ENAI), däribland Sonja Bjelobaba vid CRB, skriver om utmaningen i en ledarartikel i tidskriften International Journal for Educational Integrity. Framförallt sammanfattar de tentativa rekommendationer från ENAI om etisk användning av AI i akademin.

En övergripande målsättning i rekommendationerna är att integrera rekommendationer om AI med andra besläktade rekommendationer om akademisk integritet. Således ska alla personer, källor och verktyg som påverkat idéer eller genererat innehåll tydligt anges – däribland användning av AI-verktyg. Lämplig användning av verktyg som påverkar textens form (som korrekturläsande verktyg, stavningskontroller och automatiserade synonymförslag) är i allmänhet acceptabla. Vidare kan ett AI-verktyg inte anges som medförfattare i en publikation, eftersom verktyget inte kan ta ansvar för innehållet.

Rekommendationerna betonar även vikten av utbildningsinsatser om etisk användning AI-verktyg. Läs rekommendationerna i sin helhet här: ENAI Recommendations on the ethical use of Artificial Intelligence in Education.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Foltynek, T., Bjelobaba, S., Glendinning, I. et al. ENAI Recommendations on the ethical use of Artificial Intelligence in Education. International Journal for Educational Integrity 19, 12 (2023). https://doi.org/10.1007/s40979-023-00133-4

Detta inlägg på engelska

Vi bryr oss om undervisning

Projekt om möjligheten av artificiell medvetenhet

Närbild av kameralins som reflekterar bilden av en borg
28 februari, 2023 / / Inga kommentarer

Vore det i princip möjligt att bygga en robot som inte bara uppför sig intelligent utan dessutom har medvetande? Denna hisnande fråga ska undersökas i ett 4-årigt europeiskt projekt om artificiell medvetenhet, koordinerat från Radboud University i Nederländerna.

I projektet samarbetar ingenjörer och datavetare med filosofer från CRB som arbetar inom området neuroetik. En av dessa filosofer är Michele Farisco, som du kanske redan läst om på Etikbloggen. Idag beskriver han projektet på den engelska versionen av denna blogg: A new project will explore the prospect of artificial awareness.

Filosoferna i projektet, däribland Kathinka Evers, kommer att skärskåda och analysera begreppet medvetande, samt identifiera indikatorer på medvetenhet som skulle kunna användas för att bedöma medvetenhet hos artificiella system. De kommer även att bidra till etisk analys av möjliga framtida scenarier.

Naturligtvis kommer Etikbloggen att följa arbetet i projektet!

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Deltar i internationella samarbeten

Saknade perspektiv i föreställningen om artificiell intelligens

Södra halvklotet av en jordglob i solsken
25 oktober, 2022 / / Inga kommentarer

Teknikutvecklingen är djupt inbäddad i våra samhällen och kulturer. Sättet som artificiell utvecklas, anpassas, regleras och accepteras (eller inte) är intimt förknippat med de narrativ kring intelligenta maskiner som vi matats av i konsten, litteraturen och andra mänskliga föreställningsvärldar. Både i nutid och i dåtid. Men allas perspektiv är inte med i historierna om tänkande maskiner. Något som Damian Eke och George Ogoh belyser i en artikel om glömda (eller kanske gömda) AI-narrativ från Afrika. För vad händer med föreställningen om AI när vi tänker oss att tekniken är neutral?

Både Damian Eke och Geroge Ogoh arbetar med frågor kring ansvarsfull forskning och innovation i det stora EU-flaggskeppsprojektet Human Brain Project. De pekar på det faktum att de flesta historier vi berättar om intelligent teknik bygger på föreställningar och begrepp från norra halvklotet. Artikeln väcker frågan om det är ett problem. Och i så fall, på vilket sätt? Svaret är ganska enkelt: när narrativen har en smak av teknikneutralitet blir det ett problem som sträcker sig förbi berättelserna om artificiell intelligens. För vad händer när vi i norr sätter agendan for forskning och innovation på södra halvklotet?

Vill du läsa mer om vad som händer när historiska, filosofiska, sociokulturella och politiska narrativ från Afrika saknas och vad det kan få för betydelse? Damian Eke och George Ogohs artikel är publicerad Open Access: Forgotten African AI Narratives and the future of AI in Africa.

För den som vill ha en mer lättsmält version har jag skrivit ett inlägg om artikeln på den engelska versionen av den här bloggen: AI narratives from the Global North.

Josepine Fernow

Skrivet av…

Josepine Fernow, koordinator och forskningskommunikatör hos Centrum för forsknings- och bioetik, som utvecklar kommunikationsstrategier för europeiska forskningsprojekt

Eke D, Ogoh G, Forgotten African AI Narratives and the future of AI in Africa, International Review of Information Ethics, 2022;31(08)

Kommer med lästips

Artificiell intelligens: stärka intelligens i människor eller skapa mänsklig intelligens i maskiner?

Foto av Tara Winstead
20 september, 2022 / / 1 kommentar

Ibland läser man artiklar i gränstrakten mellan filosofi och vetenskap som innehåller riktigt spännande visionära tankar, som det samtidigt är svårt att förstå och bedöma. Den tekniska utarbetningen av tankarna växer alltmedan man läser, och till slut vet man inte om man är kapabel att tänka självständigt omkring idéerna eller om det handlar om nya vetenskapliga rön och trender som man saknar expertis att bedöma.

Idag dristar jag mig till att rekommendera läsning av en sådan artikel. Inlägget måste av naturliga skäl bli kort. Men grundidéerna i artikeln är så pass intressanta att jag hoppas att några läsare av inlägget även blir läsare av artikeln och försöker förstå den.

Vad handlar artikeln om? Den handlar om ett alternativt sätt att närma sig de högsta anspråken inom artificiell intelligens. I stället för att försöka skapa maskiner som kan göra vad människor kan göra, maskiner med personligt medvetande och moral, fokuserar artikeln på möjligheten att skapa maskiner som stärker intelligensen hos redan medvetna, moraliskt tänkande människor. Denna idé är dock inte helt ny. Den har i funnits i över ett halvsekel inom exempelvis cybernetiken. Så vad är nytt i artikeln?

Något som jag själv slogs av var den medkännande rösten i artikeln, som annars inte är framträdande i AI-litteraturen. Artikeln fokuserar inte på att skapa supersmarta problemlösare, utan på att stärka våra band med varandra och med världen vi lever i. Exemplen som ges i artikeln handlar om bättre moraliska hänsynstaganden till människor långt borta, om bättre förutsägelser av naturkatastrofer i ett komplext klimat, samt om att återställa sociala kontakter hos människor som lider av depression eller schizofreni.

Men det originellaste i artikeln är kanske ändå förslaget att utvecklingen av dessa jag-stärkande maskiner skulle hämta inspiration från hur hjärnan redan upprätthåller kontakten med sin omgivning. Här bör man hålla i minnet att det handlar om matematiska modeller av hjärnan och om nyskapande sätt att tänka om hur hjärnan samspelar med omgivningen.

Det är frestande att se hjärnan som ett isolerat organ. Men hjärnan är via sinnen och nervbanor i ständigt dynamiskt utbyte med kroppen och världen. Du skulle inte uppleva världen om den inte gjorde ständigt nya avtryck i din hjärna och du ständigt agerade på de avtrycken. Denna intensiva interaktivitet på mängder av nivåer och tidsskalor syftar till att upprätthålla en stabil och begriplig kontakt med en omgivande värld. Tänkesättet i artikeln påminner mig om begreppet ”digital tvilling”, som jag tidigare bloggat om. Men här är det hjärnan som framstår som en neural tvilling med världen. Hjärnan liknar en kontinuerligt uppdaterad neural spegelbild av världen, som hjärnan samtidigt kontinuerligt förändrar.

Här börjar jag dock få svårt att riktigt begripa och bedöma tankarna i artikeln, särskilt beträffande den matematiska modell som antas beskriva hjärnans ”adaptiva dynamik”. Men som jag förstår saken, föreslår man möjligheten av att återskapa en liknande dynamik i intelligenta maskiner, som kan stärka vår förmåga att se komplexa mönster i vår miljö och vara i kontakt med varandra. En smula poetiskt kunde man kanske säga att det handlar om att stärka vårt neurala tvillingskap med världen. Ett slags neuralt-digitalt tvillingskap med omgivningen? Ett digitalt förstärkt neuralt tvillingskap med världen?

Mer vågar jag inte säga om den visionära artikeln. Kanske har jag redan tagit mig för stora poetiska friheter? Jag hoppas ändå att jag lyckats göra dig intresserad att läsa artikeln och bedöma den själv: Augmenting Human Selves Through Artificial Agents – Lessons From the Brain.

Jo, en sak vill jag avslutningsvis påpeka. Jag nämnde svårigheten att ibland förstå och bedöma spännande tankar som formuleras i gränstrakterna mellan filosofi och vetenskap. Är inte den svårigheten själv ett exempel på hur kontakten med omgivningen ibland försvagas? Här vet jag emellertid inte om jag skulle ha haft hjälp av digital intelligensförstärkning som raskt tog mig igenom de filosofiska svårigheter som man kan uppleva under läsning. Somliga frågor tycks väsentligen fordra tid, att man stannar upp och tänker efter!

Att ge sig själv tid att tänka är ett naturligt sätt att fördjupa kontakten med verkligheten, känt av filosofer i årtusenden.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Northoff G, Fraser M, Griffiths J, Pinotsis DA, Panangaden P, Moran R and Friston K (2022) Augmenting Human Selves Through Artificial Agents – Lessons From the Brain. Front. Comput. Neurosci. 16:892354. doi: 10.3389/fncom.2022.892354

Detta inlägg på engelska

Kommer med lästips

« Äldre inlägg