En forskningsblogg från Centrum för forsknings- & bioetik (CRB)

Etikett: artificiell intelligens (Sida 2 av 3)

Hjärninspirerad AI: mänsklig självbespegling?

Trots att användningarna av artificiell intelligens (AI) idag närmast exploderar på flera områden, så är tekniken i vissa avseenden mer begränsad än man kan tro. Det är inte konstigt. All teknik tenderar att vara både användbar och begränsad. Men när det gäller just AI finns en tendens att se varje begränsning som en defekt. Varför?

En jämförelse smyger sig vanligen in vår bild av AI: jämförelsen med människan. Rättare sagt så är detta en jämförelse inte med oss själva, utan med vår självbild som intelligenta varelser med en generaliserad problemlösningsförmåga, som vi antar har gjort oss mer anpassningsbara och framgångsrika än andra arter på planeten. Denna självbild jämförs med en bild av AI som teknisk renodling av denna mänskliga intelligens. Därför blir vi missnöjda med tekniken när den inte löser problem lika generaliserat och självständigt som vi föreställer oss att vi människor gör. Samtidigt kan vi bli missnöjda med oss själva, och kanske lite rädda, när vi upplever att AI löser vissa problem bättre än vi.

Idag talar man om hjärninspirerad AI som ett sätt att lösa de tekniska begränsningarna hos AI. Man söker alltså teknisk inspiration i forskningen om hur den mänskliga hjärnan fungerar. I ett inlägg på The Ethics Blog idag ställer Michele Farisco filosofiska frågor om denna användning av människohjärnan som förebild för AI-tekniken. Vad talar för att detta är den bästa vägen att utveckla tekniken? Många AI-system avviker redan från hur hjärnan arbetar. Kanske har tekniken större potential om vi låter den avvika från hur den biologiska hjärnan fungerar?

Michele Farisco ställer även frågor om vår tendens att spegla oss själva i idealiserade bilder av mänsklig och artificiell intelligens. En risk med detta självbespeglande är att det tudelar allt vi möter i antingen mänskligt eller omänskligt, intelligent eller ointelligent, perfekt eller defekt. Sådana tendenser i vår historia har inte varit harmlösa.

Läs Michele Fariscos blogginlägg som ställer frågor om AI och mänsklig självbespegling: Brain-inspired AI: human narcissism again?

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Vad är hållbarhet i framtiden?

Säkerställa framtiden redan från början

Tänk om det fanns en säker metod för att förutse och hantera framtida risker, allt som kunde gå fel med ny teknik till exempel. Då kunde vi ansvarsfullt navigera förbi alla farorna, vi kunde säkerställa framtiden redan nu.

Naturligtvis är det bara en dröm. Om vi hade en ”säker metod” för att redan från början utesluta framtida risker, skulle tiden snart springa ifrån den metoden, som då visade sig opålitlig i en ny tid. Eftersom vi litade på metoden, blev metoden för att hantera framtida risker snart själv en framtida risk!

Det går alltså inte att säkerställa framtiden redan från början. Betyder det att vi måste ge upp alla försök att ta ansvar för framtiden, eftersom varje metod en vacker dag missar något oförutsebart nytt och därför orsakar olyckor? Är det kanske bättre att inte försöka ta något ansvar alls, för att inte riskera att orsaka olyckor genom våra ofullkomliga säkerhetsåtgärder? Märkligt nog är det lika omöjligt att vara oansvarig inför framtiden som att vara ansvarig. Du skulle behöva anstränga dig minutiöst, så att du inte råkar tillaga en hälsosam frukost eller undvika en bilkollision. Snart önskar du att du hade en ”säker metod” som kunde förutse alla framtida faror som du måste undvika att undvika om du vill leva fullkomligt oansvarigt. Din oansvarighet för framtiden skulle bli ett oöverstigligt ansvar.

Förlåt om jag driver tids- och ansvarsbegreppen över bristningsgränsen, men jag tror faktiskt att många av oss har en naturlig böjelse att göra det, för att framtiden skrämmer oss. Ett aktuellt exempel är tendensen att tänka att någon ansvarig borde ha förutsett pandemin och genomfört kraftfulla motåtgärder redan från början, som säkerställt att det aldrig blev någon pandemi. Jag vill inte förneka att det finns fall där vi kan resonera så – ”någon ansvarig borde ha…” – men nu tänker jag på frestelsen att resonera så rent instinktivt, så fort något oönskat inträffar. Som om framtiden kunde säkerställas redan från början och oönskade händelser därför undantagslöst vore skandaler.

Nu är vi i ett nytt läge. På grund av pandemin har det blivit oansvarigt att inte förbereda sig (bättre än tidigare) för pandemirisker. Så ser vårt ansvar för framtiden ut. Det ändras med tiden. Ansvaret vilar i nuet, i vårt faktiska läge idag. Där har ansvaret för framtiden sitt hem. Det kan låta oansvarigt att säga så. Ska vi sitta med armarna i kors och invänta att det oönskade inträffar, för att först därefter få ett ansvar att undvika det i framtiden? Problemet är att denna invändning återigen driver begreppen över bristningsgränsen. Den leker med tanken att framtiden kan överblickas och säkerställas redan nu, ett tankemönster som i sig kan utgöra en risk. Ett samhälle där varje instans måste säkerställa framtiden inom sitt ansvarsområde, riskerar att sparka nedåt för att hålla eventuella oroselement utanför den säkerställda ordningen: ”Vår uppdragsgivare kräver att vi säkerställer att…, därför behöver vi ett intyg samt en personlig deklaration där du…”. Många skulle hamna utanför den säkerställda ordningen, vilket knappast tryggar någon ordning. Och eftersom oroselementen definieras genom konstruerade kriterier, som kanske implementeras i automatiserade administrationssystem, riskerar systemen inte bara att begå systematiska misstag i mötet med verkliga människor. De rentav inbjuder till falskspel med systemen.

Så hur tar vi ansvar för framtiden på ett i praktiken ansvarsfullt sätt? Låt oss först lugna ner oss inför utmaningen. Vi har ju konstaterat att det är omöjligt att inte ta ansvar! Bara genom att andas tar vi ansvar för framtiden, genom att laga frukost, genom att styra bilen. Ansvarstagande är så naturligt, att ingen behöver ta ansvar för det. Men hur tar vi ansvar för något så dynamiskt som forskning och teknikutveckling? De är ju redan i framtiden, tycks det, eller åtminstone i framkant. Hur kan vi förlägga ansvaret för en skön ny värld till nuet, som tycks passé redan från början? Måste inte ansvaret vara lika framtidsinriktat, lika mycket i framkant, eftersom forskning och teknik ständigt rör sig mot framtiden, där de gör framtiden annorlunda det omkörda nuet?

Återigen drivs begreppen över bristningsgränsen. Den som läser detta inlägg uppmärksamt kan dock notera en hoppingivande motsägelse. Jag har påpekat att det är omöjligt att säkerställa framtiden redan nu. Samtidigt påpekar jag att det är i nuet som ansvaret för framtiden ligger. Det är bara här som vi i praktiken tar ansvar för framtiden. Hur kan jag vara så ologisk?

Svaret är att det första påpekandet riktas mot vår intellektuella tendens att driva tids-och ansvarsbegreppen över bristningsgränsen, när vi känner oss osäkra inför framtiden och önskar att vi kunde kontrollera den redan nu. Det andra påpekandet påminner oss om hur lugnt tids- och ansvarsbegreppen fungerar i praktiken, när vi tar ansvar för framtiden. Det första påpekandet drar alltså en gräns för intellektet, som hysteriskt gärna vill totalkontrollera framtiden redan från början. Det andra påpekandet öppnar upp för praktiken att i varje ögonblick ta ansvar.

När vi tar ansvar för framtiden, så lär vi oss av historien så som den framträder i vårt nuvarande minne, vilket jag redan antytt. Erfarenheterna från pandemin gör det möjligt att nu ta ansvar för framtiden på ett annat sätt än tidigare. De inte alltid positiva erfarenheterna av artificiell intelligens gör det möjligt att nu ta bättre ansvar för framtida robotiseringar. Det märkliga är alltså att ansvarstagande förutsätter att det går snett ibland och att vi intresserar oss för det. Annars hade vi inget att lära oss av inför framtiden. Det är egentligen självklart. Ansvar är möjligt bara i en värld som inte är helt säkerställd från början, en värld där det oönskade inträffar. Så motsägelsefullt är livet. Vi kan aldrig renodla säkerheten enligt intellektets ensidiga krav, för säkerheten förutsätter det osäkra och det oönskade.

Mot denna filosofiska bakgrund vill jag rekommendera en artikel i Journal of Responsible Innovation, som diskuterar ansvarsfull forskning och utveckling i ett stort europeiskt forskningsprojekt, Human Brain Project (HBP): From responsible research and innovation to responsibility by design. Artikeln beskriver hur man inom HBP försökt vara förutseende och ta ansvar för den dynamiska forskningen och teknikutvecklingen inom projektet. Artikeln reflekterar inte minst över frågan hur man fortsätter att ta ansvar även när projektet avslutas, inom den europeiska forskningsinfrastruktur som planeras bli projektets produkt: EBRAINS.

Författarna är väl medvetna om att specifika reglerade ansatser själva kan bli en källa till problem, när de möter det nya och oförutsedda. Ansvaret för framtiden kan inte regleras. Det kan inte reduceras till konstruerade kriterier och föreskrifter. En av författarnas viktigaste slutsatser är att ansvaret från början behöver vara en integrerad del av forskningen och teknikutvecklingen, snarare än ett yttre ramverk. Ansvaret för framtiden fordrar flexibilitet och öppenhet, förutseende och engagemang, reflektion och vidsynthet. Men vad är det?

Personligen vill jag säga att det delvis handlar om att acceptera livets dubbelhet. Om vi inte vågar sväva i ovisshet, utan alltid kräver säkerhet och inget annat än säkerhet, så kommer vi garanterat att undergräva säkerheten. Genom att vara uppriktigt intresserade av det osäkra och oönskade, kan ansvarstagandet bli en integrerad del av forskningen och teknikutvecklingen.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Bernd Carsten Stahl, Simisola Akintoye, Lise Bitsch, Berit Bringedal, Damian Eke, Michele Farisco, Karin Grasenick, Manuel Guerrero, William Knight, Tonii Leach, Sven Nyholm, George Ogoh, Achim Rosemann, Arleen Salles, Julia Trattnig & Inga Ulnicane. From responsible research and innovation to responsibility by design. Journal of Responsible Innovation. (2021) DOI: 10.1080/23299460.2021.1955613

Detta inlägg på engelska

Vad är hållbarhet i framtiden?

Artificiell intelligens och medvetande

I ett inlägg på den engelska versionen av denna blogg diskuterar Michele Farisco idag en hisnande fråga om artificiell intelligens (AI): kan vi skapa medvetna maskiner?

Michele Farisco menar att frågan förutsätter att vi först klargör vad vi menar med medvetande. Han ger exempel på definitioner som använts i diskussionen om medveten AI och konstaterar att de föga överraskande definierar medvetande i termer av olika former av beräkningar inom informationsbehandling. Uppenbarligen bäddar man som man vill ligga. Det vill säga, man definierar sina termer efter den typ av svar man söker. Är det ett filosofiskt uppriktigt sätt att närma sig frågan?

Michele Farisco menar att vi måste närma oss frågan om medveten AI med stor försiktighet och eftertänksamhet. Annars riskerar viktiga filosofiska frågor att försvinna ur sikte bakom en begreppslig slöja av förhastade språkliga analogier mellan det mänskliga och det maskinella.

Läs Michele Fariscos inlägg på The Ethics Blog: Can AI be conscious? Let us think about the question.

Vi söker klarhet

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Mänskliga rättigheter och juridiska frågor kring artificiell intelligens

Hur tar vi ansvar för en teknik som används nästan överallt? I takt med att alltfler användningar av artificiell intelligens (AI) utvecklas, växer utmaningarna att överblicka hur tekniken kan påverka människor och mänskliga rättigheter.

Även om AI-lagstiftning redan utvecklas på flera områden, menar Rowena Rodrigues att vi behöver en överblickbar karta över utmaningarna. Hur ser läget ut? Var kan människors rättigheter hotas? Hur hanteras hoten? Var behöver större ansträngningar göras? I en artikel i Journal of Responsible Technology föreslår hon en sådan karta, som sedan diskuteras med utgångspunkt i begreppet sårbarhet (”vulnerability”).

Artikeln identifierar tio problemområden. Ett problem är att AI fattar beslut på basis av algoritmer där beslutsprocessen inte är helt genomskinlig. Varför fick jag inte jobbet, lånet eller bidraget? Svårt att veta när datorprogram levererar beslut som om de vore orakel! Andra problem handlar om säkerhet och ansvar, exempelvis när automatiskt beslutsfattande används i bilar, i medicinska diagnoser, i vapen eller när regeringar övervakar medborgare. Andra problemområden kan handla om risker för diskriminering eller för integritetsintrång när AI samlar in och använder stora datamängder för att fatta beslut som berör individer och grupper. I artikeln kan du läsa om fler problemområden.

För var och en av de tio utmaningarna, identifierar Rowena Rodrigues lösningar som i nuläget finns på plats, samt utmaningarna som det kvarstår att hantera. Därefter diskuteras mänskliga rättigheter. Rowena Rodrigues menar att internationella mänskliga rättighetsfördrag, även om de inte nämner AI, är relevanta för de flesta av problemen som hon kartlagt. Hon framhäver betydelsen att bevaka mänskliga rättigheter ur ett sårbarhetsperspektiv. Genom ett sådant perspektiv ser vi tydligare var och hur AI kan utmana mänskliga rättigheter. Vi ser tydligare hur vi kan minska negativa effekter, utveckla motståndskraft hos sårbara, samt angripa roten till de olika formerna av sårbarhet.

Rowena Rodrigues är knuten till SIENNA-projektet, som avslutas denna månad. Läs hennes artikel om utmaningarna kring en teknik som används nästan överallt: Legal and human rights issues of AI: Gaps, challenges and vulnerabilities.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Rowena Rodrigues. 2020. Legal and human rights issues of AI: Gaps, challenges and vulnerabilities. Journal of Responsible Technology 4. https://doi.org/10.1016/j.jrt.2020.100005

Detta inlägg på engelska

Kommer med lästips

Hotad av superintelligenta maskiner

Det finns en rädsla att vi snart skapar artificiell intelligens (AI) som är så superintelligent, att vi inte längre kan kontrollera den. Den gör oss människor till sina slavar. Om vi försöker koppla ur nätverkskabeln så hoppar superintelligensen över till ett annat nätverk, eller så beordrar den en robot att döda oss. Alternativt så hotar den att spränga en hel stad i bitar, om vi tar ett enda steg mot nätverksuttaget.

Jag slås emellertid av hur denna självhävdande artificiella intelligens liknar en sida av vår egen mänskliga intelligens. En viss typ av mänsklig intelligens har redan tagit över. Den styr våra tankar när vi känner oss hotade av superintelligent AI och överväger smarta motåtgärder för att kontrollera den. Ett typiskt drag i denna självhävdande intelligens är just detta att den aldrig ser sig själv som problemet. Alla hot är externa och måste neutraliseras. Vi ska överleva, kosta vad det vill för andra. Jag först! Vårt parti först! Vi betraktar världen med misstro: den tycks fylld av hot mot oss.

I denna självcentrerade anda utpekas AI som nytt främmande hot: okontrollerbara maskiner som sätter sig själva först. Alltså måste vi övervaka maskinerna och bygga smarta försvarssystem som kontrollerar dem. De borde vara våra slavar! Mänskligheten först! Ser du hur vi beter oss lika blint självhävdande som vi fantiserar att supersmart AI skulle göra? En kapprustning i småsinthet.

Kan du se mönstret hos dig själv? Om du kan göra det, så har du upptäckt den andra sidan av den mänskliga intelligensen. Du har upptäckt den självgranskande intelligens som alltid livnär filosofin när den ödmjukt söker orsaken till våra misslyckanden hos oss själva. Paradoxen är: när vi försöker kontrollera världen, så fångas vi i småsinthet; när vi granskar oss själva, så öppnas vi för världen.

Linnés första försök att artbestämma människan var faktiskt inte Homo sapiens, som om vi kunde hävda vår visdom. Linnés första försök att artbestämma oss var en ödmjuk uppmaning till självgranskning:

HOMO. Nosce te ipsum.

På svenska: Människa, känn dig själv!

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Detta inlägg på engelska

Vi tänker om tänkande

Dags att reglera teknik som kan optimera människors egenskaper

Kanske har du också drömt om att vara mer än du är. Snabbare, smartare, modigare, starkare, eller kanske mer attraktiv? Det är inte länge sedan det bara var i science fiction som sådant var möjligt. Nu utmanar ny teknik som kan förändra våra kroppar och hjärnor våra föreställningar om vad som är normalt och abnormalt. Och gränserna mellan att behandla, förbättra och optimera suddas sakta ut. Under hösten har till exempel SVT-serien Framtiden runt hörnet lyft frågan i ett avsnitt om att optimera sig själv

Men det är inte många forskare eller företag som utvecklar läkemedel, proteser eller implantat som själva skulle hävda att de sysslar med att optimera människor, eller det som på engelska kallas human enhancement. Men teknologierna  de utvecklar kommer ändå att kunna röra sig från en domän till en annan. Våra kroppar kan förändras både funktionellt och kosmetiskt. Det finns både forskning och (icke evidensbaserad) behandling som syftar till att få oss att leva längre. Våra hjärnor kan också optimeras på olika sätt. Våra tankar och känslor kan förändras med läkemedel och terapi. Kanske kan man också förändra vår moral, både till det bättre och sämre. 

Den här spänningen kan vi känna igen från olika debatter om mer vanliga sätt att optimera människor. Doping inom idrotten till exempel. Eller studenter som använder ADHD-medicin för att plugga inför en stor tenta. Men det finns andra exempel på teknologier som kan användas för att optimera egenskaper. Vad händer om man förändrar människors moral eller använder cybernetiska implantat inom militären? Eller om friska individer får tillgång till neuroproteser för att förbättra minnet eller någon annan kognitiv funktion, när tekniken från början var avsedd för människor som skadats av neurologiska sjukdomar.  

Det har såklart funnits diskussion om hur etiken kring sådan utveckling ska regleras. Men eftersom väldigt få av de forskare och ingenjörer som utvecklar teknik som kan användas för att optimera olika egenskaper hos människor själva skulle säga att de är i optimeringsbranschen har initiativen inte varit så framgångsrika. Men kanske är tiden inne för etiska riktlinjer? Och då väcks frågan: hur gör man det på ett område som är brett, komplext och svårt att avgränsa? Ska det vara en uppsättning fristående allmänna riktlinjer för hela fältet, eller är det så spretigt att det kräver en reglering för varje fält eller domän? 

Ett försök till att svara på frågan kommer från SIENNA-projektet (Stakeholder-Informed Ethics for New technologies with high socio-ecoNomic and human rights impAct). Det är ett EU-projekt som fått i uppgift att utveckla den här typen av etiska regler och riktlinjer för tre väldigt olika teknikområden. Dels optimering av mänskliga egenskaper, men också av genetik och genomik, samt artificiell intelligens och robotik. Det kanske inte kommer som ett överraskning att det svåraste uppdraget varit just optimering. I närmare tre år har SIENNA kartlagt fältet, analyserat de etiska implikationerna, kartlagt lagstiftningen, studerat hur forskningsetikkommitteer hanterar de etiska frågorna, och kommit med förslag på olika sätt att förbättra befintlig lagstiftning. Input har kommit från olika typer av intressenter, experter och allmänheten. Representanter från industri, akademi och myndigheter har deltagit i olika workshops och granskat förslag. Allmänhetens syn på frågorna har undersökts i fokusgrupper i fem länder och kompletterats med en enkätundersökning där 11,000 personer i 11 länder från Europa, Afrika, Asien, Nord- och Sydamerika fått svara på frågor om sina attityder till att använda olika teknologier för att optimera människors egenskaper eller prestationer. Resultatet är ett etiskt ramverk, som beskriver olika alternativ för hur det här arbetet kan översättas till praktisk etisk vägledning. 

Ramverket för optimering bygger på tre fallstudier som kan ge lite klarhet i vad som står på spel i ett väldigt spretigt fält: användandet av antidepressiva läkemedel, behandling av demens, och genetik. Fallstudierna lyfter fram olika typer frågor som sannolikt kommer att bli aktuella. Och de svårigheter som kommer med den komplexa uppgift som SIENNA nu står inför: att utveckla en etisk riktlinje för teknologier som används för att optimera mänskliga förmågor. 

Utvecklingen av många av de här teknologierna, deras applikationer och den potential för optimering de har, är fortfarande i sin linda. Så kanske är det här precis rätt läge att föreslå sätt för forskningsetikkommittéer att informera forskare om de etiska utmaningar som följer med den här potentialen att optimera människor? Och att uppmuntra forskarna att reflektera kring potentiella konsekvenser av att tekniken används för optimering i samband med att de ansöker om etikgodkännande för sin forskning.  

För den som vill vara med och påverka hur förslaget från SIENNA kommer att se ut finns möjligheten att delta i en remissrunda i mitten av januari nästa år. Mellan den 11-25 januari 2021 kommer projektets förslag för etisk reglering av teknologier som kan optimera våra egenskaper att finnas tillgängliga för kommentar. Men du kan också ge input till förslag som rör genomik, AI och robotik. Den som vill vara med rekommenderas besöka webbplatsen, www.sienna-project.eu.

Josepine Fernow

Skrivet av…

Josepine Fernow, koordinator vid Centrum för forsknings- och bioetik och kommunikationsledare i SIENNA-projektet.

SIENNA-projektets logotyp

Det här inlägget på engelska

”Samarbetsvillig”, ”trevlig” och ”pålitlig” robotkollega sökes

Robotar får alltfler funktioner på våra arbetsplatser. Logistikrobotar hämtar varorna på lagret. Militärrobotar desarmerar minorna. Skötarrobotar lyfter patienterna och kirurgiska robotar utför operationerna. Allt detta i samspel med mänsklig personal, som tycks ha fått sköna nya robotkolleger på sina arbetsplatser.

Med tanke på att somliga behandlar robotarna som bra kolleger och att bra kolleger bidrar till god arbetsmiljö, blir det rimligt att fråga: Kan en robot vara en bra kollega? Frågan undersöks av Sven Nyholm och Jilles Smids i tidskriften Science and Engineering Ethics.

Författarna behandlar frågan begreppsligt. Först föreslår de kriterier för vad en bra kollega är. Därefter frågar de om robotar kan leva upp till kraven. Frågan om en robot kan vara en bra kollega är intressant, eftersom den visar sig vara mer realistisk än vi först tror. Vi kräver nämligen inte lika mycket av en kollega som av en vän eller en livspartner, resonerar författarna. Många av kraven på bra kolleger har att göra med deras yttre beteende i specifika situationer på arbetsplatsen, snarare än med hur de tänker, känner och är som människor i livets många sammanhang. Ibland är en bra kollega bara någon som får jobbet gjort!

Vilka kriterier nämns i artikeln? Här återger jag med egna ord författarnas lista, som de framhåller inte är menad att vara fullständig. En bra kollega samarbetar för att uppnå mål. En bra kollega kan småprata och göra arbetet trevligt. En bra kollega mobbar inte utan behandlar andra respektfullt. En bra kollega stöttar efter behov. En bra kollega lär sig och utvecklas med andra. En bra kollega är alltid på plats och är pålitlig. En bra kollega anpassar sig efter hur andra mår och delar arbetsrelaterade värden. En bra kollega får gärna socialisera vänskapligt.

Författarna menar att många robotar redan idag lever upp till flera av dessa idéer om vad en bra kollega är, och att robotarna på våra arbetsplatser snart är ännu bättre kolleger. Kraven är, som sagt, lägre än vi först tror, eftersom de inte handlar så mycket om kollegans inre mänskliga liv, utan mer om pålitligt uppvisade beteenden i specifika arbetssituationer. Det är inte så svårt att tänka sig kriterierna omvandlade till specifikationer till robotutvecklarna. Ungefär som i en jobbannons, som listar beteenden som den sökande bör kunna uppvisa.

En butikschef för en mataffär i denna stad annonserade efter personal. Annonsen innehöll märkliga citationstecken, som avslöjade hur butikschefen sökte en människas fasad, snarare än det inre. Det är inte konstigt: att vara professionell är att kunna spela en roll. Butikens affärsidé var ”vi bryr oss om”. Denna idé skulle bli en positiv ”upplevelse” för kunderna i mötet med personalen. En hälsning, en nick, ett leende, ett allmänt trevligt bemötande, skulle skänka denna ”upplevelse” av att man i affären ”bryr sig om människor”. Alltså sökte man en person som, inom citationstecken, ”tycker om människor”.

Om personal kan sökas på detta sätt, varför skulle vi inte efterfråga ”samarbetsvilliga”, ”trevliga” och ”pålitliga” robotkolleger i samma anda? Jag är övertygad om att liknande krav redan förekommer som specifikationer när robotar designas för olika funktioner på våra arbetsplatser.

Livet är inte alltid djupt och innerligt, vilket robotiseringen av arbetslivet speglar. Frågan är vad som händer när ytorna blir så vanliga att vi glömmer citationstecknen omkring de mekaniska fasaderna. Alla är inte lika tydliga på den punkten som den ”människoälskande” butikschefen.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Nyholm, S., Smids, J. Can a Robot Be a Good Colleague?. Sci Eng Ethics 26, 2169–2188 (2020). https://doi.org/10.1007/s11948-019-00172-6

Detta inlägg på engelska

Vi tar upp aktuella frågor

Vad fordras av en etik för artificiell intelligens?

Jag lyfte nyligen fram kritik av etiken kring området artificiell intelligens (AI). En etik som kan hantera utmaningarna som AI ställer oss inför fordrar mer än bara vackert formulerade etiska principer, värdeord och riktlinjer. Vad exakt krävs av AI-etiken?

Michele Farisco, Kathinka Evers och Arleen Salles tar sig an frågan i tidskriften Science and Engineering Ethics. För dem är etik inte främst offentligt deklarerade principer och riktlinjer. Etik är snarare ett ständigt pågående tankearbete: levande etisk reflektion om AI. Deras fråga är alltså inte vad som krävs av ett etiskt ramverk byggt omkring AI. Frågan är vad som krävs av fördjupande etisk reflektion om AI.

Författarna framhåller begreppsanalys som väsentlig för all etisk reflektion om AI. En av de stora svårigheterna är nämligen att vi inte riktigt vet vad vi talar om! Vad är intelligens? Vad är skillnaden mellan artificiell och naturlig intelligens? Hur ska vi förstå relationen mellan intelligens och medvetande? Mellan intelligens och känslor? Mellan intelligens och insiktsfullhet?

Etiska problem om AI kan vara såväl praktiska som teoretiska, påpekar artikelförfattarna. De beskriver två praktiska och två teoretiska problem att hålla uppsikt på. Det ena praktiska problemet handlar om användande av AI i verksamheter som fordrar emotionella förmågor som AI saknar. Empati ger människor förståelse för andra människors behov. Därför bör avsaknaden av emotionellt engagemang hos AI särskilt uppmärksammas när vi överväger att använda AI i verksamheter såsom barn- och äldreomsorg. Det andra praktiska problemet handlar om användande av AI i verksamheter som fordrar en insiktsfullhet som AI saknar. Intelligens handlar inte bara om att reagera på input från omgivningen. Ibland behövs en mer förutseende förståelse av omvärlden: en förmåga att gå bortom den givna erfarenheten och se mindre uppenbara möjligheter. Gråt kan uttrycka smärta, glädje och mycket mer, men AI förutser inte så lätt de mindre uppenbara möjligheterna.

Även två teoretiska problem nämns i artikeln. Det första är huruvida AI i framtiden kan få moraliskt relevanta egenskaper som autonomi, intressen och preferenser. Det andra problemet är om alltmer avancerad AI kan tänkas påverka vår mänskliga självförståelse och skapa oro och osäkerhet om vår identitet. Dessa problem fordrar utan tvekan försiktig analys, för vet vi ens vad vi undrar? I filosofin behöver vi ofta klargöra våra frågor under filosoferandets gång.

Artikeln betonar särskilt ett krav på etisk analys av AI. Den bör samvetsgrant beakta moraliskt relevanta förmågor som AI saknar: förmågor som behövs för att tillfredsställa viktiga mänskliga behov. Kan vi låta en gullig dagisrobot ”trösta” barnen när de skriker av skratt eller när de slår sig så allvarligt att de behöver vård?

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Farisco, M., Evers, K. & Salles, A. Towards establishing criteria for the ethical analysis of Artificial Intelligence. Science and Engineering Ethics (2020). https://doi.org/10.1007/s11948-020-00238-w

Detta inlägg på engelska

Vi vill ha djup

Etik som förnyad klarhet om nya situationer

En artikel i tidskriften Big Data & Society kritiserar skarpt den form av etik som kommit att dominera forskning och utveckling inom artificiell intelligens (AI). Det handlar om samma ramverkstolkning av etiken som du kunde läsa om på Etikbloggen förra veckan. Men med en oroväckande skillnad. Snarare än att fungera som staket som sätter nödvändiga gränser för utvecklingen, riskerar ramverket att användas som etisk täckmantel av AI-företag, som vill undvika juridisk reglering av området. Genom att hänvisa till etisk självreglering – vackra deklarationer av principer, värdeord och riktlinjer – hoppas man kunna undvika juridisk reglering, som verkligen kunde sätta viktiga gränser för AI.

Problemet med AI-etik som ”mjuk etiklagstiftning” är inte bara att den kan användas för att undvika nödvändig juridisk reglering av området. Problemet är framförallt, menar SIENNA-forskarna som skrivit artikeln, att den formen av etik inte hjälper oss att tänka klart om nya situationer. Vad vi behöver, menar de, är en etik som ständigt förnyar vår blick för det nya. Det är nämligen så att AI ständigt ställer oss inför nya situationer: nya användingar av robotar, nya möjligheter för regeringar och företag att övervaka människor, nya former av teknikberoende, nya risker för diskriminering, samt utmaningar som vi kanske inte så lätt förutser.

Författarna betonar att en sådan ögonöppnande AI-etik kräver nära samarbete med samhällsvetenskaperna. Det är naturligtvis riktigt. Själv vill jag betona att en etik som förnyar vår blick för det nya, även måste vara filosofisk i ordets djupaste mening. För att klart se det nya och oväntade, kan du inte ens vila i din professionella kompetens, med sina etablerade metoder, teorier och begrepp. Du måste ifrågasätta dina egna intellektuella ramar. Du måste tänka själv.

Läs den redan uppmärksammade artikeln, som jag upplevde som frisk fläkt.

Skrivet av…

Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.

Anaïs Rességuier, Rowena Rodrigues. 2020. AI ethics should not remain toothless! A call to bring back the teeth of ethics. Big Data & Society

Detta inlägg på engelska

Vi söker klarhet

Varför behöver forskningen mångfald?

Vilka vetenskapliga upptäckter som görs beror på de frågor som ställs. Och den som vill upptäcka något nytt behöver antagligen formulera en ny fråga. Eftersom alla människor har olika förförståelse och uppfattningar kommer de också formulera sina frågor på olika sätt. Den här veckan skriver Karin Grasenick och Julia Trattnig från Human Brain Project om fördelarna med mångfald inom en forskargrupp och tar upp exempel på när det spelar roll för att komma med nya rön inom neurovetenskaplig forskning. Till exempel drabbas (biologiska) män och kvinnor olika av både Parkinsons sjukdom och Covid-19, men andra faktorer som ålder, urprung och socioekonomiska faktorer spelar också roll. Och om forskare och ingenjörer tränar AI att diagnosticera hudtumörer med bilder på ljushylta patienter finns en risk att människor med mörk hud drabbas av försenad diagnos och faktiskt mister livet.

Karin Grasenick är samordnare för genus och mångfaldsfrågor inom Human Brain Project, ett stort europeiskt flaggskeppsprojekt och arbetar tillsammans med forskaren Julia Trattnig.

Vill du veta mer? Läs deras text Diversity in research: why do we need it? på the Ethics Blog!

Skrivet av…

Josepine Fernow är ansvarig för kommunikation kring frågor som rör forskningens relation till samhälllet Human Brain Project och leder kommunikationsarbetet hos Centrum för forsknings- & bioetik och i flera andra europeiska forskningsprojekt.

Kommer med lästips

« Äldre inlägg Nyare inlägg »