Trots att det är oklart vad det kan innebära att tala om ”medveten AI” så finns det en vilja att skapa ”det”. Vad kunde vi tänka oss att fördelarna med medveten AI vore? Varför försöka skapa subjektiv erfarenhet i AI-system? Vad kunde vi förvänta oss av en sådan strävan? Detta är frågor som Michele Farisco diskuterar på den engelska versionen av denna blogg.
Michele Farisco nämner flera möjliga svar på frågorna. Till exempel kunde strävan efter artificiellt medvetande bidra till bättre kunskap om biologiskt medvetande och till bättre teknisk prestanda hos AI-system. Han reflekterar även över möjliga etiska och samhälleliga effekter av medveten AI. Man kunde till exempel hoppas att medveten AI skulle hjälpa människan att förutse negativa konsekvenser av långsiktiga beslut och bidra till en mer hållbar och etisk utveckling. Men om mänskligt medvetande inte lyckats med detta, utan tvärtom ofta visar prov på själviskhet och närsynthet, varför skulle artificiellt medvetande lyckas bättre?
Dessa frågor är naturligtvis hypotetiska, men eftersom det faktiskt finns en vilja att skapa ”medveten AI” behöver de ställas. Läs Michele Fariscos engelska blogginlägg här: Why should we try to build conscious AI?
Möjligheten av artificiellt medvetande har på senare tid blivit en fråga som alltfler tar på allvar. Utan att fundera alltför länge kring vad det kan betyda, frågar somliga redan ”När kan vi förvänta oss det?”, som om man spekulerade kring lanseringen av en ny, tekniskt avancerad produkt: medveten AI. Parallellt med denna förväntan om stora teknikframsteg poängteras även möjligheten av stora filosofiska framsteg. Om vi lyckas konstruera medvetna maskiner, som har upplevelser, känslor och självkännedom, då kan vi väl även sägas förstå vad det betyder att vara till, vad det innebär att existera?
Nja, om medvetandet är så fundamentalt att det omfattar allt som vi uppfattar, känner och tänker, om medvetandet är vår existens, så att säga, vilket tycks förutsättas i dessa stora anspråk, så är väl även dessa anspråk innefattade i medvetandet, utan att det erkänns? För hur kan man drömma om resor utanför medvetandet, för att långt där ute förklara tillvarons gåta, om medvetandet redan omfattar allt som vi uppfattar, känner, tänker eller drömmer om att kunna göra? Sådana ”långresor” kan man väl spekulera om bara om man glömmer var spekulerandet redan måste ske och vara hemma, enligt samma anspråk? Den anspråksfulle långresenären glömmer sig själv hemma, vill jag säga: glömmer existensen som skulle förklaras.
I ett inlägg på den engelska versionen av denna blogg skriver Michele Farisco om behovet av kunskapsmässigödmjukhet inför frågan om artificiellt medvetande. Hans överväganden kunde beskrivas som vetenskapliga självbetraktelser, i det att han utgår från vad dagens vetenskap vet om biologiskt medvetande, liksom om hjärnan, som vetenskapen funnit är väsentlig för medvetande. Han utesluter inte att medvetande kan uppkomma på andra sätt, exempelvis i maskiner. Men för att klargöra frågorna om tänkbarheten och genomförbarheten av artificiellt medvetande, så behöver vi utgå från dagens vetenskapliga kunskap om hjärna och medvetande: som ett slags riktmärke eller referensmodell. Han påpekar flera egenskaper hos hjärnan som kan bedömas väsentliga för medvetande, men som dagens AI väsentligen saknar. Samtidigt som detta motiverar ödmjukhet, kan skillnaderna mellan hjärna och AI inspirera bättre forskning om artificiellt medvetande, menar Michele Farisco, som försiktigt vill hålla dörren öppen för andra former av medvetande än vårt eget.
Det finns idag ett brett spektrum av konkurrerande teorier, som var och en på sitt sätt försöker redogöra för medvetandet i neurobiologiska termer. Parallellt med den ”babyloniska språkförbistring” och oförmåga att samarbeta som detta innebär i teoretiserandet av medvetandet, har framsteg gjorts i det empiriska studiet av hjärnan. Avancerade metoder för att avbilda och mäta hjärnan och dess aktiviteter kartlägger strukturer och funktioner som möjligen kan vara relevanta för medvetandet. Problemet är att dessa empiriska data återigen inspirerar ett brett spektrum av teorier om medvetandets plats i hjärnan.
Det har påpekats ett splittrat intellektuellt tillstånd som detta, där konkurrerande skolbildningar förespråkar sina egna teorier utifrån sina egna utgångpunkter – utan gemensamt ramverk eller paradigm där förslagen kan jämföras och bedömas – är typiskt för ett förvetenskapligt stadium av en möjligen begynnande vetenskap. Med tanke på att de divergerande teorierna var och en gör anspråk på vetenskaplig status, är detta naturligtvis besvärande. Men kanske att teorierna trots allt inte är så divergerande som de förefaller?
Det har föreslagits att flera av teorierna, vid närmare analys, möjligen delar vissa fundamentala idéer om medvetandet, som skulle kunna ligga till grund för en framtida enhetlig teori. Jag vill idag rekommendera en artikel som självkritiskt granskar denna förhoppning om en väg ut ur språkförbistringen. Om strävan efter en enhetlig medvetandeteori inte ska förfalla till ett slags ”fabricerad enhetlighet”, måste vi först fastställa att teorierna som integreras verkligen är jämförbara i relevanta avseenden. Men kan vi identifiera sådana gemensamma nämnare bland dagens konkurrerande teorier, som kunde stödja utvecklingen av ett övergripande ramverk för vetenskaplig forskning om medvetandet? Det är frågan som Kathinka Evers, Michele Farisco och Cyriel Pennartz undersöker för några av de mest omtalade neurovetenskapligt orienterade teorierna om medvetandet.
Vad kommer författarna fram till? Något överraskande!De kommer nämligen fram till att det faktiskt är fullt möjligt att identifiera ett antal gemensamma nämnare, som uppvisar mönster av likheter och olikheter bland teorierna, men att detta ändå inte är vägen till en övergripande medvetandeteori som stödjer hypoteser som kan testas experimentellt. Varför? Dels för att de gemensamma nämnarna, såsom ”information”, ibland är alltför allmänna för att fungera som kärnbegrepp i forskning specifikt om medvetandet. Dels för att teorier som har gemensamma nämnare trots allt kan vara begreppsligt artskilda.
Författarna föreslår därför, som jag förstår dem, att en mer framkomlig väg möjligen vore att utveckla ett gemensamt metodologiskt tillvägagångssätt kring prövning av hypoteser om relationer mellan medvetande och hjärna. Det är måhända först i den empiriska verkstaden, öppen för det oväntade, så att säga, som ett vetenskapligt ramverk, eller paradigm, eventuellt kan börja ta form. Inte genom att avsiktligt formulera enhetlig teori utifrån identifiering av gemensamma nämnare bland konkurrerande teorier, vilket riskerar att fabricera en fasad av enhetlighet.
Jag skulle vilja avsluta med att nämna en ofta försummad sida av hur vetenskapliga paradigm fungerar (enligt Thomas Kuhn). Ett paradigm genererar inte bara möjliga förklaringar av fenomen. Det genererar även problemen som forskarna försöker lösa inom paradigmet. Kvantmekaniken och evolutionsbiologin möjliggjorde nya frågor, som gjorde naturen problematisk på nya utforskningsbara sätt. Ett eventuellt framtida paradigm för vetenskaplig medvetandeforskning skulle i så fall inte besvara de frågor om medvetandet som förbryllar oss idag (åtminstone inte utan att först omtolka dem). Det skulle snarare skapa nya, ännu inte ställda frågor, som är utforskningsbara inom paradigmet som genererar dem.
Artikelförfattarna kan därför mycket väl ha rätt i att det mest fruktbara för tillfället är att ställa sonderande frågor som hjälper oss att avgränsa vad som faktiskt låter sig undersökas, snarare än att börja med att fabricera övergripande teoretisk enhetlighet. Det senare tillvägagångssättet vore möjligen att spänna vagnen framför hästen.
K. Evers, M. Farisco, C.M.A. Pennartz, “Assessing the commensurability of theories of consciousness: On the usefulness of common denominators in differentiating, integrating and testing hypotheses,” Consciousness and Cognition, Volume 119, 2024
Idag vill jag rekommendera ett blogginlägg på den engelska versionen av denna etikblogg. Michele Farisco diskuterar där utvecklingen av så kallad medveten AI, något som givetvis väcker funderingar.
Etikdiskussionen är livlig. Vissa kräver ett internationellt moratorium för alla försök att skapa konstgjort medvetande: riskerar vi att skapa konstgjort lidande? Andra menar att redan ”vanlig” AI är tillräckligt riskfylld: riskerar vi att skapa ännu mer svårhanterliga former av AI?
Dessa och andra etiska farhågor är svåra att bedöma. Inte bara för att den vetenskapliga och tekniska utvecklingen är snabb och avancerad, utan även för att vi allvarligt talat inte riktigt vet vad vi pratar om! Vad är medvetande? Vet vi ens vad det innebär att människor och andra djur är medvetna?
Michele Farisco har länge undersökt frågan om mänskligt medvetande. Han har bland annat bidragit till att utveckla indikatorer för olika dimensioner av mänskligt medvetande som kan användas för vid bedömningar medvetandegraden hos patienter. Hans förslag är att indikatorerna kan vara relevanta även för att identifiera medvetenhet i artificiella system, samt att detta kan göra den etiska diskussionen mer balanserad och realistisk.
Michele Farisco. The ethical implications of indicators of consciousness in artificial systems. Developments in Neuroethics and Bioethics. Available online 1 March 2024. https://doi.org/10.1016/bs.dnb.2024.02.009
Vore det i princip möjligt att bygga en robot som inte bara uppför sig intelligent utan dessutom har medvetande? Denna hisnande fråga ska undersökas i ett 4-årigt europeiskt projekt om artificiell medvetenhet, koordinerat från Radboud University i Nederländerna.
Filosoferna i projektet, däribland Kathinka Evers, kommer att skärskåda och analysera begreppet medvetande, samt identifiera indikatorer på medvetenhet som skulle kunna användas för att bedöma medvetenhet hos artificiella system. De kommer även att bidra till etisk analys av möjliga framtida scenarier.
Naturligtvis kommer Etikbloggen att följa arbetet i projektet!
Under den sista fasen av Human Brain Project finansierades delar av aktiviteten på den här bloggen av Europeiska unionens "Horizon 2020 Framework Program for Research and Innovation" under det specifika avtalsnumret HBP SGA3 - Human Brain Project Specific Grant Agreement 3 (945539). De åsikter som uttrycks på den här bloggen är författarens/författarnas eget ansvar och återspeglar inte nödvändigtvis Europeiska kommissionens åsikter.
Senaste kommentarer