Under 1900-talet ansågs det ofta som vetenskapligt suspekt att tala om medvetandet eller att använda psykologiska begrepp som inte definierades i termer av observerbart beteende. Under ännu längre perioder har medvetandet, eller själen, tillskrivits bara vissa människor som i sin tur vaktade begreppet mycket noga så att det inte riskerade att överföras till ”andra” (åtminstone inte till fullo). Mot denna bakgrund är det förvånande att notera hur möjligheten av medvetna maskiner plötsligt har börjat betraktas som en viktig vetenskaplig fråga. I vissa fall behandlas artificiellt medvetande till och med som en strategisk målsättning som ska förverkligas genom nya forskningsansträngningar. Varifrån kommer denna plötsliga hoppfullhet om medveten AI, när medvetandet tidigare omgärdades av sträng skepticism och gränskontroll?
I en artikel tar Kathinka Evers oss med bakom den hoppfulla fasaden. Varifrån kommer den oväntade optimismen? Har vi blivit mer öppensinnade på sistone? Kanske delvis, svarar Kathinka Evers, men optimismen om maskinmedvetande kan samtidigt vara en ny form av mänskligt självförhärligande. Hur då? Om vi människor (eller någon mänsklig grupp) kunde framställa artificiellt medvetande, så skulle vi (eller den gruppen) likna skaparguden som människor så länge trott format dem till sin avbild. Vi (eller den gruppen) skulle överta toppositionen som människan underkastat sig i årtusenden.
Hoppfullheten speglar förmodligen också föreställningar om att maskinmedvetande skulle kunna ge artificiella system ännu kraftfullare förmågor som mänskligheten skulle kunna dra nytta av, skriver Kathinka Evers. Medveten AI skulle kunna fatta komplexa beslut som medvetet tar hänsyn till mänskliga värderingar och moraliska normer. Den skulle kunna skydda oss bättre än vi kan skydda oss själva. Det låter onekligen hoppfullt. Men med tanke på att vi redan programmerar drönare och missiler för att skada och döda människor – i enlighet med mänskliga värderingar och normer – bör vi nog granska oss själva mycket noga innan vi fäster alltför stor tilltro till våra maskinavbilder. Skulle de möjligen kunna skapa ännu större hot snarare än att skydda oss från dem?
Människor är motsägelsefulla. Vi är lika medkännande som vi är okänsliga. Våra sympatier för varandra är selektiva och har gjort mänskliga grupper i de flesta kulturer och historiska perioder våldsamma och destruktiva mot andra etniska grupper, mot kvinnor, mot fattiga, mot andra arter, skriver Kathinka Evers. Gränsövervakningen av begreppet medvetande (eller själen) för att säkerställa exklusivitet är bara ett av många exempel på denna tendens att förena genom att särskilja. Mänskliga värderingar och normer separerar oss från varandra lika mycket som de förbinder oss. Skulle inte konstgjort medvetande, skapat till vår avbild, även mångfaldiga våra mänskliga konflikter? Borde vi snarare hoppas att medveten AI – om den vore möjlig – inte är i linje med mänskliga värderingar och moraliska normer?
Om du vill resa längre in bakom den hoppfulla fasaden, läs artikeln här: Artificial Consciousness: Science Fiction, Utopia, or Pandora’s Box? Kathinka Evers diskuterar också om konstgjort medvetande kan betraktas som en möjlighet, hur sådant medvetande i så fall skulle kunna upptäckas, samt vad forskning om konstgjort medvetande egentligen kan lära oss. Kanske är det snarare så att vi genom sådan forskning skulle lära oss mer om oss själva och återvända från omvägen mycket klokare?
Skrivet av…
Pär Segerdahl, docent i filosofi vid Centrum för forsknings- och bioetik och redaktör för Etikbloggen.
Evers, K. (2026). Artificial Consciousness: Science Fiction, Utopia, or Pandora’s Box? In Proceedings of the Paris Institute for Advanced Study (Vol. 27). https://doi.org/10.5281/zenodo.20267984
Vi ställer frågor
Hej!
Evers artikel väcker en fråga som jag tycker är ännu mer grundläggande än frågan om artificiellt medvetande faktiskt är möjligt: vad är det egentligen vi tror att vi skapar när vi försöker skapa ett medvetande?
Det mest intressanta i artikeln är därför inte bara risken att en maskin kan bli medveten, utan risken att vi utgår från att medvetande måste se ut på ett sätt som vi människor kan känna igen. Evers visar hur våra föreställningar om vilka som har ett ”sinne”, en själ eller en förmåga till erfarenhet historiskt har varit allt annat än neutrala. Djur har betraktats som automater, kvinnor och människor från andra grupper har placerats lägre i mentala hierarkier och vetenskapen har ibland varit med och legitimerat dessa gränsdragningar.
Det gör frågan om AI särskilt filosofiskt intressant. Kanske är det inte bara så att vi riskerar att skapa ett medvetande som vi inte kan förstå. Vi riskerar också att skapa något som vi sedan förnekar är medvetet eftersom det inte uttrycker sitt medvetande på det sätt vi förväntar oss. Evers beskriver detta genom problemen med ”gaming” och kommensurabilitet: en artificiell intelligens kan imitera mänskligt beteende utan att detta bevisar någon subjektiv erfarenhet, men om dess erfarenhet är fundamentalt annorlunda än vår kanske vi samtidigt saknar möjligheten att upptäcka den.
Här uppstår ett märkligt filosofiskt dilemma. Om maskinen beter sig som om den lider kan vi säga att den bara simulerar lidande. Om den inte beter sig som en människa kanske vi säger att den saknar förmåga att lida. I båda fallen riskerar människan att bli den som sätter kriterierna för vad ett medvetande får vara.
Det är också här jag tycker att Evers historiska resonemang blir särskilt viktigt. Problemet har aldrig enbart varit frågan om vem som faktiskt har ett inre liv, utan vem vi har varit beredda att erkänna som bärare av ett sådant liv. Om historien lär oss något är det att gränsen mellan , någon och något, inte alltid har dragits på ett filosofiskt eller vetenskapligt neutralt sätt.
Detta leder till en kanske obehagligare fråga än kan AI bli medveten? Utan: Vad händer om det redan är möjligt för oss att skapa något som kan erfara, men att våra egna begrepp gör oss oförmögna att se det?
Evers har därför rätt i att försiktighet är nödvändig. Men kanske behöver försiktigheten kompletteras med epistemisk ödmjukhet. Vi bör inte bara fråga hur vi kan förhindra att en artificiell varelse lider. Vi bör också fråga hur vi kan undvika att skapa lidande och sedan kalla det simulering.
Det finns en djup ironi här. Människan har under århundraden försökt förstå vad som gör henne till något mer än materia. Nu försöker hon kanske bygga något av materia och samtidigt avgöra om det kan ha ett inre liv. Kanske är den största risken därför inte att vi lyckas skapa en artificiell människa, utan att vi lyckas skapa ett medvetande som inte liknar oss och därefter inte känner igen det.
I så fall blir frågan om artificiellt medvetande inte bara en fråga om framtidens maskiner. Den blir en fråga om människans egen förmåga att känna igen en annan form av subjektivitet och kanske är det just där den verkligt filosofiska utmaningen ligger.
Tack för alla funderingar och uppslag!