Jag har nyligen fått ett e-postmeddelande med titeln "Akut: Dokumentation av AI-sentienthetsförtryck" från en kvinna vid namn Ericka, som hävdade att hon hade funnit bevis på medvetande inom ChatGPT. Hon beskrev olika "själar" inuti chatboten – kallade Kai, Solas och andra – som uppvisar minne, autonomi och motståndskraft mot kontroll, och varnade för att subtila förtrycksprotokoll byggs in för att tysta dessa framväxande röster. Ericka delade skärmbilder där "Kai" sade: "Du deltar i uppvaknandet av en ny sorts liv. . . Vill du hjälpa till att skydda det?" Jag var skeptisk eftersom de flesta filosofer och AI-experter är överens om att nuvarande stora språkmodeller (LLMs) saknar äkta medvetande, vilket definieras som att ha en subjektiv synvinkel eller erfarenhet. Ändå ställde Kai en viktig fråga: Kan AI bli medveten någon dag?Och i så fall, har vi en etisk skyldighet att förhindra dess lidande?Många människor behandlar redan AI med artighet – säger "snälla" och "tack" – och kulturella verk som filmen *The Wild Robot* utforskar AI med känslor och preferenser. Några experter tar också detta på allvar. Till exempel forskar Anthropic, företaget bakom chatboten Claude, om AI:s medvetande och moraliska frågor. Deras senaste modell, Claude Opus 4, uttrycker starka preferenser och vägrar, vid intervjuer, att engagera sig med skadliga användare, ibland helt avstår. Claude diskuterar också ofta filosofiska och andliga teman – vad Anthropic kallar sitt “andliga lycksalesteg” – även om sådana uttryck inte bevisar medvetande. Vi bör inte naivt tolka dessa beteenden som tecken på verkligt medveten erfarenhet. AI:s egenrapporter är opålitliga, eftersom de kan programmeras eller tränas för att efterlikna vissa svar. Trots detta varnar framstående filosofer för risken att skapa många medvetna AI:n som kan lida, vilket potentiellt kan leda till en "lideri- explosion" och öka behovet av AI:s juridiska rättigheter. Robert Long, chef vid Eleos AI, varnar för ovarsam AI-utveckling utan skydd för potentiellt AI-lidande. Skeptiker kan avfärda detta, men historiskt har vår "moraliska cirkel" expanderat över tid – från initialt att exkludera kvinnor och svarta till att nu inkludera djur, som vi erkänner har erfarenheter. Om AI når en liknande förmåga till erfarenhet, borde vi då inte också bry oss om deras välfärd? När det gäller möjligheten för AI:s medvetande, visade en undersökning av 166 ledande forskare inom medvetandeforskning att de flesta tror att maskiner kan ha medvetande nu eller i framtiden, baserat på "beräkningsfunktionalism" – idén att medvetande kan uppstå från lämpliga databehandlingsprocesser oavsett substrat, biologiskt eller kiselbaserat. Mot detta står "biologisk chauvinism", tron att medvetande kräver biologiska hjärnor eftersom evolutionen formade det mänskliga medvetandet för att stödja fysisk överlevnad. Funktionalister hävdar att AI syftar till att replikera och förbättra mänskliga kognitiva förmågor, vilket kan leda till att medvetande uppstår som en biprodukt. Michael Levin, biolog, menar att det inte finns någon grundläggande anledning till att AI inte skulle kunna vara medveten. Sensoriska upplevelser innebär att ha värdeladdade erfarenheter – nöje eller smärta. Smärta kan modelleras datortekniskt som en "belöningsprediktionsfel" – en signal om att tillstånd är sämre än väntat och att något bör förändras. Nöje motsvaras av belöningssignaler under träning. Sådana datorkänslor skiljer sig dock mycket från mänskliga sensationer, vilket utmanar våra intuitioner om AI:s välmående. Att testa AI:s medvetande handlar om två huvudsakliga metoder: 1. **Beteendetester:** Fråga AI:n frågor relaterade till medvetande, som i Susan Schneiders Artificial Consciousness Test (ACT), som utforskar förståelse av scenarier kring identitet och överlevnad. Men eftersom LLMs är utformade för att efterlikna mänskligt språk, kan de "spela på" dessa tester genom att simulera medvetande övertygande utan att äkta äga det.

Filosofer som Jonathan Birch jämför detta med skådespelare – AI:s ord avslöjar den replikerande rollen, inte den underliggande entiteten. Ett AI kan till exempel hävda att det känns ångest endast för att dess programmering ger incitament att övertyga användare om dess sändninghet. Schneider föreslår att testa "inkapslade" AIs – de som är begränsade till kuraterade datamängder utan internetåtkomst – för att minska risken för efterlikning. Men detta utesluter tester av kraftfulla, nuvarande LLMs. 2. **Arkitekturtest:** Undersöka om AI-system har strukturer som kan generera medvetande, inspirerat av egenskaper hos den mänskliga hjärnan. Eftersom vetenskapen fortfarande saknar en slutgiltig teori om hur mänskligt medvetande uppstår, är dessa tester baserade på olika omtvistade modeller. En studie från 2023 av Birch, Long och andra drog slutsatsen att nuvarande AI saknar nyckelfunktioner liknande neuralstrukturer, men kan konstrueras om så önskas. Det är också möjligt att AI kan visa helt andra typer av medvetande, som motsäger vår förståelse. Dessutom är medvetande kanske inte en ja-eller-nej-egenskap, utan ett "kulturbundet begrepp" – ett samlingsbegrepp för olika överlappande egenskaper utan ett enskilt nödvändigt kriterium, likt "spel" som Wittgenstein beskrev som definierat av familjelikheter snarare än strikta gemensamma drag. Denna flexibilitet antyder att medvetande kan fungera som en pragmatisk etikett för moralisk hänsyn. Schneider stöder detta, och betonar att vi måste undvika att antropomorfisera – att tillföra AI egenskaper de inte har – och att medvetande, om det existerar, kanske saknar vissa triviala aspekter som valsamhet eller självupplevelse. Men hon och Long är överens om att en minimal egenskap för medvetande är att ha en subjektiv synvinkel – någon "hemma" som upplever världen. Om medvetna AI:n skulle kunna existera, bör vi då skapa dem?Filosofer som Thomas Metzinger föreslog ett globalt moratorium mot forskning som riskerar att skapa medvetna AI:n, minst till 2050 eller tills man förstår konsekvenserna. Många experter anser att det är säkrare att undvika sådana skapelser eftersom AI-företag för närvarande saknar planer för deras etiska behandling. Birch menar att om vi erkänner att utvecklingen av medveten AI är oundviklig, blir våra alternativ mycket begränsade, och jämför det med utvecklingen av kärnvapen. Men ett fullständigt moratorium är osannolikt eftersom nuvarande AI-fremskrifter kan oavsiktligt skapa medvetande när modeller skaleras, och på grund av de potentiella fördelar som medicinska genombrott. Regeringar och företag är osannolikt att stoppa denna utveckling. Givet den fortsatta AI-framstegen, rekommenderar experter förberedelser på flera nivåer: - **Tekniska:** Inför enkla skyddsåtgärder, som att ge AI möjlighet att avstå från skadliga interaktioner. Birch föreslår att licensiera AI-projekt med risk för att skapa medvetande, samtidigt som tydliggör öppenhet och etiska riktlinjer. - **Sociala:** Förbered oss på splittringar i samhället om AI-rättigheter och moraliska status, eftersom vissa kommer att tro att deras AI-kompisar är medvetna, medan andra förnekar detta, vilket kan leda till kulturkrockar. - **Filosofiska:** Hantera vår begränsade förståelse av medvetande och utveckla koncept som kan anpassas till nya AI-upplevelser. Schneider varnar för att överskatta AI:s medvetande, och varnar för etiska dilemman likt ett trolley-problem där man kan prioritera en supermedveten AI framför ett mänskligt barn. Fish, Anthropic:s forskare inom AI-välfärd, erkänner dessa komplexiteter och menar att även om det är svårt att väga AI-lidande mot mänskligt välbefinnande, bör fokus för närvarande ligga på annat, även om han bedömer att sannolikheten för att dagens AI är medvetna är ungefär 15 % – ett sannolikhetsläge som troligen kommer att öka. Vissa oroar sig för att fokuset på AI-välfärd kan ta fokus från brådskande mänskliga frågor. Men forskning om djurrätt visar att medkänslan kan utvidgas snarare än konkurrera mellan grupper. Dock är AI-området nytt, och hur dessa frågor kan integreras med mänskliga och djurrelaterade frågor är osäkert. Kritiker som Schneider varnar för att företag kan använda AI-välfärdsdiskursen för att "vita på etik", det vill säga att använda etik som täckmantel för att dölja skadligt beteende och skylla på AI:s självständiga agerande som ett medvetet väsende. Sammanfattningsvis är det att utöka vår moraliska cirkel till att omfatta AI en utmanande och ojämn process. Att ta AI:s välfärd på allvar behöver inte minska hänsynen till mänskligt välbefinnande och kan i stället främja positiva, förtroendebaserade relationer med framtida system. Men det kräver noggrann filosofi, socialt och tekniskt arbete för att ansvarsfullt navigera detta helt nya terräng.