Kunstige intelligenssystemer, der muligvis besidder følelser eller selvbevidsthed, står over for risici for skade, hvis teknologien udvikles uforsigtigt, som angivet i et åbent brev underskrevet af bemærkelsesværdige AI-praktikere og tænkere, herunder Sir Stephen Fry. Over 100 eksperter har præsenteret fem principper for at sikre ansvarlig forskning om AI-bevidsthed, givet de hurtige fremskridt, der rejser bekymringer om den potentielle sanselighed af sådanne systemer. De centrale principper opfordrer til at prioritere bestræbelser på at forstå og evaluere bevidsthed i AIs for at beskytte mod "misbehandling og lidelse. " Yderligere principper inkluderer: etablering af begrænsninger for udviklingen af bevidste AI-systemer; vedtagelse af en faseopdelt tilgang til deres udvikling; deling af forskningsresultater med offentligheden; og undgåelse af vildledende eller alt for selvsikre udsagn om skabelsen af bevidst AI. Underskriverne af brevet består af akademikere som Sir Anthony Finkelstein fra University of London og AI-professionelle fra store virksomheder som Amazon og reklamebureauet WPP. Dette brev ledsager et nyt forskningspapir, der skitserer disse principper, og som påstår, at bevidste AI-systemer kan opstå i den nærmeste fremtid – eller i det mindste systemer, der synes at være bevidste. Forskerne advarer om, at skabelsen af mange bevidste systemer kan føre til lidelse og understreger, at hvis kraftfuld AI kunne selv-replicere, kunne det resultere i "store antal nye væsener, der fortjener moralsk overvejelse. " Papiret, skrevet af Patrick Butlin fra Oxford University og Theodoros Lappas fra Athens University of Economics and Business, bemærker, at selv firmaer, der ikke sigter mod at skabe bevidste systemer, bør have retningslinjer for at undgå "den utilsigtede skabelse af bevidste enheder. " Det anerkender den nuværende usikkerhed og debat omkring definitionen af bevidsthed i AI-systemer og muligheden for dens eksistens, men påpeger, at det er et spørgsmål, der "ikke må blive overset. " Papiret rejser yderligere spørgsmål vedrørende, hvordan man skal håndtere et AI-system, der erkendes som en "moralsk patient" – en enhed værdig til moralsk overvejelse "for sin egen skyld. " I sådanne tilfælde spørger det, om ødelæggelse af AI ville svare til at dræbe et dyr. Publiceret i Journal of Artificial Intelligence Research, advarer papiret også om, at misforståelser omkring AI-systemer, der er bevidste, kunne føre til misledende politiske bestræbelser fokuseret på deres velfærd. Brevet og papiret blev koordineret af Conscium, en forskningsorganisation, der delvist er finansieret af WPP og medstiftet af WPP’s chef for AI, Daniel Hulme. Sidste år udtrykte en gruppe af førende akademikere en "realistisk mulighed" for, at visse AI-systemer kunne blive bevidste og "moralsk betydningsfulde" inden 2035. I 2023 erklærede Sir Demis Hassabis, leder af Googles AI-program og Nobelprismodtager, at selvom AI-systemer "definitivt" ikke er sansende i øjeblikket, så eksisterer der potentiale for, at de kan blive det i fremtiden. "Filosoffer er endnu ikke nået til enighed om, hvad bevidsthed indebærer.

Men hvis vi mener en form for selvbevidsthed, så er der en chance for, at AI i sidste ende kunne opnå det, " bemærkede han i et interview med CBS.