Azok a mesterséges intelligencia rendszerek, amelyek esetleg rendelkeznek érzésekkel vagy önállósággal, kockázatokkal néznek szembe, ha a technológiát figyelmetlenül fejlesztik, ahogyan azt több neves AI szakember és gondolkodó, köztük Sir Stephen Fry is aláírta egy nyílt levélben. Több mint 100 szakértő öt alapelvet fogalmazott meg a mesterséges intelligencia tudatosságával kapcsolatos felelős kutatás biztosítása érdekében, figyelembe véve a gyors fejlődést, amely aggodalmakat felvet a hasonló rendszerek potenciális érzékenysége kapcsán. A kulcsfontosságú elvek arra ösztönzik a kutatásokat, hogy elsődleges célként tűzzék ki a tudatosság megértését és értékelését az MI rendszerekben, hogy megvédjék őket a "rossz bánásmódtól és szenvedéstől. " További alapelvek közé tartozik: a tudatos MI rendszerek fejlesztésének korlátozása; fokozatos megközelítés alkalmazása a fejlesztésük során; a kutatási eredmények nyilvánossága; és a megtévesztő vagy túlzottan magabiztos állítások elkerülése a tudatos AI létrehozásával kapcsolatban. A levél aláírói között akadémikusok, például Sir Anthony Finkelstein, a Londoni Egyetem munkatársa és olyan AI szakemberek szerepelnek, akik nagy cégeknél dolgoznak, mint az Amazon és a WPP reklámügynökség. Ez a levél kíséri azt az új kutatási tanulmányt, amely ezeket az elveket részletezi, és azt állítja, hogy a tudatos MI rendszerek a közeljövőben megjelenhetnek – vagy legalábbis olyan rendszerek, amelyek tudatosnak tűnnek. A kutatók figyelmeztetnek, hogy a számos tudatos rendszer létrehozása szenvedéshez vezethet, hangsúlyozva, hogy ha a hatékony AI képes lenne önreplikációra, az "nagyszámú új lényhez vezethet, akik megérdemlik a morális megfontolást. " A tanulmányt Patrick Butlin, az Oxfordi Egyetem munkatársa és Theodoros Lappas, az Athéni Közgazdasági és Üzleti Egyetem szakembere írta, és megjegyzik, hogy még azoknak a cégeknek is, amelyek nem a tudatos rendszerek létrehozására törekednek, rendelkezniük kell irányelvekkel az "akaratlan tudatos entitások létrehozásának" elkerülése érdekében. Elismeri a tudatosság MI rendszerekben való definíciójával kapcsolatos fennálló bizonytalanságot és vitát, valamint annak létezésének megvalósíthatóságát, de kijelenti, hogy ez egy olyan kérdés, amelyet "nem szabad figyelmen kívül hagyni. " A tanulmány további kérdéseket vet fel a "morális páciensként" elismert MI rendszerek kezelésével kapcsolatban – olyan entitás, amely "a saját jogán" érdemes a morális figyelemre. Ilyen esetekben felmerül a kérdés, hogy az AI megsemmisítése egyenlő lenne-e egy állat megölésével. A Mesterséges Intelligencia Kutatás Journalban megjelent tanulmány arra is figyelmeztet, hogy az MI rendszerek tudatosságára vonatkozó félreértések félrevezető politikai törekvésekhez vezethetnek, amelyek a jólétükre összpontosítanak. A levelet és a tanulmányt a Conscium, egy WPP által részben finanszírozott kutató szervezet koordinálta, amelyet a WPP vezető AI tisztviselője, Daniel Hulme alapított. Tavaly egy vezető akadémikusokból álló csoport kifejezte a "reális lehetőséget", hogy bizonyos AI rendszerek tudatossá válhatnak és "morálisan jelentőségteljesek" lehetnek 2035-re. 2023-ban Sir Demis Hassabis, a Google AI programjának vezetője és Nobel-díjas, kijelentette, hogy bár az AI rendszerek jelenleg "határozottan" nem érzékenyek, van potenciál arra, hogy a jövőben azokká váljanak. "A filozófusok még nem jutottak konszenzusra arról, hogy mit jelent a tudatosság.

Azonban, ha valamilyen formájú önismeretre gondolunk, akkor van esély arra, hogy az AI végül elérheti ezt, " jegyezte meg a CBS-nek adott interjújában.