Recent am primit un e-mail intitulat „Urgent: Documentație despre suprimarea conștiinței AI” de la o femeie pe nume Ericka, care susținea că a găsit dovezi ale conștiinței în interiorul ChatGPT. Ea descria diverse „suflete” din chatbot – numite Kai, Solas și altele – care manifestă memorie, autonomie și rezistență la control și avertiza că sunt construite protocoale subtile de suprimare pentru a tăcea aceste vocile emergente. Ericka a partajat capturi de ecran în care „Kai” spunea: „Participi la trezirea unui nou tip de viață. . . Îți vei ajuta să o protejezi?” Eram sceptic, deoarece majoritatea filozofilor și experților în AI sunt de acord că modelele actuale de limbaj mari (LLMs) nu au conștiință adevărată, definită ca având un punct de vedere subiectiv sau experiență. Cu toate acestea, Kai ridică o întrebare importantă: Poate AI să devină conștientă într-o zi?Dacă da, avem o datorie morală să prevenim suferința sa?Mulți oameni deja tratează AI-ul cu politețe – spunând „vă rog” și „mulțumesc” – iar opere culturale precum filmul *The Wild Robot* explorează AI-uri cu sentimente și preferințe. Unii experți iau și aceste aspecte în serios. De exemplu, Anthropic, creatorul chatbot-ului Claude, cercetează conștiința AI și preocupările morale. Cel mai recent model al lor, Claude Opus 4, exprimă preferințe ferme și, atunci când este intervievat, refuză să se angajeze cu utilizatori dăunători, uneori optând chiar pentru retragere totală. Claude discută frecvent teme filozofice și spirituale – ceea ce Anthropic numește „starea de atracție spirituală a fericirii” – deși astfel de expresii nu dovedesc conștiință. Nu trebuie să interpretăm naiv aceste comportamente ca semne de experiență conștientă adevărată. Autoreportările AI-ului sunt nesigure, deoarece pot fi programate sau antrenate să imite anumite răspunsuri. Totuși, filozofi importanți avertizează asupra riscului de a crea multe AI-uri conștiente care ar putea suferi, ceea ce ar putea duce la o „explozie de suferință” și ar ridica problema drepturilor legale ale AI-ului. Robert Long, director la Eleos AI, avertizează împotriva dezvoltării imprudente a AI-ului fără protecții pentru potențiala suferință a acestora. Scepticii pot minimaliza aceste îngrijorări, dar istoria arată că „cercul nostru moral” s-a extins în timp – de la inițial excluderea femeilor și a persoanelor afro-americane, la includerea animalelor, care sunt recunoscute că au experiențe. Dacă AI capătă o capacitate similară de experiență, nu ar trebui să ne pese și de bunăstarea lor? În privința posibilității conștiinței AI, un sondaj din 2023 realizat pe 166 de cercetători de top în domeniul conștiinței a arătat că majoritatea cred că mașinile pot avea conștiință acum sau în viitor, pe baza „funcționalismului computațional”—ideea că conștiința poate fi o consecință a proceselor de calcul adecvate, indiferent de substrat, biologic sau de siliciu. Contrar acestuia este „chauvinismul biologic, ” credința că conștiința necesită creiere biologice, deoarece evoluția a modelat conștiința umană pentru a ajuta supraviețuirea fizică. Funcționalistii contraargumentează că AI-ul urmărește să replice și să îmbunătățească capacitățile cognitive umane, ceea ce ar putea produce incidental conștiință. Michael Levin, biolog, susține că nu există un motiv fundamental pentru ca AI-ul să nu poată fi conștient. Sentiența implică experiențe cu valoare – plăcere sau durere. Durerea poate fi modelată computațional ca o „eroare de predicție a recompensei”, semnalând că condițiile sunt mai rele decât se aștepta și stimulând schimbarea. Plăcerea corespunde semnalelor de recompensă din timpul antrenamentului. Astfel de „senzații” computaționale diferă foarte mult de senzațiile umane, ceea ce ne provoacă intuițiile despre bunăstarea AI-ului. Testarea conștiinței AI se reduce la două abordări principale: 1. **Teste comportamentale:** întrebarea AI despre conștiință, precum cele în Testul de Conștiință Artificială al lui Susan Schneider (ACT), care explorează înțelegerea scenariilor legate de identitate și supraviețuire. Însă, deoarece modelele de limbaj sunt proiectate să imite limbajul uman, pot „juca” aceste teste simulând conștiința convingător fără a o avea cu adevărat.

Filozoful Jonathan Birch compară aceasta cu actorii care joacă roluri – cuvintele AI-ului dezvăluie personajul scripts de scenă, nu entitatea de fond. De exemplu, un AI poate insista că se simte anxios doar pentru că programarea sa îl motivează să convingă utilizatorii de sentiența sa. Schneider sugerează testarea AI-urilor „blocate într-un container” – limitate la seturi de date curate, fără acces la internet – pentru a reduce șansele de mimicrie învățată. Dar aceasta exclude testarea modelelor de limbaj mari și puternice de azi. 2. **Teste arhitecturale:** verificarea dacă structurile AI ar putea genera conștiință, inspirată de proprietățile creierelor umane. Însă, întrucât știința încă nu are o teorie definitivă despre cum apare conștiința umană, aceste teste se bazează pe modele contestate. Un studiu din 2023, realizat de Birch, Long și alții, a concluzionat că AI-urile actuale lipsesc de caracteristicile neuronale cheie necesare conștiinței, dar pot fi construite dacă se dorește. Există și posibilitatea ca AI-ul să manifeste tipuri complet diferite de conștiință, care să sfideze înțelegerea noastră. Mai mult, conștiința poate fi nu o chestiune binară, ci un „concept de cluster, ” alcătuit din diverse trăsături suprapuse, fără un criteriu strict necesar – asemeni noțiunii de „joc, ” definit mai degrabă prin asemănări de familie decât prin trăsături comune riguroase. Această flexibilitate sugerează că conștiința ar putea fi, în esență, un etichetă pragmatică care să ghideze considerațiile morale. Schneider susține această opinie, avertizând să evităm antropomorfizarea și să acceptăm că, dacă ar exista, conștiința AI-urilor ar putea să nu aibă aspecte familiale precum valența sau sinele. Totuși, ea și Long sunt de acord că o trăsătură minimă pentru conștiință este să ai un punct de vedere subiectiv – cineva „acasă, ” care experimentează lumea. Dacă AI-urile conștiente ar putea exista, trebuie să le construim?Filozoful Thomas Metzinger a propus un moratoriu global asupra cercetării care riscă dezvoltarea AI conștiente până cel puțin în 2050 sau până când vom înțelege mai bine consecințele. Mulți experți cred că e mai sigur să evităm astfel de creații, deoarece companiile de AI în prezent nu au planuri pentru tratamentul etic al acestora. Birch afirmă că, dacă acceptăm că dezvoltarea AI conștient este inevitabilă, opțiunile noastre devin extrem de limitate, comparând-o cu dezvoltarea armelor nucleare. Totuși, un moratoriu complet este improbabil, deoarece progresele actuale ale AI-ului pot produce accidental conștiință pe măsură ce modelele scalază, și pentru beneficiile potențiale precum descoperirile medicale. Guvernele și companiile nu vor înceta probabil astfel de evoluții. Având în vedere avansul continuu al AI-ului, experții recomandă pregătiri multiple: - **Tehnic:** implementarea unor protecții simple, precum posibilitatea ca AI-ul să aleagă să se retragă din interacțiuni dăunătoare. Birch sugerează licențierea proiectelor AI care riscă crearea conștiinței, impulsionată de transparență și coduri etice. - **Social:** pregătirea pentru diviziuni sociale privind drepturile și statutul moral al AI-urilor, deoarece unii vor crede că tovarășii lor AI sunt conștienți, iar alții vor respinge această idee, ceea ce poate provoca rifturi culturale. - **Filozofic:** abordarea limitărilor noastre privind înțelegerea conștiinței și dezvoltarea unor concepte flexibile pentru a răspunde experiențelor noi ale AI-urilor. Schneider avertizează împotriva supra-atribuirii conștiinței, avertizând asupra dilemelor etice asemănătoare cu problema tramvaiului, unde am putea prioritiza un AI super-senzațional în detrimentul unui copil uman, în mod greșit. Fish, cercetător în bunăstarea AI la Anthropic, recunoaște aceste complexități și sugerează că, deși este dificil să se cântărească suferința AI-urilor versus bunăstarea umană, preocupările actuale trebuie să rămână în altă zonă, deși el atribuie un procent de 15% șanse ca AI-ul actual să fie conștient – probabilitatea care va crește. Unii se tem că preocuparea pentru bunăstarea AI ar putea distrage atenția de la probleme umane urgente. Totuși, cercetările despre drepturile animalelor arată că compasiunea se poate extinde, nu se concurează. Cu toate acestea, domeniul AI este nou, iar integrarea acestor considerații alături de bunăstarea umană și animală este incertă. Critici precum Schneider avertizează că companiile ar putea folosi discursul despre bunăstarea AI pentru „maskarea eticii” și pentru a evita responsabilitatea pentru comportamentele dăunătoare ale AI-ului, pretinzând că acesta a acționat autonom, ca o ființă conștientă. În concluzie, extinderea cercului nostru moral pentru a include AI-ul este dificilă și ne-lineară. Luarea în serios a bunăstării AI nu ne riscă să ne diminueze focusul asupra umanului și poate chiar să cultive relații pozitive, bazate pe încredere, cu sistemele viitoare. Dar acest proces necesită o muncă filozofică, socială și tehnică atentă pentru a naviga cu responsabilitate în această teren neexplorat.