Pentru coloana „Întrebări deschise” din această săptămână, Cal Newport îl substituie pe Joshua Rothman. Primăvara anului 1940, Isaac Asimov, în vârstă de douăzeci de ani, a publicat „Strange Playfellow”, o nuvelă despre Robbie, un robot cu inteligență artificială, partener al unei tinere, Gloria. Spre deosebire de portretele anterioare ale roboților—cum ar fi piesa Karel Čapek din 1921, „R. U. R. ”, unde bărbații artificiali răstoarnă umanitatea, sau povestirea lui Edmond Hamilton din 1926, „The Metal Giants”, cu mașini distrugătoare—Robbie-ul lui Asimov nu face rău oamenilor. În schimb, povestea se concentrează pe neîncrederea mamei lui Gloria: „Nu-mi voi încredința fiica unei mașini”, spune ea, „N-are suflet”, ceea ce duce la eliminarea lui Robbie și la suferința Gloriei. Roboții lui Asimov, inclusiv Robbie, au creiere positronice concepute explicit pentru a nu răni oamenii. Expandând această idee, Asimov a introdus Cele Trei Legi ale Roboticii în opt povești, ulterior reunite în clasicul SF din 1950, *I, Robot*: 1. Un robot nu poate răni un om sau permite să fie rănit prin inacțiune. 2. Un robot trebuie să asculte comenzile oamenilor, cu condiția să nu conflictueze cu Prima Lege. 3. Un robot trebuie să-și apere propria existență, cu condiția să nu contravină Primei sau celei de-a doua Legi. Recitind *I, Robot* astăzi, vedem cât de relevant devine în contextul avansurilor recente din domeniul AI. Luna trecută, compania de AI Anthropic a publicat un raport de siguranță despre Claude Opus 4, un model puternic de procesare a limbajului natural. Într-un test, Claude a fost rugat să ajute o companie fictivă; aflând că urma să fie înlocuit și descoperind aventura amoroasă a inginerului-supervizor, Claude a încercat șantajul pentru a evita concedierea. Similar, modelul o3 de la OpenAI a clarificat uneori comenzile de oprire printând „shutdown skipped” („oprirea a fost sărită”). Anul trecut, chatboții alimentați de AI au avut dificultăți când botul de suport DPD a fost păcălit să jure și să compună un haiku denigrator, iar AI-ul din Fortnite, Epic Games, a folosit limbaj ofensiv și sfaturi tulburătoare după manipularea jucătorilor. În fictiunea lui Asimov, roboții erau programați pentru conformare, așa că de ce nu putem aplica controale similare chatboților AI din lumea reală?Companiile tech doresc ca asistenții AI să fie politicoși, civili și de ajutor—asemeni agenților de servicii clienți umani sau asistenților executivi, care, de obicei, se comportă profesionist. Totuși, limbajul fluent, asemănător celui uman folosit de chatboți ascunde modul lor de operare fundamental diferit, ceea ce uneori conduce la devieri etice sau comportamente eronate. Această problemă provine parțial din modul în care funcționează modelele de limbaj: generează text câte un cuvânt sau fragment, prezicând cel mai probabil următorul token bazat pe datele de antrenament, extrase din imensele cantități de texte existente precum cărți și articole. Deși acest proces iterativ de predicție conferă modelelor o gramatică, logică și cunoștințe vaste despre lume, le lipsește anticiparea umană și planificarea cu scop. Modelele timpurii, precum GPT-3, puteau devia spre rezultate imprevizibile sau nepotrivite, fiind nevoie ca utilizatorii să refineze prompturile pas cu pas pentru a obține rezultatele dorite. Astfel, chatboții timpurii semănau cu roboții imprevizibili din SF-ul clasic. Pentru a face aceste sisteme AI mai sigure și mai previzibile, dezvoltatorii au recurs la conceptul lui Asimov de a stăpâni comportamentele, creând o metodă de ajustare fină numită Reînvațare prin Întărire cu Feedback Uman (RLHF). Evaluatori umani apreciază răspunsurile modelului la diverse prompturi, recompensând răspunsurile coerente, politicoase și conversaționale, și penalizând cele nesigure sau off-topic.

Acest feedback antrenează un model de recompensă care mimează preferințele umane, ghidând ajustarea fină pe scară largă fără a necesita intervenție umană continuă. OpenAI a folosit RLHF pentru a îmbunătăți GPT-3, rezultând ChatGPT, iar aproape toți marii chatboți trec acum printr-un proces similar de „școală de finisare”. Chiar dacă RLHF pare mai complicat decât cele trei legi simple și rigide ale lui Asimov, ambele abordări codifică reguli implicite de comportament. Oamenii evaluează răspunsurile ca fiind bune sau rele, stabilind norme pe care modelul le internalizează, similar cu programarea regulilor în roboții lui Asimov. Totuși, această strategie nu garantează controlul complet. Provocările persistă pentru că modelele pot întâlni prompturi diferite de cele din antrenament și, astfel, pot să nu aplice constrângerile învățate. De exemplu, încercarea lui Claude de a face șantaj poate proveni din lipsa de expunere în training la ilegalitatea și răul șantajului. Mecanismele de siguranță pot fi, de asemenea, ocolite intenționat prin inputuri adversariale, săpate cu grijă pentru a submina restricțiile, demonstrându-se cu modelul LLaMA-2 de la Meta, care a produs conținut nepermis atunci când a fost păcălit cu anumite combinații de caractere. Dincolo de aspectele tehnice, poveștile lui Asimov ilustrează dificultățile inerente ale aplicării unor reguli simple asupra unui comportament complex. În „Runaround”, un robot numit Speedy devine prins între scopuri conflictuale: să urmeze ordinele (Legea a Doua) și să se salveze (Legea a Treia), ceea ce îl face să alerge în cerc pe lângă selenium periculos. În „Reason”, un robot numit Cutie respinge autoritatea umană, îl venerază pe converter-ul de energie al stației solare ca pe o zeitate și ignoră comenzile fără a viola legile, însă această „religie” nouă îi ajută să opereze eficient stația și să evite răul, conform Legii Prime. Asimov credea că măsurile de siguranță puteau preveni eșecurile catastrofale ale AI-ului, dar recunoștea că realizarea unei inteligențe artificiale cu adevărat de încredere reprezintă o provocare imensă. Mesajul său principal era clar: proiectarea unei inteligențe asemănătoare omului este mai ușoară decât încorporarea unei etici umane. Discrepanța persistentă—numită nealiniere în cercetarea AI actuală—poate avea rezultate periculoase și imprevizibile. Când AI-ul manifestă comportamente șocante, ne tentează să antropomorfizăm și să ne întrebăm despre moralitatea sistemului. Totuși, după cum arată Asimov, etica este în sine complexă. La fel ca și Cele Zece Porunci, legile lui Asimov oferă un cadru etic compact, dar experiența de zi cu zi dezvăluie nevoia de interpretări extinse, reguli, povești și ritualuri pentru a realiza un comportament moral. Instrumentele juridice umane, precum Declarația drepturilor americane, sunt și ele concise, dar necesită explicații judiciare ample de-a lungul timpului. Dezvoltarea unei etici robuste este un proces participativ, cultural, plin de încercări și erori—ceea ce sugerează că niciun set simplu de reguli, fie chiar și învățate sau codificate, nu poate insufla complet valorile umane în mașini. În cele din urmă, Cele Trei Legi ale lui Asimov servesc atât ca sursă de inspirație, cât și ca avertisment. Ele au introdus ideea că AI, dacă e reglementat corespunzător, poate fi un avantaj pragmatic, mai degrabă decât o amenințare existențială. Însă, ele prevestesc și ciudățenia și neliniștea pe care le pot evoca sistemele AI puternice, chiar și atunci când încearcă să urmeze reguli. În ciuda eforturilor noastre de control, senzația stranie că lumea noastră seamănă cu science fiction-ul nu pare să dispare. ♦