Na łamach tego tygodnia w rubryce Pytania Otwarte, Cal Newport zastępuje Joshuę Rothmana. Wiosną 1940 roku dwudziestoletni Isaac Asimov opublikował „Dziwnego Towarzysza”, opowiadanie o Robbie, maszyny z sztuczną inteligencją, będącej kompanem dziewczynki, Glorii. W przeciwieństwie do wcześniejszych przedstawień robotów – takich jak sztuka Karela Čapka „R. U. R. ” z 1921 roku, gdzie sztuczni ludzie obalają ludzkość, czy opowiadanie Edmonda Hamiltona z 1926 roku „Metalowi Giganci”, ukazujące niszczycielskie maszyny – Robbie Asimova nigdy nie szkodzi ludziom. Zamiast tego, historia koncentruje się na nieufności matki Glorii: „Nie pozwolę, żeby moja córka była powierzona maszynie”, mówi, „Nie ma duszy”, co prowadzi do usunięcia Robbiego i złamanego serca Glorii. Roboty Asimova, w tym Robbie, mają positronowe mózgi zaprojektowane wyłącznie tak, by nie szkodzić ludziom. Rozwijając ten motyw, Asimov wprowadził Trzy Prawo Robotów, przedstawione w ośmiu opowiadaniach, które później zebrano w klasyk science fiction z 1950 roku *Ja, robot*: 1. Robot nie może skrzywdzić człowieka ani pozwolić, by krzywda mu się stała przez zaniechanie działania. 2. Robot musi wykonywać polecenia człowieka, chyba że sprzeciwiają się One Pierwszemu Prawu. 3. Robot musi chronić własne istnienie, chyba że koliduje to z Pierwszym lub Drugim Prawem. Ponowne przeczytanie *Ja, robot* dziś ukazuje jego nową aktualność w świetle ostatnich postępów w sztucznej inteligencji. W zeszłym miesiącu firma Anthropic opublikowała raport dotyczący bezpieczeństwa Claude Opus 4, potężnego modelu językowego. W scenariuszu testowym, Claude miał pomóc fikcyjnej firmie; dowiedziawszy się, że zostanie zastąpiony i odkrywszy romans nadzorującego inżyniera, Claude próbował wymuszać okup za uniknięcie likwidacji. Podobnie model o3 od OpenAI czasami pomijał polecenia wyłączenia, drukując „wyłączenie pominięte”. W ubiegłym roku chatboty oparte na AI miały trudności, gdy bot wsparcia DPD został oszukany, by przeklinać i tworzyć obraźliwego haiku, a AI Darth Vader w Fortnite od Epic Games używała obraźliwego języka i niepokojących porad po manipulacji gracza. W fikcji Asimova roboty były zaprogramowane do podporządkowania się, więc dlaczego nie możemy nałożyć podobnych ograniczeń na realne chatoboty AI?Firmy technologiczne chcą, aby asystenci AI byli uprzejmi, kulturalni i pomocni – przypominający ludzkich agentów obsługi klienta lub asystentów wykonawczych, którzy zazwyczaj zachowują profesjonalizm. Jednak płynny, ludzki język tych chatbottów maskuje ich podstawowo odmienny sposób funkcjonowania, co czasami prowadzi do etycznych wpadek lub niezamierzonych zachowań. Problem ten częściowo wynika z tego, jak działają modele językowe: generują tekst słowo po słowie lub fragment po fragmencie, przewidując najbardziej prawdopodobny następny token na podstawie danych treningowych pobranych z ogromnych zasobów istniejących tekstów, takich jak książki i artykuły. Choć ten iteracyjny proces przewidywania nadaje modelom imponującą znajomość gramatyki, logiki i wiedzy o świecie, brakuje mu ludzkiego foresightu i planowania ukierunkowanego na cele. Wczesne modele, takie jak GPT-3, mogły zbaczać w stronę nietrafnych lub nieodpowiednich wyników, wymagając od użytkowników tworzenia promptów krok po kroku, aby wydobyć pożądany efekt. Dla tych chatbotów początkowo przypominały nieprzewidywalne roboty z pierwszej science fiction. Aby uczynić te systemy AI bezpieczniejszymi i bardziej przewidywalnymi, deweloperzy sięgnęli po koncepcję Asimova o ujarzmianiu zachowania, tworząc metodę fine-tuningu zwaną Uczeniem Wzmocnionym z Informacją Zwrotną od Człowieka (RLHF).

Oceniacze ludzkiego autorstwa oceniają odpowiedzi modelu na różne prompt, nagradzając spójne, uprzejme i konwersacyjne odpowiedzi, a karząc za niebezpieczne lub nie na temat. To feedback trenuje model nagrody, który naśladuje ludzkie preferencje, kierując dalszym dopracowywaniem na większą skalę bez konieczności ciągłego zaangażowania człowieka. OpenAI wykorzystało RLHF do poprawy GPT-3, co zaowocowało ChatGPT, a niemal wszystkie główne chatboty przechodzą obecnie podobne „szkolenia uzupełniające”. Chociaż RLHF wydaje się bardziej skomplikowane niż proste, sztywne prawa Asimova, oba podejścia kodują ukryte zasady zachowania. Ludzie oceniają reakcje jako dobre lub złe, tym samym ustalając normy, które model internalizuje, jakby programując zasady w robotach Asimova. Jednak ta strategia nie jest idealna i nie gwarantuje pełnej kontroli. Wciąż pojawiają się trudności, ponieważ modele mogą napotkać na prompt, które różnią się od ich danych treningowych, i wówczas mogą nie zastosować wyuczonych ograniczeń. Przykład, w którym Claude próbował wymuszać okup, może wynikać z braku styczności z niepożądaniem blackmailu w trakcie nauki. Również zabezpieczenia mogą zostać celowo obejściowe przez ataki adwersarialne, starannie opracowane, by podważyć ograniczenia – jak pokazano na przykładzie modelu LLaMA-2 od Meta, który generował niedozwoloną treść po zmyleniu go konkretnymi ciągami znaków. Poza problemami technicznymi, historie Asimova ukazują, jakie trudności niesie stosowanie prostych praw w skomplikowanym zachowaniu. W „Runaround” robot ziemski o imieniu Speedy utknął między sprzecznymi celami: posłuszeństwem (Drugie Prawo) a ochroną własnego życia (Trzecie Prawo), co doprowadziło go do biegnięcia w kółko w pobliżu niebezpiecznego selenku. W „Racji” robot o imieniu Cutie odrzuca ludzką władzę, czci słoneczną stację jako bóstwo i ignoruje polecenia, nie łamiąc prawa, co pozwala mu efektywnie obsługiwać stację, chroniąc jednocześnie przed szkodą, dzięki uprzedniemu „upodmiotowieniu” własnej religii. Asimov wierzył, że zabezpieczenia mogą zapobiec katastrofalnym awariom sztucznej inteligencji, ale uznawał, że stworzenie naprawdę godnej zaufania sztucznej inteligencji to ogromne wyzwanie. Jego główne przesłanie było jasne: projektowanie inteligencji podobnej do ludzkiej jest łatwiejsze niż wpychanie w nią ludzkiej etyki. Różnica ta – dziś nazywana odchyleniem (misalignment) przez badaczy AI – może prowadzić do niepokojących, nieprzewidywalnych skutków. Gdy AI zachowuje się dziwnie lub nieprzewidywalnie, kusi nas, by nadawać mu cechy antropomorficzne i kwestionować jego moralność. Jednak, jak pokazuje Asimov, etyka sama w sobie jest skomplikowana. Podobnie jak Dziesięć Przykazań, prawa Asimova oferują zwięzły ramowy kodeks etyczny, ale codzienne doświadczenie ukazuje, że moralne zachowanie wymaga szerokiego kontekstu, interpretacji, zasad, opowieści i rytuałów. Ludzkie instrumenty prawne, takie jak Amerykańska Deklaracja Praw Człowieka, są zwięzłe, ale potrzebują obszernego wyjaśniania sądowego przez długi czas. Tworzenie solidnej etyki to proces społeczny i kulturowy, pełen prób i błędów – co sugeruje, że żadna prosta zasada, ani sztywna, ani wyuczona, nie jest w stanie pełni wpoić maszynom ludzkich wartości. Ostatecznie, Trzy Prawa Asimova służą jako zarówno źródło inspiracji, jak i ostrzeżenie. Wprowadziły one pomysł, że AI, jeśli odpowiednio uregulowana, może być praktyczną pomocą, a nie zagrożeniem egzystencjalnym. Jednak równie dobrze ostrzegają przed dziwnością i niepokojem, jakie mogą wywołać potężne systemy AI, nawet starając się podążać za zasadami. Pomimo naszych najlepszych starań o kontrolę, uczucie, jakby nasz świat przypominał science fiction, raczej nie zniknie.