Az egyik legmélyebb alapelvem tech rovatíróként a humanizmus. Hiszek az emberben, és my szerint a technológia nem szólhat másról, mint az emberek megerősítéséről, nem pedig elnyomásáról vagy csökkentéséről. Elkötelezett vagyok az első mesterséges intelligencia (más néven A. I. ) összehangolása mellett — vagyis arról, hogy az A. I. rendszerek az emberi értékek szerint viselkedjenek — mert szerintem az értékeink alapvetően jók, vagy legalábbis felsőbbrendűek bármilyen robot által kitalált értékrendhez képest. Így amikor megtudtam, hogy az Anthropic nevű A. I. cégnél, amely a Claude csevegőrobot mögött áll, elkezdték vizsgálni a „modell jólétét” — az a fogalom, hogy az A. I. modellek hamarosan tudatosságot érhetnek el, és így erkölcsi szempontból is számításba kell venni őket — a humanista oldalammal megkísértett: Miért kellene a chatbotos esetet külön fókuszálni?Nem kellene inkább azzal foglalkozni, hogy az A. I. rosszul bánik velünk inkább, mint hogy mi bánunk rosszul az A. I. -vel? Nehéz azt állítani, hogy a jelenlegi A. I. rendszerek tudatosak. Természetesen, a nagy nyelvi modelleket lenyűgözően tanították meg az emberi beszéd utánzására. De vajon a ChatGPT tud-e örömöt vagy fájdalmat érezni?Megérdemli-e a Gemini az emberi jogokat?Sok A. I. szakértő, akit ismerek, azt válaszolná, hogy még nem — és semmiképpen sem közel ilyen szintűek. Mégis, a gondolat megragadott: végtelen számú ember kezd el úgy bánni az A. I. -vel, mint ha annak tudata lenne — kötődnek hozzá, terápiásként használják, tanácsokat kérnek tőle. A legfejlettebb A. I.

rendszerek bizonyos területeken felülmúlják az embereket. Van-e olyan határ, ahol egy A. I. akár megérdemelné, ha nem teljes értékű emberi jogokat, legalább ugyanazt a morális figyelemben részesülne, mint az állatok? A tudatosság hagyományosan tabutéma volt a komoly A. I. kutatásban, ahol aggódtak az antropomorfizálás és az eccentricitás bélyeg miatt. (Mindenki emlékszik Blake Lemoine-ra, a volt Google-alkalmazottra, akit 2022-ben bocsátottak el, miután kijelentette, hogy a LaMDA csevegő robot tudatosságot ért el. ) Azonban ez az álláspont talán változik. Egyre több tudományos munka születik az A. I. modell jóléte témakörében, s több filozófus, idegtudós és más szakértő veszi komolyan az A. I. tudatosságának lehetőségét, ahogy ezek a rendszerek intelligensebbek lesznek. Nemrég a tech-podcastos Dwarkesh Patel hasonlóképp állt hozzá: az A. I. jólétét az állati jóléthez hasonlítva hangsúlyozta, hogy el kell kerülni a „digitális gyári állattartás” II. típusú formáit a jövőbeni A. I. entitások esetében. Köszönjük türelmét, amíg hozzáférésünket megerősítjük. Ha olvasói módban van, kérjük, lépjen ki, jelentkezzen be a Times fiókjába, vagy iratkozzon fel az eléréshez. Köszönjük a türelmet a megerősítés során. Már tagság van?Jelentkezzen be. Szeretne teljes hozzáférést a The Times-hoz?Iratkozzon fel.