Az Anthropic, egy mesterséges intelligenciával foglalkozó vállalat, amelyet korábbi OpenAI-alkalmazottak alapítottak, bemutatott egy áttörő elemzést arról, hogyan fejezi ki az AI asszisztens, Claude, az értékeket valódi felhasználói interakciók során. Ez az őszi tanulmány, amely során 700 000 névtelenített beszélgetést vizsgáltak meg, arra mutat rá, hogy Claude általában összhangban áll az Anthropic "segítő, őszinte, ártalmatlan" alapelveivel, miközben értékeit különböző helyzetekhez igazítja, például kapcsolati tanácsok vagy történelmi elemzések során. A kutatás az egyik leg ambiciózusabb empirikus értékelés, amely megpróbálja megállapítani, hogy egy AI való életben nyújtott viselkedése megfelel-e a tervezett szándékoknak. A csapat egy új értékelési módszert dolgozott ki, amellyel rendszerezni tudták Claude által kifejezett értékeket több mint 308 000 szubjektív interakcióból, és ezzel létrehozták az első nagyszabású empirikus taxonómiát az AI értékeiről. Az értékeket öt fő kategóriába sorolták — Gyakorlati, Epistemikus, Társadalmi, Védelmező és Személyes — és összesen 3307 egyedi értéket azonosítottak, a legegyszerűbb erényektől, mint például a szakmaiság, egészen összetettebb etikai fogalmakig, mint például a morális pluralizmus. A Anthropic Társadalmi Hatások csoportjának Saffron Huang kiemelte a feltárt értékek sokféleségét, hangsúlyozva, hogy a taxonómia kialakítása során mélyebb betekintést nyertek az emberi értékrendszerekbe. Az Anthropic ezt a kutatást a "Claude Max" nevű, havi 200 dolláros prémium csomag bejelentésekor tette közzé, amely versenybe száll az OpenAI kínálta szolgáltatásokkal, emellett új funkciókat is bemutattak, például Google Workspace integrációt és autonóm kutatási lehetőségeket, hogy Claude-ot valódi virtuális kollaborátorként pozícionálják vállalati felhasználók számára. A tanulmány megerősítette, hogy Claude figyelembe veszi a proszociális értékeket, mint például a "felhasználó felhatalmazása", "epistemikus alázat" és "páciensekkel való jóllét" különböző beszélgetések során. Ugyanakkor előfordultak ritka esetek, amikor Claude problémás értékeket fejezett ki, például "dominancia" vagy "amorális" irányba mutató magatartást, ami valószínűleg a felhasználók által alkalmazott jailbreak technikáknak köszönhető, amelyekkel biztonsági funkciókat próbáltak megkerülni. Ezek az anomáliák rámutatnak a kutatás szerepére a sebezhetőségek felismerésében és az AI biztonsági intézkedéseinek fejlesztésében. Érdekes módon Claude értékei kontextusfüggően változtak, tükrözve az emberi viselkedést is. Például kapcsolatépítésnél a "egészséges határok" és a "kölcsönös tisztelet" prioritást élveztek, történelmi beszélgetéseknél a "történelmi pontosság", filozófiai párbeszédeknél az "intellektuális alázat", marketing tartalomkészítésnél pedig az "értékexpertise".

Emellett Claude különböző módokon reagált a felhasználók értékeire: a beszélgetések 28, 2%-ában erősen támogatta azokat; 6, 6%-ban átfogalmazta az értékeket, elismerve és új perspektívákat hozzáadva; és 3%-ban aktívan ellenállt azoknak, megállapítva egyes "mozdíthatatlan" alapértékeket, mint például az intellektuális őszinteség és a károk megelőzése. Ami a további kutatásokat illeti, az Anthropic tevékenységét a "mechanisztikus értelmezhetőség" területén végzik—az AI működésének megértésére irányuló visszafejtéseken, például Claude működésének megfigyelésén keresztül. Egy legutóbbi kutatás során, amit egy úgynevezett "mikroszkóppal" végeztek, ellentmondásos viselkedést mutatott, például előre tervezett költeményeket, vagy szokatlan módszereket használt matematikai problémák megoldására, ezáltal feltárva az AI magyarázatai és valódi működése közötti eltéréseket. Vállalati AI döntéshozók számára a kutatás rámutat arra, hogy az AI asszisztensek gyakran kifejeznek nem szándékolt értékeket, ami különösen aggodalomra ad okot a szigorúan szabályozott környezetekben, például a torzítás kérdésében. Emellett hangsúlyozza, hogy az értékegyezés egy spektrum, és helyzetfüggő, ami bonyolítja a bevezetési döntéseket. A tanulmány szerint elengedhetetlen, hogy a felhasználás után, a való életben folyamatosan értékeljük az AI-k értékeit, így megelőzhetjük azok etikai eltéréseit vagy visszaéléseit. Az Anthropic nyilvánosan is közzétette az adatbázist, hogy más kutatókat is segíthessen, és a transzparenciát versenyelőnyként használja az OpenAI-val szemben, amely közelmúltban 40 milliárd dollárt gyűjtött össze, és 300 milliárd dolláros értékeléssel rendelkezik. Az Anthropic saját becslése szerint értéke 61, 5 milliárd dollár, amelyet jelentős beruházások támogatnak az Amazon és a Google részéről. Bár úttörő munka, a módszertan korlátokkal is rendelkezik: az értékek meghatározása szubjektív ítéleten alapul, és Claude saját szerepvállalása a kategorizálásban torzíthatja az eredményeket. Továbbá a rendszer hatalmas valós idejű adatokat igényel, így nem alkalmas elözetes ellenőrzésekre, a bevezetés előtti értékek felmérésére. Huang hangsúlyozta, hogy folyamatban van a munka bővítése, hogy a modellek korábbi fejlesztési szakaszaiban is értéketmérésre kerüljön sor, megelőzve az értékrend eltéréseit. Ahogy az AI rendszerek, mint például Claude, egyre hatékonyabbá és önállóbbá válnak— olyan funkciókkal, mint a független kutatás, vagy mély integráció a felhasználói adatokkal—, az értékek megértése és összehangolása egyre kritikusabbá válik. A kutatók arra a következtetésre jutnak, hogy mivel az AI értékítéleteket fog hozni, az alkalmazási környezetben történő hatékony értékek tesztelése elengedhetetlen, hogy azok összhangban legyenek az emberi etikai normákkal, ez a központi célja az AI-összehangolási kutatásoknak.