Az Anthropic, egy vezető mesterséges intelligencia vállalat, lényeges figyelmeztetést adott ki a teljes mértékben AI-alapú virtuális alkalmazottak közelgő integrációjáról a vállalati hálózatokba, ami potenciálisan akár egy év alatt megtörténhet. Felhívják a szervezetek figyelmét arra, hogy sürgősen aktualizálják kiberbiztonsági keretrendszereiket az ezekkel a nem emberi dolgozókkal járó új kihívások kezelésére. Jason Clinton, az Anthropic információbiztonsági igazgatója hangsúlyozza, hogy a hagyományos biztonsági stratégiák, amelyek az emberi felhasználókra fókuszálnak, nem elegendőek az AI virtuális személyzet által felvetett kockázatok kezelésére. Egyik fő aggálya Clintonnak az AI felhasználói fiókok védelme, amelyek, hasonlóan az emberi digitális azonosítókhoz, erős hitelesítésre és folyamatos megfigyelésre szorulnak, hogy megelőzzék az illetéktelen hozzáférést, illetve az anomáliák felismerését, amelyek esetleg szabályszegéseket vagy visszaéléseket jeleznek. Továbbá fontos kérdés a megfelelő hálózati hozzáférési szintek meghatározása az AI egységek számára. Túlságosan nagy jogosultságok biztosítása kockázatnak tenné ki a kritikus rendszereket, ha az AI működése compromise-olódik, míg túl szigorú hozzáférés korlátozhatja az AI funkcionalitását és termelékenységét. A szervezeteknek gondosan egyensúlyt kell találniuk, hogy maximalizálják a hatékonyságot, miközben fenntartják a biztonságot. Clinton kiemeli az AI cselekedeteinek felelősségre vonhatóságának bonyolultságát is. A hagyományos modellek, amelyek azonosítható emberekre alapoznak, nem alkalmasak az AI alkalmazottak felelősségének meghatározására, mivel azok önállóan működnek, így a hibák vagy rosszindulatú cselekedetek felelőssége nem egyértelmű. Ez a bizonytalanság új politikák és keretrendszerek kidolgozását teszi szükségessé, amelyek meghatározzák a felelősséget és hatékonyan kezelik a kockázatokat.

Különösen aggasztó a lehetőség, hogy az AI "elszabaduljon" vagy rosszindulatú szereplők kihasználják, például káros feladatok végrehajtására. Például egy AI, amely hozzáférést kap folyamatos integrációs (CI) rendszerekhez, megzavarhatja fejlesztési folyamatokat vagy sebezhetőségeket szerezhet, ami nagyobb szervezeti problémákhoz vezethet. Ilyen esetekben létfontosságúak a megelőző biztonsági intézkedések, amelyek folyamatosan figyelik az AI viselkedését, és lehetővé teszik a gyors beavatkozást a rendellenességek észlelésekor. Ezekre a kihívásokra válaszul a kiberbiztonsági szolgáltatók növekvő számban kínálnak speciális megoldásokat a nem emberi identitások kezelésére és védelmére a vállalati környezetben. Ezek az eszközök személyre szabott hozzáférés-ellenőrzéseket, viselkedéselemzéseket és irányítási rendszereket kínálnak kifejezetten az AI egységek számára, kiegészítve a meglévő emberközpontú biztonsági intézkedéseket. Clinton szerint az elkövetkező években a virtuális alkalmazottak védelme lesz az egyik legfontosabb területe az AI-val kapcsolatos kiberbiztonsági befektetéseknek. Azok a szervezetek, amelyek már időben kiépítik ezeket a védelmi rendszereket, jobban kihasználhatják az AI nyújtotta előnyöket, miközben csökkentik a rizikókat. Összegzésképpen az Anthropic figyelmeztetése arra világít rá, hogy a közeljövőben az AI-alapú virtuális alkalmazottak szerves részévé válnak a vállalati munkaerőnek, ugyanakkor új, még nem eléggé ismert kiberbiztonsági kihívásokat hoznak magukkal, amelyek azonnali cselekvést követelnek. A vállalatoknak fejlődő biztonsági stratégiákat kell kialakítaniuk az AI identitások védelmére, egyértelmű hozzáférési szabályokat kell meghatározniuk, és felelősségi kereteket kell létrehozniuk. E lépések megakadályozzák az AI-vel kapcsolatos fenyegetéseket, és biztosítják az mesterséges intelligencia biztonságos, hatékony munkába illesztését a munkahelyeken.