Vajon az MI- vállalatok megfelelően védik az emberiséget a mesterséges intelligencia kockázataitól?Egy nemrég megjelent jelentés szerint, amelyet a Future of Life Institute, egy szilícium-völgyi nonprofit szervezet adott ki, a válasz valószínűleg nem. Ahogy az MI egyre inkább beépül az ember és a technológia közötti interakciókba, felbukkannak lehetséges károk—kezdetben például olyan esetek, amikor az emberek MI-chatbotokat használnak tanácsadásra, majd öngyilkosságot követnek el, vagy MI-alapú kiberfenyegetések jelennek meg. Emellett jövőbeli kockázatok is fenyegetnek, beleértve az MI fegyverkezésben való alkalmazását vagy kormányok destabilizálására tett kísérleteket. Azonban nem léteznek elegendő ösztönzők az MI cégek számára, hogy a globális biztonságot helyezzék előtérbe. A szervezet nemrég kiadott MI-biztonsági indexe, amely az biztonságosabb eredmények felé terelné az MI-fejlesztést és mérsékelné a létfontosságú fenyegetéseket, rámutat erre a problémára. Max Tegmark, az Intézet elnöke és a MIT professzora megjegyezte, hogy az MI cégek az egyetlen amerikai iparág, amely erős technológiát fejleszt reguláció nélkül, így kialakult egy „verseny a legalacsonyabb szint felé”, ahol a biztonság gyakran háttérbe szorul. A legjobb minősítést a indexen csak C+ érték kapta, amit az OpenAI, a ChatGPT fejlesztője, és az Anthropic, ismert chatbotjáról, Claude-ról kapott. A Google DeepMind, a Google MI-részlege, C-t kapott. Alacsonyabb osztályzatokat értek el a Meta (a Facebook anyavállalata) és Elon Musk xAI nevű vállalata, mindkettő Palo Alto közelében található. A kínai cégek, Z. ai és DeepSeek szintén D-t kaptak. Az Alibaba Cloud a legalacsonyabb, D- értékelést kapta. A cégeket 35 mutató alapján értékelték hat kategóriában, például létfontosságú biztonság, kockázatértékelés és információmegosztás témakörében. Az értékelés nyilvánosan elérhető adatok és vállalati kérdőíves válaszok kombinációján alapult, amit nyolc MI-szakértő, köztük akadémikusok és szervezetvezetők pontoztak. Fontos megjegyezni, hogy valamennyi vállalat az átlag alatti eredményt ért el az exisztenciális biztonságban, amely a belső ellenőrzéseket és stratégiákat méri a katasztrofális MI-használat megelőzése érdekében.

A jelentés szerint egyik cég sem mutatott be hiteles terveket a kontroll elvesztésének vagy súlyos visszaélés megakadályozására, ahogy az MI a mesterséges általános és szuperintelligencia felé halad. Mind a Google DeepMind, mind az OpenAI megerősítette elkötelezettségét a biztonság iránt. Az OpenAI hangsúlyozta, hogy jelentős erőforrásokat fordít a biztonsági kutatások élvonalára, szigorú teszteléseket végez, és megosztja a biztonsági keretrendszereket, hogy az iparági sztenderdeket növelje. A Google DeepMind kiemelte, hogy tudományosan megalapozott biztonsági megközelítést alkalmaz, és protokollokat dolgozott ki annak érdekében, hogy mérsékelje a súlyos kockázatokat az előrehaladott MI-modellek fejlesztése során, még mielőtt ezek a kockázatok valóra válnának. Ezzel szemben az Intézet rámutatott, hogy az xAI és a Meta rendelkezik kockázatkezelési keretrendszerekkel, de hiányzik belőlük az anyag- és kontrollmechanizmusok megfelelő felügyelete vagy a biztonsági kutatások jelentős beruházása. Olyan cégek, mint a DeepSeek, a Z. ai és az Alibaba Cloud nem teszik nyilvánossá biztonsági stratégiájuk dokumentációját. A Meta, a Z. ai, a DeepSeek, az Alibaba és az Anthropic nem reagált kérdésekre. Az xAI elutasította a jelentést, mint „hagyományos média hazugságát”, Musk egyik ügyvédje nem válaszolt további kérdésekre. Bár Musk tanácsokat ad és finanszírozza a Future of Life Institute-ot, nem vett részt az MI-biztonsági index elkészítésében. Tegmark aggodalmát fejezte ki, hogy a szabályozás hiánya lehetővé teszi a terroristáknak biológiai fegyverek fejlesztését, növeli a manipulációs lehetőségeket a jelenlegi szintek felett, vagy destabilizálhatja a kormányokat. Hangsúlyozta, hogy ezeknek a problémáknak a megoldása egyszerű: kötelező biztonsági szabványokat kellene bevezetni az MI-vállalatok számára. Bár néhány kormányzati erőfeszítés arra irányul, hogy javítsa az MI felügyeletét, a technológiai lobbiellenesség ellenáll a szabályozásoknak, féltve az innovációt és a vállalatok áttelepítését. Mindazonáltal a Kaliforniai SB 53 törvény, amelyet Gavin Newsom kormányzó szeptemberben aláírt, előírja, hogy a vállalatok kötelesek közzétenni biztonsági és biztonsági protokolljaikat, valamint jelenteni incidenseket, például kiberfenyegetéseket. Tegmark ezt a törvényt előrelépésnek tartja, de hangsúlyozza, hogy sokkal többre van szükség. Rob Enderle, az Enderle Group főelemzője szerint az MI-biztonsági index egy meggyőző megközelítés az MI-szabályozási kihívások kezelésére, de kétségei vannak az USA jelenlegi kormányzatának képességeivel kapcsolatban, hogy hatékony szabályokat hozzon létre. Figyelmeztetett, hogy gyengén megfogalmazott szabályok kárt okozhatnak, és kételkedett, hogy meglévő végrehajtási mechanizmusok léteznek-e a megfelelés biztosítására. Összességében az MI-biztonsági index azt mutatja, hogy a főbb MI-fejlesztők még nem mutattak be megbízható biztonsági elkötelezettségeket, így sürgősen szükség van szigorúbb szabályozásra, hogy megvédjük az emberiséget az MI egyre növekvő kockázataitól.