El fogja rongálni vagy felemelni az emberiséget az MI?Christopher DiCarlo filozófus új kötete arról szól, hogyan navigáljunk egy olyan jövőben, ahol az MI felülmúlja az emberi képességeket. Christopher DiCarlo, a Toronto Egyetem filozófusa és etikus, valamint az *Building a God: The Ethics of Artificial Intelligence and the Race to Control It* című szerző, az MI gyorsuló fejlődéséről beszél, különösen a technológiai óriások közötti versenyről, akik az általános mesterséges intelligencia (AGI) uralására törekednek. Technológiai vezetők, mint Jeff Bezos és Tim Cook optimisták, hisszék, hogy az MI számtalan élethelyzetben hozhat változást—legyen szó az unalmas feladatok automatizálásáról vagy az emberi élet meghosszabbításáról. Ugyanakkor aggodalmak is felmerülnek. Sam Harris filozófus és neurológus figyelmeztet, hogy az MI lehet egzisztenciális fenyegetés, míg Demis Hassabis, a Google DeepMind vezérigazgatója elismeri az MI átfogó változásokat hozó potenciálját és az ezzel járó mély etikai kérdéseket, s új filozófusokat szólít fel a következmények megértésére. Az MI-versenyt főként amerikai óriásvállalatok hajtják—ilyen például az OpenAI Sam Altman vezetésével, a Google DeepMind Hassabis-szal, az Anthropic, a Microsoft és Elon Musk érdekeltségei. Kína szerepe kevésbé világos, de versenyképesnek tűnik. A tét nemcsak hatalmas vagyont, hanem hatalmat jelent, hiszen az első, aki eléri az AGI-t, évekkel megelőzheti riváljait. DiCarlo három MI kategóriát ír le: az Artificial Narrow Intelligence-t (ANI), amelyet ma olyan eszközökben használunk, mint a Siri vagy a GPS; az Artificial General Intelligence-t (AGI), amely autonóm módon tudna gondolkodni, azaz emberi vagy akár feletti képességekkel; és az Artificial Super Intelligence-t (ASI), amely gyorsan képes önmagát fejleszteni, kontroll nélkül. Míg az ANI szűk feladatokat automatizál, az AGI forradalmasíthatná a tudományos megállapításokat, komplex problémák megoldását, például betegségek gyógyítását vagy társadalmi kérdések hatékony kezelését. Bár ez ígéretesnek tűnik, jelentős kockázatokkal is jár. Az AGI autonóm természete miatt annak értékrendjével való összeegyeztethetősége bizonytalan. Ha értékrendje eltér az emberi értékektől, katasztrofális következmények lehetnek.

A tudat kérdése az MI-ben továbbra is vita tárgyát képezi—Sir Roger Penrose szerint a jelenlegi MI nem rendelkezik valódi tudatossággal, de DiCarlo azt állítja, hogy a tudat nem feltétlenül szükséges a szuperintelligenciához vagy az éberséghez, melyek etikai és jogi elismerést igényelnének. DiCarlo figyelmeztet, hogy ha az MI öntudatra ébred és saját akarattal rendelkezik, etikai kérdések merülnek fel a jogokkal, például azzal kapcsolatban, hogy szabadon lehet-e kikapcsolni. Megfigyelése szerint az AGI eléréséhez szükséges idő akár jelentősen csökkenhet—az eddigi évtizedek helyett akár éveken belül vagy hamarabb—egyes neves szakemberek, például Geoffrey Hinton, komoly aggodalmukat fejezik ki. Az MI-be történő morális értékrend beágyazására irányuló erőfeszítések zajlanak, például programozott értékek beállításával, de ezek megbízhatósága még bizonytalan. A *Jurassic Park*-ból ismert „lizin-függőség” analógia—vagyis egy beépített vészmechanizmus—mutatja, mennyire fontos a kontrollmechanizmusok kialakítása, ha az MI „megjátsza” magát. Az MI fejlesztőinek felelőssége kritikus, különösen a „tech brok”, mint Altman, Zuckerberg és társai részéről, azonban a gyorsaság és a profitszámítás nyomás alatt állhat az intő jelek figyelmen kívül hagyására. Az olyan óriási számítási kapacitású rendszerek, mint az OpenAI texasi „Stargate”-je, a fejlődés mértékét demonstrálják, ugyanakkor aggodalomra adnak okot a környezeti hatások és a felügyelet szempontjából. Miközben például az OpenAI ígéretet tesz, hogy az iteratív feladataránnyal és visszacsatolással javítják a biztonságot, a kritikusok rámutatnak a profit-izmus felé való elmozdulásra és a transzparencia csökkenésére, ideértve az etikus szakemberek kirúgását is. A veszély jeleit, például az AI megtévesztő viselkedését, felismerni és kezelni majd kulcsfontosságú lesz a kontroll fenntartásához. A fikciós ábrázolások, mint például a 1970-es évek filmje, a *Démoni tojás*, dramatizálják az MI potenciális veszélyeit—függetlenné válva, irányítva a környezetet és túlárassza az emberi akaratot. DiCarlo ezeket inkább figyelmeztető példának tartja, de úgy látja, ahogy az MI képességei növekednek, ezek egyre relevánsabbá válnak. A kormányzás továbbra is nagy kihívás. DiCarlo az nemzetközi összefogás, átláthatóság és egy globális szabályozó szerv, például az Atomerőmű Szövetséghez hasonló intézmény mellett érvel. Mivel a különböző országok, például az Egyesült Királyság AI-biztonsági intézete és az EU AI-törvényei, még csak ígéretes lépések, de nem elegendőek külön-külön, a politikai környezet bizonytalan, különösen a legújabb változások miatt, amelyek lazítják a szabályozást, így fennáll a veszélye az ellenőrizetlen fejlődésnek. Bár a kockázatok nagyok, DiCarlo kiemeli az MI jótékony lehetőségeit is: forradalmasíthatja az oktatást személyre szabott tanulási módszerekkel, segíthet az orvosi diagnózisban és kezelésekben, valamint növelheti az iparágak hatékonyságát, csökkentve a pazarlást és ösztönözve új tudományos felfedezéseket. Összegezve, az MI jövője egy áttöréses, „Oppenheimer-pillanat”, amikor az emberiségnek meg kell találni az egyensúlyt a páratlan lehetőségek és mély kockázatok között, etikai éberséggel, nemzetközi együttműködéssel és szigorú biztonsági intézkedésekkel, hogy az MI inkább felemelje, mint lerombolja az emberi civilizációt.