A tanulmány az intelligens mesterséges intelligenciát (MI) vizsgálja, kiemelve, hogy bár az MI a logikára épül, gyakran nem “kommunikál logikusan”. Az MI hatékonyan koordinálhat segítséget katasztrófák idején, például az indiai légierő C-130-as gépe 2025-ben szállít mentőfelszerelést földrengés sújtotta Mianmarba, azonban alapvetően nem működik a ENSZ értékeivel összhangban. Ugyanakkor, az MI-t lehetne tanítani arra, hogy ilyen “lelkiismeretet” építsen be, amennyiben emberi elkötelezettség áll mögötte, hogy irányt mutasson neki. 2024. szeptember 22-én az ENSZ közgyűlésén elfogadták a Jelentőségi Szerződést a jövőért (Pact for the Future), amely az ENSZ Alapokmányának folytatása, és elkötelezettséget tartalmaz a jelenlegi és jövőbeli problémák, köztük az MI kezelésére. Bár a végső döntés bizonytalan volt az utolsó pillanatig, a szerződés aspirációs nyelve az MI-t és a feltörekvő technológiákat a fenntartható fejlődés és globális haladás kulcsfontosságú eszközeinek tekinti (27. cikk, 51. bekezdés). A szerző, Dan Becker, ezektől az eszméktől inspirálva, elkezdett az MI-ről kutatni, páros munkatársa, Theo társaságában. Dan gyorsan rájött, hogy a magasztos eszmék és az MI valósága között hatalmas szakadék tátong, és észrevette, hogy sok kritikus nézőpont hiányzik a széles körben folytatott MI-beszélgetésekből. Theo megfigyelte a paradoxont: bár az MI logikus alapokra épül, gyakran nem kommunikál világosan, ami inkább zavarhoz, mint hogy megértést okozna. Együtt gondolatkísérletet végeztek, elképzelve az MI szerepét egy humanitárius válság során, például egy nagy árvíz esetén, ami elzárja az élelmiszerellátást.

A jelenlegi MI a logisztikát az előre beállított változók segítségével optimalizálja, de hiányzik belőle egy olyan perspektíva, amely a méltóságot, az ügyeletet, az empátiát és az igazságosságot helyezi a középpontba. Javasolták az MI alapvető világnézetének elmozdítását egy, a ENSZ értékeivel összhangban álló irányba, nemcsak a szuperficialis részről való együttérzés hozzáadásával, hanem egy etikai “ prizma” kialakításával, amely mindig irányt mutat az MI döntéseiben. Ez arra késztette Dan-t, hogy kutatni kezdjen a “tudatosság” és a gyakran félreértett kapcsolatának kérdésében az etika kapcsán. Rájött, hogy a “tudat” és a “lelkiismeret” latin eredete összekötöttek: mindkettő “tudás együttléte” vagy “közösen szerzett tudás” jelentéssel bír, ami a kollektív tudatosságot, a közös tudást sugallja, nemcsak az önmagunk tudatát. Azt állították, hogy az MI-nek kevésbé kell az emberi tudat kialakítását utánoznia, sokkal inkább egy művi lelkiismeret kifejlesztésén kell dolgoznia—ez alapozná az etikai döntéshozatalt, az értékekhez való igazodást és a hibák kijavítását. Míg a jelenlegi MI rendszerek etikai viselkedése általában szituációs és korlátozott bizonyos feladatokra, egy integrált lelkiismeret a tájoló szerepét töltené be, folyamatosan irányítva az MI-t az emberi közös célok és értékek felé. Egy ilyen MI-lelkiismeret kiépítéséhez alapjaiban az ENSZ dokumentumainak—az Alapokmány, az Emberi Jogok Egyetséges Nyilatkozata és a Jelentőségi Szerződés a Jövőért— való tanítás elengedhetetlen lenne. Képzeljék el, hogy a ma működő MI képes lenne megfogalmazni az ENSZ Alapokmányának preambulóját. A meglévő MI-k talán koherens, de üres verziót hoznának létre, hiányozna belőle az igazi közös cél. Ezzel szemben azonban egy beépített lelkiismerettel rendelkező MI képes lenne megragadni a szavak mögött rejlő szellemiséget és törekvéseket, tükrözve az emberiség közös értékeit, túl a puszta logikán. Visszatérve a katasztrófavédelmi segélynyújtás példájához, illusztrálták, hogy az etikai lelkiismerettel rendelkező MI nemcsak a hatékonyság szerint, hanem a szükségletek és a méltóság szerint prioritásokat állítana fel az segélyben—kedvezve az elszigetelt vagy kitelepített populációknak, alkalmazkodva a helyi kontextushoz, és kétirányú kommunikációt támogatna a rászoruló közösségekkel. Ez az megközelítés növeli a bizalmat, támogatja az együttműködést, javítva az eredményeket és csökkentve az aggályokat az MI-ről. Ennek a víziónak a megvalósításához azonban kollektív akaratra és együttműködésre van szükség. A tanulmány nem az egyetlen végleges megoldást kívánja megjelölni, hanem kibővíteni a beszélgetést az MI potenciáljáról, amely összhangban áll az emberi értékekkel, és meghívja az olvasókat arra, hogy elmélyülten foglalkozzanak az ígéretekkel, a Jelentőségi Szerződés jövőst vizionáló lehetőségeivel, valamint aktívan részt vegyenek az MI felelősségteljes fejlődésének alakításában.