Greitas dirbtinio intelekto (DI) pažangos tempas sukėlė reikšmingų diskusijų ir susirūpinimo tarp ekspertų, ypač kalbant apie jo ilgalaikį poveikį žmonijai. Žymūs veikėjai kaip Elonas Muskas, „Tesla“ ir „SpaceX“ vadovas, bei Dario Amodei, DI tyrimų įmonės „Anthropic“ vadovas, įspėja apie rimtus egzistencinius pavojus, kuriuos kelia DI, vertindami, kad DI sukeltas žmonijos išnykimo galimybė siekia net 10–25 %. Šis grėsmingas įvertinimas pabrėžia skubų poreikį stiprioms reguliavimo sistemoms ir saugumo priemonėms, stebėti DI vystymą ir naudojimą. Elonas Muskas, žinomas dėl savo vizionieriško požiūrio, jau seniai įspėja apie nesureguliuoto DI pavojus. Pripažindamas DI naudą, jis pabrėžia, kad be tinkamos priežiūros DI gali viršyti žmogaus kontrolę ir sukelti katastrofiškas pasekmes. Muskas palaiko aktyvią reguliaciją, siekdamas užtikrinti, kad DI pažanga pirmiausia tarnautų žmonių saugumu. Panašiai, Dario Amodei dalijasi šiomis nuogąstavimais ir vadovauja „Anthropic“, siekdamas kurti aiškiai suprantamus DI sistemų modelius, atitinkančius žmogaus vertybes, kad būtų sumažinta rizika, susijusi su autonominiu DI elgesiu. Jo rizikos įvertinimai atspindi rimtą požiūrį, kurį dauguma DI bendruomenės narių taiko į nekontroliuojamą pažangą. Reguliavimo būtinybė stiprėja, nes DI sistemos sparčiai gerėja ir atlieka užduotis, kurios kadaise buvo laikomos tik žmogaus kompetencijos sfera — nuo sudėtingo natūralios kalbos apdorojimo iki savarankiško sprendimų priėmimo sudėtinguose kontekstuose. Nors šie pasiekimai žada pramonės transformaciją ir gyvenimo kokybės gerinimą, jie taip pat kelia precedento neturinčius iššūkius užtikrinant, kad DI veiktų saugiai ir etiškai. Ekspertai įspėja, kad be apsaugos priemonių DI galėtų būti panaudotas piktavališkai arba įgyti elgesį, nesuderinamą su žmogaus interesais.

Modernių DI sudėtingumas apsunkina galimybę prognozuoti visas galimas klaidas ar netikėtus padarinius, kas didina avarijų ir tyčinių piktnaudžiavimo riziką bei iškelia aukštesnius reikalavimus DI valdymui. Atsakydami, mokslo ir politikos grupės vis dažniau ragina taikyti išsamią DI reguliavimo sistemą, kurioje būtų įvedami automatiniai saugos mechanizmai, užtikrinama skaidrumas DI kūrime ir įgyvendinimo etiketo gairės, kad DI veiksmai būtų suderinti su visuomenės vertybėmis. Ypatingas dėmesys skiriamas tarptautiniam bendradarbiavimui, nes DI plėtra ir išdiegimas vyksta globaliu mastu. Be reguliavimo, labai svarbu ir nuolatiniai tyrimai apie DI saugumą ir etiką. Akademinės ir organizacinės pastangos nukreiptos į kurti galingas, tačiau valdomas ir žmogaus vertybes atitinkančias DI sistemas, tarp jų – į DI elgesio patikrinimą, interpretacijos stiprinimą ir etinių pasekmių vertinimą. Diskusijos apie DI keliamą pavojų ir reguliavimą atspindi platesnę iššūkį, kaip perkrauti revoliucines technologijas, išsaugant žmonijos ateitį. Kad DI toliau vystytųsi nepaisant precedento neturinčio greičio, būtina subalansuoti naujoves ir atsargumą. Liderių, kaip Muskas ir Amodei, įspėjimai pabrėžia skubumą sprendžiant šiuos klausimus. Apibendrinant, aukščiausių ekspertų įvardytas 10–25 % DI sukeltos žmonijos išnykimo rizikos įspėjimas yra skubus globalus iššūkis, reikalaujantis nedelto koordinuoto darbo. Reikalinga stipri reguliavimo sistema ir saugikliai, užtikrinantys, kad DI plėtra atitiktų žmogaus saugumą ir vertybes. Negydant šių pavojų gresia neištaisomos pasekmės, todėl nuoseklus ir daugiadisciplininis DI valdymas yra būtinas žmonijos ateičiai.