Ang mabilis na pag-usad ng artificial intelligence (AI) ay nagbunsod ng malaking debate at alinlangan sa mga eksperto, lalo na ukol sa pangmatagalang epekto nito sa sangkatauhan. Ang mga kilalang tao tulad ni Elon Musk, CEO ng Tesla at SpaceX, at ni Dario Amodei, CEO ng AI research firm na Anthropic, ay nagpapaalala ng seryosong mga panganib sa pagkakataon ng pag-iral, na tinatayang umaabot sa 10% hanggang 25%, na dulot ng AI. Ang matinding pagtasa na ito ay nagpapakita ng agarang pangangailangan para sa mahigpit na mga patakaran at mga hakbang sa kaligtasan upang masubaybayan ang pag-unlad at paggamit ng AI. Si Elon Musk, na kilala sa kanyang makabago at malayong paningin, ay matagal nang nagbababala tungkol sa mga panganib ng hindi napapamahalaang AI. Habang kinikilala ang mga benepisyo nito, binibigyang-diin niya na kung walang tamang pangangasiwa, maaring lagpasan ng AI ang kontrol ng tao at magdulot ng sakuna. Nananawagan si Musk para sa maagap na regulasyon upang siguraduhing ang mga pag-usad sa AI ay nakatuon sa kaligtasan ng tao. Gayundin, si Dario Amodei ay kapwa nag-aalala at nangunguna sa Anthropic sa pagtutok sa paggawa ng mga AI system na maaring maintindihan at umaayon sa mga pagpapahalaga ng tao upang mabawasan ang mga panganib ng autonomous na pag-uugali ng AI. Ang kanyang mga pagtataya sa panganib ay naglalarawan ng seryosong pag-aalala ng maraming nasa komunidad ng AI ukol sa hindi napapigil na pag-unlad nito. Lumalakas ang argumento para sa regulasyon habang mabilis na sumusulong ang mga sistema ng AI, na nagagawa na ang mga gawain na dati ay iniisip na tanging tao lamang ang kaya, mula sa advanced natural language processing hanggang sa awtonomong paggawa ng desisyon sa masalimuot na mga konteksto. Bagamat nagdudulot ito ng pagbabago sa industriya at pagpapabuti sa kalidad ng buhay, nagdudulot din ito ng mga bagong hamon sa pagtitiyak na ligtas at etikal ang pagpapatakbo ng AI. Sinasabi ng mga eksperto na kung walang mga panseguridad, maaaring magamit ang AI nang masama o makabuo ng mga asal na salungat sa interes ng tao.

Ang kasalimuotan ng makabagong AI ay nagpapahirap sa pagtaya sa lahat ng posibleng kabiguan o hindi sinasadyang epekto, na lalong nagpapataas ng mga agam-agam tungkol sa mga aksidente at sinadyang pang-aabuso, at nagdaragdag ng bigat sa pangangasiwa nito. Bilang tugon, mas lalong nananawagan ang mga siyentipiko at tagapagpatupad ng batas na magpatupad ng masusing regulasyon sa AI na naglalayong maglatag ng mga mekanismo sa kaligtasan, tiyakin ang transparency sa disenyo nito, at magpatupad ng mga etikal na gabay upang ang operasyon ng AI ay nakasalamo sa mga halagang panglipunan. Mahalaga rin ang internasyonal na kooperasyon dahil sa pandaigdigang pag-unlad at pagpapakalat ng AI. Kasabay nito, ang patuloy na pananaliksik sa kaligtasan at etika ng AI ay kritikal. Nakatuon ang mga akademiko at organisasyon sa paggawa ng mga AI system na malakas ngunit kontrolado at umaayon sa layunin ng tao, kabilang na ang pag-verify sa behavior ng AI, pagpapaganda sa interpretability nito, at pagsusuri sa mga epekto nito sa etika. Ipinapakita ng talakayan tungkol sa mga panganib at regulasyon ng AI ang mas malawak na hamon ng pagsasamantala sa makabagong teknolohiya habang pinangangalagaan ang kinabukasan ng sangkatauhan. Sa patuloy na mabilis na pag-usad ng AI, mahalaga ang pagbalanse sa pagitan ng inobasyon at pag-iingat. Ang mga babala mula kina Musk at Amodei ay nagbababala sa kahalagahan ng agarang pagtugon sa mga isyung ito. Sa kabuuan, ang tinatayang 10% hanggang 25% na panganib na dulot ng AI na maaaring magdulot ng pagkalipol ng tao ay isang seryosong pandaigdigang isyu na nangangailangan ng agarang, koordinadong mga hakbang. Napakahalaga na magpatupad ng matibay na mga balangkas sa regulasyon at mga mekanismo ng kaligtasan upang masiguro na ang pag-unlad ng AI ay umaayon sa kaligtasan at mga pagpapahalaga ng tao. Ang hindi pagtugon sa mga panganib na ito ay nagbubunsod ng hindi na mare-redirect na mga epekto, kaya't ang maingat at multidisiplinaryong pangangasiwa sa AI ay napakahalaga para sa kinabukasan ng sangkatauhan.