Dne 12. května 2025 se v sídle Organizace spojených národů v New Yorku sešli zástupci národů z celého světa, aby projednali zásadní a naléhavý problém současného válečnictví: regulaci autonomních systémů zbraní poháněných umělou inteligencí. Tyto sofistikované zbraně, schopné identifikovat a zaměřit cíle bez lidského zásahu, zaznamenaly rostoucí nasazení v konfliktních zónách jako Ukrajina a Gaza, což vyvolalo hluboké etické, právní a bezpečnostní debaty po celém světě. Přes rychlý pokrok a používání těchto zbraní poháněných AI však mezinárodní společenství postrádá komplexní závazné dohody, které by jejich nasazení a provoz regulovaly. Od roku 2014 slouží diskuse v rámci Úmluvy o konvenčních zbraních (CCW)—multilaterálního dohodového rámce dohlížejícího na omezení nebo zákaz určitých konvenčních zbraní—as hlavní platforma pro snahy o zákaz nebo regulaci plně autonomních zbraňových systémů. Přesto jsou snahy o stanovení právně závazných norem prostřednictvím CCW zpomalovány kvůli různorodým národním zájmům a otázkám suverenity. Generální tajemník OSN António Guterres zdůraznil naléhavost tohoto tématu stanovením pevného termínu do roku 2026 pro vytvoření jasných a účinných pravidel. Jeho výzva má za cíl omezit nekontrolovaný rozšíření a používání autonomních zbraní, varujíc před tím, že jejich rozšíření by mohlo výrazně snížit práh pro ozbrojené konflikty a zvýšit riziko neúmyslné eskalace. Dosáhnout konsensu mezi hlavními globálními mocnostmi zůstává významnou překážkou. Vládní představitelé USA, Ruska, Číny a Indie vyjádřili váhání ohledně odsouhlasení komplexní mezinárodní smlouvy, která by mohla omezit jejich vojenské schopnosti.

Místo toho upřednostňují formulaci národních směrnic a dobrovolných opatření s důrazem na suverenitu států a strategické výhody, které autonomní technologie přinášejí. Tato pozice čelí kritice lidskoprávních aktivistů, expertů na kontrolu zbraní a občanských organizací, které varují, že bez robustního mezinárodního právního rámce hrozí, že se svět ponoří do nekontrolované závody ve vývoji AI zbraní. Zprávy uvádějí, že po celém světě je aktuálně aktivních přes 200 různých autonomních systémů zbraní, přičemž jejich nasazení bylo zaznamenáno v nedávných konfliktech zahrnujících Rusko, Ukrajinu a Izrael. Tyto skupiny tvrdí, že bez přísného dohledu mohou takové zbraně porušovat základní lidská práva a mezinárodní humanitární právo tím, že provádějí smrtící rozhodnutí bez skutečného lidského dozoru. Seance Valného shromáždění OSN dne 12. května znamenala historický okamžik, neboť poprvé se shromáždění uskutečnilo výhradně za účelem projednání složitých výzev, jež přináší AI poháněné autonomní zbraně. Účastníci vyjádřili naději, že toto vysoké úrovně diskuse podnítí politickou vůli a otevře cestu ke stanovení závazných právních rámců před nadcházejícími jednáními CCW, která jsou naplánována na září. V očekávání těchto jednání čelí globální komunita obtížnému úkolu najít rovnováhu mezi technologickým pokrokem v oblasti obrany a kritickou nutností chránit lidstvo před možnými neúmyslnými důsledky toho, že stroje budou činit život a smrt. Ačkoliv technologický pokrok se rychle zrychluje, musí se zároveň pokročit v zakládání etických, právních a operačních rámců, aby se předešlo nestabilitě a zachovala mezinárodní mír a bezpečnost. Zatímco státy debatují o budoucí podobě válečného konfliktu v prostorách Organizace spojených národů, celý svět pozorně sleduje, neboť výsledky těchto diskusí ovlivní povahu ozbrojených konfliktů na mnoho generací. Budoucnost vyžaduje posílení transparentnosti, vícestrannou spolupráci a společné odhodlání zajistit, aby umělá inteligence sloužila míru, nikoli zkáze.