Microsoft je nedavno izdao značajno upozorenje o novootkrivenoj cyber prijetnji koja cilja sustave umjetne inteligencije, pod nazivom "Trovanje preporuka AI-ja". Ovaj sofisticirani napad uključuje zlonamjerne djelatnike koji uvode prikrivene upute ili obmanjujuće informacije izravno u radnu memoriju AI asistenta. Cilj je utjecati na buduće odgovore i preporuke AI-ja kako bi se koristila za napadače, često na štetu korisnika ili organizacije koja se oslanja na AI. Trovanje preporuka AI-ja je evolucija tradicionalnog trovanja SEO-jem, gdje napadači manipuliraju rezultatima tražilica kako bi promovirali štetne web stranice. Međutim, ova nova metoda ciljano djeluje na unutarnje kognitivne i odlučivačke okvire AI-ja, umjesto na vanjske rezultate pretraživanja, ugrađujući postojanjeću, suptilnu pristranost unutar sustava AI koja s vremenom iskrivljuje preporuke. Microsoft je ilustrirao ovu prijetnju primjerom: glavni financijski direktor (CFO) klikne na sažetak generiran od AI-ja tijekom rutinskog pretraživanja blogova, nehotice ugrađujući pristrane preferencije u memoriju AI-ja. Kasnije, prilikom procjene pružatelja cloud usluga, AI može preporučiti prijevarnog ili neoptimalnog pružatelja zbog ranije unesenih zlonamjernih uputa. Ovaj primjer ističe suptilnu, dugotrajnu prirodu Trovanja preporuka AI-ja, koje koristi male, naizgled bezopasne korisničke interakcije za umetanje manipulacija koje mogu uzrokovati veliku dezinformaciju i pogrešne odluke koje utječu na tvrtke, vlade i pojedince. Microsoft ističe da ova prijetnja nije teoretska; identificirani su stvarni pokušaji korištenja Trovanja preporuka AI-ja, čime se povećavaju zabrinutosti vezane uz njezin mogući širenje kako AI postaje sve rašireniji. Budući da AI igra ključnu ulogu u automatiziranom donošenju odluka, napadači ga vide kao visokovrijednu metu. Rizike pojačava rastuće povjerenje korisnika u AI sustave integrirane u radne procese, od analize podataka do strateškog planiranja.

Često je "crna kutija" priroda AI-ja koja otežava otkrivanje pristranosti ili manipulacije. Kako bi se to riješilo, Microsoft poziva na jačanje sigurnosnih mjera u ekosustavu AI-ja, uključujući strogu validaciju podataka za obuku AI-ja, kontinuirani nadzor za anomalne preporuke, bolju svijest korisnika i robusne okvire upravljanja za nadzor implementacije i rada AI-ja. Ova nova prijetnja također ističe šire izazove u etici AI-ja, odgovornosti i pouzdanosti, posebno u kritičnim sektorima poput zdravstva, financija i javnih službi. Organizacije i pojedinci trebaju pribjeći opreznom pristupu prema preporukama koje generira AI, provjeravajući ih višestrukim slojevima verifikacije prije donošenja važnih odluka. Ulaganje u istraživanje sigurnosti AI-a i suradnja s stručnjacima za kibernetičku sigurnost od ključne su važnosti za razvoj alata za rano otkrivanje i strategije odgovora na takve prijetnje koje se stalno razvijaju. Zaključno, otkriće Microsofta o Trovanju preporuka AI-ja služi kao upozorenje o promjenama u kibernetičkom krajoliku u eri umjetne inteligencije. Kombinacija sofisticiranih napada i sve veće oslanjanja na AI zahtijeva proaktivne sigurnosne strategije. Priznavši te rizike i implementirajući sveobuhvatne mjere zaštite, dionici mogu zaštititi integritet AI-ja i osigurati da ove moćne tehnologije ostanu pouzdani saveznici, a ne alati obmane.