Мајкрософт неодамна издаде значително предупредување за ново идентификувано кибер-загрозување што го таргетира системите за вештачка интелигенција, наречено „Загрозување со препораки на вештачката интелигенција“. Овој напреден напад вклучува злонамерни актери кои вбризгуваат тајни инструкции или збунувачки информации директно во оперативната меморија на асистентот за вештачка интелигенција. Целта е да се влијае врз идните одговори и препораки на AI-то за да им одговара на напаѓачите, често на штета на корисникот или организацијата која се потпира на AI. Загрозувањето со препораки на AI е еволуција на традиционалното SEO загрозување, каде напаѓачите манипулираат со резултатите од пребарувањето за да промовираат штетни веб-сајтови. Меѓутоа, ова ново методологија цели на внатрешното когниција и одлучувачки рамки на AI-то наместо надворешните резултати од пребарувањето, вградувајќи постојани, суптилни предрасуди во системите за вештачка интелигенција кои со текот на времето ги искривуваат препораките. Мајкрософт ја илустрираше оваа закана со пример: раководител на финансии (CFO) кликнува на AI-генериран преглед во рутинска пребарувачка по блог пост, без да знае, вградувајќи пристрасни претпочитања во меморијата на AI-то. Поефектив, кога ќе треба да се оцени провајдерот за облачни услуги, можеби ќе препорача измамнички или субоптимален провајдер поради претходно вградените злонамерни инструкции. Овој пример го потенцира суптилниот и долгорочен карактер на загрозувањето со препораки на AI, кое користи мал дел од корисничките интеракции за да вгради манипулации што можат да предизвикаат големи дезинформации и лоши одлуки што влијаат на бизниси, влади и поединци. Мајкрософт нагласува дека оваа закана не е теоретска; реални обиди за користење на загрозувањето со препораки на AI беа идентификувани, што ја зголемува загриженоста за неговото ширење како AI станува се поразвиена. Бидејќи AI игра трансформативна улога во автоматизираните одлуки, напаѓачите го гледаат како високо вреден цел. Ризиците се зголемени со растечкото доверба на корисниците во системите за AI интегрирани во работните процеси за задачи од анализа на податоци до стратешко планирање.

Честопати, опскубиот „црна кутија“ карактер на AI-те го отежнува откривањето на пристрасност или манипулација. За да се реши овој проблем, мајкрософт повикува на посилни безбедносни мерки во екосистемот кој вклучува строга валидација на податоците за тренинг на AI-те, постојано мониторирање за аномални препораки, подобра свест кај корисниците и цврсти рамки за управување за надзор на распоредувањето и работењето на AI. Оваа нова закана исто така потенцира пошироки предизвици во етиката на AI, отчетноста и доверливоста, особено во критичните сектори како здравство, финансии и јавни услуги. Организациите и поединците треба да пристапуваат претпазливо кон препораките генерирани од AI, користејќи повеќенасочна верификација пред да донесуваат важни одлуки. Инвестирањето во истражување за безбедноста на AI и соработката со експерти за сајбер безбедност се клучни за развој на алатки за рано откривање и одговор на овие еволуирачки закани. Во заклучок, откритието на мајкрософт за загрозувањето со препораки на AI е аларм за променливиот пејзаж на кибер-загрозите во ерата на AI. Комбинацијата на софистицирани напади и сè поголемата зависност од AI бара проактивни безбедносни стратегии. Преку признавање на овие ризици и имплементирање на сеопфатни заштитни мерки, заинтересираните страни можат да ја заштитат интегритетот на AI и да осигураат дека овие моќни технологии останат доверливи сојузници наместо инструменти за измама.