Մայքրոսոֆթը նախազգուշացնում է AI-մերածության թունավորումով կապ ունեցող կիբերհետհիվանդության մասին, որը ուղղված է AI համակարգերին
Brief news summary
Microsoft-ը հայտնաբերել է նոր կիբերանվտանգություն, որը կոչվում է «ԱՀ առաջարկությունների թունավորում», որտեղ հարձаксողները ներքին հուշումներում թափանցում են վնասակար հրահանգներ՝ կուշտորեն տեսակետներ մշտապես ուղղելով հեռատեսական նպատակների։ Մինչեւ ավանդական SEO թունավորումը, որը շոշափում է արտաքին ինպուատները, αυτή հայտնաբերում է AI-ի ներքին որոշումների գործընթացը՝ առաջ բերելով շարունակական խանգարումներ առաջարկություններում։ Օրինակ, AI-ով ստեղծված ամփոփումները կարող են անճշտորեն խթանել կեղծ ծառայություններ կամ ցածր կարգի հ cloud տրամադրողներ՝ երբ կարեւոր որոշումներ են կայանում։ Microsoft-ի հետազոտությունը հայտնաբերել է նման հարձակումների իրական դեպքեր՝ բարձրացնելով լուրջ մտահոգությունները՝ քանի որ AI կառույցները ձեռք են բերում վստահություն և լայն կիրառություն։ AI մոդելների բարդությունն ու անպարզունակությունը դժվարացնում են այդ մանիպուլյացիաները հայտնաբերելը՝ վտանգելով AI մշակված բովանդակության անվտանգությունը և հուսալիությունը։ Այս վտանգները նվազեցնելու համար Microsoft-ը խորհուրդ է տալիս խստորորեն ստուգել տվյալները, անընդհատ զգուշացնել անսովոր գծանշաններ, ավելացնել օգտվողների տեղեկացվածությունը և ունենալ հզոր կառավարման գործունեությունների շրջանակներ։ Այս նորացող վտանգը բացահայտում է կարեւոր էթիկական և ներկայացվող պատասխանատվության հարցեր AI-յում՝ ընդգծելով բազմաշերտ վավերացման և համագործակցության անվտանգության միջոցների անհրաժեշտությունը։ Microsoft-ի նախազգուշացումը շտապ քայլեր պահանջում է՝ ապահովելու AI-ի բնօրինականությունը՝ զարգացող կիբերջաբիոն ռիսկերի պայմաններում։Մայքրոսոֆթը վերջերս արձակել է կարևոր զգուշացում՝ կապված նորահայտ սիբերհարաձևի հարձակման հետ, որը կոչվում է «AI խորհուրդների թունավորում»: Այս առաջադեմ հարձակումը ներառում է չարիակավոր գործիչների կողմից թաքնված հրահանգների կամ միմյանց թվացյալ տեղեկատվություն ուղարկել ուղղակիորեն AI օգնականի գործող հիշողությանը: Մաքսիմումը դա է՝ ազդել ապագա պատասխանների և խորհուրդների վրա՝ օգնելու հարձակվողներին, հաճախ վնասելով օգտագործողին կամ կազմակերպությանը, որը հիմնված է AI- ի վրա: AI խորհուրդների թունավորումը նախորդ սցենարներից է՝ SEO թունավորումը, երբ հարձակվողները մանիպուլացան որոնման արդյունքները՝ խանգարելով չարագործ կայքերին առաջ մղել: Սակայն այս նոր մեթոդը հիմնականում թիրախավորում է AI-ի ներսի ճանաչողական և որոշման ձևավորման գործընթացները՝ ներթափանցելով պահպանական, տարօրինակ նախապատվություններ՝ դրանք խեղաթյուրելով ժամանակի ընթացքում ռեկոմենդացիաները: Մայքրոսոֆթը այս վտանգը ցույց է տվել օրինակով.
Օրինակ՝ գլխավոր ֆինանսական պաշտոնյայի (CFO) իմանալով, որ նա ընդհատում է բլոգային որոնման արդյունքում AI-ն գեներացված ամփոփագիրը, նա անտեղյակ է միթե՝ բերում է կողմնակալ նախապատվություններ՝ այդ AI-ի հիշողությանը: Հետագայում, երբ նա գնահատում է ամպային ծառայություններ մատուցողներին, AI-ն կարող է հորդորել դարձյալ խաբեբայային կամ ոչ բավարար առաջընթաց ապահովող ծառայություն՝ գրանցված նախապայման խախտումներից հետո: Այս օրինակն ընդգծում է AI խորհուրդների թունավորման բարդ և տևական բնույթը, որն օգտագործում է փոքր, մշտապես աննկատ օգտագործողի վիրտուալ շարժառիթները՝ տարածելով մանիպուլացիաներ, որոնք կարող են մեծապես խաթարել մոլորությունները և սխալ որոշումներ՝ ազդելով բիզնեսների, կառավարությունների և անհատների վրա: Մայքրոսոֆթը ընդգծում է, որ այս սպառնալիքը չի սահմանափակվում իդեալով՝ այն իրական փորձություններ ունի։ Նշվում է, որ նման փորձեր արդեն կատարվել և հայտնաբերվել են, ինչը բարձրացնում է անհանգստությունը դրա տարածման վերաբերյալ, հատկապես երբ AI-ն ավելի սովորական դյուրանցում է: Քանի որ AI-ը կատարում է շոշափելի վերափոխիչ դեր՝ որոշումների ավտոմատացման մեջ, հարձակումներն այստեղ տեսնում են բարձր արժեքային թիրախ: Պատկերահյուսվում է, որ սպառնալիքները մեծանում են, քանի որ մարդիկ աճել են այդ համակարգերի նկատմամբ վստահությամբ՝ տվյալների վերլուծությունից մինչև ռազմավարական պլանավորում: AI-ի հաճախ աներևակայելի «շապիկ» բնույթը բարդացնում է կողմնակալության կամ մանիպուլյացիայի հայտնաբերը: Համայնքային անվտանգության առաջադեմ միջոցառումներ հաստատելու նպատակով Մայքրոսոֆթը կոչ է անում ուժեղացնել անվտանգային միջոցները AI- միջավայրում՝ ամուր ստուգումներ իրականացնել AI-ի ուսուցանման տվյալների գծով, մշտադիտարկում իրականացնել անսպասելի խորհուրդների առումով, ավելացնել օգտվողների իրազեկությունը և մշտական կառավարություն կատարելագործել AI-ի կիրառման և աշխատանքի համար: Այս նոր վտանգը միաժամանակ բարձրացնում է նաև AI- բարոյականության, պատասխանատվության և վստահելիության ընդերք մեծ մարտահրավերները, հատկապես այն ոլորտներում, ինչպիսիք են առողջապահությունը, ֆինանսները և հանրային ծառայությունները։ Օրգանիզացիաները և անհատները պետք է պահպանեն զգուշություն՝ նախքան ինչ-որ կարևոր որոշում ընդունելիս, օգտագործելով բազմաշերտ վավերացում։ Հետագա կանխարգելումը և անվտանգության բարեփոխումները թույլ կտան արագ հայտնաբերել և արձագանքել այս զարգացող վտանգներին՝ անվտանգության մասնագետների և հետաքննության հետ համատեղ։ Ներեց, Մայքրոսոֆթի բացահայտումը AI խորհուրդների թունավորման մասին հանդիսանում է զգուշացնող ազդանշան՝ նշելով, որ AI սերնդի սիբերհարձակման նոր տատանումները պահանջում են կանխարգելիչ անվտանգության ռազմավարություններ։ Սպառնալիքների սրընթաց աճին և AI-ի ավելի մեծ գործածությանը զուգընթաց, ակտիվ միջոցներ ձեռնարկելը և անվտանգության համալիր բարելավումները թույլ կտան պաշտպանել AI-ի սկզբունքային անձեռնմխելիությունն ու արդյունավետությունը՝ դրանք դարձնելով հուսալի գործընկեր, այլ ոչ թե մանիպուլյատիվ գործիք։
Watch video about
Մայքրոսոֆթը նախազգուշացնում է AI-մերածության թունավորումով կապ ունեցող կիբերհետհիվանդության մասին, որը ուղղված է AI համակարգերին
Try our premium solution and start getting clients — at no cost to you
