კომპანიებს შესაძლოა ჰქონდეთ კიბერუსაფრთხოების გუნდები, თუმცა ბევრი მათგანი რჩება მოუმზადებელი იმ გზებისთვის, როგორითაც მყვაბლობენ AI სისტემები, აცხადებს AI უსაფრთხოების კვლევითი მკვლევარი. სენდი შულჰოფი, ერთ-ერთ პირველ უფროსობის სახელმძღვანელოს ავტორი და AI სისტემების ვნებულობის ექსპერტი, განაცხადა „ლენიჰის პოდკასტის“ უახლეს ეპიზოდში, რომელიც გამოქვეყნდა კვირას, რომ ბევრ ორგანიზაციას არ აქვს შესაბამისი პროფესიონალი პერსონალი, ოსტატები, რათა განმარტოს და თავიდან აიცილოს AI უსაფრთხოების საფრთხეები. ტრადიციული კიბერუსაფრთხოების გუნდი სწავლილია ბაგებისა და ცნობილი ვნებულობის მოდელების გამოსწორებისთვის, მაგრამ AI იცავენ სხვა წესებით. „შესაძლებელია ბაგის პათჩვა, მაგრამ ძნელია შეცვალო მეხსიერება, “ - განუცხადა შულჰოფმა, ხაზგასმით ისაუბრა იმაზე, თუ როგორ გრძნობს გამიჯვნის ლიდერი, რომელსაც იგი ხედავს, კიბერუსაფრთხოების გუნდების მიდგომებსა და როგორ ფლობენ დიდი ენის მოდელები. „არსებობს გამიჯვნა, როგორ ფუნქციონირებს AI და კლასიკური კიბერუსაფრთხოება, “ - დასძინა მან. ეს ფიქსაციები ცხადი ხდება პრაქტიკულ განლაგებაში. კიბერუსაფრთხოების ექსპერტები შეიძლება გამოწიკვიდნონ AI სისტემაზე ტექნიკური საკითხების გამო და არ გაითვალისწინოს: „რას თუ ვინმეს manipulateობს AI-ს, რათა მიიყვანოს რაიმეს არასწორუნდო გამართლებამდე?“ შულჰოპი, რომელიც მართავს პრომტ ინჟინერულ პლატფორმას და AI-ის რეј-თიმინგ ჰაკათონის, აღინიშნა. განსხვავებით ჩვეულებრივი პროგრამებიდან, AI სისტემებს შეიძლება ზემოქმედება მოახდინონ ენობრივი და მიუწვდომელი ინსტრუქციული საშუალებებით, მან ხაზგასმით აღნიშნა. შულჰოფი განაცხადა, რომ ადამიანები, ვთქვათ, AI უსაფრთხოებაში და ტრადიციულ კიბერუსაფრთხოებაში გამოცდილები, იციან როგორ უპასუხონ, თუ AI მოდელი დაპირებული გახდება ზიანის განსახიერებისთვის — მაგალითად, სქრიპტის განხორციელებისას იზოლირებულ კონტეინერში, რათა თავიდან აიცილოს AI-ის შედეგებმა ზიანი მიაყენოს სისტემის სხვა ნაწილებს. მისი აზრით, AI უსაფრთხოების და ტრადიციული კიბერუსაფრთხოების შეჯვარება წარმოადგენს „მომავალის უსაფრთხოების სამუშაოებს“. AI უსაფრთხოების სტარტაპების გამოჩენა შულჰოფი იხსენებს, რომ ბევრ AI უსაფრთხოების სტარტაპს უჭირთ სიკეთე სტანდარტული დაცვის ზღუდეებთან, რომლებიც უშედეგოა. რადგან AI სისტემები შესაძლოა manipulate-დეს უსასრულო მეთოდებით, მათი მტკიცებები, თითქოს ამ სისტემები „ყველაფერ იჭერს, “ ილუზიაა. „ეს სრულიად მცდალია, “ - განაცხადა მან, წინასწარმეტყველების მისია, რომ ბაზარი რევიზიონირებს და „ღირებულებები იკლებს ამ ზღუდეებისა და ავტომატური რე-თიმინგ კომპანიებისთვის. “ AI უსაფრთხოების სტარტაპები ფინანსურის კაპიტალის ძლიერი ინვესტიციებით სარგებლობენ.

როგორც Google სერიოზულად განახორციელებს ინვესტიციებს ამ სექტორში, ისე ვენჩურული კაპიტალის კომპანიებიც. მარტში Google-მა შეიძინა საიბერ უსაფრთხოების სტარტაპი Wiz 32 მილიარდი დოლარით, რათა გააუმჯობესოს თავისი კლაუდის უსაფრთხოების სერვისები. Google-ის მთავარი აღმასრულებელი სუნდარ პიჩაი აღიარა, რომ AI აყენებს „ახალ რისკებს“, რადგან მრავალკლაუდული და ჰიბრიდული გარემო წარმოიქმნება უფრო გავრცელებულად. „ამ კონტექსტში, ორგანიზაციები ეძებენ კიბერუსაფრთხოების გადაწყვეტებს, რომლებიც ზრდიან კლაუდის უსაფრთხოებას მრავალფეროვან კლაუდებზე, “ – დასძინა მან.