Последен доклад на ФБР разкрива рязък ръст на киберпрестъпленията, извършвани с помощта на изкуствен интелект, който причинява рекордни финансови загуби, оценени на 16, 6 милиарда долара. Това безпрецедентно число подчертава нарастващата опасност, която представлява злоупотребата с технологии за изкуствен интелект в злонамерени кибероперации. Докато напредъкът в изкуствения интелект стимулира иновации и ефективност в различни сектори, киберпрестъпниците експлоатират тези инструменти за извършване на атаки с по-голяма прецизност, мащаб и тайна, което прави традиционните мерки за киберсигурност все по-малко ефективни. Докладът посочва основните категории киберпрестъпления, основани на изкуствен интелект: 1. Фишинг атаки, управлявани от ИИ, при които ИИ създава много персонализирани и убедителни имейли, анализирайки данните на жертвите, увеличавайки процентите на успех. 2. Автоматизирано хакерство и откриване на уязвимости, използващи ИИ за бързо сканиране за слабости и стартиране на атаки без човешки контрол. 3. Похищения на личност чрез дълбоки фейкове и синтетични медии, използващи ИИ за имитиране на фигури с цел измама, дезинформация и социална инженерия. 4. Злонамерен софтуер, подобрен с ИИ, който динамично адаптира поведението си, за да избегне откриване от конвенционални мерки за сигурност. Загубите от 16, 6 милиарда долара включват кражба, плащания на откуп, оперативни прекъсвания и разходи по възстановяването. Здравеопазването, финансите, производството и критичната инфраструктура са особено засегнати заради ценните им данни и оперативна важност.

Медицинските организации, вече натоварени от COVID-19, срещат усилващи се атаки с изкупуване на данни, оптимизирани от ИИ, докато финансовите институции борят фалшиви транзакции, подпомогнати от ИИ и заобикалящи традиционните защити. Правителствените и правоохранителните служби се борят с бързината и сложността на тези атаки, което подчертава необходимостта от единен отговор в публичния и частния сектор. За да противодействат на тези заплахи, ФБР препоръчва цялостни стратегии за киберсигурност, които интегрират ИИ за защита и нападение. Предложенията включват използване на ИИ за откриване в реално време на заплахи, редовно актуализиране на софтуера, подобрено обучение на служителите срещу сложни фишинг атаки, актуализиране на плановете за реакция при инциденти за справяне с ИИ-засегнатите заплахи и развитие на партньорства между държавата и частния сектор за обмен на информация и съвместни действия. Докладът също така призовава за актуализиране на законодателните и регулаторни рамки, за да се справи с етичните и законови предизвикателства при използването на ИИ в киберпространството, като насърчава отговорното използване на изкуствения интелект за ограничаване на неговата криминална експлоатация. Предвид международния характер на киберпрестъпността, ФБР подчертава важността на международното сътрудничество — споделяне на информация, съвместни операции и хармонизиране на регулации — за ефективна борба с заплахите, подпомогнати от ИИ. Експертите предупреждават, че с развитието на ИИ, киберпрестъпниците ще намират нови начини за атака, което изисква непрекъснати инвестиции в изследвания, развитие и обучение на киберсигурността, за да се запази преднината в защитата. В обобщение, докладът на ФБР служи като сериозно предупреждение за правителствата, бизнеса и отделните хора. Историческите загуби подчертават спешната необходимост от радикално преосмисляне на подходите към киберсигурността чрез интегриране на защити базирани на ИИ, насърчаване на сътрудничество и повишаване на осведомеността. Неспособността да се адаптираме рискува да доведе до още по-големи финансови щети и прекъсвания в близко бъдеще, докато киберпрестъпленията, използващи ИИ, продължават да нарастват.