Si Kevin Mandia, tagapagbubuo ng kilalang kumpanya sa cybersecurity na Mandiant, ay naglabas ng seryosong babala tungkol sa hinaharap ng mga cyber banta. Nakikita niya na maaring maging totoo ang mga cyberattack na pinapagana ng AI sa loob ng susunod na taon. Ipinaliwanag ni Mandia na ang ganitong uri ng atake ay magdudulot ng malaking hamon sa mga eksperto sa cybersecurity dahil maaring gamitin ng mga salarin ang mga kasangkapan ng AI upang magsagawa ng mas sopistikadong pag-atake na halos hindi mahahalata o maitatala. Matagal nang nakababahala sa komunidad ng seguridad ang ideya ng mga cyber banta na pinapagana ng AI, ngunit ang mabilis na pag-unlad at malawak na pagtanggap sa mga generative AI na teknolohiya ay lubhang nagpalala sa mga alalahaning ito. Ang mga sistema ng generative AI ay kayang lumikha ng orihinal na nilalaman gaya ng teksto, larawan, at mga kumplikadong script na maaaring magamit upang mapahusay ang kakayahan sa likod ng mga cyberattack na mas flexible at mas adaptive. Binigyang-diin ni Mandia na ang pinaka-posibleng pinagmumulan ng mga AI-driven na cyberattack ay mga kriminal na organisasyon kaysa sa mga bansa. Mahalaga ang pagkakaibang ito dahil ang mga kriminal na grupo na madalas ay motivated ng pera ay mabilis na nakakasabay sa mga bagong teknolohiya upang magamit sa ilegal na gawain, samantalang ang mga bansa ay karaniwang may pang-stratehikong o pampulitikang layunin. Nakakapukaw-pansin, binanggit ni Mandia na ang mga prominenteng modelo ng AI mula sa mga kumpanya tulad ng OpenAI at Anthropic ay malamang na hindi direktang magagamit para sa masama dahil sa mga nakapaloob na pangangalaga at limitasyon na nilikha upang maiwasan ang pang-aabuso. Subalit, nananatiling mapanganib ang landscape ng cybersecurity dahil may mga mas kaunting regulasyon o bukas na mapagkukunan na AI na maaaring gamitin ng mga threat actor. Kasang-ayon sa pananaw na ito si Chester Wisniewski, isang respetadong eksperto sa cybersecurity mula sa Sophos, na nagsasabi na bagamat maaaring meron nang kakayahan ang mga salarin na gamitin ang AI sa mga atake, limitado pa rin ang kanilang insentibo na gawin ito sa ngayon.

Maaaring ito ay dahil sa mga hamon ng pagsasama ng AI sa kasalukuyang mga pamamaraang atake at sa kakulangan ng ekspertise sa paggamit ng ganitong mataas na antas ng teknolohiya. Bilang halimbawa, binanggit ni Mandia ang isang landmark na kaso noong 2001 kung saan ginamit ng mga hacker mula sa Russia ang automation sa online na panlilinlang, na nagdulot ng malaking pagtaas sa sakop at bisa ng kanilang mga iligal na gawain. Ipinapakita nito kung paano historically nag-aadapt ang mga cybercriminal sa mga bagong teknolohiya upang mapabuti ang kanilang operasyon, at ipinapakita rin na maaaring sundan ng AI ang ganitong landas. Sa kabila ng mga paprogresong banta, ang mga propesyonal sa cybersecurity ay may maingat na optimismo sa potensyal ng AI na mapabuti ang mga panseguridad na hakbang. Ang parehong mga teknolohiya ng AI na maaring magamit bilang armas ay ginagamit din upang mapabuti ang detection ng banta, awtomatikong tugon, at palakasin ang katatagan ng mga network. Ang kakayahan ng AI na mabilis na magsuri ng malaking datos at matukoy ang mga kakaibang na obserbahan ay nagbibigay ng promising na paraan upang maantala ang mga atake at mabawasan ang kanilang epekto. Sa kabuuan, ang larangan ng cybersecurity ay nasa isang kritikal na punto kung saan ang AI ay nagsisilbing parehong banta at malaking asset. Ang mga babala mula sa mga lider tulad ni Kevin Mandia ay nagsisilbing mahalagang paalala sa mga organisasyon at gobyerno na mag-invest nang maagap sa mga solusyon sa seguridad na pinapagana ng AI habang nananatiling alerto sa mas masisigasig na cyber threats. Habang umuunlad ang AI, kailangang umangkop din ang mga estratehiya upang maiwasan ang masamang paggamit nito, upang mapanatili ang isang mas ligtas na digital na kapaligiran para sa lahat.