Yrityksillä saattaa olla olemassa kyberturvatiimejä, mutta monet eivät ole valmiita ymmärtämään, miten tekoälyjärjestelmät todellisuudessa epäonnistuvat, kertoo tekoälyn tietoturvatutkija. Sander Schulhoff, joka on kirjoittanut yhden ensimmäisistä prompt-tekniikan oppaista ja asiantuntija tekoälyjärjestelmien haavoittuvuuksista, totesi sunnuntaina julkaistussa "Lenny's Podcast" -podcastin jaksossa, että monilla organisaatioilla puuttuu asiantunteva henkilöstö ymmärtääkseen ja vähentääkseen tekoälyn tietoturvariskejä. Perinteiset kyberturvatiimit on koulutettu korjaamaan bugeja ja käsittelemään tunnettuja haavoittuvuuksia, mutta tekoäly käyttäytyy eri tavalla. "Voit korjata bugin, mutta et aivoa", Schulhoff selitti, korostaen sitä, mikä hän näkee perustavanlaatuisena ristiriitana siinä, miten turvatiimit lähestyvät ongelmia ja miten suuret kielimallit epäonnistuvat. "Siinä on ero siinä, miten tekoäly toimii ja miten perinteinen kyberturva toimii", hän lisäsi. Tämä kuilu käy ilmi käytännön käyttöönotossa. Kyberturvaekspertit saattavat tutkia tekoälyjärjestelmää teknisten ongelmien varalta ilman, että he huomioivat: "Entä jos joku manipuloisi tekoälyä tekemään jotain sopimatonta?" Schulhoff, joka hallitsee prompt-tekniikkaportaalia ja AI:n punainen tiimi -hackathonia, huomautti. Toisin kuin perinteinen ohjelmisto, tekoälyjärjestelmiä voidaan vaikuttaa kielen ja hienovaraisten ohjeiden avulla, hän painotti. Schulhoffin mukaan henkilöt, joilla on kokemusta sekä tekoälyn turvallisuudesta että perinteisestä kyberturvasta, tietäisivät, miten toimia, jos tekoälymalli huijataan tuottamaan haitallista koodia — esimerkiksi ajamalla koodi eristetyssä kontissa estääkseen tekoälyn tuotteen vahingoittamasta laajempaa järjestelmää. Hän uskoo, että tekoälyturvan ja perinteisen kyberturvan yhdistyminen on "kenties tulevaisuuden turvallisuustöitä". Tekoälyn turvallisuusstartupien nousu Schulhoff arvosteli myös monia tekoälyturvallisuus-startuppeja, jotka mainostavat suojareunuksia, mutta eivät tarjoa todellista suojaa.

Koska tekoälyjärjestelmiä voidaan manipuloida loputtomilla taktiikoilla, väitteet siitä, että nämä työkalut pystyvät "kaiken pysäyttämään", ovat harhaanjohtavia. "Se on täysin vääristeltyä", hän totesi, ja ennusti markkinan korjaavan itsensä, jolloin "näiden suojareunusten ja automaattisten punainen tiimi -yritysten tulot supistuvat dramaattisesti. " Tekoälyn turvallisuus-startupit ovat hyötyneet vahvasta sijoittajainteresta. Sekä suuret teknologiayritykset että riskisijoitusyhtiöt ovat sijoittaneet tähän sektoriin voimakkaasti, kilpailussa suojata tekoälyjärjestelmiään. Maaliskuussa Google osti kyberturvallisuus-startup Wiz:n 32 miljardilla dollarilla vahvistaakseen pilviturvapalveluitaan. Googlen toimitusjohtaja Sundar Pichai myönsi, että tekoäly tuo "uusia riskejä" aikaan, jolloin monipilvi- ja hybridijärjestelmät yleistyvät. “Hän lisäsi: ”Tässä yhteydessä organisaatiot etsivät kyberturvaratkaisuja, jotka parantavat pilviturvaa useissa pilviympäristöissä. ”