Viðtal Áður en gervigreind (AI) verður almennt útbreidd hjá fyrirtækjum, þurfa leiðtogar fyrirtækja að skuldbinda sig til stöðugs öryggisprófunarferlis sem sérsniðinn er að sérstökum einkennum AI-gerða. Þessi afstaða kemur frá forstjóra Chatterbox Labs, Danny Coleman, og tæknistjóra Stuart Battersby, sem rættu langlega við The Register um hversu seint fyrirtæki hafa verið að fara frá AI tilraunaverkefnum yfir í fulla framleiðsluútsetningu. „Fyrirtækjainntök eru aðeins um 10 prósent í dag, “ sagði Coleman. „McKinsey áætlar að þetta sé fjögurra billjón dala markaður. Hvernig ætlarðu nokkurn tímann að koma fram úr ef þú endalaust slærð út lausnir sem fólk veit ekki hvort sé öruggt að nota, eða ef þau eru ekki aðeins meðvitað um áhrif á fyrirtækið heldur einnig samfélagsleg áhrif?“ Hann bættist við, „Fólk innan fyrirtækja er ekki alveg tilbúið fyrir þessa tækni án viðeigandi stjórnunar og öryggis. “ Í janúar gaf ráðgjafafyrirtækið McKinsey út skýrslu sem skoðar ónotuð tækifæri gervigreindar (AI) í vinnuumhverfinu. Skýrslan, meðtitlinum „Superagency á vinnustaðnum: Það að styrkja fólk til að losa fullt potential AI“, lagði áherslu á aukin áhuga og fjárfestingar í AI-tækni en tók fram að samþættingartíminn er áfram hægur. „. . . að það sem þú verður að gera er að treysta ekki rökleysu hvort sem er frá söluaðila gerðarinnar eða öryggisstjórnunartæki, því öllum mun segið að þau séu rosalega örugð og traust. “ „Leiðtogar vilja styrkja fjárfestingar í AI og hraða þróun, en eiga erfitt með að finna leið til að tryggja að AI sé öruggt á vinnustaðnum, “ segir í skýrslu McKinsey. Coleman heldur fram að hefðbundin netöryggisstjórnun og öryggi AI séu tvær samtengdar skjalar en flestar öryggisdeildir hafa enn ekki náð að fylgja með og oft vanta sérfræðikunnáttu til að skilja einkenni AI-árásarsviða. Hann nefndi kaup Cisco á Robust Intelligence og Palo Alto Networks á Protect AI sem dæmi um fyrirtæki sem taka réttar aðferðir í notkun. Battersby lagði áherslu á að fyrirtæki sem ætli að koma AI á stóra skala verði að innleiða stöðugt prófunarferli sem byggir á því hvað AI þjónustan raunverulega gerir. „Fyrsta skrefið er að skilgreina hvað öryggi og traust þýðir fyrir þitt notkunartilvik, “ útskyrrði hann.

„Síðan verður að forðast að treysta eingöngu á fullyrðingar frá söluaðila gerðarinnar eða öryggisstjórnunartæki, því allir fullyrða að lausnir þeirra séu afar öruggar. “ Þessi varúðarmiðaða nálgun er mikilvæg, bætti Battersby við, því jafnvel staddir notendur AI kerfis geta valdið því að kerfið hegðar sér skaðlega. „Það sem við viljum koma á framfæri er að einungis öryggisfiltrar og öryggisgrindur duga ekki, “ sagði Coleman. „Þetta mun ekki breytast á næstunni. Lausnin þarf að vera mun lögð þéttur saman. “ Þó að þessi nálgun geti leitt til kostnaðar, heldur Battersby fram að stöðug prófun geti dregið úr kostnaði, til dæmis með því að sýna fram á að minni, ódýrari módúlur séu samt sem áður öruggar fyrir ákveðin notkunartilvik. Íslenskan texti heldur áfram neðan. . .