Interviu Înainte ca inteligența artificială să devină răspândită în întreprinderi, liderii corporativi trebuie să se angajeze într-un regim de testare continuă a securității, adaptat la nuanțele specifice ale modelelor de AI. Această perspectivă provine de la CEO-ul Chatterbox Labs, Danny Coleman, și CTO-ul Stuart Battersby, care au discutat pe larg cu The Register despre motivele pentru care companiile au fost până acum lente în a trece de la programe pilot de AI la implementarea deplină în producție. „Adoptarea în întreprinderi este astăzi de doar aproximativ 10 la sută, ” a spus Coleman. „McKinsey estimează că este o piață de patru trilioane de dolari. Cum veți avansa dacă continuați să lansați soluții despre care oamenii nu știu dacă sunt sigure de folosit sau dacă nu sunt conștienți nu doar de impactul asupra întreprinderii, ci și de impactul social?” El a adăugat, „Oamenii din interiorul întreprinderilor nu sunt încă pe deplin pregătiți pentru această tehnologie fără o guvernanță și o securitate adecvate. ” În ianuarie, firma de consultanță McKinsey a publicat un raport care analizează potențialul neexploatat al inteligenței artificiale (AI) în mediul de lucru. Raportul, intitulat „Superagenția în mediul de lucru: Împuternicirea oamenilor pentru a debloca întregul potențial al AI”, a evidențiat interesul crescut și investițiile în tehnologiile AI, dar a remarcat că ritmul de adoptare rămâne lent. „. . . ce trebuie făcut este să nu te bazezi pe retorica fie a furnizorului de modele, fie a celui de bariere de siguranță, pentru că toți îți vor spune că soluțiile lor sunt extrem de sigure și securizate. ” „Liderii doresc să stimuleze investițiile în AI și să accelereze dezvoltarea, dar au dificultăți în a asigura siguranța AI-ului în mediul de lucru, ” afirmă raportul McKinsey. Coleman susține că domeniile securității cibernetice tradiționale și securitatea AI se intersectează, însă majoritatea echipelor de securitate a informațiilor încă trebuie să recupereze și adesea le lipsește expertiza necesară pentru a înțelege suprafețele de atac unice ale AI-ului. El a citat achiziția Robust Intelligence de către Cisco și cumpărarea Protect AI de către Palo Alto Networks ca exemple de companii care adoptă strategiile potrivite. Battersby a accentuat faptul că organizațiile care doresc să implementeze AI la scară largă trebuie să pună în aplicare un regim de teste continue bazat pe ceea ce performează serviciul de AI în realitate. „Primul pas este să definești ce înseamnă sigur și securizat pentru cazul tău de utilizare specific, ” a explicat el.

„Apoi trebuie să eviți să te bazezi exclusiv pe afirmațiile furnizorului de model sau ale celui de bariere de siguranță, deoarece toți afirmă că soluțiile lor sunt extrem de sigure. ” Această prudență este esențială, a subliniat Battersby, deoarece chiar și utilizatorii autorizați ai unui sistem AI pot provoca comportamente dăunătoare. „Tot ceea ce dorim să transmitem este că filtrele de siguranță a conținutului și barierele de protecție singure nu sunt suficiente, ” a spus Coleman. „Aceasta nu se va schimba în curând. Soluția trebuie să fie mult mai stratificată. ” Deși această abordare poate genera costuri, Battersby susține că testarea continuă poate reduce cheltuielile, de exemplu, demonstrând că modele mai mici și mai ieftine sunt totuși sigure pentru anumite cazuri de utilizare. Interviul complet continuă mai jos…