Intervista Prima che l'IA diventi diffusa nelle imprese, i leader aziendali devono impegnarsi in un regime continuo di testing della sicurezza, progettato secondo le sfumature specifiche dei modelli di IA. Questa opinione viene da Danny Coleman, CEO di Chatterbox Labs, e Stuart Battersby, CTO, che hanno discusso a lungo con The Register sul motivo per cui le aziende finora siano state lente nel passaggio dai programmi pilota di IA all'implementazione completa in produzione. "Ad oggi, l'adozione a livello aziendale è di circa il 10 percento, " ha detto Coleman. "McKinsey stima che sia un mercato da quattro trilioni di dollari. Come si farà mai progresso se continuiamo a rilasciare soluzioni di cui le persone non sanno se sono sicure da usare, o se non sono consapevoli non solo dell'impatto sulle imprese, ma anche dell'impatto sociale?" Ha aggiunto, "Le persone all’interno delle imprese non sono ancora pronte per questa tecnologia senza una corretta governance e sicurezza. " A gennaio, la società di consulenza McKinsey ha pubblicato un rapporto che esamina il potenziale inespresso dell'intelligenza artificiale (IA) sul posto di lavoro. Il rapporto, intitolato "Superagenzia sul posto di lavoro: Potenziare le persone per sbloccare il pieno potenziale dell’IA, " ha evidenziato l'interesse e gli investimenti crescenti nelle tecnologie IA, ma ha anche notato che il ritmo di adozione rimane lento. ". . . quello che bisogna fare è non fidarsi della retorica di nessuno dei fornitori del modello o dei dispositivi di sicurezza, perché tutti diranno che sono estremamente sicuri e affidabili. " "I leader vogliono aumentare gli investimenti nell’IA e accelerare lo sviluppo, ma fanno fatica a capire come garantire che l’IA sia sicura sul posto di lavoro, " afferma il rapporto di McKinsey. Coleman sostiene che la cybersecurity tradizionale e la sicurezza dell’IA sono campi che si intersecano, ma la maggior parte dei team di sicurezza informatica deve ancora aggiornarsi e spesso manca delle competenze necessarie per comprendere le superfici di attacco uniche dell’IA. Ha citato come esempi le acquisizioni di Cisco di Robust Intelligence e di Palo Alto Networks di Protect AI come strategie adottate dalle aziende. Battersby ha sottolineato che le organizzazioni che intendono implementare l’IA su larga scala devono adottare un regime di test continuo basato su ciò che il servizio di IA effettivamente fa. "Il primo passo è definire cosa significa sicuro e protetto per il tuo caso d’uso specifico, " ha spiegato.

"Poi devi evitare di fare affidamento esclusivamente alle affermazioni del fornitore del modello o del fornitore di dispositivi di sicurezza, perché tutti affermano che le loro soluzioni sono estremamente sicure. " Questa precauzione è fondamentale, ha evidenziato Battersby, perché anche utenti autorizzati di un sistema di IA possono farlo comportare in modo dannoso. "Quello che vogliamo comunicare è che i filtri di sicurezza dei contenuti e le barriere di sicurezza da soli non sono sufficienti, " ha detto Coleman. "Questo non cambierà a breve. La soluzione deve essere molto più stratificata. " Pur potendo comportare costi, Battersby sostiene che il testing continuo può ridurre le spese, ad esempio dimostrando che modelli più piccoli e meno costosi sono comunque sicuri per alcuni casi d’uso. L'intervista completa prosegue di seguito…