Entrevista Antes que a IA se torne comum nas empresas, os líderes corporativos precisam se comprometer com uma rotina contínua de testes de segurança, ajustada às nuances específicas dos modelos de IA. Essa perspectiva vem do CEO da Chatterbox Labs, Danny Coleman, e do CTO, Stuart Battersby, que discutiram detalhadamente com o The Register por que as empresas, até agora, têm sido lentas em fazer a transição de programas piloto de IA para uma implantação completa em produção. "Adoção por empresas hoje é de apenas cerca de 10%", afirmou Coleman. "A McKinsey estima que seja um mercado de quatro trilhões de dólares. Como você irá avançar se continuar lançando soluções que as pessoas não sabem se são seguras para usar, ou se elas não estão conscientes não só do impacto empresarial, mas também do impacto social?" Ele acrescentou: "As pessoas dentro das empresas não estão exatamente preparadas para essa tecnologia sem uma governança e segurança adequadas. " Em janeiro, a consultoria McKinsey publicou um relatório analisando o potencial não aproveitado da inteligência artificial (IA) no ambiente de trabalho. O relatório, intitulado "Superagency no local de trabalho: capacitando as pessoas a desbloquear o potencial completo da IA", destacou o interesse crescente e o investimento em tecnologias de IA, mas observou que o ritmo de adoção permanece lento. ". . . o que você precisa fazer é não confiar na retórica de tanto o fornecedor do modelo quanto o fornecedor das barreiras de segurança, porque todo mundo vai dizer que é super seguro e protegido. " "Os líderes querem aumentar os investimentos em IA e acelerar o desenvolvimento, mas têm dificuldades em garantir que a IA seja segura no ambiente de trabalho, " afirma o relatório da McKinsey. Coleman defende que a segurança cibernética tradicional e a segurança em IA são áreas que se cruzam, mas a maior parte das equipes de segurança da informação ainda não acompanhou esse desenvolvimento e muitas vezes carece da expertise necessária para compreender as superfícies de ataque únicas da IA. Ele citou a aquisição da Robust Intelligence pela Cisco e a compra da Protect AI pela Palo Alto Networks como exemplos de empresas que estão adotando as estratégias corretas. Battersby destacou que as organizações que desejam implantar IA em larga escala precisam implementar uma rotina de testes contínuos baseada no que o serviço de IA realmente realiza. "O primeiro passo é definir o que significa seguro e confiável para o seu caso de uso específico, " explicou.

"Depois, é preciso evitar confiar unicamente nas afirmações do fornecedor do modelo ou do fornecedor das barreiras de segurança, pois todos afirmam que suas soluções são extremamente seguras. " Essa cautela é fundamental, reforçou Battersby, porque até usuários autorizados de um sistema de IA podem fazer com que ele se comporte de forma prejudicial. "O que queremos comunicar é que filtros de segurança de conteúdo e barreiras de proteção sozinhos não são suficientes, " disse Coleman. "Isso não mudará tão cedo. A solução precisa ser muito mais estruturada em camadas. " Embora essa abordagem possa encarecer, Battersby argumenta que testes contínuos podem reduzir custos ao demonstrar, por exemplo, que modelos menores e menos custosos ainda são seguros para determinados casos de uso. A entrevista completa continua abaixo. . .