As empresas de IA estão protegendo adequadamente a humanidade dos riscos da inteligência artificial?Segundo uma nova avaliação do Future of Life Institute, uma organização sem fins lucrativos do Vale do Silício, a resposta provavelmente é não. À medida que a IA se torna cada vez mais integrada às interações humanas com a tecnologia, os riscos potenciais começam a surgir — desde pessoas usando chatbots de IA para aconselhamento e, posteriormente, morrendo por suicídio, até ataques cibernéticos habilitados por IA. Riscos futuros também se aproximam, incluindo o uso de IA em armamentos ou tentativas de desestabilizar governos. No entanto, há incentivos insuficientes para que as empresas de IA priorizem a segurança global. O Índice de Segurança de IA, recentemente divulgado pelo Instituto e que busca orientar o desenvolvimento de IA para resultados mais seguros e mitigar ameaças existenciais, destaca essa questão. Max Tegmark, presidente do Instituto e professor do MIT, observou que as empresas de IA operam como a única indústria nos EUA produzindo tecnologias poderosas sem regulamentação, criando uma “corrida para o fundo” onde a segurança é frequentemente negligenciada. As notas mais altas no índice foram apenas C+, concedidas à OpenAI, desenvolvedora do ChatGPT, e à Anthropic, conhecida por seu chatbot Claude. O setor de IA do Google, Google DeepMind, recebeu uma nota C. Notas mais baixas incluíram um D para a Meta (empresa-mãe do Facebook) e a xAI de Elon Musk, ambos sediados perto do Vale do Silício. Empresas chinesas como Z. ai e DeepSeek também receberam um D. A Alibaba Cloud obteve a classificação mais baixa, D-. As empresas foram avaliadas usando 35 indicadores de seis categorias, como segurança existencial, avaliação de riscos e compartilhamento de informações. A avaliação combinou dados disponíveis publicamente e respostas de questionários das empresas, pontuadas por oito especialistas em IA, incluindo acadêmicos e líderes de organizações. Notavelmente, todas as empresas receberam notas abaixo da média em segurança existencial, que mede controles internos e estratégias para prevenir uso catastrófico da IA.

O relatório afirmou que nenhuma delas demonstrou planos credíveis para evitar perda de controle ou uso severo à medida que a IA avança para a inteligência geral e superinteligência. Tanto a Google DeepMind quanto a OpenAI afirmaram seu compromisso com a segurança. A OpenAI destacou seu investimento em pesquisa de segurança de fronteira, testes rigorosos e compartilhamento de estruturas de segurança para elevar os padrões do setor. A Google DeepMind ressaltou sua abordagem baseada na ciência e protocolos para mitigar riscos graves de modelos avançados de IA antes que esses riscos se manifestem. Por outro lado, o Instituto destacou que a xAI e a Meta possuem estruturas de gestão de riscos, mas carecem de compromissos adequados de monitoramento e controle ou de investimentos notáveis em pesquisa de segurança. Empresas como DeepSeek, Z. ai e Alibaba Cloud não têm documentação pública disponível sobre suas estratégias de segurança. Meta, Z. ai, DeepSeek, Alibaba e Anthropic não responderam às solicitações de comentário. A xAI descartou o relatório como “Mentiras da Mídia Legacy”, e o advogado de Musk não respondeu a novos questionamentos. Embora Musk aconselhe e tenha financiado o Future of Life Institute, ele não esteve envolvido na elaboração do Índice de Segurança de IA. Tegmark expressou preocupação de que a regulamentação insuficiente pode permitir que terroristas desenvolvam armas biológicas, aumentem o potencial manipulador além dos níveis atuais ou desestabilizem governos. Ele enfatizou que a resolução dessas questões é simples: estabelecer normas de segurança vinculantes para as empresas de IA. Embora alguns esforços governamentais busquem melhorar a fiscalização da IA, o lobby do setor tecnológico tem se oposto a tais regulamentações, temendo sufocar a inovação ou a migração de empresas. Mesmo assim, legislações como a SB 53 da Califórnia, sancionada pelo governador Gavin Newsom em setembro, obrigam as empresas a divulgar seus protocolos de segurança e relatar incidentes como ataques cibernéticos. Tegmark considera essa lei um avanço, mas reforça que ações substanciais ainda são necessárias. Rob Enderle, analista principal do Enderle Group, achou o Índice de Segurança de IA uma abordagem convincente para os desafios regulatórios da IA, mas questionou a capacidade da administração dos EUA atual de implementar regulamentações eficazes. Ele alertou que regras mal elaboradas podem causar danos e duvidou que mecanismos de fiscalização atualmente existam para garantir o cumprimento. Em suma, o Índice de Segurança de IA revela que os principais desenvolvedores de IA ainda não demonstraram compromissos sólidos com a segurança, destacando a necessidade urgente de regulamentações mais rigorosas para proteger a humanidade dos riscos crescentes da inteligência artificial.