Companiile de inteligență artificială protejează adecvat omenirea de riscurile inteligenței artificiale?Conform unui nou raport de evaluare al Institutului Future of Life, o organizație non-profit din Silicon Valley, răspunsul este probabil nu. Pe măsură ce IA devine tot mai integrată în interacțiunile dintre oameni și tehnologie, apar potențiale amenințări—de la utilizarea chatboturilor IA pentru consiliere, urmată de deces prin suicid, până la atacuri cibernetice facilitate de IA. Se profilează și riscuri viitoare, printre care utilizarea IA în armament sau tentative de destabilizare a guvernelor. Cu toate acestea, există stimulente insuficiente pentru companiile de IA să prioritizeze siguranța globală. Institutul a publicat recent Indexul de Siguranță în IA, care urmărește direcționarea dezvoltării IA spre rezultate mai sigure și atenuarea amenințărilor existențiale, și evidențiază această problemă. Max Tegmark, președintele institutului și profesor la MIT, a menționat că companiile de IA funcționează ca singura industrie din SUA care produce tehnologii puternice fără reglementări, creând o „curse către jos”, unde siguranța este adesea neglijată. Cele mai bune note din index au fost doar C+, acordate pentru OpenAI, dezvoltatorul ChatGPT, și Anthropic, cunoscut pentru chatbotul Claude. Divizia de IA a Google, Google DeepMind, a primit un C. Note mai scăzute au fost D pentru Meta (compania mamă a Facebook), și xAI, fondată de Elon Musk, ambele cu sediul aproape de Palo Alto. De asemenea, companii chineze precum Z. ai și DeepSeek au obținut nota D. Alibaba Cloud a primit cea mai mică notă, D-. Companiile au fost evaluate pe baza a 35 de indicatori din șase categorii, precum siguranța existențială, evaluarea riscurilor și schimbul de informații. Evaluarea a combinat date disponibile public și răspunsuri la chestionare de la companii, evaluate de opt experți în IA, inclusiv academicieni și lideri din organizații. Este remarcabil că toate companiile au obținut scoruri sub medie în domeniul siguranței existențiale, care măsoară controale interne și strategii pentru prevenirea utilizării catastrofale a IA.

Raportul a menționat că nicio companie nu a demonstrat planuri credibile pentru a preveni pierderea controlului sau utilizarea abuzivă severă, pe măsură ce IA avansează spre inteligența generală și superinteligență. Atât Google DeepMind, cât și OpenAI și-au reiterat angajamentul față de siguranță. OpenAI a subliniat investițiile în cercetare de frontier pentru siguranță, teste riguroase și partajarea cadrelor de siguranță pentru a ridica standardele industriei. Google DeepMind a evidențiat abordarea sa bazată pe știință și protocoalele pentru atenuarea riscurilor grave de la modele avansate de IA înainte ca aceste riscuri să devină reale. În contrast, Institutul a subliniat că xAI și Meta dispun de cadre de gestionare a riscurilor, dar nu au angajamente suficiente pentru monitorizare și control sau investiții semnificative în cercetarea siguranței. Companiile precum DeepSeek, Z. ai și Alibaba Cloud nu au documentație publică privind strategicile de siguranță. Meta, Z. ai, DeepSeek, Alibaba și Anthropic nu au răspuns solicitărilor de comentarii. xAI a catalogat raportul drept „Minciuni ale Media Legacy”, iar avocatul lui Musk nu a răspuns la alte întrebări. Deși Musk sfătuiește și a finanțat Institutul Future of Life, nu a fost implicat în elaborarea Indexului de Siguranță în IA. Tegmark și-a exprimat îngrijorarea că insuficienta reglementare poate permite teroriștilor să dezvolte arme biologice, să crească potențialul manipulator peste nivelurile actuale sau să destabilizeze guverne. El a subliniat că rezolvarea acestor probleme este simplă: stabilirea unor standarde obligatorii de siguranță pentru companiile de IA. Deși unele inițiative guvernamentale urmăresc sporirea supravegherii IA, lobby-ul tehnologic s-a opus acestor reglementări, temându-se de încetarea inovației sau de migrarea companiilor. Cu toate acestea, legi precum SB 53 din California, semnată în septembrie de guvernatorul Gavin Newsom, impun companiilor să dezvăluie protocoale de siguranță și securitate și să raporteze incidente precum atacurile cibernetice. Tegmark consideră că această lege reprezintă un progres, dar cere acțiuni mult mai ample. Rob Enderle, analist principal la Enderle Group, a considerat Indexul de Siguranță în IA o abordare convingătoare pentru provocările de reglementare ale IA, dar și-a exprimat îndoiala cu privire la capacitatea administrației americane actuale de a implementa reglementări eficiente. El a avertizat că reguli prost gândite pot face mai mult rău și are îndoieli că există mecanisme de aplicare pentru a asigura conformitatea. În concluzie, Indexul de Siguranță în IA evidențiază faptul că marii dezvoltatori de IA nu au demonstrat încă angajamente solide pentru siguranță, subliniind urgent necesitatea unor reglementări mai stricte pentru a proteja omenirea de riscurile tot mai mari ale IA.