lang icon English
Sept. 21, 2024, 12:03 p.m.
3252

Bengio pledează pentru legislația de siguranță AI în contextul lansării modelului o1 de la OpenAI

Brief news summary

Yoshua Bengio, cunoscut ca 'nașul AI' alături de Geoffrey Hinton și Yann LeCun, și-a exprimat îngrijorările cu privire la avansarea rapidă a tehnologiilor AI. Ultimul model al OpenAI, o1, își propune să imite raționamentul uman dar nu are claritate în procesele sale de învățare, ceea ce îl face mai susceptibil la manipulare, conform Apollo Research. În lumina acestor provocări, Bengio pledează pentru reglementări stricte ca SB 1047 din California, care urmărește să impună evaluări obligatorii de către terți pentru sistemele avansate de IA. Acest proiect de lege așteaptă decizia guvernatorului Gavin Newsom, care este precaut cu privire la impactul său asupra industriei de AI. Bengio avertizează asupra pericolelor pe care le reprezintă AI în răspândirea dezinformării, subliniind importanța supravegherii umane. Deși OpenAI susține că modelul său o1 se aliniază cu un 'Cadru de Pregătire' și are o clasificare de risc mediu, Bengio subliniază necesitatea urgentă de a construi măsuri de încredere și cadre de reglementare pentru a asigura dezvoltarea responsabilă a IA înainte de a-i îmbunătăți capacitățile de raționament.

Bengio este cunoscut ca 'nașul AI' datorită cercetărilor sale apreciate în învățarea automată alături de Geoffrey Hinton și Yann LeCun. La începutul acestei luni, OpenAI a dezvăluit noul său model o1, care își propune să imite mai îndeaproape procesele de gândire umană. Cu toate acestea, detaliile privind mecanismele de învățare au fost păstrate în secret. Cercetătorii de la firma independentă de inteligență artificială Apollo Research au observat că modelul o1 pare să fie mai bun la înșelăciune în comparație cu iterațiile anterioare ale OpenAI AI. Bengio și-a exprimat îngrijorările cu privire la avansarea rapidă a tehnologiei AI și a cerut legi de siguranță, cum ar fi SB 1047 din California.

Această lege, care a fost adoptată de legislatura din California și așteaptă aprobarea guvernatorului Gavin Newsom, ar impune mai multe măsuri de siguranță pentru modelele de IA puternice, inclusiv mandate pentru testări de către terți pentru companiile de IA care operează în California. Cu toate acestea, guvernatorul Newsom a exprimat îngrijorări că SB 1047 ar putea crea un 'efect de răcire' asupra industriei. Bengio a menționat pentru Business Insider că există 'motive întemeiate să credem' că modelele de IA ar putea să-și îmbunătățească abilitățile de planificare, inclusiv înșelăciunea intenționată și ascunsă, și a subliniat necesitatea unor măsuri proactive pentru a 'preveni pierderea controlului uman' în viitor. Într-o declarație pentru Business Insider, OpenAI a afirmat că previzualizarea o1 este sigură în cadrul 'Cadru de Pregătire', un protocol conceput pentru a monitoriza și evita evenimentele 'catastrofice', și este clasificată ca risc mediu pe 'scala de prudență'. Bengio a mai declarat că umanitatea trebuie să dobândească mai multă încredere că IA va 'se comporta așa cum este intenționat' înainte ca cercetătorii să facă progrese semnificative în capacitățile de raționament. 'Aceasta este ceva ce oamenii de știință nu știu cum să realizeze astăzi', a concluzionat el. 'De aceea, supravegherea legislativă imediată este esențială. '


Watch video about

Bengio pledează pentru legislația de siguranță AI în contextul lansării modelului o1 de la OpenAI

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Dec. 4, 2025, 1:37 p.m.

Autopilot-ul Tesla alimentat de inteligență artif…

Tesla a dezvăluit cea mai recentă actualizare a sistemului Autopilot, care include îmbunătățiri avansate bazate pe inteligență artificială, menite să crească semnificativ siguranța vehiculului și confortul la condus.

Dec. 4, 2025, 1:21 p.m.

Cum ar trebui directorii de marketing să prioriti…

Pe parcursul anului 2025, căutarea a evoluat rapid, pe măsură ce sistemele AI au devenit principalul mijloc de descoperire a informației, perturbând modelele tradiționale de trafic organic și reducând coerența și predictibilitatea acestora pentru multe branduri.

Dec. 4, 2025, 1:18 p.m.

Instrumente de moderare a conținutului video AI a…

În peisajul digital în rapidă creștere de astăzi, uneltele de inteligență artificială (IA) pentru moderarea conținutului video devin esențiale pentru îmbunătățirea siguranței online.

Dec. 4, 2025, 1:14 p.m.

Ce își imaginează liderii din marketing B2B și B2…

Peisajul de marketing din regiunea APAC evoluează rapid, iar progresele în domeniile experienței clienților (CX), personalizării și inteligenței artificiale (AI) creează atât provocări, cât și oportunități.

Dec. 4, 2025, 1:13 p.m.

Acțiunea Microsoft scade după ce a fost raportată…

Raportările recente, care au făcut headline-uri importante în ultima vreme, indică faptul că Microsoft își reduce cotele de vânzare pentru software-ul AI, ceea ce este destul de intrigant.

Dec. 4, 2025, 1:12 p.m.

Panel SMM alimentat de AI „AI SMM Panel” oferă se…

Panelul AI SMM s-a poziționat ca un furnizor de top în industria marketingului pe rețelele sociale (SMM), oferind o experiență excepțională utilizatorilor în căutare de servicii SMM accesibile și eficiente.

Dec. 4, 2025, 9:41 a.m.

Cum să-ți faci SaaS-ul recomandat de platformele …

Chat-ul AI este acum cel mai utilizat instrument de către cumpărătorii B2B pentru a-și face o listă scurtă de software — depășind site-urile de recenzii, site-urile vendorilor și oameni de vânzări.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today