lang icon English
Nov. 21, 2024, 9:51 p.m.
1929

Altmanov pogled na usklađivanje veštačke inteligencije i sigurnosne zabrinutosti

Brief news summary

Zbog sve većih zabrinutosti da bi AI sistemi mogli postati nekontrolisani, regulatorne diskusije su postale hitne. CEO OpenAI Sem Altman priznaje izazov usklađivanja AI sa ljudskim vrednostima. Iako AI može pomoći u razumevanju ovih vrednosti, usklađivanje ostaje teško. Dizajnerski napori moraju se fokusirati na ovo kako bi se sprečili negativni ishodi. OpenAI sarađuje sa vladom, ali napredak u osnovnom zakonodavstvu o bezbednosti AI, poput kalifornijskog predloga da AI programeri budu odgovorni, je spor. Stručnjaci, kao što su Džefri Hinton i Ilon Mask, ističu važnost maksimiziranja koristi od AI uz opreznost prema rizicima. Organizacije kao što je Alignment Research Center bave se ovim izazovima, ističući bezbednost AI. Superalignment tim OpenAI-a posvećen je sprečavanju štete povezane sa AI. Iako je nekoliko članova napustilo tim 2023. godine zbog neslaganja o prioritetima bezbednosti, Altman je optimističan u vezi sa budućnošću AI, naglašavajući potrebu za balansiranjem brzog razvoja sa bezbednosnim razmatranjima.

Altman je optimističan, ali nije potpuno siguran da se AI sistemi mogu uskladiti sa ljudskim vrednostima. U intervjuu je sugerisao da bi stvaranje AI, u idealnom slučaju, trebalo da bude projekat države, ali pošto nije, vodi se kao američka inicijativa. Uprkos ograničenim vladinim akcijama u vezi sa bezbednošću AI, neki pokušaji, poput kalifornijskog zakona koji je stavljen veto, pokazuju napore za donošenje zakona. Istaknute ličnosti kao što su Geoffrey Hinton i Elon Musk izrazile su zabrinutost da AI predstavlja rizik za čovečanstvo. Organizacije su se pojavile kako bi se pozabavile ovim bezbednosnim pitanjima.

Altman veruje da je usklađivanje AI izvodljivo, sugerišući da bi AI mogao da proceni javne vrednosti kroz interakcije kako bi zaštitio čovečanstvo. Interni tim OpenAI-a koji se fokusirao na supralignaciju imao je neslaganja oko prioriteta bezbednosti, što je dovelo do promena, pri čemu su ključni članovi napustili tim. Ova pitanja naglašavaju značajnu odgovornost na razvojnim timovima AI za očuvanje budućnosti čovečanstva.


Watch video about

Altmanov pogled na usklađivanje veštačke inteligencije i sigurnosne zabrinutosti

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Nov. 4, 2025, 9:30 a.m.

Palantir prikazuje zabrinutost oko procene vredno…

Palantir Technologies Inc.

Nov. 4, 2025, 9:27 a.m.

Google-ova AI-generisana TV reklama za AI režim p…

Google je pokrenuo svoju prvu televizijsku reklamu koja je potpuno kreirana pomoću veštačke inteligencije, što predstavlja značajan korak u spajanju AI tehnologije sa marketingom i oglašavanjem.

Nov. 4, 2025, 9:22 a.m.

Pretražite šta je Atlasov OTTO SEO osvojio kao na…

Pobediti na konkursu za najbolji AI softver za pretragu potvrda je ogromnog truda uloženog u OTTO i vizije koju dele svi u Search Atlasu, izjavio je Manick Bhan, osnivač, izvršni direktor i CTO Search Atlasa.

Nov. 4, 2025, 9:16 a.m.

Alatke za uređivanje video snimaka uz pomoć vešta…

Svet kreiranja video sadržaja doživljava duboku transformaciju zahvaljujući alatima za uređivanje videa koje pokreće veštačka inteligencija, koji automatski obavljaju razne faze uređivanja kako bi kreatorima pomogli da brže i jednostavnije proizvedu profesionalne video snimke.

Nov. 4, 2025, 9:15 a.m.

Istraživanje veštačke inteligencije kompanije Met…

Meta Tim za istraživanje veštačke inteligencije postigao je značajne prekretnice u razumevanju prirodnog jezika, što predstavlja veliki napredak u razvoju sofisticiranih AI jezičkih modela.

Nov. 4, 2025, 5:28 a.m.

Goku: Otvoreno rješenje Kine za Soru?

Područje AI pretvaranja teksta u video brzo napreduje, sa probojima koji šire mogućnosti.

Nov. 4, 2025, 5:23 a.m.

Anketa otkriva sve veću ulogu veće veštačke intel…

Недавна студија Интерктивне Адвертинг Аборџиције (IAB) и Talk Shoppe, објављена 28.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today