Perspektiva Altmana o usklađivanju AI i sigurnosnim zabrinutostima
Brief news summary
Kako zabrinutost zbog mogućnosti da AI sistemi postanu nepredvidivi raste, regulatorne diskusije postaju sve hitnije. Izvršni direktor OpenAI-a, Sam Altman, priznaje izazov usklađivanja AI-a s ljudskim vrijednostima. Iako AI može pomoći u razumijevanju tih vrijednosti, usklađivanje ostaje teško. Napori u dizajnu moraju biti fokusirani na ovu oblast kako bi se spriječile negativne posljedice. OpenAI sarađuje s vladom, ali napredak na ključnom zakonodavstvu o sigurnosti AI-a, kao što je prijedlog Kalifornije da se AI developeri smatraju odgovornima, odvija se sporo. Stručnjaci poput Geoffreyja Hintona i Elona Muska naglašavaju važnost maksimiziranja koristi od AI-a uz oprez prema njegovim rizicima. Organizacije kao što je Centar za istraživanje usklađivanja bave se ovim izazovima, stavljajući naglasak na sigurnost AI-a. Superalignment tim OpenAI-a posvećen je sprečavanju štete povezane s AI-om. Iako su neki članovi napustili tim 2023. godine zbog neslaganja oko prioriteta sigurnosti, Altman je optimističan u pogledu budućnosti AI-a, naglašavajući potrebu za balansiranjem brzog razvoja i sigurnosnih razmatranja.Altman je optimističan, ali nije potpuno siguran da se AI sistemi mogu uskladiti sa ljudskim vrijednostima. U jednom intervjuu sugerisao je da bi stvaranje AI-ja idealno trebalo biti državni projekat, ali pošto nije, upravljano je kao američka inicijativa. Uprkos ograničenim državnim akcijama na polju sigurnosti AI-ja, neki pokušaji, poput odbijenog kalifornijskog zakona, pokazuju nastojanja za regulaciju. Istaknute ličnosti kao što su Geoffrey Hinton i Elon Musk izrazile su zabrinutost zbog rizika koje AI predstavlja za čovječanstvo. Pojavljuju se organizacije koje se bave ovim sigurnosnim pitanjima.
Altman vjeruje da je usklađivanje AI-ja izvodljivo, sugerišući da bi AI mogao ocjenjivati javne vrijednosti kroz interakcije kako bi zaštitio čovječanstvo. Bivši interni tim OpenAI-ja fokusirao se na superusklađivanje, ali neslaganja oko sigurnosnih prioriteta dovela su do promjena, pri čemu su ključni članovi napustili tim. Ova pitanja naglašavaju značajnu odgovornost koja leži na AI developerima za zaštitu budućnosti čovječanstva.
Watch video about
Perspektiva Altmana o usklađivanju AI i sigurnosnim zabrinutostima
Try our premium solution and start getting clients — at no cost to you
