lang icon English
Sept. 17, 2024, 3 p.m.
2989

OpenAI saskaras ar kritiku par Zemeņu AI modeļu spriešanas slepenību

Brief news summary

OpenAI ir atklājusi savu jauno “Zemenes” AI modeļu ģimeni, kas ietver o1-preview un o1-mini, kuru mērķis ir uzlabot spriešanas spējas. Būtiskas izmaiņas šajā izlaidumā ir OpenAI neizvairīšana no lietotāju pētījumiem par modeļu iekšējiem spriešanas procesiem. o1 modelis veicina soli pa solim problēmu risināšanas pieeju, vienlaikus saglabājot savas tehnikas noslēpumā, piesaistot tehnikas entuziastiem un hakeriem, kuri vēlas pārbaudīt tās robežas. Tomēr OpenAI brīdina, ka tādu aspektu kā 'spriešanas celiņš' izpēte pārkāpj pakalpojumu politiku. Kritiķi, tostarp sarkanās komandas eksperts Marko Figeroa, apgalvo, ka šādi ierobežojumi varētu kavēt svarīgus drošības pētījumus. OpenAI aizstāv savu pozīciju, uzsverot, ka nepieciešams nepieļaut ļaunprātīgu izmantošanu un aizsargāt komerciālas intereses. Tomēr nozares speciālisti izsaka bažas, ka modeļu caurspīdības trūkums varētu kavēt inovācijas un kaitēt uzticamībai AI kopienā. Viņi brīdina, ka konkurences priekšrocības prioritizēšana par atklātību varētu traucēt nozīmīgam dialogam par AI attīstību, galu galā kavēt sadarbību un progresu nozarē.

OpenAI ir ļoti slepena attiecībā uz tās jaunāko AI modeli, “Zemenes” ģimeni, īpaši attiecībā uz tā spriešanas spējām o1-preview un o1-mini versijās. Kopš to izlaišanas pagājušajā nedēļā kompānija ir nosūtījusi brīdinājuma e-pastus lietotājiem, kas cenšas izpētīt, kā modelis darbojas, kas netika novērots ar agrākiem modeļiem kā GPT-4o. o1 modeļi ir speciāli izstrādāti, lai sekotu sistemātiskai problēmu risināšanas metodei pirms atbildes sniegšanas. Lai gan lietotāji var izvēlēties apskatīt spriešanas procesu ChatGPT, OpenAI apzināti aizklāj neapstrādātu domu procesu, piedāvājot tikai filtrētu versiju, ko radījis cits AI. Šis caurspīdības trūkums ir izraisījis interesi starp hakeriem un sarkanās komandas dalībniekiem, kas vēlas atklāt pamatīgu spriešanas procesu, izmantojot tehnikas kā jailbreaking un prompt injection. Daži agrīnie panākumi ir ziņoti, bet nekas noteikts nav parādījies.

Tikmēr OpenAI cieši novēro mēģinājumus iedziļināties spriešanas aspektā, izsniedzot brīdinājumus lietotājiem, kuri min tādus terminus kā 'spriešanas celiņš'. Brīdinājumi ir izcēluši politikas pārkāpumus pret drošības pasākumu apiešanu, brīdinot, ka atkārtoti pārkāpumi var novest pie modeļa pieejas zaudēšanas. Kritiķi, tostarp Marko Figeroa, apgalvo, ka šādas politikas kavē derīgu pētījumu par modeļa drošību. Bloga ierakstā ar nosaukumu “Mācīties Spriest Ar LLMs, ” OpenAI apspriež, kā slēptu domu ķēžu uzraudzība var sniegt ieskatu modeļa procesos. Tomēr viņi uzskata, ka šīs informācijas dalīšana ar lietotājiem varētu apdraudēt gan lietotāju pieredzi, gan konkurences priekšrocības. Neatkarīgs AI pētnieks Simons Vilisons ir paudis bažas par caurspīdības trūkumu, apgalvojot, ka lēmums liedz kopienai iegūt vērtīgu ieskatu modeļa funkcionalitātē. Kopumā situācija atspoguļo pastāvīgu spriedzi starp patentēto interešu un pieprasījumu pēc caurspīdības AI attīstībā.


Watch video about

OpenAI saskaras ar kritiku par Zemeņu AI modeļu spriešanas slepenību

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Nov. 15, 2025, 1:22 p.m.

Ģeneratīvās Mākslīgās Intelekta mārketinga revolū…

Strauji mainoties digitālā mārketinga pasaulē, ģeneratīvā IKT ir pārvērtusies no jauninājuma par nepieciešamību.

Nov. 15, 2025, 1:18 p.m.

Anthropic un Microsoft atklāj jaunus AI datu cent…

2025.

Nov. 15, 2025, 1:17 p.m.

Kā mākslīgā intelekta vadīta personalizācija pārd…

Pirms dažiem gadiem vadošie viesnīcu pārdošanas speciālisti bija piemītoši ar vienu galveno prasmju: viņi intuitīvi spēja lasīt savus viesus.

Nov. 15, 2025, 1:12 p.m.

Mākslīgā intelekta video konferences rīki veicina…

Strauja pāreja uz attālināto darbu būtiski paātrināja mākslīgā intelekta balstītu videokonferenču platformu ieviešanu daudzās nozarēs.

Nov. 15, 2025, 1:11 p.m.

AI un SEO: Navigācija nākotnes meklēšanas motoru …

Radoša intelekta (AI) veidošanās dziļi pārveido meklētājprogrammu optimizāciju (SEO), mainot veidu, kā mārketinga speciālisti pieiet tiešsaistes redzamībai un satura stratēģijām.

Nov. 15, 2025, 9:31 a.m.

AI videokopas apkopojumu rīki palīdz satura patēr…

Arvien pieaugot tiešsaistes video satura apjomam, nepieciešamība pēc efektīvām metodēm, kā šo informāciju izmantot un saprast, nekad nav bijusi steidzamāka.

Nov. 15, 2025, 9:22 a.m.

Microsoft Azure AI platforma paplašinās ar jaunie…

Microsoft ir paziņojis par plašu Azure AI platformas paplašināšanu, iepazīstinot ar virkni jaunu rīku, kas ir paredzēti, lai uzlabotu mašīnmācīšanās un datu analītikas iespējas.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today