lang icon English
Sept. 17, 2024, 3 p.m.
2780

OpenAI seisab silmitsi kriitikaga 'Strawberry' AI mudeli põhjendamisalase salastamise pärast

Brief news summary

OpenAI on avalikustanud oma uue 'Strawberry' AI mudelite pere, mis hõlmab o1-preview ja o1-mini, mille eesmärk on parandada põhjendusvõimeid. Selle väljaande oluline muutus on OpenAI soovimatus, et kasutajad uuriksid mudelite sisemisi põhjendusprotsesse. O1 mudel soodustab samm-sammult probleemide lahendamise lähenemisviisi, samal ajal hoiades oma tehnikaid saladuses, meelitades tehnoloogiahuvilisi ja häkkereid, kes on huvitatud selle piiride testimisest. Kuid OpenAI hoiatab, et selliste aspektide uurimine nagu 'põhjendusjälg' rikub teenuse poliitikaid. Kriitikud, sealhulgas punase meeskonna ekspert Marco Figueroa, väidavad, et sellised piirangud võivad takistada olulist ohutusuuringut. OpenAI kaitseb oma positsiooni, rõhutades vajadust väärkasutamise vältimiseks ja äriliste huvide kaitsmiseks. Sellegipoolest väljendavad tööstusspetsialistid muret, et mudelite läbipaistvuse puudumine võib pärssida innovatsiooni ja kahjustada usaldust AI kogukonnas. Nad hoiatavad, et konkurentsieelise eelistamine avatusele võib takistada tähendusrikast dialoogi AI arenduses, takistades lõppkokkuvõttes koostööd ja arengut sektoris.

OpenAI on olnud väga salajane oma uusimate AI mudelite, 'Strawberry' pere kohta, eriti o1-preview ja o1-mini versioonide põhjendamisvõimete osas. Alates nende vabastamisest eelmisel nädalal on ettevõte saatnud hoiatavaid e-kirju kasutajatele, kes üritavad uurida, kuidas mudel toimib, mida pole nähtud varasemate mudelite, nagu GPT-4o, puhul. O1 mudelid on spetsiaalselt loodud järgima süsteemne probleemide lahendamise meetod enne vastuste andmist. Kuigi kasutajad saavad valida põhjendusprotsessi vaatamise ChatGPT-s, varjab OpenAI tahtlikult toored mõtteprotsessi, pakkudes ainult teistest AI-st loodud filtreeritud versiooni. See läbipaistvuse puudumine on tekitanud huvi häkkerite ja punaste meeskondade seas, kes soovivad avastada põhipõhjenduse tehnikatega, nagu jailbreaking ja prompt injection. Teatatud on mõned esialgsed edusammud, kuid midagi lõplikku pole ilmunud.

Samal ajal jälgib OpenAI tähelepanelikult katseid sügavamale põhjendamise aspekti uurida, andes hoiatuse kasutajatele, kes mainivad termineid nagu 'põhjendusjälg. ' Hoiatused on toonud esile ohutusmeetmete eiramise poliitikate rikkumised, hoiatades, et korduvad rikkumised võivad kaasa tuua juurdepääsu kaotuse mudelile. Kriitikud, sealhulgas Marco Figueroa, väidavad, et sellised poliitikad takistavad kasulikku uurimist mudeli ohutuse kohta. Ajaveebipostituses pealkirjaga „Õppimine põhjendama LLM-idega” arutatakse OpenAI, kuidas peidetud mõttemustrite jälgimine võib anda ülevaate mudeli protsessidest. Kuid nad usuvad, et selle teabe jagamine kasutajatega võiks kahjustada nii kasutaja kogemust kui ka konkurentsieelist. Sõltumatu AI uurija Simon Willison on väljendanud muret läbipaistvuse puudumise pärast, väites, et see otsus hoiab kogukonda kasuliku teabe omandamisest mudeli funktsionaalsuse kohta. Üldiselt peegeldab see olukord jätkuvat pinget omandiõiguste huvide ja läbipaistvuse nõudmise vahel AI arenduses.


Watch video about

OpenAI seisab silmitsi kriitikaga 'Strawberry' AI mudeli põhjendamisalase salastamise pärast

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Nov. 2, 2025, 1:33 p.m.

Ostukorvite muudavad eelarveid ja võtavad kasutus…

Kui pühadeostude hooaeg läheneb, valmistuvad väikeettevõtted potentsiaalselt muutvaks perioodiks, juhindudes Shopify 2025.

Nov. 2, 2025, 1:29 p.m.

Metas tehisintellektide uurimislaboratoorium aval…

Meta tehisintelligentseaduslik Uurimislabor on teinud märkimisväärse sammu läbipaistvuse ja koostöö edendamisel tehisintellekti arengus, lastes avalikkusele kättesaadavaks avatud lähtekoodiga keelemudeli.

Nov. 2, 2025, 1:26 p.m.

Eetilised kaalutlused tehisintellekti juhitud SEO…

Kunstliku intelligentsi (KI) järjestik integreerumine otsingumootori optimeerimisse (SEO) toob kaasa olulisi eetilisi küsimusi, mida ei tohi tähelepanuta jätta.

Nov. 2, 2025, 1:24 p.m.

Deepfake otseülekanne pettis vaatajaid Nvidia GTC…

26.

Nov. 2, 2025, 1:17 p.m.

WPP käivitab tehisintellekti toetatud turunduspla…

Briti reklaamiettevõte WPP teatas neljapäeval oma te his, et lansseerib uue versiooni oma tehisintellektipõhisest turundusplatvormist WPP Open Pro.

Nov. 2, 2025, 1:15 p.m.

LeapEngine täiendab turundusteenuseid tehisintell…

LeapEngine, pidev digitalmarkkinoinfiagentuur, on oluliselt täiustanud oma täielikke teenuseid, integreerides platvormi hulga arenenud tehisintellekti (TI) tööriistu.

Nov. 2, 2025, 9:29 a.m.

Sora kaks nägu seismas õigusrikkumiste ja tehisin…

OpenAI uusim tehisintellekti videomudel, Sora 2, on hiljuti seisnud silmitsi oluliste juriidiliste ja eetiliste väljakutsetega pärast selle lansseerimist.

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today