Судалгаа, хандив санхүүгийн дэмжлэгтэй холбоотой асуудалтай тулгарч байгаа ашиг олохгүй байгууллага, нийгмийн институт болох Epoch AI, зохиогчийн мөнгөн дэмжлэгээс “OpenAI”-тай тохиролцоог тайлбарласангүй. Энэ нь AI нийгэмд шударга бус байдлын хардлагыг үүсгэлээ. Epoch AI нь голдуу судалгаа, хандив санхүүгийн сан болох Open Philanthropy-гийн дэмжлэгтэй байгууллага юм. Энэ байгууллага “FrontierMath” гэсэн тестийг хөгжүүлэхийн тулд OpenAI-гаас дэмжлэг авснаа 12-р сарын 20-нд зарласан. Энэ тест нь AI-ийн математик чадварыг үнэлэхийн тулд мэргэжлийн төвшний бэрхшээлтэй асуудлуудаар бүрдсэн байдаг бөгөөд OpenAI-гийн сумын AI-г, o3-ийг дэмжихэд ашиглагдсан. “LessWrong” форум дээр Epoch AI-гийн "Meemi" нэртэй түнш үндэсний математикчийн хэлсэнээр, FrontierMath тестийн олон хувь нэмрээ оруулсан хүмүүс OpenAI-гийн оролцооны талаар олон нийтэд зарлагдах хүртэл мэдээгүй байсан гэж хэлжээ. “Энэ талаархи харилцаа дангаараа тодорхойгүй байсан, ” гэж Meemi дурдсан. “Миний бодлоор, Epoch AI OpenAI-гийн санхүүжилтийг ил тод зарлах ёстой байсан, мөн хувь нэмрээ оруулсан хүмүүс өөрсдийн ажлын хүчин зүйлсийг ямар аюулд оруулах талаар тодорхой мэдээлэлтэй байх хэрэгтэй байсан. ” Соц медиа хэрэглэгчид, тодорхойгүй байдал нь FrontierMath тестийн бие даасан байдалд сөрөг нөлөө үзүүлэх вий гэж сэтгэл зовнисон. OpenAI FrontierMath-ийг санхүүжүүлэхийн зэрэгцээ тест дээрх олон асуудал, шийдэлд хандах боломжтой байсан бөгөөд энэ талаар Epoch AI 12-р сарын 20-нд o3-ийг зарлах хүртэл мэдээлээгүй байна. Meemi-гийн сэтгэгдэлд хариулахдаа Epoch AI-гийн дэд захирлын нэг, Тамай Бесироглу FrontierMath-ийн үнэн зөв байдал хэвээр байна гэж үзсэн ч Epoch AI “ил тод байхгүй” гэдэгт алдаа гаргаснаа хүлээн зөвшөөрсөн. “Бид o3-ийг зарлах хүртэл хамтын ажиллагааг нээлттэй зарлахад хязгаарлагдсан байсан, мөн бид нэлээд дуудаж ил тод байх шаардлагатай гэдгийг ойлгосон, ” гэж Бесироглу бичжээ.

“Бидний математикчид хэнд өөрсдийн хувь нэмрийг хамрагдах боломжтойг мэдэх ёстой байсан. Тусгай хязгаарлалттай харагддаг боловч бид OpenAI-тай хийсэн гэрээндээ бидний хувь нэмрийг нээлттэй байлгахад анхаарах ёстой байсан. ” Бесироглу, OpenAI FrontierMath-д хандах боломжтой боловч асуудлын бүлгүүдийг AI-г бэлтгэхэд ашиглахгүй гэсэн “ярианы гэрээ” байгаа талаар тайлбарласан. Мөн Epoch AI FrontierMath тестийн дүнг баталгаажуулах бие даасан системийг эзэмшиж байна, гэж Бесироглу хэлэв. “OpenAI …манай бие даасан, нууц алгоритм үргэлжлүүлж байгаа сонголтод дэмжлэг үзүүлж байна, ” гэж тэр нэмж хэлэв. Гэхдээ Epoch AI-гийн тэргүүний математикч Эллот Глазер Reddit-д оруулсан нийтлэлдээ Epoch AI OpenAI-гийн FrontierMath дүнг o3-ийг хувийн хэмжээнээс баталгаажуулж чадаагүй гэдгийг тэмдэглэжээ. “Миний бодлоор, [OpenAI-гийн] дүн жинхэнэ (тодруулбал, тэд энэ дата багцаар бэлтгэгдсэнгүй), тэд дотоодын тестийн гүйцэтгэлээ буруу тэдгээрт ашиглахгүй, ” гэж Глазер хэлэв. “Гэсэн хэдий ч, бид бие даасан үнэлгээ маань дуусах хүртэл баталгаа өгөх боломжгүй байна. ”