Anthropic AI се соочува со критики за ослабени безбедносни стандарди и контроверзни практики за собирање на податоци
Brief news summary
Anthropic, одговорна AI компанија, се соочува со пречки кои ја поставуваат прашањето за можноста за приоритизирање на етиката и безбедноста. Иницијално основана како одговор на загриженоста за културата на безбедност во OpenAI, Anthropic сега се стреми да го ослабне законот кој поставува тестирање на безбедност и можност за запирање на AI модели за време на инциденти со безбедност. Ова ги разочара групите фокусирани на безбедност кои очекуваа поголем надзор од Anthropic. Дополнително, компанијата се соочи со критики за методите на собирање податоци, вклучувајќи неовластено собирање на јавно достапни податоци, што резултираше со правни спорови и предизвици за прекршување на авторските права. Загриженоста исто така произлегува од соработките на Anthropic со технолошки гиганти како Амазон и Гугл, како што предизвикуваат загрижености за максимизација на профитот и концентрација на моќ. Овие прашања ја нагласуваат потребата за владина интервенција за промена на рамката на поттикнување во AI индустријата и гарантирање на усвојувањето на етички и безбедни практики за развој.Сигал Самуел, стар репортер за Future Perfect од Vox и ко-домаќин на подкастот Future Perfect, ги дискутира предизвиците со кои се соочува Anthropic, AI компанија која некогаш се позиционираше како етичка и безбедна. И покрај нејзините првични тврдења, Anthropic сега лобира за ублажување на законодавството кое би спровело безбедносни стандарди за AI модели. Оваа промена ги разочара групите фокусирани на безбедност кои веруваа дека Anthropic ќе го поддржи надзорот и одговорноста.
Дополнително, Anthropic е критикувана за методите на собирање податоци, вклучувајќи ги и јавните податоци без согласност, и за нејзините партнерства со технолошки гиганти како Амазон и Гугл, што ги покренува загриженоста за концентрација на моќ и потенцијални прекршувања на антимонополските закони. Самуел тврди дека владата мора да интервенира за да ја промени структурата на поттикнување на AI индустријата, ако компаниите не се склони да го приоритизираат етиката и безбедноста сами. Во отсуство на федерална регулатива, државните закони и напорите на цивилното општество можат да играат клучна улога во одговорноста на AI компаниите.
Watch video about
Anthropic AI се соочува со критики за ослабени безбедносни стандарди и контроверзни практики за собирање на податоци
Try our premium solution and start getting clients — at no cost to you
