Anthropic AI čelí kritice za oslabené bezpečnostní standardy a kontroverzní praktiky při sběru dat
Brief news summary
Anthropic, odpovědná AI společnost, se potýká s překážkami, které zpochybňují realizovatelnost prioritizace etiky a bezpečnosti. Původně založená v reakci na obavy ohledně bezpečnostní kultury v OpenAI, se nyní Anthropic snaží oslabit zákon, který nařizuje bezpečnostní testování a možnost zastavit AI modely během bezpečnostních incidentů. Toto zklamalo skupiny zaměřené na bezpečnost očekávající větší dohled od Anthropic. Navíc se společnost setkává s negativní reakcí na své metody sběru dat, včetně neoprávněného scrappingu veřejně dostupných dat, což vedlo k právním sporům a výzvám týkajícím se porušování autorských práv. Obavy také vyvstávají z partnerství společnosti s technologickými giganty jako jsou Amazon a Google, protože zvyšují obavy o maximalizaci zisku a koncentraci moci. Tyto problémy podtrhují nutnost vládní intervence k změně motivačního rámce v AI průmyslu a zajištění přijetí etických a bezpečných vývojových praktik.Sigal Samuel, senior reportérka pro Vox's Future Perfect a spolu-moderátorka podcastu Future Perfect, diskutuje o problémech, kterým čelí Anthropic, AI společnost, která se dříve prezentovala jako etická a bezpečná. Navzdory svým počátečním tvrzením nyní Anthropic lobuje za oslabení legislativy, která by prosazovala bezpečnostní standardy pro AI modely. Tento posun zklamal skupiny zaměřené na bezpečnost, které věřily, že Anthropic podpoří dohled a odpovědnost.
Kromě toho se Anthropic setkává s kritikou za své metody sběru dat, včetně scrappingu veřejně dostupných dat bez souhlasu, a své partnerství s technologickými giganty jako jsou Amazon a Google, což vyvolává obavy z koncentrace moci a možného porušení antimonopolních zákonů. Samuel argumentuje, že vláda musí zasáhnout a změnit motivační strukturu AI průmyslu, pokud společnosti pravděpodobně nebudou prioritizovat etiku a bezpečnost samy o sobě. Při absenci federální regulace mohou hrát zásadní roli státní zákony a úsilí občanské společnosti v zodpovědnosti AI společností.
Watch video about
Anthropic AI čelí kritice za oslabené bezpečnostní standardy a kontroverzní praktiky při sběru dat
Try our premium solution and start getting clients — at no cost to you
