Fable möter motreaktioner över AI-genererade boksammanfattningar
Brief news summary
Fable, ett socialt medienätverk för bokälskare, lanserade en AI-funktion utformad för att ge användare en sammanfattning av "2024 läsvanor" liknande Spotifys Wrapped. Trots avsikten att förbättra användarupplevelsen stötte funktionen på motstånd för att ha producerat partiskt och stötande innehåll. Problem uppstod när författaren Danny Groves noterade att AI:n kritiserade hans bokval, och influencern Tiana Trammell fick partiska rekommendationer som främst gynnade "vita författare." Dessutom innehöll AI-sammanfattningarna nedsättande kommentarer om "funktionshinder och sexuell läggning." Funktionen, som drivs av OpenAI:s API, kritiserades för att visa anti-woke-känslor. Som svar bad Fable om ursäkt, lade till ett alternativ för att välja bort och tog bort en del av det stötande innehållet. Fortsatt missnöje ledde dock till att AI-sammanfattningarna helt togs bort. Framträdande användare som A.R. Kaufer och Tiana Trammell uttryckte sitt missnöje genom att radera sina konton. Kaufer krävde ett slut på AI-sammanfattningar, medan Groves kritiserade deras stötande natur. Denna kontrovers understryker de bredare utmaningar AI-teknologier står inför, där de ofta replikerar samhälleliga fördomar. Liknande problem har noterats i andra AI-verktyg som OpenAI:s DALL-E och Googles Gemini, vilka har kritiserats för partiska framställningar av människor och historiska personer. Groves påpekade hur AI-modeller reflekterar samhälleliga fördomar, vilket gör deras integration i sociala plattformar komplex.Fable, en social media-app för bokälskare, introducerade en AI-driven funktion för att sammanfatta böcker som användare läst under 2024. Funktionen var tänkt som en rolig funktion, men vissa sammanfattningar uppfattades som stridbara, med kommentarer om användares preferenser för mångfald, vilket gjorde många, som författaren Danny Groves och influencern Tiana Trammell, upprörda. Dessa sammanfattningar berörde känsliga ämnen som funktionsnedsättning och sexuell läggning, vilket ledde till en viral motreaktion. Årliga sammanfattningsfunktioner är populära och använder ofta AI för att analysera användarvanor. Fable använde OpenAI för att skapa sammanfattningarna men förväntade sig inte att kontroversiella kommentarer skulle likna "anti-woke"-retorik. Företaget bad om ursäkt offentligt och lovade förbättringar, inklusive ett alternativ för att avstå från AI-sammanfattningar och tydligare AI-identifiering.
De tog först bort funktionen som "skämtade" med användare och beslutade senare att helt stänga av alla AI-genererade sammanfattningar och relaterade funktioner. Kritiker, inklusive författare som A. R. Kaufer och drabbade användare som Trammell, ansåg att svaret var otillräckligt och efterlyste allvarligare åtgärder och uppriktiga ursäkter. Generativa AI-verktyg har en historik av misstag, där fördomsfulla resultat visas på grund av samhälleliga bias inbyggda i maskinlärning. Den här händelsen bidrar till den pågående diskussionen om AI:s utmaningar i att hantera känsliga ämnen.
Watch video about
Fable möter motreaktioner över AI-genererade boksammanfattningar
Try our premium solution and start getting clients — at no cost to you