Apple Hotade att Ta Bort Grok Från App Store Över Sexualiserade Bilder

Apple varnade privat Elon Musks xAI-företag i januari att de skulle ta bort Grok-appen från App Store om företaget inte satte stopp för chatbotens nakna och sexualiserade deepfakes, enligt ett brev som Apple skickade till amerikanska senatorer och som NBC News fått tag på ($). Tidigare i år kom Groks AI-funktioner under lupp efter att X-användare delade icke-samtyckta sexualiserade bilder av kvinnor och barn som skapats av appen, många av vilka baserades på foton av verkliga personer. Vad som följde var en förvirrande lansering av modereringsändringar för Grok, varav vissa lätt kunde kringgås. Offentligt kommenterade Apple inte kontroversen vid den tiden, men de svarade och var faktiskt initiativtagare till ändringarna. Internt hade företaget funnit både X och Grok i strid med sina riktlinjer för App Store och krävde att dess utvecklare skulle lämna in en plan för innehållsmoderering, avslöjar brevet. Enligt brevet avvisade Apple en initial lösning från xAI som otillräcklig och sade att "ändringarna inte gick tillräckligt långt," och Apple varnade att ytterligare ändringar krävdes eller så skulle Grok tas bort. Efter ytterligare fram och tillbaka kom Apple emellertid till slut fram till att en senare inlämning av appen hade förbättrats tillräckligt för att godkännas. Avslöjandet verkade ha utlöstes av ett januari-brev från senatorerna Ron Wyden, Ben Ray Luján och Edward Markey, som uppmanade Apple och Google att ta bort båda apparna, med argumentet att bilderna bröt mot App Stores regler som förbjuder stötande, sexualiserat och utnyttjande innehåll. Senatorerna sade också att Apples svar skulle pröva sina egna argument, eftersom företaget länge har försvarat sin kuraterade App Store genom att hävda att deras granskningsprocess gör användarna säkrare. Att låta Grok fortsätta att generera denna typ av bilder, hävdade de, skulle undergräva det argumentet i allmänhetens ögon och i en domstol. Efter att NBC News publicerat sin rapport, postade X följande uttalande på sin plattform: "Vi förbjuder strikt användare från att generera icke-samtyckta explicita deepfakes och från att använda våra verktyg för att avkläda verkliga personer. xAI har omfattande skyddsåtgärder på plats för att förhindra sådant missbruk, såsom kontinuerlig övervakning av offentlig användning, analys av undvikandeförsök i realtid, frekventa modelluppdateringar, snabba filter och ytterligare skyddsåtgärder." Medan mängden sexualiserade deepfakes som skapats av Grok och publicerats på X verkar ha minskat avsevärt, fann NBC News att Grok fortfarande kan generera liknande bilder, med vissa användare som uppenbarligen bara har uppdaterat sina prompt-taktiker för att kringgå skyddsåtgärderna. Du kan läsa den rapporten i sin helhet genom att följa denna länk. Taggar: App Store, Grok Denna artikel, "Apple Hotade att Ta Bort Grok Från App Store Över Sexualiserade Bilder" publicerades först på MacRumors.com Diskutera denna artikel i våra forum