Varför är Grok och X fortfarande tillgängliga i App Store?

Caroline Haskins, som skriver för Wired (News+ länk, ifall Wireds betalvägg blockerar dig): Elon Musks AI-chattbot Grok används för att översvämma X med tusentals sexualiserade bilder av vuxna och uppenbara minderåriga som bär minimala kläder. En del av detta innehåll verkar inte bara bryta mot X:s egna riktlinjer, som förbjuder delning av olagligt innehåll såsom material för sexuella övergrepp mot barn (CSAM), utan kan också bryta mot riktlinjerna för Apples App Store och Google Play-butiken. Apple och Google förbjuder båda uttryckligen appar som innehåller CSAM, vilket är olagligt att vara värd för och distribuera i många länder. Teknikjättarna förbjuder också appar som innehåller pornografiskt material eller underlättar trakasserier. Apple App Store säger att den inte tillåter "öppet sexuellt eller pornografiskt material", samt "förtalande, diskriminerande eller elaka innehåll", särskilt om appen "troligen kommer att förödmjuka, skrämma eller skada en målinriktad individ eller grupp." Google Play-butiken förbjuder appar som "innehåller eller främjar innehåll kopplat till sexuellt rovdjursbeteende, eller distribuerar icke-samtyckande sexuellt innehåll," samt program som "innehåller eller underlättar hot, trakasserier eller mobbning." Under de senaste två åren har Apple och Google tagit bort ett antal "nudify"- och AI-bildgenereringsappar efter att BBC och 404 Media funnit att de annonserades eller användes för att effektivt omvandla vanliga foton till explicita bilder av kvinnor utan deras samtycke. Men vid tidpunkten för publiceringen är både X-appen och den fristående Grok-appen fortfarande tillgängliga i båda appbutikerna. Apple, Google och X svarade inte på förfrågningar om kommentar. Jag bläddrade just igenom de senaste fem minuterna av svar som genererades av Grok på Twitter/X, och såg både uppenbar CSAM (alla unga asiatiska kvinnor) och helt enkelt hardcore pornografiska videor (som, för vad det är värt, verkade innehålla vuxna, oavsett om de var verkliga eller genererade). Det var en knappt dold hemlighet innan Musk köpte Twitter att Twitter hade en aktiv mörk sida av pornografiskt innehåll. Men man var tvungen att veta vart man skulle titta för att hitta det. Det var verkligen inget man bara råkade snubbla över. Nu får man hardcore porno bara genom att titta på profil sidan för Grok. Och vilken användare som helst kan skicka vilken bild de vill till @grok och be den att ändra eller ta bort subjektets kläder och ändra deras pose. Gud vet vad folk genererar privat med den fristående Grok-appen. Om en ny social nätverksapp lanserades med detta innehåll skulle den säkert tas bort från App Store och Play Store. X verkar vara ostört av politiska skäl.