Del av bevakningen: Granskning avslöjade hundratals AI-appar med dolda deepfake-verktyg
Apple har tagit bort 19 appar efter att en granskning hittat över 400 sammankopplade appar och webbadresser som dolde verktyg för sexuellt kränkande deepfakes bakom harmlösa funktioner.
En granskning hittade över 400 AI-appar i App Store och Google Play med dolda funktioner för att skapa sexuella och våldsamma deepfakes från uppladdade bilder. Apparna kopplades till en kinesisk organisation.
Deepfake-appar för icke-samtyckande pornografi finns lättillgängliga i App Store, trots att Apple tidigare tagit bort 28 sådana appar. En rapport visar att dessa verktyg fortfarande annonseras i sökresultat.
Apple har tagit bort AI-appen 'nudify' från App Store efter att Meta annonserade för den, där appen möjliggjorde skapandet av pornografiska deepfakes av verkliga personer.
En åklagare i San Francisco har krävt att Apple och Google tar bort 13 AI-appar som genererar icke-samtyckta nakenbilder. Appar som marknadsförs för ansiktsbyte används för att skapa explicita bilder, vilket åklagaren anser är olagligt. Båda företagen har tidigare tagit bort liknande appar för policyöverträdelser.