En granskning hittade över 400 AI-appar i App Store och Google Play med dolda funktioner för att skapa sexuella och våldsamma deepfakes från uppladdade bilder. Apparna kopplades till en kinesisk organisation.
Apple har uppdaterat sina App Store-regler för att förhindra AI-genererade deepfakes och nudifieringsappar. Utvecklare måste nu proaktivt ta bort sådant innehåll, annars riskerar appar att tas bort.
Apple kräver att appar aktivt filtrerar och tar bort AI-genererade nakenbilder och deepfakes utan samtycke. Överträdare kan stängas av från App Store och blockeras även från alternativa appbutiker i EU.
En åklagare i San Francisco har krävt att Apple och Google tar bort 13 AI-appar som genererar icke-samtyckta nakenbilder. Appar som marknadsförs för ansiktsbyte används för att skapa explicita bilder, vilket åklagaren anser är olagligt. Båda företagen har tidigare tagit bort liknande appar för policyöverträdelser.
Deepfake-appar för icke-samtyckande pornografi finns lättillgängliga i App Store, trots att Apple tidigare tagit bort 28 sådana appar. En rapport visar att dessa verktyg fortfarande annonseras i sökresultat.