Alla sökningar på termer som ”Taylor Swift” eller ”Taylor AI” stoppades under flera timmar på den Elon Musk-ägda plattformen i helgen efter att de explicita bilderna börjat spridas.
”Det här är en tillfällig åtgärd som utförs med stor försiktighet eftersom vi prioriterar säkerhet i den här frågan,” säger Joe Benarroch, chef för affärsverksamheten på X, till FT.
Bolaget sa redan i fredags att det är strängt förbjudet att sprida nakenbilder utan samförstånd och att anställda arbetar aktivt med att ta bort sådana bilder. Men enligt tidningen har Elon Musks nedskärningar i budgeten för att granska innehåll gjort att företaget inte lyckats förhindra spridningen av Taylor Swift-bilderna.
Händelsen är det senaste exemplet på hur sociala medie-bolag försöker hantera så kallade deepfakes: realistiska bilder och ljud som genererats med AI och som kan missbrukas för att porträttera framstående personer i komprometterande eller vilseledande situationer.
Tekniken för att framställa sådana bilder har varit tillgänglig i flera år, men den senaste tidens snabba utveckling av generativ AI har gjort det mycket lättare. X och andra plattformar som Facebok, Tiktok och Youtube pressas nu allt hårdare till att hantera flödet av de förfalskade bilderna.
Vita huset pressekreterare Karine Jean-Pierre har sagt att spridningen av Taylor Swift-bilderna är alarmerande och har uppmanat den amerikanska kongressen att reglera spridningen av deepfakes med nya lagar.
”Även om sociala medieföretag fattar sina egna oberoende beslut om innehållshantering, anser vi att de har en viktig roll att spela när det gäller att upprätthålla sina egna regler”, sa hon, enligt FT.
