Tre höjdpunkter från Apples tvådagarsevent om integritet och AI

Nu har Apple offentliggjort presentationerna på sin forskningsblogg om maskininlärning, tillsammans med videor och 25 publicerade studier. Här är tre exempel (via 9to5Mac). Nästan alla bidrag berör ”differential privacy”, Apples föredragna metod för att skydda användardata. Principen bygger på att ”brus” läggs till innan informationen skickas till Apple, vilket gör det mycket svårt att spåra data tillbaka till enskilda användare. När tillräckligt många bidrag analyseras kan mönster ändå urskiljas utan att individens integritet äventyras. 1. Local Pan-Privacy for Federated Analytics Presenterad av Guy Rothblum (Apple). Studien bygger vidare på tidigare forskning från 2010 och visar hur en komprometterad enhet kan innebära risker för datainsamling. Forskarna föreslår nya krypterade metoder som gör det möjligt att samla in statistik utan att avslöja någon enskild användares aktivitet. 2. Scalable Private Search with Wally Presenterad av Rehan Rishi och Haris Mughees (Apple). Här beskrivs Wally, en metod för krypterad sökning i stor skala. Tekniken använder differential privacy genom att skicka en verklig förfrågan tillsammans med fejkade, men på ett sätt som minskar mängden ”brus” per användare när många söker samtidigt. Resultatet blir bibehållen integritet till lägre kostnader. 3. Differentially Private Synthetic Data via Foundation Model APIs Presenterad av Sivakanth Gopi (Microsoft Research). Studien visar hur man kan generera syntetisk data av hög kvalitet, baserad på verkliga användardata, men utan att exponera något privat. Metoden Private Evolution (PE) kan matcha eller till och med överträffa dagens toppmetoder för syntetisk data – men med betydligt bättre integritetsskydd. Macworlds kommentar: Därför är Apples AI-forskning viktig Bryter med hemlighetskulturen – Apple delar sällan med sig, men genom att publicera AI-forskning visar de ledarskap och bygger förtroende. Integritet som strategi – studierna bevisar att avancerad AI kan kombineras med starkt dataskydd, något som stärker Apples varumärke. Driver industristandarder – när en aktör i Apples storlek tar fram metoder som differential privacy pressas hela branschen att följa efter. Lockar talang – forskningspubliceringarna gör Apple mer attraktivt för toppforskare och stärker banden till akademin. Grund för framtida produkter – teknikerna kan bli centrala i kommande versioner av Siri, Apple Intelligence eller hälsofunktioner i Apple Watch. Utöver dessa tre punkter ovan publicerade Apple även hela listan över 25 bidrag från forskare vid Apple, Microsoft, Google, MIT, Rutgers, Boston University, Carnegie Mellon och UC Berkeley. AirGapAgent: Protecting Privacy-Conscious Conversational Agents A Generalized Binary Tree Mechanism for Differentially Private Approximation of All-Pair Distances Differentially Private Synthetic Data via Foundation Model APIs 1: Images Differentially Private Synthetic Data via Foundation Model APIs 2: Text Efficient and Near-Optimal Noise Generation for Streaming Differential Privacy Elephants Do Not Forget: Differential Privacy with State Continuity for Privacy Budget Improved Differentially Private Continual Observation Using Group Algebra Instance-Optimal Private Density Estimation in the Wasserstein Distance Leveraging Model Guidance to Extract Training Data from Personalized Diffusion Models Local Pan-privacy for Federated Analytics Nearly Tight Black-Box Auditing of Differentially Private Machine Learning On the Price of Differential Privacy for Hierarchical Clustering Operationalizing Contextual Integrity in Privacy-Conscious Assistants PREAMBLE: Private and Efficient Aggregation via Block Sparse Vectors Privacy amplification by random allocation Privacy of Noisy Stochastic Gradient Descent: More Iterations without More Privacy Loss Privately Estimating a Single Parameter Scalable Private Search with Wally Shifted Composition I: Harnack and Reverse Transport Inequalities Shifted Interpolation for Differential Privacy Tractable Agreement Protocols Tukey Depth Mechanisms for Practical Private Mean Estimation User Inference Attacks on Large Language Models Universally Instance-Optimal Mechanisms for Private Statistical Estimation “What do you want from theory alone?” Experimenting with Tight Auditing of Differentially Private Synthetic Data Generation