Apple utiliza la técnica de privacidad diferencial local y la generación de datos sintéticos para entrenar su sistema de inteligencia artificial y mejorar funciones como Genmoji y las Herramientas de escritura, sin poner en riesgo la privacidad de los usuarios.
MIRA: ¿Cuáles son los peligros de compartir información personal para convertirte en anime usando la IA?
Apple asegura que puede recoger información sobre tendencias de uso de los usuarios sin que ello suponga una violación de su privacidad, con el objetivo de mejorar su sistema Apple Intelligence. Para ello, utiliza una técnica llamada privacidad diferencial local.
Con esta técnica, la compañía tecnológica puede “aprender sobre la comunidad de usuarios sin aprender sobre los individuos de la comunidad”, y lo hace eliminado los identificadores de los datos, que se envían a los canales de Apple de manera encriptada.
El análisis posterior de esos datos se retira toda información que pueda identificar individualmente al usuario, como dirección IP y metadatos, y los agrega a los de otros usuarios que han pasado por el mismo proceso, para extraer de ellos estadísticas que puedan ser relevantes.
Estas dos etapas “se realizan en un entorno de acceso restringido, por lo que ni siquiera los datos privatizados son ampliamente accesibles para los empleados de Apple”, asegura la compañía en el documento que explica la privacidad diferencial local.
Esta técnica es la que Apple utiliza en algunas de las herramientas de Apple Intelligence para mejorarlas manteniendo la privacidad de los usuarios, aunque requiere que hayan habilitado la compartición de datos del dispositivo.
Se utiliza actualmente en el generador de emojis Genmoji, para identificar “indicaciones populares y patrones de indicaciones”, que la compañía asegura que le ayuda a mejorar la respuesta que genera, sobre todo en peticiones que contienen varias entidades, como ‘dinosaurio con sombrero de vaquero’.
Apple ha anticipado que la técnica de privacidad diferencial local se utilizará también en Image Playground, Image Wand, Memories Creation y herramientas de Escritura en Apple Intelligence, así como en Visual Intelligence.
En el caso de las funciones de texto que no pueden aprovechar esta técnica, Apple utiliza datos sintéticos que “representen las tendencias agregadas en datos reales de usuarios, sin recopilar correos electrónicos ni texto de los dispositivos”.
“Nuestro objetivo es generar oraciones o correos electrónicos sintéticos con un tema o estilo lo suficientemente similar al real para mejorar nuestros modelos de resumen, pero sin que Apple recopile correos electrónicos del dispositivo”, explica en su blog oficial. Igualmente, requiere que los usuarios tengan habilitada la compartición de datos del dispositivo.
Las dos técnicas ayudan a “comprender las tendencias generales, sin necesidad de obtener información personal”, lo que permite a Apple mejorar las funciones de Apple Intelligence.
