Apple Mejora la Privacidad en el Entrenamiento de Modelos de IA
Apple ha anunciado avances significativos en la mejora de sus modelos de inteligencia artificial (IA) sin necesidad de acceder a los datos personales de los usuarios ni transferir información desde sus dispositivos. La compañía ha detallado su enfoque en un blog, destacando la implementación de un sistema que permite a los dispositivos comparar conjuntos de datos sintéticos con muestras recientes de correos electrónicos o mensajes de usuarios que han optado por participar en su programa de Análisis de Dispositivos.
Procesamiento Local y Privacidad Mejorada
Los dispositivos Apple serán capaces de identificar qué entradas sintéticas se asemejan más a los datos reales, enviando únicamente una señal que indique cuál de las variantes se ajusta mejor a la muestra. De esta manera, Apple asegura que no se accede a los datos del usuario y que la información nunca abandona el dispositivo. Posteriormente, la empresa utilizará las muestras sintéticas más seleccionadas para mejorar las salidas de texto de su IA, como los resúmenes de correos electrónicos.
Avances en Apple Intelligence
Actualmente, Apple entrena sus modelos de IA únicamente con datos sintéticos, lo que podría resultar en respuestas menos útiles, según expertos. La compañía ha enfrentado desafíos en el lanzamiento de sus funciones insignia de Apple Intelligence, incluyendo retrasos en algunas capacidades y cambios en el liderazgo de su equipo de Siri. Sin embargo, Apple está trabajando para superar estos obstáculos mediante la introducción de su nuevo sistema de entrenamiento de IA en una versión beta de iOS y iPadOS 18.5, así como en macOS 15.5.
Compromiso con la Privacidad Diferencial
Apple ha promovido el uso de la privacidad diferencial para mantener la confidencialidad de los datos de los usuarios desde al menos 2016, con el lanzamiento de iOS 10. Esta técnica permite mejorar las características impulsadas por IA, como la función Genmoji, sin comprometer la privacidad individual. Este enfoque también se aplica a los nuevos planes de entrenamiento de IA de la compañía, ya que Apple afirma que la introducción de información aleatoria en un conjunto de datos más amplio ayuda a prevenir la vinculación de datos a una sola persona.
Con estas iniciativas, Apple reafirma su compromiso con la privacidad y la seguridad de los usuarios, al tiempo que busca mejorar la eficacia y utilidad de sus modelos de inteligencia artificial.
