La aplicación móvil encantada de Freysa: IA privada en movimiento

Hace unos meses, RSA publicó sobre imaginar un dispositivo plug-and-play que permitiría a los usuarios aprovechar datos privados y personales con cualquier LLM que eligieran, básicamente un Ledger para IA. Una solución de hardware llave en mano que ejecute modelos locales que las principales herramientas de IA podrían tratar como una nube, ofreciendo la misma experiencia de usuario pero con una "privacidad a prueba de balas".

Nota al margen: Si necesitas que te refresque la memoria sobre por qué la privacidad en la IA es absolutamente crítica en este caso, ten en cuenta estos tres puntos en los que he estado insistiendo:

• Sin cifrar durante el uso: los datos se vuelven más vulnerables en el momento exacto en que son más sensibles, cuando la IA procesa nuestras estrategias empresariales, problemas de salud y luchas personales.
• Incentivo masivo para la explotación - Aunque las políticas actuales pueden prometer privacidad, las empresas tienen todas las razones para cambiarlas y utilizar tus datos para obtener ventajas competitivas, multiplicando el potencial de filtración.
• Ciclos de retroalimentación insidiosos: el entrenamiento que se puede hacer con nuestros patrones de pensamiento más íntimos resulta aterrador si se tiene en cuenta la naturaleza lucrativa de estas empresas, lo que provoca visiones de (como mínimo) feeds sociales hiperdepredadores, potenciados por la IA. Elijo no considerar aquí lo "peor

Aunque en las últimas semanas he hablado de varias soluciones de "IA privada", desde Venecia a NilGPT - todas ellas presumen de grandes avances en materia de privacidad, pero siguen sin alcanzar esta visión completa de igualdad de rendimiento. Una visión que creo que se materializará en un futuro no muy lejano.

Con este fin, la semana pasada la organización de IA experimental insignia de Ethereum, Freysa, lanzó su aplicación móvil Enchantedque ofrece dos enfoques de la IA privada en el teléfono:

• Modelos de código abierto como DeepSeek R1 y Llama 3.3 70B que se ejecutan en entornos de ejecución de confianza (TEE).
• Modelos de código cerrado a los que se accede de forma privada mediante anonimización por capas.

Esta solución de privacidad de código cerrado diferencia a Enchanted de otras aplicaciones de las que he hablado recientemente. Mientras que Venice y NilGPT se basan en modelos de código abierto que van a la zaga de los modelos de código cerrado en cuanto a rendimiento, el enfoque de anonimización de Freysa permite a los usuarios tener lo mejor de ambos mundos, presentando una solución que proporciona privacidad junto con rendimiento.

El equipo detalla cómo lo consiguen en"Reinforcement Learning for Privacy" (Aprendizaje por refuerzo para la privacidad), describiendo cómo utilizan un sistema de dos modelos, equipado con pequeños modelos lingüísticos (SLM) entrenados a medida que envían consultas anonimizadas a los principales LLM de código cerrado (OpenAI, Claude, etc.) en nombre de los usuarios.

Funciona así:

1. Envío una consulta con información confidencial al SLM de Freysa, que se ejecuta de forma remota (en su aplicación Enchanted) o en mi ordenador de forma local (requiere conocimientos técnicos).
2. Ese modelo sustituye mis datos confidenciales (cuentas bancarias, puestos de trabajo, etc.) por palabras de sustitución semánticamente equivalentes que mantienen el significado y la intención de la frase.
3. Esta pregunta desinfectada se envía a una IA de código cerrado de mi elección para que la procese.
4. La respuesta vuelve al modelo local, que la "descodifica", proporcionando una calidad de modelo cerrado con la privacidad intacta.

El modelo de Freysa sigue principios específicos para distinguir entre información privada y pública, anonimizando de acuerdo con estas directrices:

Aunque existe el riesgo de que el sistema de Freysa alucine y confunda la información privada con la pública (o viceversa), el equipo confía en la capacidad de su modelo para distinguir entre ambas, señalando el hecho de que:

• Los LLM ya funcionan excepcionalmente bien en tareas de anonimización.
• Cuando se compara con la puntuación de 9,77/10 de GPT-4.1 en anonimización, su modelo alcanza hasta 9,55/10, una cifra notablemente similar a pesar de ser aproximadamente 1.000 veces más pequeño.

Más allá de la protección de la privacidad lograda mediante la anonimización, Freysa implementa salvaguardas a nivel de red a través de TEEs y ofuscación del tráfico para protegerse de los intrusos que intentan "descifrar" el anonimato de su sistema mediante el seguimiento de los patrones de uso. El equipo describe el resultado final como mensajes que aparecen"como consultas anónimas de diferentes 'personas'", enmascarando de forma efectiva a los usuarios individuales dentro de una multitud.

Pero nada es perfecto. Después de revisar su blog, me pareció que las empresas que están detrás de los modelos de código cerrado podrían "descodificar" los mensajes de ejemplo descritos, ya que las consultas crean una línea clara (véase el ejemplo a continuación).

Estas son las limitaciones actuales que Freysa reconoce, aclarando que:

• Los usuarios con una construcción de frases o patrones de consulta muy singulares podrían ser identificados.
• La fuerza de la protección de la red depende de la disponibilidad de la red de retransmisión o de la implementación de TEE.
• Los usuarios deben seguir confiando en que el sistema de Freysa funcione según lo previsto.

El equipo también ha compartido próximas novedades de Enchanted:

• Soporte para modelos multimodales (que pueden manejar imágenes, audio y texto).
• Sistema de enrutamiento inteligente que elige automáticamente el mejor modelo de IA para lo que le pidas.
• Mejora de su modelo de anonimización para que sea lo suficientemente pequeño como para ejecutarse directamente en tu teléfono, lo que significa que los datos confidenciales nunca salen de tu dispositivo, ni siquiera en forma anonimizada.

Pero a pesar de estas advertencias, el sistema de Freysa destaca como un método único para conciliar la tensión entre privacidad y rendimiento, marcando un paso importante en la expansión del potencial de la IA privada.

Dada la naturaleza de código abierto de las criptomonedas, además del conjunto de valores de soberanía sobre los que se construyó este espacio, tiene sentido que el futuro de la IA privada provenga de nuestra industria. Aunque el modelo actual de Freysa puede que no sea exactamente el "Ledger para la IA" que imaginamos, marca un paso significativo para entretejer la privacidad en las tecnologías que usamos a diario, siempre más limpio que añadir una nueva a la mezcla.

Si quieres probar este sistema por ti mismo, prueba Enchanted o sus modelos de Hugging Face para desarrolladores que busquen una integración más profunda; esta última es una decisión que sin duda contribuirá al crecimiento de la IA privada en general.