Subscribe to Bankless or sign in
Il y a quelques mois, RSA a publié un article sur l'idée d'un un dispositif prêt à l'emploi qui permettrait aux utilisateurs d'exploiter des données privées et personnelles avec n'importe quel LLM de leur choix - essentiellement un grand livre de comptes pour l'IA. Une solution matérielle clé en main exécutant des modèles locaux que les principaux outils d'IA pourraient traiter comme un nuage, offrant la même interface utilisateur mais avec une "confidentialité à toute épreuve".
Encadré : si vous avez besoin d'un rappel sur les raisons pour lesquelles la protection de la vie privée dans le domaine de l'IA s'avère absolument cruciale, considérez les trois points que j'ai martelés :
- Non cryptées pendant l'utilisation - Les données deviennent très vulnérables au moment précis où elles sont les plus sensibles, lorsque l'IA traite nos stratégies commerciales, nos préoccupations en matière de santé et nos luttes personnelles.
- Incitation massive à l'exploitation - Bien que les politiques actuelles puissent promettre le respect de la vie privée, les entreprises ont toutes les raisons de les modifier et d'utiliser vos données pour obtenir un avantage concurrentiel, ce qui multiplie les risques de fuite.
- Boucles de rétroaction insidieuses - L'entraînement qui peut être fait avec nos schémas de pensée les plus intimes s'avère terrifiant lorsqu'il est associé à la nature lucrative de ces entreprises, suscitant des visions (au minimum) de flux sociaux hyper-prédateurs, suralimentés par l'IA. J'ai choisi de ne pas envisager le "pire" ici
Bien que j'aie couvert diverses solutions d'"IA privée" au cours des dernières semaines - de Venise à NilGPT - qui se targuent toutes de percées en matière de protection de la vie privée, elles restent en deçà de cette vision complète pour des niveaux de performance égaux. Je pense que cette vision se concrétisera dans un avenir assez proche.
À cette fin, la semaine dernière, l'organisation expérimentale d'IA phare d'Ethereum, Freysa, a lancé son application mobile Enchantedqui propose deux approches de l'IA privée sur votre téléphone :
- Des modèles open-source tels que DeepSeek R1 et Llama 3.3 70B fonctionnant dans des environnements d'exécution de confiance (TEE).
- Modèles à code source fermé accessibles en privé grâce à l'anonymisation par couches.
Cette solution de confidentialité à source fermée distingue Enchanted des autres applications que j'ai couvertes récemment. Alors que Venice et NilGPT s'appuient sur des modèles open-source dont les performances sont inférieures à celles des modèles fermés, l'approche de Freysa en matière d'anonymisation permet aux utilisateurs de bénéficier du meilleur des deux mondes, en proposant une solution qui offre à la fois confidentialité et performance.
L'équipe a expliqué en détail comment elle y est parvenue dans"Reinforcement Learning for Privacy"(apprentissage par renforcement pour la protection de la vie privée), décrivant comment elle utilise un système à deux modèles, équipé de petits modèles de langage (SLM) formés sur mesure, qui soumettent des requêtes anonymes aux principaux LLM à source fermée (OpenAI, Claude, etc.) pour le compte des utilisateurs.
Le fonctionnement est le suivant :
- J'envoie une requête contenant des informations sensibles au SLM de Freysa, qui fonctionne soit à distance (dans leur application Enchanted), soit sur mon ordinateur localement (expertise technique requise).
- Ce modèle remplace mes données sensibles - comptes bancaires, postes de travail, etc. - par des mots substituts sémantiquement équivalents qui conservent le sens et l'intention de la phrase.
- Ce message aseptisé est envoyé à une IA fermée de mon choix pour y être traité.
- La réponse est renvoyée au modèle local, qui la "décode", offrant ainsi la qualité d'un modèle fermé tout en préservant la confidentialité.
Le modèle de Freysa suit des principes spécifiques pour distinguer les informations privées des informations publiques, en les rendant anonymes conformément à ces lignes directrices :
Bien qu'il y ait un risque que le système de Freysa hallucine et prenne des informations privées pour des informations publiques (ou vice versa), l'équipe est confiante dans la capacité de son modèle à faire la distinction entre les deux, soulignant le fait que :
- les LLM sont déjà exceptionnellement performants dans les tâches d'anonymisation
- Lorsqu'il est comparé au score de 9,77/10 de GPT-4.1 pour l'anonymisation, leur modèle atteint jusqu'à 9,55/10, ce qui est remarquablement proche malgré le fait qu'il soit environ 1000 fois plus petit.
Au-delà de la protection de la vie privée obtenue grâce à l'anonymisation, Freysa met en œuvre des protections au niveau du réseau via des TEE et l'obscurcissement du trafic pour se protéger contre les personnes extérieures qui tentent de "percer" l'anonymat de leur système en suivant les schémas d'utilisation. L'équipe décrit le résultat final comme des invites apparaissant"comme des requêtes anonymes provenant de différentes 'personnes'", masquant ainsi efficacement les utilisateurs individuels au sein d'une foule.
Mais rien n'est parfait. Après avoir consulté leur blog, j'ai eu l'impression que les exemples de messages-guides décrits pouvaient potentiellement être "décodés" par les entreprises à l'origine des modèles à code source fermé, étant donné que les requêtes créent une ligne de démarcation claire (voir l'exemple ci-dessous).
Freysa reconnaît ces limites actuelles et précise que :
- Les utilisateurs dont la construction des phrases ou les schémas de requête sont très particuliers pourraient potentiellement être identifiés.
- La force de la protection du réseau dépend de la disponibilité du réseau de relais ou de la mise en œuvre de l'ETA.
- Les utilisateurs doivent encore faire confiance au système de Freysa pour qu'il fonctionne comme prévu.
L'équipe a également fait part de ce qui à venir pour Enchanted:
- Prise en charge de modèles multimodaux (capables de traiter des images, du son et du texte)
- Système de routage intelligent qui sélectionne automatiquement le meilleur modèle d'IA en fonction de la question posée.
- Amélioration du modèle d'anonymisation afin qu'il soit suffisamment petit pour fonctionner directement sur votre téléphone, ce qui signifie que les données sensibles ne quittent jamais votre appareil, même sous forme anonyme.
Malgré ces réserves, le système de Freysa se distingue comme une méthode unique pour réconcilier la tension entre la vie privée et la performance, marquant une étape majeure dans l'expansion du potentiel de l'IA privée.
Compte tenu de la nature open-source des crypto-monnaies et des valeurs de souveraineté sur lesquelles cet espace s'est construit, il est logique que l'avenir de l'IA privée vienne de notre industrie. Bien que le modèle actuel de Freysa ne soit pas exactement le "Ledger pour l'IA" que nous envisageons, il marque une étape significative dans l'intégration de la protection de la vie privée dans les technologies que nous utilisons tous les jours - ce qui est toujours plus propre que d'ajouter une nouvelle technologie au mélange.
Si vous souhaitez tester ce système par vous-même, essayez Enchanted ou leurs modèles sur Hugging Face pour les développeurs à la recherche d'une intégration plus poussée - une décision qui contribuera certainement à la croissance de l'IA privée dans son ensemble.
