Masquage des données personnelles (PII)#

Le masquage PII tient les données personnelles hors de portée du modèle de langage. Quand vous envoyez une question, QAnswer remplace d'abord les noms, adresses e-mail, numéros de téléphone et autres informations personnelles par des étiquettes neutres. Le modèle travaille avec les étiquettes, et QAnswer remet les vraies informations dans la réponse. Les personnes dont vous parlez n'atteignent jamais le fournisseur du modèle.

Votre administrateur l'active modèle par modèle. Une fois activé, chaque conversation avec ce modèle est protégée, et le chat vous montre à chaque étape ce qui a été masqué.

Comment ça marche#

1. Trouver. Juste avant que votre question ne quitte QAnswer, un détecteur qui tourne sur vos propres serveurs y cherche les données personnelles, ainsi que dans les passages de documents envoyés avec elle.
2. Remplacer. Chaque information est remplacée par une étiquette telle que <PERSON_NAME_1>. Une même personne garde toujours la même étiquette dans une conversation, le modèle distingue donc toujours les personnes.
3. Répondre. Le modèle ne voit jamais que les étiquettes. Il rédige sa réponse avec elles.
4. Rétablir. QAnswer remplace les étiquettes par les vraies informations à mesure que la réponse arrive. Vous lisez une réponse normale.

Exemple#

Ce que vous voyez dans le chat#

Quand le modèle d'une conversation est protégé, le chat le montre à chaque étape. Rien ne change pour les conversations avec les autres modèles.

Pendant la saisie#

Les informations personnelles sont soulignées en bleu au fil de la frappe, et un compteur sous le champ vous dit combien ont été trouvées. Survolez une information soulignée pour voir de quel type de donnée il s'agit.

Survolez le compteur pour voir ce qu'il advient de ces informations : elles sont remplacées avant que votre question n'atteigne le modèle, qui ne les voit jamais.

Après l'envoi#

Votre message reste exactement tel que vous l'avez écrit. Chaque information masquée garde son soulignement, et la mention « Masqué et envoyé » le confirme. Survolez une information pour voir l'étiquette que le modèle a reçue, par exemple <PERSON_NAME_1>.

Dans la réponse#

Les informations personnelles de la réponse sont soulignées de la même façon, qu'elles viennent de votre question ou que le modèle les ait écrites lui-même. Survolez-en une pour voir son étiquette. Elles seront masquées elles aussi si la conversation continue.

Vos documents sont masqués aussi#

Le masquage ne se limite pas à ce que vous tapez. Tout ce que le modèle reçoit passe par la même vérification : les passages que QAnswer extrait de vos documents, un document envoyé en entier, les fichiers que vous joignez à un message et les résultats des outils comme une recherche web. Une liste de contacts dans un PDF arrive au modèle sous forme d'étiquettes, exactement comme un nom dans votre question.

Une personne reçoit la même étiquette qu'elle apparaisse dans votre question ou dans un document : le modèle peut donc faire le lien. Dans la réponse, les informations issues de vos documents sont soulignées comme les autres.

Affiner ce qui est masqué#

Le détecteur décide seul, mais il n'a pas le dernier mot. Vous pouvez le corriger dans le chat, et les administrateurs tiennent un dictionnaire de termes toujours, ou jamais, masqués.

Dans le chat#

Survolez une information soulignée pendant que vous tapez et cliquez sur Ne pas masquer : elle arrive au modèle telle quelle. Sélectionnez n'importe quel texte et cliquez sur Masquer comme… pour protéger ce que le détecteur a manqué, avec l'étiquette de votre choix.

Votre choix vaut pour la suite de la conversation. Une information déjà envoyée reste masquée dans la réponse reçue : Ne plus masquer, dans un message envoyé ou une réponse, s'applique à partir de votre prochain message.

Termes PII : organisation et assistant#

Les termes PII corrigent le détecteur avec une liste que vous tenez. Un terme est soit toujours masqué avec l'étiquette de votre choix, un nom de code de projet en <PROJECT_NAME_1> par exemple, soit jamais masqué, pour un produit ou un lieu que le détecteur prend pour une personne. Comme pour les synonymes, il existe deux listes :

• Les termes de l'organisation valent pour tous les chats de l'organisation. Les administrateurs de l'organisation les tiennent sous Mon organisation → Termes PII.
• Les termes de l'assistant valent pour un seul assistant IA. Toute personne qui peut modifier l'assistant les tient dans ses Paramètres du LLM, sous Termes PII. Les termes de l'organisation y figurent aussi, en lecture seule.

Pour une même valeur, un terme de l'assistant prime sur un terme de l'organisation, et un choix fait dans le chat prime sur les deux. Les termes correspondent à des mots entiers, quelle que soit la casse, dans les questions, les documents et les résultats d'outils ; un changement s'applique dès le message suivant. Un fichier CSV ou XLSX à deux colonnes, term et label, remplit une liste en bloc ; laissez l'étiquette vide pour un terme jamais masqué.

Ce qui compte comme donnée personnelle#

Le détecteur reconnaît les données personnelles et sensibles que l'on partage souvent sans y penser, dans les 24 langues officielles de l'Union européenne :

• noms et surnoms, dates de naissance, fonctions qui désignent quelqu'un ;
• adresses e-mail, numéros de téléphone, adresses postales et pseudonymes de réseaux sociaux ;
• numéros de compte bancaire et de carte, montants ;
• numéros de pièce d'identité, de passeport et d'autres documents, plaques d'immatriculation ;
• mots de passe, clés d'accès, adresses IP et liens qui mènent à une personne ;
• noms d'entreprises et numéros d'immatriculation ;
• informations sensibles comme la santé, la religion, les opinions politiques, l'orientation sexuelle, l'appartenance syndicale ou le casier judiciaire.

Votre administrateur choisit lesquelles sont masquées pour chaque modèle. Les dates, les lieux et les adresses web restent visibles sauf si l'administrateur les ajoute : les cacher retirerait le sujet d'une question sans protéger personne.

Pour les administrateurs : l'activer#

Deux étapes : ajouter un fournisseur PII, puis activer le masquage pour chaque modèle qui doit l'utiliser.

1. Ajouter un fournisseur PII#

Un fournisseur PII est le service qui trouve les données personnelles. Dans l'onglet PII Masking de la page LM Providers, ajoutez-en un avec son adresse et, s'il en demande une, sa clé, puis testez la connexion.

qanswer-pii est le fournisseur livré avec QAnswer. Il tourne sur vos propres serveurs, avec ou sans GPU, et ne nécessite aucun compte nulle part.

Tout service qui parle l'API de l'analyseur Presidio fonctionne aussi, Microsoft Presidio compris.

2. Activer le masquage pour un modèle#

Ouvrez le formulaire du modèle : la section PII masking se trouve à côté des garde-fous.

• Activation — active le masquage pour ce modèle.
• Fournisseur PII — le fournisseur qui trouve les données personnelles.
• Types d'entités à masquer — les types de données personnelles à masquer. Une liste raisonnable est préremplie.
• Seuil de score — le degré de certitude que le détecteur doit atteindre avant de masquer. 0,5 est une bonne valeur par défaut ; baissez-le pour masquer davantage.
• Démasquage par les utilisateurs — si les utilisateurs peuvent cliquer sur Ne pas masquer pour une valeur détectée. Activé par défaut.

Le détecteur est-il bon ?#

Nous avons construit qanswer-pii sur un modèle de langage entraîné à reconnaître les données personnelles dans les 24 langues officielles de l'UE. Il tourne sur vos propres serveurs, sur GPU ou sur un processeur ordinaire : aucun texte ne quitte votre infrastructure pour être vérifié.

Nous avons évalué le détecteur de qanswer-pii sur le PII Masking Benchmark, le test public de référence pour cette tâche : il trouve plus de données personnelles que tout autre modèle librement disponible. Les scores ci-dessous vont de 0 à 1, où 1 signifie que toutes les données personnelles ont été trouvées.

Nos mesures avec l'outil du benchmark (piimb 0.3.0). Sur le seul jeu de test où il est devancé, Nemotron-PII, des intitulés de poste génériques, des durées et des champs de formulaire vides comptent comme données personnelles.

Dans nos tests sur des documents réels tels que des listes de diffusion, des pages de contact et des PDF en plusieurs langues, il trouve 98 informations personnelles sur 100, et 97 informations sur 100 parmi celles qu'il marque sont justes. La version allégée qui tourne sur processeur est tout aussi précise.

Par rapport aux autres approches#

On peut masquer les données personnelles autrement. Voici ce qui change.

Confidentialité, en bref#

• QAnswer retient quelle étiquette correspond à quelle information, pour qu'une personne garde la même étiquette tout au long d'une conversation. Cette mémoire est stockée avec la conversation et supprimée avec elle.
• Rien n'est retenu pour les conversations incognito, ni pour les assistants réglés pour anonymiser ou supprimer leur historique.
• Le détecteur voit votre texte, c'est pourquoi il tourne sur vos serveurs. Les journaux enregistrent le texte masqué, jamais les vraies informations.

Bon à savoir#

• De temps en temps, un nom de produit ou d'entreprise est pris pour un nom de personne. Le soulignement vous le montre quand cela arrive ; votre administrateur peut affiner les types de données et le seuil.
• Les outils que l'assistant exécute, comme une requête de base de données, reçoivent les vraies informations : ils en ont besoin pour faire leur travail.
• Le modèle est informé que les étiquettes représentent de vraies valeurs. Les modèles actuels s'en accommodent très bien ; un petit modèle peut à l'occasion mentionner une étiquette.