PII-Maskierung#

Die PII-Maskierung hält personenbezogene Daten vom Sprachmodell fern. Wenn Sie eine Frage senden, ersetzt QAnswer zuerst Namen, E-Mail-Adressen, Telefonnummern und andere persönliche Angaben durch neutrale Platzhalter. Das Modell arbeitet mit den Platzhaltern, und QAnswer setzt die echten Angaben in der Antwort wieder ein. Die Personen, über die Sie schreiben, erreichen den Modellanbieter nie.

Ihr Administrator schaltet sie pro Modell ein. Danach ist jede Unterhaltung mit diesem Modell geschützt, und der Chat zeigt Ihnen bei jedem Schritt, was maskiert wurde.

So funktioniert es#

1. Finden. Kurz bevor Ihre Frage QAnswer verlässt, sucht ein Detektor, der auf Ihren eigenen Servern läuft, darin und in den mitgesendeten Dokumentpassagen nach personenbezogenen Daten.
2. Ersetzen. Jede Angabe wird durch einen Platzhalter wie <PERSON_NAME_1> ersetzt. Dieselbe Person behält in einer Unterhaltung immer denselben Platzhalter, sodass das Modell die Personen weiterhin auseinanderhalten kann.
3. Antworten. Das Modell sieht immer nur die Platzhalter. Es schreibt seine Antwort mit ihnen.
4. Wiederherstellen. QAnswer tauscht die Platzhalter wieder gegen die echten Angaben, während die Antwort eintrifft. Sie lesen eine normale Antwort.

Beispiel#

Was Sie im Chat sehen#

Ist das Modell einer Unterhaltung geschützt, zeigt der Chat das bei jedem Schritt. Für Unterhaltungen mit anderen Modellen ändert sich nichts.

Während der Eingabe#

Persönliche Angaben werden beim Tippen blau unterstrichen, und ein Zähler unter dem Eingabefeld sagt Ihnen, wie viele gefunden wurden. Fahren Sie mit der Maus über eine unterstrichene Angabe, sehen Sie, um welche Art von Daten es sich handelt.

Fahren Sie über den Zähler, sehen Sie, was mit diesen Angaben geschieht: Sie werden ersetzt, bevor Ihre Frage das Modell erreicht, das sie nie sieht.

Nach dem Absenden#

Ihre Nachricht bleibt genau so, wie Sie sie geschrieben haben. Jede maskierte Angabe behält ihre Unterstreichung, und der Hinweis „Maskiert und gesendet“ bestätigt es. Fahren Sie über eine Angabe, sehen Sie den Platzhalter, den das Modell erhalten hat, zum Beispiel <PERSON_NAME_1>.

In der Antwort#

Persönliche Angaben in der Antwort werden auf dieselbe Weise unterstrichen, ob sie aus Ihrer Frage stammen oder das Modell sie selbst geschrieben hat. Fahren Sie über eine, sehen Sie ihren Platzhalter. Auch sie werden maskiert, wenn die Unterhaltung weitergeht.

Auch Ihre Dokumente werden maskiert#

Die Maskierung beschränkt sich nicht auf das, was Sie tippen. Alles, was das Modell erhält, durchläuft dieselbe Prüfung: die Passagen, die QAnswer aus Ihren Dokumenten holt, ein vollständig gesendetes Dokument, die Dateien, die Sie an eine Nachricht anhängen, und die Ergebnisse von Werkzeugen wie einer Websuche. Eine Kontaktliste in einem PDF erreicht das Modell als Platzhalter, genau wie ein Name in Ihrer Frage.

Eine Person bekommt denselben Platzhalter, ob sie in Ihrer Frage oder in einem Dokument vorkommt; das Modell kann beides also weiterhin verbinden. In der Antwort werden Angaben aus Ihren Dokumenten wie alle anderen unterstrichen.

Feinabstimmung der Maskierung#

Der Detektor entscheidet allein, hat aber nicht das letzte Wort. Sie können ihn im Chat korrigieren, und Administratoren pflegen ein Wörterbuch mit Begriffen, die immer oder nie maskiert werden.

Im Chat#

Fahren Sie beim Tippen über eine unterstrichene Angabe und klicken Sie auf Nicht maskieren: Sie erreicht das Modell so, wie Sie sie geschrieben haben. Markieren Sie beliebigen Text und klicken Sie auf Maskieren als…, um zu schützen, was der Detektor übersehen hat, mit dem Platzhalter Ihrer Wahl.

Ihre Wahl gilt für den Rest der Unterhaltung. Eine bereits gesendete Angabe bleibt in der erhaltenen Antwort maskiert: Ab jetzt nicht maskieren, in einer gesendeten Nachricht oder einer Antwort, gilt ab Ihrer nächsten Nachricht.

PII-Begriffe: Organisation und Assistent#

PII-Begriffe korrigieren den Detektor mit einer Liste, die Sie pflegen. Ein Begriff wird entweder immer mit dem Platzhalter Ihrer Wahl maskiert, etwa ein Projektname als <PROJECT_NAME_1>, oder nie maskiert, etwa ein Produkt oder ein Ort, den der Detektor für eine Person hält. Wie bei den Synonymen gibt es zwei Listen:

• Organisationsbegriffe gelten für jeden Chat der Organisation. Organisationsadministratoren pflegen sie unter Meine Organisation → PII-Begriffe.
• Assistentenbegriffe gelten für einen einzelnen KI-Assistenten. Wer den Assistenten bearbeiten darf, pflegt sie in dessen LLM-Einstellungen unter PII-Begriffe. Die Begriffe der Organisation stehen dort ebenfalls, schreibgeschützt.

Bei gleichem Wert geht ein Assistentenbegriff einem Organisationsbegriff vor, und eine Wahl im Chat geht beiden vor. Begriffe treffen ganze Wörter unabhängig von der Schreibweise, in Fragen, Dokumenten und Werkzeugergebnissen gleichermaßen; eine Änderung gilt ab der nächsten Nachricht. Eine CSV- oder XLSX-Datei mit den zwei Spalten term und label füllt eine Liste auf einmal; lassen Sie den Platzhalter leer für einen Begriff, der nie maskiert wird.

Was als personenbezogene Daten gilt#

Der Detektor erkennt die personenbezogenen und sensiblen Daten, die man oft unbedacht teilt, in allen 24 Amtssprachen der Europäischen Union:

• Namen und Spitznamen, Geburtsdaten, Funktionen, die jemanden erkennbar machen;
• E-Mail-Adressen, Telefonnummern, Postanschriften und Social-Media-Namen;
• Bankkonto- und Kartennummern, Geldbeträge;
• Ausweis-, Pass- und andere Dokumentnummern, Kennzeichen;
• Passwörter, Zugangsschlüssel, IP-Adressen und Links, die zu einer Person führen;
• Firmennamen und Registernummern;
• sensible Informationen wie Gesundheit, Religion, politische Meinungen, sexuelle Orientierung, Gewerkschaftszugehörigkeit oder Vorstrafen.

Ihr Administrator wählt, welche davon für jedes Modell maskiert werden. Datumsangaben, Orte und Webadressen bleiben sichtbar, sofern der Administrator sie nicht hinzufügt: Sie zu verbergen nähme einer Frage ihr Thema, ohne jemanden zu schützen.

Für Administratoren: einschalten#

Zwei Schritte: einen PII-Anbieter hinzufügen und dann die Maskierung für jedes Modell einschalten, das ihn nutzen soll.

1. Einen PII-Anbieter hinzufügen#

Ein PII-Anbieter ist der Dienst, der personenbezogene Daten findet. Fügen Sie im Reiter PII Masking der Seite LM Providers einen mit seiner Adresse und, falls nötig, seinem Schlüssel hinzu und testen Sie die Verbindung.

qanswer-pii ist der Anbieter, der mit QAnswer geliefert wird. Er läuft auf Ihren eigenen Servern, mit oder ohne GPU, und braucht nirgends ein Konto.

Jeder Dienst, der die Presidio-Analyzer-API spricht, funktioniert ebenfalls, Microsoft Presidio eingeschlossen.

2. Die Maskierung für ein Modell einschalten#

Öffnen Sie das Formular des Modells: Der Abschnitt PII masking steht neben den Guardrails.

• Aktivierung — schaltet die Maskierung für dieses Modell ein.
• PII-Anbieter — der Anbieter, der die personenbezogenen Daten findet.
• Zu maskierende Entitätstypen — die Arten personenbezogener Daten, die maskiert werden. Eine sinnvolle Liste ist vorbelegt.
• Schwellenwert — wie sicher der Detektor sein muss, bevor er etwas maskiert. 0,5 ist ein guter Standard; senken Sie ihn, um mehr zu maskieren.
• Benutzer dürfen demaskieren — ob Benutzer bei einem erkannten Wert auf Nicht maskieren klicken können. Standardmäßig an.

Wie gut ist der Detektor?#

Wir haben qanswer-pii auf einem Sprachmodell aufgebaut, das darauf trainiert ist, personenbezogene Daten in den 24 Amtssprachen der EU zu erkennen. Es läuft auf Ihren eigenen Servern, auf einer GPU oder einem normalen Prozessor: Kein Text verlässt Ihre Infrastruktur, um geprüft zu werden.

Wir haben den Detektor hinter qanswer-pii im PII Masking Benchmark gemessen, dem öffentlichen Referenztest für diese Aufgabe: Er findet mehr personenbezogene Daten als jedes andere frei verfügbare Modell. Die Werte unten reichen von 0 bis 1, wobei 1 bedeutet, dass alle personenbezogenen Daten gefunden wurden.

Unsere Messungen mit dem Werkzeug des Benchmarks (piimb 0.3.0). Im einzigen Testdatensatz, in dem er zurückliegt, Nemotron-PII, zählen allgemeine Berufsbezeichnungen, Zeitspannen und leere Formularfelder als personenbezogene Daten.

In unseren Tests mit echten Dokumenten wie Mailinglisten, Kontaktseiten und PDFs in mehreren Sprachen findet der Detektor 98 von 100 persönlichen Angaben, und 97 von 100 der markierten Angaben sind richtig. Die kleinere Variante, die auf einem Prozessor läuft, ist genauso genau.

Im Vergleich zu anderen Ansätzen#

Personenbezogene Daten lassen sich auch anders maskieren. So unterscheiden sich die Ansätze.

Datenschutz, kurz gefasst#

• QAnswer merkt sich, welcher Platzhalter für welche Angabe steht, damit eine Person während einer Unterhaltung denselben Platzhalter behält. Diese Zuordnung wird mit der Unterhaltung gespeichert und mit ihr gelöscht.
• Für Inkognito-Unterhaltungen wird nichts gemerkt, ebenso wenig für Assistenten, die ihren Verlauf anonymisieren oder verwerfen.
• Der Detektor sieht Ihren Text, deshalb läuft er auf Ihren Servern. Protokolle erfassen den maskierten Text, nie die echten Angaben.

Gut zu wissen#

• Hin und wieder wird ein Produkt- oder Firmenname für einen Personennamen gehalten. Die Unterstreichung zeigt Ihnen, wenn das passiert; Ihr Administrator kann die Datenarten und den Schwellenwert feinjustieren.
• Werkzeuge, die der Assistent ausführt, etwa eine Datenbankabfrage, erhalten die echten Angaben: Sie brauchen sie für ihre Arbeit.
• Dem Modell wird mitgeteilt, dass die Platzhalter für echte Werte stehen. Aktuelle Modelle kommen damit gut zurecht; ein kleines Modell erwähnt gelegentlich einen Platzhalter.