Chat
Video-Tutorial
Chat
Auf der Tutorials-Seite ansehen →
Wie eine Konversation ermöglicht der Chat-Bereich die Interaktion mit dem soeben erstellten KI-Assistenten!
Um auf diese KI-Aufgabe zuzugreifen, klicken Sie auf KI-Aufgaben und Chat:
Die Antwort des KI-Assistenten ist eine synthetisierte Antwort, die auf allen Dokumenten basiert, die QAnswer für Ihre letzte Chat-Nachricht gefunden hat. Die Antwort basiert auf einem generativen Modell, sodass jede generierte Antwort unterschiedlich formuliert sein kann, aber stets dieselben Informationen enthält.
Um die Qualität der Antworten weiter zu verbessern, können Sie Feedback über die Daumen-hoch- oder Daumen-runter-Symbole geben.
Außerdem können Sie die generierte Antwort durch Klicken auf das Bearbeiten-Symbol anpassen.
Aufgaben-Einstellungen
Um Ihren Chat KI-Assistenten anzupassen, klicken Sie auf das Einstellungsbereich-Symbol. Sie können das Verhalten Ihres KI-Assistenten anpassen durch:
- Ändern des Prompts im Prompt-Editor: Passen Sie das Verhalten des KI-Assistenten an.
- Anpassen der LLM-Einstellungen: Wählen Sie das LLM, die Willkommensnachricht, die Antwortlänge, den Kreativitätslevel und die Antwortgeschwindigkeit.
- Anpassen des Retrievers: Wählen Sie das LLM-Referenzniveau und fügen Sie Synonyme hinzu.
- Aktivieren der menschlichen Übernahme: Ermöglicht Benutzern, bei Bedarf eine menschliche Übernahme des Chats anzufordern.
- Konfigurieren erweiterter Filter: Ermöglicht Benutzern das Filtern von Dokumenten nach bestimmten Metadaten.
Prompt-Editor
Der Prompt-Editor ermöglicht die vollständige Anpassung des KI-Assistentenverhaltens. Sie können die Persönlichkeit, den Antwortstil und vieles mehr definieren. Durch die Verwendung von Slots Variablen wie {{bot_name}} or {{bot_answer_length}} können dynamische Werte in den Prompt eingefügt werden.
Drücken Sie / um die Liste der verfügbaren Variablen zu sehen. Weitere Informationen finden Sie im Slots Abschnitt.
LLM-Einstellungen
In den LLM-Einstellungen können Sie die Parameter des LLM anpassen, das Ihren KI-Assistenten antreibt, wie z.B.:
- das LLM-Modell
- die Willkommensnachricht
- das Kontextfenster in Token
- Anzeige oder Ausblendung des letzten Aktualisierungsdatums in Quellen
- die maximale Antwortlänge
- den Kreativitätslevel (Temperatur)
- die Antwortgeschwindigkeit
- Kontextfenster (Token): wie viel Text (Konversation + Dokumente) das Modell gleichzeitig berücksichtigen kann. Bei Überschreitung können frühere Inhalte wegfallen.
- Maximale Antwortlänge: Begrenzung der vom Modell zurückgegebenen Token; verhindert übermäßig lange Ausgaben.
Praxistipp: Niedrige Temperatur für sachliche Extraktion verwenden, Kontextfenster für lange Dokumente erhöhen und maximale Antwortlänge zur Kontrolle von Ausgabegröße und Kosten festlegen.
Kontext erweitern
Diese Funktion wird über 2 Einstellungen gesteuert:
- Benutzerspezifischer Zugriff (von Admins über die Benutzertabelle gesteuert)
- Assistentenspezifischer Zugriff (im Einstellungsbereich)
Wenn im Admin-Bereich aktiviert, ist der Schalter in den Such- und Chat-KI-Aufgaben-Oberflächen sowie im Chatbot-Eingabefeld sichtbar, wenn der KI-Assistent markiert wird.
Die Funktion ist standardmäßig inaktiv. Wenn aktiviert, kann der KI-Assistent große Dokumente effektiver verarbeiten, indem er sie in kleinere Teile aufteilt, jeden Teil versteht und die Antworten kombiniert.
Retriever-Einstellungen
In den Retriever-Einstellungen können Sie die Parameter des Retrievers anpassen, der zum Abrufen relevanter Dokumente verwendet wird:
- das verwendete Einbettungsmodell (Hinweis: eine Änderung führt zur vollständigen Neuindizierung des KI-Assistenten)
- Die Anzahl der an das LLM übergebenen Referenzen
- die Synonyme zum Abrufen relevanterer Dokumente
Synonyme
Im Synonyme-Bereich können Sie Synonymgruppen definieren, die zum Abrufen relevanterer Dokumente verwendet werden.
- Klicken Sie auf + Synonymgruppe hinzufügen, um eine neue Synonymgruppe hinzuzufügen.
- Geben Sie ein Wort in das Eingabefeld ein und drücken Sie Enter oder klicken Sie auf +, um es zur Synonymliste hinzuzufügen.
- Eine neue Gruppe kann nur hinzugefügt werden, wenn keine bestehenden Gruppen vorhanden sind oder die letzte Gruppe mindestens ein Synonym enthält und das Eingabefeld leer ist.
- Eine Gruppe kann durch Klicken auf das Papierkorb-Symbol gelöscht werden.
- Sie können eine Synonymliste hochladen, indem Sie auf Massen-Upload klicken. Sie können das CSV-Beispiel herunterladen um das Format zu erlernen oder Datei auswählen um Ihre eigene CSV hochzuladen.
Dokumenten-Chunking
Das Dokumenten-Chunking steuert, wie Text vor der Einbettung und Indizierung aufgeteilt wird. Es beeinflusst die Abrufqualität und Kontextfenster. Es gibt drei Hauptparameter:
Aufteilen nach — Wählen Sie die Einheit zum Aufteilen des Dokuments: Wörter, Sätze oder Seiten.
Aufteilungslänge — Definiert die Größe jedes Chunks basierend auf der gewählten Einheit.
Aufteilungsüberlappung — Definiert, wie viel des vorherigen Chunks in den nächsten übertragen wird, um den Kontext zu erhalten.
Abfrageerweiterung
Die Abfrageerweiterung wird verwendet, um Benutzeranfragen so umzuformulieren, dass sie den notwendigen Kontext zum Abrufen der richtigen Dokumente enthalten. Dies ist besonders wichtig bei Folgefragen oder zeitlichen Bezügen.
Menschliche Übernahme
- Wenn diese Option aktiviert ist, kann ein Benutzer des KI-Assistenten eine menschliche Übernahme des Chats anfordern. Funktioniert nur, wenn der KI-Assistent mit anderen Benutzern geteilt wird.
- Eine E-Mail wird an den Eigentümer des KI-Assistenten gesendet.
- Der Eigentümer kann die Konversation einsehen und bei Bedarf übernehmen.
Antwortvorschläge
Antwortvorschläge generieren automatisch anklickbare Folgefrage-Blasen unterhalb jeder Assistentenantwort. Ein Klick auf eine Blase sendet die Frage sofort an den Assistenten und hilft Benutzern, Themen zu erkunden, ohne tippen zu müssen.
- Aktivieren Sie den Schalter im Reiter Erweitert der Einstellungen, um Antwortvorschläge zu aktivieren.
- Nach jeder Antwort erscheinen relevante Folgefragen als anklickbare Blasen unterhalb der Antwort.
- Der zur Generierung der Vorschläge verwendete Prompt ist vollständig anpassbar — Sie können Sprache, Ton oder Thema der Vorschläge ändern.
Erweiterte Filter
Sie können die zur Beantwortung Ihrer Frage verwendeten Dokumente durch Klicken auf Erweiterte Filter filtern.
Chat-Metadaten
Zugriff auf facettierten Chat: Gehen Sie zu KI-Aufgaben → Chat. Klicken Sie im rechten Bereich auf Chat-Einstellungen → Erweiterte Filter. Aktivieren Sie die gewünschten Filter.
