LM Providers
LM Providers (Anbieter von Sprachmodellen) sind die externen KI-Dienste, mit denen QAnswer spricht: die Modelle, die Antworten schreiben, die Modelle, die Ihre Dokumente in durchsuchbare Vektoren umwandeln, und die Werkzeuge, die im Web suchen, Bilder erzeugen oder Audio transkribieren. Dieser Abschnitt erklärt, was sie sind, wo sie verwaltet werden und wozu jeder Typ dient.
Diese Seite behandelt die Anbieter Ihres eigenen Arbeitsbereichs: welche Sie standardmäßig verwenden und welche Sie selbst mit Ihrem eigenen API-Schlüssel hinzufügen.
Die fünf Anbietertypen
Jeder Tab der LM-Providers-Seite enthält eine Art von Anbieter, und jede Art hat hier ihre eigene Seite. Sie müssen keine davon anpassen — die Ihnen zugewiesenen funktionieren bereits.
- LLM — die Modelle, die eine Frage lesen und die Antwort schreiben. Genau das wählen Nutzer in der Modellauswahl des Chats.
- Embedder — die Modelle, die Dokumente in Vektoren umwandeln, damit ein Assistent sie durchsuchen kann. Jeder Assistent ist an genau einen Embedder gebunden.
- Image Generation — erlaubt dem Chat und Ihren Assistenten, Bilder aus einer Textanweisung zu erzeugen.
- Speech-to-Text — versorgt die Mikrofon-Schaltfläche im Chat, damit Nutzer diktieren statt tippen können.
- Web Search — erlaubt einem Modell, während eines Gesprächs im aktuellen Web nachzusehen.
Die Seite öffnen
Klicken Sie im linken Hauptmenü auf LM Providers.
Die Seite öffnet sich auf dem Tab LLM. Die Tabs oben wechseln zwischen den fünf Anbietertypen; alles darunter funktioniert in jedem Tab gleich.
Was Sie hier tun können
Was für Ihren eigenen Arbeitsbereich spezifisch ist:
- Legen Sie Ihren Standard für jede Art mit „Als Standard festlegen“ fest. Er gilt für Ihre eigenen Unterhaltungen und Assistenten und überschreibt den Ihnen zugewiesenen Standard.
- Fügen Sie mit „Anbieter hinzufügen“ und Ihrem eigenen API-Schlüssel einen eigenen Anbieter hinzu. Was Sie hier hinzufügen, gehört Ihnen: es wird über Ihren Schlüssel abgerechnet und niemand sonst sieht es.
- Prüfen Sie mit „Verbindung testen“ bei einem selbst hinzugefügten Anbieter, ob der Schlüssel funktioniert, bevor Sie sich in einer Unterhaltung darauf verlassen.
Wo Sie Anbieter verwalten
Dieselbe LM-Providers-Seite gibt es auf vier Ebenen. Sie sieht überall gleich aus und funktioniert überall gleich — was sich ändert, ist, für wen Ihre Entscheidungen gelten.
- Plattform — der Administrationsbereich der Installation. Hier erstellte Anbieter bilden den Katalog der gesamten Plattform: Jede Organisation kann sie sehen und aktivieren. Nur für Plattform-Administratoren.
- Organisation — die Organisationseinstellungen. Organisations-Administratoren aktivieren dort Plattform-Anbieter für ihre Organisation, fügen eigene hinzu und wählen die Standards der Organisation.
- Team — dieselben Organisationseinstellungen mit einem im Bereichswechsler ausgewählten Team. Team-Administratoren wählen dort, welche Anbieter der Organisation ihr Team nutzt.
- Ihr Arbeitsbereich — LM Providers im linken Hauptmenü. Dort wählt jeder seine persönlichen Standards und kann eigene API-Schlüssel hinterlegen.
So sieht die Seite auf jeder Ebene aus:
Jede Ebene wählt ihren eigenen Standardanbieter. Haben mehrere Ebenen einen gesetzt, gewinnt die spezifischste: persönlich vor Team, Team vor Organisation, Organisation vor Plattform.
Normalerweise müssen Sie nichts ändern — ein Standard-LLM und ein Standard-Embedder sind bereits für Sie ausgewählt, was zum Chatten und zum Erstellen von Assistenten ausreicht. Kommen Sie hierher zurück, wenn Sie ein bestimmtes Modell wünschen oder lieber Ihren eigenen API-Schlüssel verwenden.
Wie Liste, Standards, Testen, Hinzufügen und das Kopieren von Anbietern funktionieren, ist einmal für alle Ebenen beschrieben in Managing LM Providers. Was Ihre eigenen Unterhaltungen gekostet haben, steht unter Verbrauch und Kosten.