LM Providers
LM Providers (Anbieter von Sprachmodellen) sind die externen KI-Dienste, mit denen QAnswer spricht: die Modelle, die Antworten schreiben, die Modelle, die Ihre Dokumente in durchsuchbare Vektoren umwandeln, und die Werkzeuge, die im Web suchen, Bilder erzeugen oder Audio transkribieren. Dieser Abschnitt erklärt, was sie sind, wo sie verwaltet werden und wozu jeder Typ dient.
Diese Seite ist der Einstiegspunkt der Plattform: was Sie im Admin-Bereich konfigurieren, wird zum Katalog, mit dem jede Organisation startet, und zum Rückfallwert für alle, die nichts anderes gewählt haben.
Die fünf Anbietertypen
Jeder Tab der LM-Providers-Seite steht für einen Anbietertyp, und jeder Typ hat in dieser Dokumentation eine eigene Seite. Sie müssen nicht alle einrichten — beginnen Sie mit denen, die Ihre Nutzer wirklich brauchen.
- LLM — die Modelle, die eine Frage lesen und die Antwort schreiben. Genau das wählen Nutzer in der Modellauswahl des Chats.
- Embedder — die Modelle, die Dokumente in Vektoren umwandeln, damit ein Assistent sie durchsuchen kann. Jeder Assistent ist an genau einen Embedder gebunden.
- Image Generation — erlaubt dem Chat und Ihren Assistenten, Bilder aus einer Textanweisung zu erzeugen.
- Speech-to-Text — versorgt die Mikrofon-Schaltfläche im Chat, damit Nutzer diktieren statt tippen können.
- Web Search — erlaubt einem Modell, während eines Gesprächs im aktuellen Web nachzusehen.
Die Seite öffnen
Klicken Sie im Administrationsmenü auf LM Providers.
Die Seite öffnet sich auf dem Tab LLM. Die Tabs oben wechseln zwischen den fünf Anbietertypen; alles darunter funktioniert in jedem Tab gleich.
Was für die Plattformebene spezifisch ist
Was auf der Plattformebene besonders ist:
- Jeder Anbieter gehört hier der Plattform: Jede Zeile trägt Zahnrad und Papierkorb — Sie können alle bearbeiten und löschen.
- Hier erstellte Anbieter können von jeder Organisation aktiviert werden. Löschen ist nur möglich, solange keine Organisation von ihnen abhängt.
- Beim Erstellen eines Anbieters entscheidet Enable for all organizations, ob Organisationen ihn sofort eingeschaltet erhalten oder ihn selbst aktivieren müssen.
- Guardrails auf LLM-Anbietern werden üblicherweise hier konfiguriert, damit sie überall gelten, wo das Modell genutzt wird — siehe Guardrails.
Wo Sie Anbieter verwalten
Dieselbe LM-Providers-Seite gibt es auf vier Ebenen. Sie sieht überall gleich aus und funktioniert überall gleich — was sich ändert, ist, für wen Ihre Entscheidungen gelten.
- Plattform — der Administrationsbereich der Installation. Hier erstellte Anbieter bilden den Katalog der gesamten Plattform: Jede Organisation kann sie sehen und aktivieren. Nur für Plattform-Administratoren.
- Organisation — die Organisationseinstellungen. Organisations-Administratoren aktivieren dort Plattform-Anbieter für ihre Organisation, fügen eigene hinzu und wählen die Standards der Organisation.
- Team — dieselben Organisationseinstellungen mit einem im Bereichswechsler ausgewählten Team. Team-Administratoren wählen dort, welche Anbieter der Organisation ihr Team nutzt.
- Ihr Arbeitsbereich — LM Providers im linken Hauptmenü. Dort wählt jeder seine persönlichen Standards und kann eigene API-Schlüssel hinterlegen.
So sieht die Seite auf jeder Ebene aus:
Jede Ebene wählt ihren eigenen Standardanbieter. Haben mehrere Ebenen einen gesetzt, gewinnt die spezifischste: persönlich vor Team, Team vor Organisation, Organisation vor Plattform.
Machen Sie zuerst das Minimum: Schalten Sie im Tab LLM ein Modell ein und klicken Sie auf Set as default, dann dasselbe im Tab Embedder. Mit diesen beiden kann Ihre Organisation schon chatten und Assistenten bauen. Bildgenerierung, Spracherkennung und Websuche sind optionale Ergänzungen, die Sie später hinzufügen können.
Wie Liste, Standards, Testen, Hinzufügen und Import/Export funktionieren, ist einmal für alle Ebenen beschrieben in LM Providers verwalten. Was das alles kostet, steht unter Verbrauch und Kosten.