LM Providers#

LM Providers (Anbieter von Sprachmodellen) sind die externen KI-Dienste, mit denen QAnswer spricht: die Modelle, die Antworten schreiben, die Modelle, die Ihre Dokumente in durchsuchbare Vektoren umwandeln, und die Werkzeuge, die im Web suchen, Bilder erzeugen oder Audio transkribieren. Dieser Abschnitt erklärt, was sie sind, wo sie verwaltet werden und wozu jeder Typ dient.

Diese Seite ist der Einstiegspunkt des Teams: wofür jede Art von Anbieter da ist, welche der Anbieter der Organisation das Team nutzt und wie der Team-Standard in die Hierarchie passt.

Die fünf Anbietertypen#

Jeder Tab der LM-Providers-Seite steht für einen Anbietertyp, und jeder Typ hat in dieser Dokumentation eine eigene Seite. Sie müssen nicht alle einrichten — beginnen Sie mit denen, die Ihre Nutzer wirklich brauchen.

• LLM — die Modelle, die eine Frage lesen und die Antwort schreiben. Genau das wählen Nutzer in der Modellauswahl des Chats.
• Embedder — die Modelle, die Dokumente in Vektoren umwandeln, damit ein Assistent sie durchsuchen kann. Jeder Assistent ist an genau einen Embedder gebunden.
• Image Generation — erlaubt dem Chat und Ihren Assistenten, Bilder aus einer Textanweisung zu erzeugen.
• Speech-to-Text — versorgt die Mikrofon-Schaltfläche im Chat, damit Nutzer diktieren statt tippen können.
• Web Search — erlaubt einem Modell, während eines Gesprächs im aktuellen Web nachzusehen.

Die Seite öffnen#

Klicken Sie in den Teameinstellungen im linken Menü auf LM Providers.

Die Seite öffnet sich auf dem Tab LLM. Die Tabs oben wechseln zwischen den fünf Anbietertypen; alles darunter funktioniert in jedem Tab gleich.

Was für das Team spezifisch ist#

Ein Team hat keinen eigenen Katalog — es arbeitet mit dem, was die Organisation bereitgestellt hat:

• Die Liste zeigt die von der Organisation aktivierten Anbieter. Einen Anbieter hier ein- oder auszuschalten ändert nur, was dieses Team nutzt; die Organisation und die anderen Teams bleiben unberührt.
• Set as default legt den Team-Standard fest, erkennbar am Abzeichen Team default. Er gilt für alle Teammitglieder, die keinen persönlichen Standard gewählt haben.
• Add provider legt einen Anbieter aus den Teameinstellungen heraus an — nützlich, wenn das Team ein Modell oder einen API-Schlüssel braucht, den die Organisation nicht bereitgestellt hat.

Wo Sie Anbieter verwalten#

Dieselbe LM-Providers-Seite gibt es auf vier Ebenen. Sie sieht überall gleich aus und funktioniert überall gleich — was sich ändert, ist, für wen Ihre Entscheidungen gelten.

• Plattform — der Administrationsbereich der Installation. Hier erstellte Anbieter bilden den Katalog der gesamten Plattform: Jede Organisation kann sie sehen und aktivieren. Nur für Plattform-Administratoren.
• Organisation — die Organisationseinstellungen. Organisations-Administratoren aktivieren dort Plattform-Anbieter für ihre Organisation, fügen eigene hinzu und wählen die Standards der Organisation.
• Team — dieselben Organisationseinstellungen mit einem im Bereichswechsler ausgewählten Team. Team-Administratoren wählen dort, welche Anbieter der Organisation ihr Team nutzt.
• Ihr Arbeitsbereich — LM Providers im linken Hauptmenü. Dort wählt jeder seine persönlichen Standards und kann eigene API-Schlüssel hinterlegen.

So sieht ein Team-Administrator die Seite — die Anbieter, die das Team nutzen kann, mit dem als Team-Standard markierten Anbieter: