QAnswer auf Scaleway installieren#

Für ein optimales Cloud-Erlebnis verwenden Sie Scaleway als Cloud-Anbieter. QAnswers Cloud-Angebot nutzt die L40S GPU-Instanz von Scaleway, die mit dem NVIDIA-Treiber vorkonfiguriert ist.

Container-Laufzeit installieren#

Installieren Sie entweder Docker oder Podman als Container-Laufzeit. Folgen Sie den jeweiligen Anweisungen unten:

Docker installieren#

Folgen Sie dem offiziellen Docker-Installationsleitfaden um Docker zu installieren.

Podman installieren (Alternative zu Docker)#

Folgen Sie dem offiziellen Podman-Installationsleitfaden um Podman zu installieren.

Installieren von podman-compose#

Installieren Sie podman-compose für docker-compose-ähnliche Funktionalität. Weitere Informationen finden Sie in der offiziellen podman-compose-Dokumentation für Installationsschritte.

Überprüfen Sie nach der Installation, ob sowohl Podman als auch podman-compose ordnungsgemäß eingerichtet sind:

podman --version
podman-compose --version

NVIDIA Container Toolkit installieren#

Das NVIDIA Container Toolkit ist erforderlich, um GPU-fähige Container auszuführen. Installieren Sie es mit folgenden Schritten:

# 1. configure production repo:
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

# 2. Update the packages list from the repository:
sudo apt-get update

# 3. Install the NVIDIA Container Toolkit packages:
sudo apt-get install -y nvidia-container-toolkit

# For Docker
sudo service docker restart
# For Podman
sudo service podman restart

QAnswer installieren & bereitstellen#

QAnswer wird als docker-compose-Datei bereitgestellt. Klonen Sie das Repository:

git clone https://gitlab.the-qa-company.com/qanswer-app/qanswer-bundle.git

Navigieren Sie in das qanswer-bundle Verzeichnis und folgen Sie dann den Schritten für Ihre Container-Laufzeit:

QANSWER_REGISTRY_USER=<user-we-provide> \
QANSWER_REGISTRY_PASSWORD=<password-we-provide> \
VERSION=main source ./setup.sh --container_runtime docker --no_documentation

QANSWER_KEY=<qanswerKey-we-provide> \
VERSION=main docker compose up -d

QANSWER_REGISTRY_USER=<user-we-provide> \
QANSWER_REGISTRY_PASSWORD=<password-we-provide> \
VERSION=main source ./setup.sh --container_runtime podman --no_documentation

QANSWER_KEY=<qanswerKey-we-provide> \
VERSION=main podman-compose up -d