Installation de QAnswer sur Scaleway
Pour une expérience cloud optimale, utilisez Scaleway comme fournisseur cloud. L'offre cloud de QAnswer s'appuie sur l'instance GPU L40S fournie par Scaleway. Cette instance est préconfigurée avec le pilote NVIDIA, réduisant considérablement la complexité de l'installation.
| Taille de l'instance | GPU | Mémoire GPU (Gio) | vCPUs | Mémoire (Gio) | Stockage (Go) | Bande passante réseau (Gbps) |
|---|---|---|---|---|---|---|
| L40S-1-48G | 1 | 48 | 8 | 96 | ~1600 | 2.5 |
Installer un moteur de conteneurs
Installez soit Docker ou Podman comme moteur de conteneurs. Suivez les instructions respectives ci-dessous :
Installer Docker
Suivez le guide officiel d'installation de Docker pour installer Docker.
Installer Podman (alternative à Docker)
Suivez le guide officiel d'installation de Podman pour installer Podman.
Installer podman-compose
Installez podman-compose pour docker-compose-comme fonctionnalité. Consultez la documentation officielle de podman-compose pour les étapes d'installation.
Une fois installé, vérifiez que Podman et podman-compose sont correctement configurés en exécutant :
podman --version
podman-compose --versionInstaller NVIDIA Container Toolkit
Le NVIDIA Container Toolkit est nécessaire pour exécuter des conteneurs avec GPU. Installez-le en suivant ces étapes :
# 1. configure production repo:
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
&& curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
# 2. Update the packages list from the repository:
sudo apt-get update
# 3. Install the NVIDIA Container Toolkit packages:
sudo apt-get install -y nvidia-container-toolkitAprès l'installation de nvidia-container-toolkit, veuillez redémarrer le service Docker/Podman.
# For Docker
sudo service docker restart
# For Podman
sudo service podman restartInstaller et déployer QAnswer
QAnswer est fourni sous forme de fichier docker-compose. Clonez le dépôt :
git clone https://gitlab.the-qa-company.com/qanswer-app/qanswer-bundle.gitAccédez au répertoire qanswer-bundle puis suivez les étapes pour votre moteur de conteneurs :
Étapes pour Docker :
1. Exécutez le script de configuration pour télécharger toutes les images de conteneurs requises. Utilisez les identifiants fournis :
QANSWER_REGISTRY_USER=<user-we-provide> \
QANSWER_REGISTRY_PASSWORD=<password-we-provide> \
VERSION=main source ./setup.sh --container_runtime docker --no_documentation2. Démarrez le bundle QAnswer avec docker compose:
Exécutez la commande docker :
QANSWER_KEY=<qanswerKey-we-provide> \
VERSION=main docker compose up -d