SEC.01

Le playbook

Le run démarre en lecture seule : les sondes de reconnaissance décident de la suite. Les étapes qui suivent sont adaptées à la distribution et à l'état trouvés — une vraie machine est rarement propre.

1. 01recondistro, version et gestionnaire de paquets (apt ou dnf)
2. 02reconGPU NVIDIA présent avec pilote fonctionnel (nom, VRAM, version pilote) ? sinon : GPU sans pilote, ou aucun GPU (mode CPU)
3. 03reconDocker Engine + plugin compose présents et actifs ? (sinon, étape docker)
4. 04reconNVIDIA Container Toolkit installé et runtime nvidia déclaré dans Docker ?
5. 05reconvLLM déjà déployé ? port 8000 libre ?
6. 06reconRAM ≥ 16 Go, disque ≥ 30 Go sous /var/lib/docker (image ~10 Go + poids du modèle)
7. 07agirInstaller Docker Engine + Compose (seulement s’il est absent)vérif
8. 08agirInstaller le NVIDIA Container Toolkit (seulement s’il manque)vérif
9. 09agirGénérer la clé API (+ token HF seulement s’il est fourni)vérif
10. 10agirTélécharger l’image vLLM (en tâche de fond)vérif
11. 11agirLancer vLLM (${model})vérif
12. 12agirL’API répondvérif

SEC.02

Ce qu'elle vérifie

Chaque étape embarque sa propre vérification. Le run ne continue que si elle passe, donc ce que la recette annonce comme fait est ce qui est réellement sur le serveur.

1. 01vérifInstaller Docker Engine + Compose (seulement s’il est absent)Vérifié parsystemctl is-active docker && docker compose versionattendu : active, puis « Docker Compose version v2… »
2. 02vérifInstaller le NVIDIA Container Toolkit (seulement s’il manque)Vérifié pardocker info --format '{{json .Runtimes}}' | grep -c nvidiaattendu : 1
3. 03vérifGénérer la clé API (+ token HF seulement s’il est fourni)Vérifié parstat -c '%a' /opt/vllm/vllm.env && grep -c '^VLLM_API_KEY=.' /opt/vllm/vllm.envattendu : 600, puis 1
4. 04vérifTélécharger l’image vLLM (en tâche de fond)Vérifié partimeout 270 bash -c 'until docker image inspect vllm/vllm-openai:v0.31.0 >/dev/null 2>&1; do sleep 10; done' && echo pulledattendu : pulled — une commande est limitée à 5 min : pas encore prêt → relance ce verify (4 fois max) avant de conclure à un échec
5. 05vérifLancer vLLM (${model})Vérifié pardocker inspect -f '{{.State.Status}}' vllmattendu : running
6. 06vérifL’API répondVérifié partimeout 270 bash -c 'until curl -sf -o /dev/null http://127.0.0.1:8000/health; do sleep 10; done'; curl -s -o /dev/null -w '%{http_code}' http://127.0.0.1:8000/healthattendu : 200 (téléchargement + chargement du modèle : souvent 5 à 20 min) — une commande est limitée à 5 min : pas encore prêt → relance ce verify (4 fois max) avant de conclure à un échec

SEC.03

Les garde-fous

Les consignes non négociables que le run doit respecter, quoi qu'il trouve sur le serveur.

SEC.04

Les variables

Ce que vous choisissez avant de lancer — la recette s'occupe du reste.

SEC.05

Comment une recette s'exécute dans Servor

Servor est zero-knowledge : la plateforme ne peut rien exécuter seule. Quand vous lancez cette recette, un run lit la reconnaissance, planifie les étapes et demande votre validation. Chaque commande approuvée est signée par votre navigateur — avec une clé que le serveur ne voit jamais — puis relayée telle quelle à l'agent, qui vérifie la signature localement avant d'exécuter.

SEC.06

Bouton Deploy on Servor

Vous maintenez Serveur d’inférence vLLM ou un projet qui en dépend ? Ajoutez ce bouton à votre README ou à votre site : en un clic, vos utilisateurs l'installent sur leur propre serveur.

SEC.07

D'autres recettes ia / ml

1. 01OllamaOllama pour faire tourner des LLM locaux (GPU NVIDIA si présent, sinon CPU), API sur 127.0.0.1, pull d’un modèle optionnel.
2. 02JupyterLabJupyterLab via Docker, sur 127.0.0.1 avec un token d’accès généré (accès par tunnel SSH).
3. 03Open WebUIInterface web pour LLM (Ollama) Open WebUI via Docker, sur 127.0.0.1, branchée sur l’Ollama local.
4. 04Pilotes NVIDIA + CUDAPilote NVIDIA, toolkit CUDA et Container Toolkit Docker depuis les dépôts officiels. Destructif : modules noyau, redémarrage probable.
5. 05ComfyUI (Stable Diffusion)ComfyUI pour la génération d’images, installé depuis le dépôt officiel en service systemd (GPU NVIDIA recommandé, CPU possible).