Installation des drivers NVIDIA pour un serveur IA

Les services d’intelligence artificiel sont de plus en plus présent dans notre quotidien. Le plus souvent payant et en se nourrissant toujours de nos données personnelles, on peut avoir envie de monter son propre serveur IA self-hosted.

Dans cette machine maison vous allez surement suivant vos moyens utiliser une carte graphique NVIDIA. Je vais ici vous montrer comment installer sur un serveur Linux avec la distribution UBUNTU 24.04 LTS from scratch.

Vous allez voir c’est assez simple il n y a qu une petite subtilité à connaitre.

on va donc passer par le dépôt officiel :

sudo add-apt-repository ppa:graphics-drivers/ppa 
sudo apt update 
ubuntu-drivers devices  

la commande ubuntu-drivers devices va vous lister les drivers disponibles pour votre carte :

ubuntu-drivers devices
== /sys/devices/pci0000:00/0000:00:01.1/0000:01:00.0 ==
modalias : pci:v000010DEd00002C05sv00001462sd00005315bc03sc00i00
vendor   : NVIDIA Corporation
driver   : nvidia-driver-580 - distro non-free
driver   : nvidia-driver-580-open - distro non-free recommended
driver   : nvidia-driver-580-server-open - distro non-free
driver   : nvidia-driver-580-server - distro non-free
driver   : nvidia-driver-570-server - distro non-free
driver   : nvidia-driver-570-open - third-party non-free
driver   : nvidia-driver-570 - third-party non-free
driver   : nvidia-driver-570-server-open - distro non-free
driver   : xserver-xorg-video-nouveau - distro free builtin

c est ici que ce situe la subtilité, quoi choisir entre les drivers open, server ou server-open.

nvidia-driver-open

• Pilote open-source de NVIDIA pour les GPU de bureau/stations de travail
• Disponible pour les cartes GeForce RTX série 20 et supérieures, et certaines cartes Quadro/RTX professionnelles
• Code source ouvert publié par NVIDIA (modules kernel open-source)
• Optimisé pour l’utilisation desktop classique

nvidia-driver-server

• Pilote propriétaire pour les GPU de serveur/datacenter
• Destiné aux cartes Tesla, A100, H100, etc.
• Inclut des optimisations spécifiques pour les charges de travail serveur (calcul intensif, IA, virtualisation)
• Prend en charge des fonctionnalités avancées comme vGPU, MIG (Multi-Instance GPU)

nvidia-driver-server-open

• Version open-source du pilote serveur
• Combine les avantages de l’approche open-source avec l’optimisation serveur
• Également pour les GPU datacenter (Tesla, A100, H100, etc.)
• Recommandé par NVIDIA comme pilote par défaut pour les GPU datacenter modernes

Quelle version choisir ?

• GPU de bureau (GeForce, GTX, RTX) → nvidia-driver-XXX ou nvidia-driver-open
• GPU serveur/datacenter récent → nvidia-driver-server-open (recommandé)
• GPU serveur ancien ou besoins spécifiques → nvidia-driver-server

La version « open » offre généralement une meilleure intégration avec le kernel Linux et facilite la maintenance, c’est d’ailleurs celle recommandé par NVIDIA.

Installation du driver NVIDIA pour une RTX sur notre UBUNTU

Maintenant que nous connaissons la différence entre les différents drivers, installons la dernière version open et on reboot

sudo apt install nvidia-(numéro du pilote)-open
sudo reboot

Après le redémarrage , vous pouvez vérifier que tout va bien avec la commande :

nvidia-smi

Vu que la machine est faite pour faire le l’IA je vous conseille d installer directement le CUDA Toolkit

sudo apt install nvidia-cuda-toolkit

Voila , nous avons assez simplement installé les drivers de notre carte NVIDIA, de plus en passant part le PPA nous obtiendrons automatiquement les mises à jours des drivers.