● IA locale · GPU AMD

Ollama / ROCm

Ce module installe Ollama, applique les paramètres de fonctionnement validés du Golden Build et vérifie que l’accélération AMD utilise bien le backend ROCm sur le GPU Strix Halo. Aucun modèle principal n’est encore installé : ce sera le rôle du Module 04.

Point de départ

Modules précédents validés

Point d’arrivée

Ollama / ROCm opérationnel

Données privées

Aucune valeur réelle publiée

Avant de commencer

Prérequis

Modules 00 à 02 validés.
Ubuntu 26.04.x LTS opérationnel.
Accès Internet fonctionnel.
GPU AMD visible par le système.
Compte d’administration disposant de sudo.

Valeurs à personnaliser

Aucune valeur privée requise—

Règle : ne lancez jamais une commande qui contient encore un texte METTRE_VOTRE_.... Remplacez d’abord la valeur dans votre terminal, puis relisez la commande avant validation.

Légende des commandes

Lecture seuleModificationValidationOptionnel

Installation pas à pas

03.1 · Vérifier Ubuntu et le noyau

Lecture seule

cat /etc/os-release | grep -E '^(PRETTY_NAME|VERSION_ID)='
uname -r

Pourquoi : Confirmer la base système avant d’installer le moteur d’inférence.

Résultat attendu : Ubuntu 26.04.x LTS est affiché et le noyau correspond à la version installée.

03.2 · Installer l’outil de détection PCI

Modification

sudo apt install -y pciutils

Pourquoi : Fournir la commande lspci utilisée pour identifier le GPU et le pilote chargé.

Résultat attendu : pciutils est installé sans erreur.

03.3 · Identifier le GPU AMD et le pilote

Validation

lspci -nnk | grep -A4 -Ei 'VGA|Display|3D'

Pourquoi : Vérifier que le GPU AMD est visible avant d’installer Ollama.

Résultat attendu : Le contrôleur graphique AMD apparaît et le pilote noyau utilisé est amdgpu.

03.4 · Vérifier le module amdgpu

Validation

lsmod | grep '^amdgpu'

Pourquoi : Confirmer que le pilote graphique AMD du noyau est chargé.

Résultat attendu : Une ligne amdgpu est affichée.

03.5 · Vérifier les périphériques de calcul

Validation

ls -l /dev/kfd
ls -l /dev/dri/renderD*

Pourquoi : ROCm s’appuie notamment sur /dev/kfd et les render nodes du sous-système DRM.

Résultat attendu : Les périphériques existent. Si /dev/kfd est absent, ne poursuivez pas avant diagnostic.

03.6 · Télécharger le script officiel Ollama

Modification

curl -fsSL https://ollama.com/install.sh -o /tmp/ollama-install.sh

Pourquoi : Télécharger l’installateur officiel dans un fichier local afin de pouvoir le relire avant exécution.

Résultat attendu : Le fichier /tmp/ollama-install.sh existe et n’est pas vide.

03.7 · Vérifier rapidement le script téléchargé

Lecture seule

ls -lh /tmp/ollama-install.sh
head -n 20 /tmp/ollama-install.sh

Pourquoi : Éviter d’exécuter aveuglément un téléchargement vide ou manifestement incorrect.

Résultat attendu : Le fichier contient un script shell provenant du domaine officiel Ollama.

03.8 · Installer Ollama

Modification

sh /tmp/ollama-install.sh

Pourquoi : Installer le binaire, le service systemd et le compte de service Ollama selon la méthode officielle Linux.

Résultat attendu : L’installation se termine sans erreur et le service ollama est créé.

03.9 · Vérifier la version Ollama

Validation

ollama --version

Pourquoi : Confirmer que le client Ollama est disponible dans le PATH.

Résultat attendu : Une version Ollama est affichée.

03.10 · Vérifier le service Ollama

Validation

sudo systemctl is-active ollama
sudo systemctl is-enabled ollama

Pourquoi : S’assurer que le daemon est actif et démarrera automatiquement.

Résultat attendu : Les commandes retournent active et enabled.

03.11 · Vérifier le compte de service

Lecture seule

id ollama

Pourquoi : Confirmer que l’installation standard a créé son compte système dédié.

Résultat attendu : Le compte de service ollama existe.

03.12 · Créer l’override systemd Golden

Modification

sudo systemctl edit ollama

# Ajouter exactement :
[Service]
Environment="OLLAMA_CONTEXT_LENGTH=65536"
Environment="OLLAMA_FLASH_ATTENTION=true"
Environment="OLLAMA_KV_CACHE_TYPE=q8_0"
Environment="OLLAMA_KEEP_ALIVE=-1"

Pourquoi : Appliquer les quatre paramètres validés du Golden Build sans modifier directement le fichier de service fourni par Ollama.

Résultat attendu : L’éditeur enregistre un override systemd contenant les quatre variables Golden.

03.13 · Relire la configuration effective

Validation

sudo systemctl cat ollama | sed -n '1,220p'

Pourquoi : Vérifier que l’override est bien rattaché au service et qu’aucune ancienne valeur contradictoire n’est présente.

Résultat attendu : Les quatre variables Golden apparaissent dans la configuration effective.

03.14 · Recharger systemd et redémarrer Ollama

Modification

sudo systemctl daemon-reload
sudo systemctl restart ollama

Pourquoi : Prendre en compte l’override puis relancer le moteur avec les paramètres Golden.

Résultat attendu : Le redémarrage se termine sans erreur.

03.15 · Contrôler les variables du service

Validation

sudo systemctl show ollama --property=Environment | tr ' ' '\n' | grep '^OLLAMA_'

Pourquoi : Lire les variables réellement injectées dans le processus systemd.

Résultat attendu : Les quatre valeurs Golden sont affichées : contexte 65536, Flash Attention true, KV q8_0 et keep-alive -1.

03.16 · Tester l’API locale Ollama

Validation

curl -fsS http://localhost:11434/api/version | jq .

Pourquoi : Vérifier que l’API locale répond sans publier ni utiliser d’adresse réseau privée.

Résultat attendu : Une réponse JSON contenant la version Ollama est affichée.

03.17 · Vérifier la détection GPU / ROCm

Validation

journalctl -u ollama -n 160 --no-pager | grep -Ei 'ROCm|gfx1151|Radeon|GPU|Vulkan'

Pourquoi : Le Golden Build exige que le GPU AMD soit utilisé via le backend ROCm validé et que gfx1151 soit détecté.

Résultat attendu : Les journaux identifient le GPU AMD et le backend ROCm. Si seul Vulkan apparaît comme backend actif, arrêtez-vous et diagnostiquez avant de continuer.

Golden Build : ne forcez pas Vulkan. ROCm est le backend validé sur cette machine.

03.18 · Vérifier l’état sans modèle chargé

Validation

ollama list
ollama ps

Pourquoi : S’assurer que le moteur est sain avant d’installer le modèle principal.

Résultat attendu : La liste peut être vide sur une installation neuve et aucun modèle n’a besoin d’être chargé à ce stade.

03.19 · Nettoyer le script temporaire

Optionnel

rm -f /tmp/ollama-install.sh

Pourquoi : Supprimer le fichier d’installation devenu inutile.

Résultat attendu : Le fichier temporaire est supprimé.

ROCm sur Strix Halo : sur Ubuntu 26.04, le support du GPU Strix Halo / gfx1151 s’appuie sur le pilote AMD intégré au noyau de la distribution. Ce module n’installe donc pas un second pilote noyau AMD ni un SDK ROCm complet uniquement pour Ollama. L’objectif est de vérifier que le backend ROCm utilisé par Ollama fonctionne réellement.

Ne changez pas silencieusement le backend Golden. Les versions ROCm évoluent rapidement. Si vous décidez plus tard d’installer un SDK ROCm complet pour du développement, traitez-le comme une modification distincte et revalidez les performances Ollama.

Références officielles

Validation du Module 03

Ne passez au module suivant que lorsque tous les points applicables sont validés.

Ubuntu et le noyau sont cohérents.

Le GPU AMD est visible avec le pilote amdgpu.

/dev/kfd et un render node sont présents.

Ollama est installé et répond en CLI.

ollama.service est active et enabled.

Les quatre variables Golden sont appliquées.

L’API locale Ollama répond.

Les logs détectent ROCm et le GPU gfx1151.

Vulkan n’a pas été forcé.

Aucun modèle principal n’est nécessaire avant le Module 04.

STOP — Module 03 validé

Si tous les contrôles sont corrects, ce module est terminé. En cas d’écart, restez sur ce module et diagnostiquez la dernière étape en erreur.

← Module précédent Continuer vers le module suivant →Ordre des modules