TP : Installer Phoenix et tracer une première application LLM

Ce que vous allez apprendre dans ce TP

• Démarrer Phoenix
• Instrumenter avec OpenInference
• Lire messages, jetons et latence

Introduction #

Ce que vous allez apprendre dans cette section

• Démarrer Phoenix
• Instrumenter avec OpenInference
• Lire messages, jetons et latence

Contexte. L'équipe produit lance un assistant de support. Avant toute mise en production, vous voulez voir exactement ce que le modèle reçoit et répond.

Prérequis : Docker, Python 3.10+, Ollama ou une clé OpenAI  ·  Durée estimée : 35 min

Vos premières traces de LLM.

Mise en place #

Étapes guidées, avec leur correction.

1. 1. Démarrer Phoenix

   Pourquoi ? Phoenix reçoit les traces et les affiche ; le volume conserve les données.

   Lancez Phoenix et ouvrez http://localhost:6006.

2. 2. Préparer l'environnement

   Pourquoi ? Le client OpenAI parle aussi à Ollama : les TP restent gratuits.

   Choisissez votre modèle et installez les paquets.

3. 3. Écrire l'application

   Pourquoi ? register() doit être appelé avant de créer le client OpenAI.

   Écrivez app.py et exécutez-le.

4. 4. Lire les traces

   Pourquoi ? Le span LLM contient tout ce qu'il faut pour comprendre une réponse.

   Dans le projet support-bot, ouvrez la trace de la question météo. Que répond le modèle ? Combien de jetons ?

5. 5. Mesurer

   Pourquoi ? La latence et les jetons sont la base du coût et de l'expérience utilisateur.

   Classez les traces par latence puis par jetons. Quelle question coûte le plus ?

Niveau de difficulté : ●●○○○ (2/5)