What you will learn in this TP
- Read log files
- Extract and add labels
- Send to Loki and check
Introduction #
What you will learn in this section
- Read log files
- Extract and add labels
- Send to Loki and check
Context. An application writes JSON logs to files, and nobody reads them before an incident. You centralize them in Loki.
Prerequisites: Docker Compose, curl · Estimated time: 30 min
Log pipeline #
Guided steps, with their solution.
1. Prepare the stack
Why? The volume keeps read positions: without it, Alloy would re-read everything at each restart.
Write a Compose file with Loki and Alloy.2. Read the files
Why?
Inlocal.file_matchfinds files,loki.source.filereads them and remembers its position.config.alloy, read/var/log/myapp/*.logwith thejob=myapplabel.3. Process the lines
Why?
Extractstage.labelstakes an extracted value; a fixed value needsstage.static_labels.levelfrom the JSON to make it a label, addenv=productionand keepmsgas text.4. Send to Loki
Why? In the Compose network, Loki is reached by its service name.
Add the sending component.5. Check
Why? A
Create a log file, start the stack and query Loki: you should see thehealthycomponent does not prove that data arrives.envandlevellabels, and the textspaiement refuséandcommande créée.
Difficulty level : ●●○○○ (2/5)
My progress
Sign in to track your progress and take notes. Sign in
Course Glossary
Grafana Alloy
An open-source, vendor-neutral telemetry collector designed to replace Grafana Agent, fully compatible with OpenTelemetry (OTel).
Recommended Articles
Bonnes pratiques de collecte de logs avec Fluent Bit et Vector
Check-list de production pour la collecte de logs : structure, filtrage à la source, masquage, ta...
Grafana Alloy : Collecter les métriques système et les logs locaux
Découvrez comment configurer Grafana Alloy pour superviser le serveur sur lequel il s'exécute, av...
Grafana Alloy vs Grafana Agent vs Promtail : Lequel choisir ?
Découvrez l'évolution des collecteurs de télémétrie de l'écosystème Grafana. Comparatif détaillé ...
Grafana Loki vs Elasticsearch : La bataille du stockage de logs
Comparatif entre Loki, le système de logs inspiré par Prometheus, et Elasticsearch, le moteur de ...
LogQL (1/2) : requêter les logs (sélecteurs, filtres et parsers)
Apprendre LogQL : sélecteurs de flux, filtres de ligne, parsers json/logfmt/pattern/regexp, filtr...
Bonnes pratiques Grafana Loki : labels, requêtes, stockage et coûts
Bonnes pratiques Loki : choix des labels et cardinalité, structured metadata, requêtes LogQL perf...
LogQL (2/2) : transformer les logs en métriques
Créer des métriques à partir des logs avec LogQL : rate, count_over_time, bytes_rate, agrégations...
Traefik : les logs (journaux applicatifs et access logs)
Configurer les deux journaux de Traefik : le journal de fonctionnement (niveaux, format) et les a...
Fluent Bit : les outputs (sorties), routage et fiabilité de l'envoi
Envoyer les données de Fluent Bit : routage par Match et Match_Regex, sorties Loki, Elasticsearch...