RousselTMLEARNING

Article · Grafana Mimir: from discovery to expertise

The write path

This article is available in French.

1. Envoyer des métriques à Mimir #

Remote write, OTLP et tenant.

Configurer Prometheus #

Prometheus continue de collecter (ou passe en mode agent, sans stockage local ni requêtes) et pousse ses échantillons vers Mimir.

# prometheus.yml
global:
  scrape_interval: 15s
  external_labels:
    cluster: prod-eu      # identifie la source
    __replica__: replica-a  # identifie le réplica HA (retiré par Mimir)

remote_write:
  - url: http://mimir:8080/api/v1/push
    headers:
      X-Scope-OrgID: team-platform   # tenant
    queue_config:
      capacity: 10000
      max_samples_per_send: 2000
      max_shards: 50
À savoir : Avec multitenancy_enabled: false, l'en-tête X-Scope-OrgID est inutile : toutes les données vont dans le tenant anonymous.

Avec Grafana Alloy #

prometheus.remote_write "mimir" {
  endpoint {
    url     = "http://mimir:8080/api/v1/push"
    headers = { "X-Scope-OrgID" = "team-platform" }
  }
}

2. Distributor et ingesters #

Valider, répartir, répliquer.

Le parcours d'un échantillon #

Chemin d'écriture
Chaque série est écrite sur 3 ingesters ; l'écriture réussit dès que 2 ont confirmé (quorum).
  1. Le distributor vérifie le tenant, la validité des labels (nombre, longueur, noms), l'horodatage et applique les limites d'ingestion. Un dépassement renvoie 429 (limite de débit) ou 400 (échantillon invalide).
  2. Il hache tenant + labels pour trouver, dans le ring, les 3 ingesters (facteur de réplication par défaut) responsables de la série.
  3. Chaque ingester ajoute l'échantillon à sa TSDB en mémoire et l'écrit dans son WAL (write-ahead log) sur disque, pour survivre à un redémarrage.
  4. Toutes les 2 heures, l'ingester ferme un bloc TSDB et le téléverse dans le stockage objet. Il garde les blocs récents localement pour répondre aux requêtes (13 h par défaut).

Réplication et quorum #

Avec un facteur de réplication de 3, l'écriture est confirmée dès que 2 ingesters sur 3 ont répondu. On peut donc perdre un ingester (ou une zone entière avec la réplication par zone) sans perte de données ni erreur côté client.

ingester:
  ring:
    replication_factor: 3
    zone_awareness_enabled: true    # une copie par zone de disponibilité
    instance_availability_zone: zone-a
Erreur Courante : Les ingesters sont avec état : déployez-les en StatefulSet avec un volume persistant pour le WAL, et redémarrez-les un par un (ou une zone à la fois). Supprimer plusieurs ingesters d'un coup peut faire perdre les données non encore téléversées.

3. Déduplication des paires Prometheus HA #

Deux réplicas, une seule série stockée.

Principe #

Pour la haute disponibilité, on lance deux Prometheus identiques. Sans précaution, Mimir stockerait chaque série deux fois. Le HA tracker du distributor élit, pour chaque couple (tenant, cluster), un réplica « leader » et rejette les échantillons de l'autre. Si le leader se tait plus de ha_tracker_failover_timeout (30 s par défaut), l'autre prend le relais.

# mimir.yaml
limits:
  accept_ha_samples: true
  ha_cluster_label: cluster        # valeurs par défaut
  ha_replica_label: __replica__

distributor:
  ha_tracker:
    enable_ha_tracker: true
    kvstore:
      store: consul
      consul:
        host: consul:8500
Bonne Pratique : Les deux Prometheus doivent avoir la même valeur pour cluster et une valeur différente pour __replica__. Mimir retire le label de réplica avant le stockage.

La page /distributor/ha_tracker montre le réplica élu pour chaque cluster. La métrique cortex_distributor_deduped_samples_total compte les échantillons écartés.

📄 Mimir : le chemin d'écriture (distributor, ingesters, réplication et déduplication HA) →

My progress

  • ⏱ Estimated time : ≈ 8 min

Sign in to track your progress and take notes. Sign in

✉️ Ask a question

Recommended Articles

Understanding the concept of score

The concept of score allows Elasticsearch to rank your documents by relevance during a search.

Understanding the Elastic Common Schema (ECS)

As always in our consulting engagements, we recommend that companies harmonise and standardise: k...

License consumption types

Understand the evolution of billing in Dynatrace: the difference between the old licensing model ...

Grafana Alloy: The importance of Self-Monitoring

Discover why and how to configure Grafana Alloy so that it monitors itself, collecting its own lo...

Grafana Alloy: Understanding and exploiting the User Interface (UI)

Discover how to enable, secure, and use Grafana Alloy's built-in web interface to visualize your ...

Grafana Alloy: Introduction and Architecture

Discover the fundamental concepts of Grafana Alloy, the transition from the static Agent to Alloy...

Grafana Alloy: Syntax and Configuration (Alloy Language: River)

As part of a Grafana training or observability training, master the declarative syntax of Grafana...

Grafana Alloy: Metrics Collection (Prometheus & Ecosystem)

Learn how to configure Grafana Alloy to collect, transform, and forward metrics using the Prometh...

Grafana Alloy: Log Management with Loki

Discover how to configure Grafana Alloy to read log files, journald, or network streams, process ...