L = λ × W
Het Meest Nuttige Formule in Capaciteitsplanning
Voor elk stabiel wachtrij, ongeacht zijn interne structuur: L = λ × W, waar:
- L = gemiddelde aantal items in het systeem (in voorbereiding of wachtend)
- λ (lambda) = gemiddelde aankomstfrequentie (items per tijdseenheid)
- W = gemiddelde tijd dat elk item in het systeem doorbrengt
De geometrische lezing: teken λ op een as & W op de andere. Het product L is de oppervlakte van de rechthoek die ze vormen. Capaciteitsplanning vindt plaats binnen deze rechthoek.
Waarom het belangrijk is: elke drie van de drie getallen bepalen de derde. Meet doorvoer & latentie, weet wat de bezetting is. Meet bezetting & doorvoer, weet wat de latentie is. De wet is robuust: het is van toepassing op webaanvragen, restaurant tafels, supermarkt-wachtrijen & CPU-paden zonder aanpassing.
Drie concrete voorbeelden:
- Een webservice behandelt 200 aanvragen per seconde met een gemiddelde latentie van 50 milliseconden (0,05 seconde). L = 200 × 0,05 = 10 in voorbereiding.
- Een koffieshop serveert 60 klanten per uur met een gemiddelde verblijfsduur van 15 minuten (0,25 uur). L = 60 × 0,25 = 15 klanten binnen.
- Een achtervolgpool behandelt 1500 aanvragen per seconde met een gemiddelde latentie van 200 milliseconden (0,2 seconde). L = 1500 × 0,2 = 300 in voorbereiding.
Sizingsimplicatie: het werknemersnummer / draaddetal / verbindingstel van een laag moet minimaal L zijn om bij te kunnen houden. Minder betekent groei van de wachtrij.
Waarom Latentie Oplaat Na 80% Benutting
Het Meest Belangrijke Curve in Operations
Plotter gebruik op de x-as (0% tot 100%) & gemiddelde wachttijd op de y-as. De vorm is een van de meest cruciale curve in capaciteitsplanning.
De M/M/1 wachtrijmodel: voor een systeem met Poisson-aanbod (willekeurig) & exponentiële service-tijden (willekeurig), gemiddelde wachttijd:
W_q = ρ / (μ × (1 - ρ))
waar ρ is benutting (0 tot 1) & μ is service-voordeel.
De curve's vorm:
- Bij ρ = 0.5 (50% benut), wachttijd is klein (1 service-tijd).
- Bij ρ = 0.7 (70% benut), wachttijd is ~2.3 service-tijden.
- Bij ρ = 0.8 (80% benut), wachttijd is ~4 service-tijden.
- Bij ρ = 0.9 (90% benut), wachttijd is ~9 service-tijden.
- Bij ρ = 0.95 (95% benut), wachttijd is ~19 service-tijden.
- Bij ρ = 1.0 (100% benut), wachttijd is oneindig.
De knie: rond de 80% benutting, buigt de curve scherp. Onder de knie, is capaciteit comfortabel; boven, neemt latentie sneller toe dan benutting.
Praktisch lezen: richt op 70% benutting voor een stabiele staat; nooit 100%. De 30% 'ruimte' is geen verspilling; het is de prijs van beperkte latentie.
Groei door de Knie
Twee scenario's:
Scenario A: 10 replica's die 60% CPU gebruiken. Latency p99 = 100 ms.
Scenario B: dezelfde vloot die 90% CPU gebruikt vanwege verkeerstoename. p99 = 600 ms.
Zelfde vloot, zelfde code, alleen benutting is veranderd.
Grootte & Aanwijzing Samen
Synthese
Je kunt nu Little's Wetje van toepassing maken als een rechthoek, lees de wachtrijcurve & haar knie, en verbind beide met capaciteitsbeslissingen.
Pas beide toe.
Een back-titel verwerkt 2.000 aanvragen per seconde met een gemiddelde latentie van 50 milliseconden per replica, met een capaciteit van 80 aanvragen per seconde bij 70% CPU. Surge factor 2x; je wilt overleven bij 3 gelijktijdige replica-fouten.
Companion Notes
Companion Notes
Deze wiskundeles herformuleert de Stateless Horizontale Verhoging hoofdles als kwantitatieve wiskunde.
De volgende companion, geometry_of_ingress_egress_separation, herformuleert de netwerkgrensafsplitsing als een bipartiet graf met een snijpunt dat de splitsing verwijdert.
Goed gedaan.