L = λ × W
Kapasite Planlamasında En Kullanışlı Dize
Her istikrarlı kuyuda, iç yapısı ne olursa olsun: L = λ × W, where:
- L = kuyunun içinde (beklemekte veya işleme) olan ortalama item sayısı
- λ (lambda) = ortalama giriş hızı (birim zaman içinde item sayısı)
- W = her itemin kuyuda geçirdiği ortalama süre
Dikdörtgen alanı geometrisi: λ'yi bir eksen ve W'yi diğer eksen üzerinde çiziniz. Bu iki miktarın ürünü L, iki oluşturduğu dikdörtgenin alanıdır. Kapasite planlaması bu dörtgen içinde gerçekleşir.
Bu neden önemlidir: Üç miktarın her ikisi belirlendiyse, üçüncü miktar da belirlenir. Throughput ve latency ölçün, işgal oranını bilirsiniz. İşgal oranı ve throughput ölçün, latency'i bilirsiniz. Yasal güçlüdür: Bu yasalar, web isteklerini, restoran masalarını, supermarket kuyularını ve CPU hatlarını değiştirmeden uygulanabilir.
Üç somut örnek:
- Bir web hizmeti, 200 istek/s ile ortalama latency 50 ms (0.05 s). L = 200 × 0.05 = 10 uçurumda.
- Bir kahve dükkanı, saatlik 60 müşteri ile ortalama kalmak için 15 dakikalık (0.25 saatlik) süre geçiriyor. L = 60 × 0.25 = 15 müşteri içinde.
- Bir arka uç havuzu, 1500 istek/s ile ortalama latency 200 ms (0.2 s). L = 1500 × 0.2 = 300 uçurumda.
İşlem boyutu implication: Bir katmanın çalışan sayısı / işlem sayısı / bağlantı sayısı, en az L olmalıdır. Daha az olması, kuyuların büyümesi anlamına gelir.
Latency Nedeniyle 80% Kullanım Olınca Nerede Patlar
Operasyonlar İçin En Önemli Eğri
Görüntüleme kullanımını x ekseninde (0% ila 100%) ve ortalama bekleme süresini y ekseninde. Şekil, kapasite planlamada en önemli şekillerden biridir.
M/M/1 kuyruklama modeli: Poisson girişleri (tesadüfi) ve eksponansiyel hizmet süreleri (tesadüfi) olan bir sisteme ait ortalama bekleme süresi:
W_q = ρ / (μ × (1 - ρ))
noktası kullanım (0 ila 1) ve hizmet hızı (μ) ile ilgilidir.
Şeklin şekli:
- ρ = 0,5 (50% kullanım) olduğunda, bekleme süresi küçük (1 hizmet süresi).
- ρ = 0,7 (70% kullanım) olduğunda, bekleme süresi ~2,3 hizmet süresidir.
- ρ = 0,8 (80% kullanım) olduğunda, bekleme süresi ~4 hizmet süresi olur.
- ρ = 0,9 (90% kullanım) olduğunda, bekleme süresi ~9 hizmet süresidir.
- ρ = 0,95 (95% kullanım) olduğunda, bekleme süresi ~19 hizmet süresi olur.
- ρ = 1,0 (100% kullanım) olduğunda, bekleme süresi sınırsızdır.
Diken: yaklaşık %80 kullanım oranı civarında, eğri keskin bir şekilde döner. Dikenin altında, kapasite rahatdır; üstünde, gecikme daha hızlı bir şekilde kullanım hızı yapar.
Uygulamalı okuma: %70 kullanım oranı hedeflenmelidir. Hiç 100 olmamalıdır. 30'lık 'koltuk' boşluk, sınırlı gecikme için ödenen fiyatdır.
Kapazite Açısından Sınıflandırma
İki senaryo:
Senaryo A: 10 kopya 60% CPU kullanımında çalışıyor. Latency p99 = 100 ms.
Senaryo B: aynı ekipman seti 90% CPU kullanımına maruz kaldı. p99 = 600 ms.
Aynı ekipman, aynı kod, sadece kullanım değişti.
Birlikte Boyutlandırma ve Tetikleme
Senden
Şimdi Little's Yasası'nı dikdörtgen olarak uygulayabilir, kuyruk çizgisini ve dizginini okuyarak ve her ikisini de kapasite kararları ile bağlayabilirsiniz.
Her ikisi de uygulayın.
Arka uç katmanı, her replika için ortalama 50 ms gecikme süresi ve 80 req/s kapasite ile 2.000 req/s işler. Sürüm faktörü 2x; 3 tane replika başarısızlığı yaşamanızı istiyorsunuz.
Dost Notları
Dost Notları
Bu geometri-dersi, Devredışı Durumlu Yatay Kaldırma ana dersini niceliksel geometrik olarak yeniden şekillendirmeye yarar.
Sonraki dost, geometry_of_ingress_egress_separation, ağı sınırını kaldıran iki kenarlı grafiği yeniden şekillendirmeye yarar ve bu kesiği kaldıran ağı sınırını ortadan kaldırır.
İyi iş çıkardınız.