%80 Kullanım Oranının Ötesinde Neden Gecikme Patlaması Oluyor

Kapasite Planlamasındaki En Önemli Eğri

X eksenine kullanım oranını (0% ile 100% arasında), Y eksenine ortalama gecikmesi çizin. Ortaya çıkan şekil, operasyonların en önemli eğrilerinden biridir: takımların neden kullanım oranını 100%'den çok daha düşük hedeflediklerini, neden ayrılmış marj israf değildir, & neden 'verimli' şekilde yüksek kullanım oranında çalışan sistemler uyarı olmadan çöktüğünü açıklar.

M/M/1 kuyruk eğrisi: Poisson varışları (rastgele) & üstel hizmet sürelerine (rastgele) sahip sistem için, ortalama bekleme süresi şunları izler:

W_q = ρ / (μ(1-ρ))

burada ρ (rho) kullanım oranı (0 ile 1 arasında) & μ hizmet hızıdır. Payda (1-ρ) ana fikirdir: ρ 1'e yaklaştıkça, payda 0'a yaklaşır, & bekleme süresi sonsuza yaklaşır.

Sayısal örnekler (M/M/1 için ρ'ye karşı gecikme çarpanı):

- ρ = 0,5: gecikme oranı 1,0 (taban)

- ρ = 0,7: gecikme oranı ~2,3

- ρ = 0,8: gecikme oranı ~4,0

- ρ = 0,9: gecikme oranı ~9,0

- ρ = 0,95: gecikme oranı ~19,0

- ρ = 0,99: gecikme oranı ~99,0

Dirsek %70-80 kullanım oranında oturur. Dirsek altında, yük eklemek gecikmesi yavaşça arttırır. Dirsek üstünde, gecikme doğrusal olmayan patlamalar yapar. Bu nedenle kanonik SRE kuralı: sabit hal kullanım oranını %80'in altında hedefleyin, asla %90'ın ötesinde sabit çalışmayın.

Neden geleneksel ops takımları bunun altını alıyor: %60 CPU 'meşgul' görünüyor ama rahat gecikme marjı var. %90 CPU 'verimli' görünüyor ama iş yükü sıçraması bir gecikme felaketine uzak. Geometrik gerçek: eğrinin eğimi gerçek tehdit, mevcut y değeri değil.

Eğriyi Okuma

Bir takım %85 CPU kullanım oranında sabit hal çalıştırıyor. Mevcut p99 gecikmesi 200 ms. Başka bir servisten iş yükü birleştirmek için %30 daha fazla trafik eklemeyi düşünüyorlar, bu servisi sonlandırıyorlar.

Eğim, Y-kesişim, & Tahmin Konisi

Eğimden Büyümeyi Okuma

Talepte tahmin cinsinden (birçok durumda) tarihsel veriler arasında doğru çizgiyi çizmek. Bu çizginin geometrik özellikleri: eğim, y-kesişim, & belirsizlik konisi, tüm tahmini kodlamaktadır.

Doğrusal eğilim (y = mx + b): kısa pencereler veya genuinely doğrusal süreçler için uygun. Eğim m zaman birimi başına büyüme hızı. Y-kesişim b başlangıç değeri. Büyüme sabit olduğunda faydalı. Süreç gerçekten bileşkeli olduğunda tahminin düşük kalmasına eğilim.

Üstel eğilim (y = b × e^(mx)): bileşke büyüme için uygun: viral benimseme, kullanıcı-ağ etkileri, çarpımsal mevsimsellik. Log ölçekli y eksende, üstel büyüme doğrusal olur, bu da eğim tahminini kolaylaştırır. Log ölçekli m eğimi zaman birimi başına büyüme hızıdır.

Parçalı doğrusal: büyümenin ayrı rejimlere sahip olduğu zaman uygun. Bir başlangıç 18 ay yavaş büyüyebilir, ardından viral sıçrama üretebilir ve 6 ayda patlayıcı büyüme yapabilir, sonra düzleşebilir. Üç doğrusal segment herhangi bir tek eğriye daha iyi uyar.

Tahmin konisi: merkezi tahmin artı üst ve alt sınırlar, geleceğe bir genişleyen koni olarak çizilmiş. Koni'nin genişliği zamanla artar çünkü belirsizlik bileşke. 4 haftalık tahmin ±10% sınırları olabilir; 12 aylık tahmin genellikle ±50% veya daha fazlasına sahiptir.

Mevsimsellik ayrıştırma: gerçek talep eğilim + mevsimsel döngü + gürültü birleştiriyor. İstatistiksel kütüphaneler (statsmodels, Prophet) seriyi bu üç bileşene ayırıyor, eğilimin mevsimsel kalıptan ayrı olarak tahmin edilmesine izin veriyor. Geometrik olarak, eğilim temel kayış, mevsimsellik üstündeki periyodik dalgalama, & gürültü kalıntı titreme.

Eğilim Model Seçimi

24 aylık aylık istek hacmleri var. Aylar 1-12 1M'dan 2M'ye büyüdü (doğrusal görünüyor, +83K/ay). Aylar 13-18 2M'dan 4M'ye büyüdü (daha dik, +330K/ay). Aylar 19-24 4M'dan 12M'ye büyüdü (çok daha dik). Pazarlama viral ürün özelliği tarafından sürülen sıçramanın ay 13'te başladığını doğruluyor.

Kapasite vs Talep 2D Geometri Olarak

Her Kapasite Takımının İçinde Yaşadığı Çizim

X eksenine zamanı çizin. Y eksenine talep & kapasiteyi iki ayrı çizgi olarak çizin. Herhangi bir noktada aralarındaki dikey boşluk başdönemtir. İki eğri arasındaki 2D alan başdönem zarfıdır.

Üç referans şekli:

- Sağlıklı zarf: kapasite çizgisi talep çizgisinin rahat üstünde kalıyor. Zirvelerde boşluk darlaşabilir ama asla kaybolmaz. Zarf güvenlik bandıdır.

- Kapanan zarf: kapasite talep kadar hızlı büyümüyor. Boşluk zamanla daralıyor. Gelecekteki kesişim noktası sistem başdönem bitmediği tarih: takımın kapasite eklediği tarihtir.

- Ters zarf: talep kapasiteyi aşıyor. Sistem olay bölgesindedir. Inversiyonun dikey büyüklüğü herhangi bir şekilde sunulması gereken açıktır (kuyruk taşması, hata oranları, müşteri etkisi).

Standart kapasite planlama çizelgesi çizer:

- Son talep geçmişi (katı mavi çizgi)

- Tahmin talep sınırlarıyla (kesik çizgi + gölgeli koni)

- Mevcut kapasite (katı yeşil çizgi)

- Teslim tarihleriyle planlanan kapasite eklemeleri (step işlevi)

- Tahmin talebinin mevcut kapasiteyi geçtiği kesişme tarihi: bu sonraki kaynak sağlama için son tarih

Görsel karar kuralı: kapasite step işlevini tahmin konisinin üst sınırının her zaman üstünde tutun. Merkezi tahmini hedeflemek için kaynak sağlamayın; üst sınırına kaynak sağlayın. Aşırı kaynak sağlamanın maliyeti sonlu (bazı boşta kapasite); yetersiz kaynak sağlamanın maliyeti sınırlandırılmamıştır (kayıp kullanıcılar, kaskad başarısızlık, itibar hasarı).

Zarfı Okuma

Kapasite çizelgeniz gösteriyor: mevcut talep %20 ay başına büyüme ile 1.500 RPS. Mevcut kapasite 2.500 RPS. Yeni sunucu sırası (+1.500 RPS kapasite) 8 haftada varıyor. Tahmin konisi 8 haftalık ufukta ±%15 sınırlarına sahip.

Kapasite Geometrisi: Sarmalama

Geleceği Tahmin Eden Şekiller

Kapasite planlamasının altında yaşayan dört geometrik yapıdan yürüttünüz:

- Little Yasası (L = λ × W) sabit hal işgali tanımlayan bir dikdörtgenin alanı olarak

- Kuyruk eğrisi dirsekle %80 kullanım oranında, sıcak çalışmanın doğrusal olmayan maliyetini kodlayan

Eğilim eğimleri & tahmin konileri tahmini veriden uygulanabilir projeksiyonlara dönüştüren

- Başdönem zarfları kapasite vs talep 2D çizimleri olarak, kesişim tarihleriyle kaynak sağlama son tarihlerini işaretleyen

Kapasite planlaması, görsel özünde, bir eğriyi zamanla diğerinin güvenli şekilde üstünde tutma disiplinidir. Sayılar gömlektir; şekiller gerçeği taşır. Kuyruk eğrisini doğru okuyan kapasite mühendisi CPU kontrolü panosuyla gizledikçe sorunları yakalayacaktır.

Kapasite planlaması üzerine yardımcı ders uygulamaları kapsamış: ölçüm, tahminleme, tavan testleri, başdönem, & ölçekleme. Bu ders bunun altındaki geometriyi kapsamış. Birlikte sürpriz olmadan ölçeklendirilen hizmetleri çalıştırmanın görsel & analitik iskele oluştururlar.