L = λ × W
क्षमता योजना का सबसे उपयोगी सूत्र
किसी स्थिर लाइन में भाग लेने वाले सभी आइटम के लिए: L = λ × W, जहां:
- L = औसत संख्या में प्रणाली में आइटम (काम कर रहे या इंतज़ार कर रहे)
- λ (लैम्डा) = औसत आगमन दर (आइटम प्रति इकाई समय)
- W = प्रति आइटम प्रणाली में औसत समय
ज्यामितीय पढ़ने के लिए: λ को एक軸 पर और W को दूसरे軸 पर रखें। उनके द्वारा बनाई गई आयत का क्षेत्र L होता है। क्षमता योजना इस आयत के भीतर रहती है।
इसका महत्व: तीनों मात्रकों को निर्धारित करते हैं। संचालन, समय और संख्या में वृद्धि के साथ-साथ। यह विनिर्देश वेब अनुरोधों, रेस्टोरेंट टेबल, सुपरमार्केट की लाइनों और CPU पाइपलाइनों के लिए लागू होता है।
तीन संगत उदाहरण:
- एक वेब सेवा 200 रिक्वेस्ट प्रति सेकंड को संभाल करती है जिसकी औसत लेटेंसी 50 मिलीसेकंड (0.05 सेकंड) है। L = 200 × 0.05 = 10 फ्लाइट में है।
- एक कॉफी शॉप 60 ग्राहक प्रति घंटा संभाल करती है जिसकी औसत स्थानीय समय 15 मिनट (0.25 घंटा) है। L = 60 × 0.25 = 15 ग्राहक अंदर हैं।
- एक बैकएंड पूल 1500 रिक्वेस्ट प्रति सेकंड को संभाल करता है जिसकी औसत लेटेंसी 200 मिलीसेकंड (0.2 सेकंड) है। L = 1500 × 0.2 = 300 फ्लाइट में है।
क्षमता संकेत का महत्व: एक स्तर के कार्यकर्ता की संख्या / धागे की संख्या / कनेक्शन की संख्या को कम से कम L के बराबर होना चाहिए। इससा कम होता है, इसका मतलब कि लाइन बढ़ेगी।
लेटेंसी क्यों विस्फोटक होता है 80% उपयोगिता के बाद
संचालन में सबसे महत्वपूर्ण कुर्वे
प्लॉट उपयोग को एक-आय (0% से 100%) पर और औसत प्रतीक्षा समय को य-軸 पर। आकार क्षमता प्लानिंग में सबसे महत्वपूर्ण वक्रों में से एक है।
M/M/1 कューिंग मॉडल: पॉइसन आगमन (अरandom) और एक्सपोनेंशियल सेवा समय (अरandom) वाले एक प्रणाली के लिए औसत प्रतीक्षा समय:
W_q = ρ / (μ × (1 - ρ))
जहां ρ उपयोग (0 से 1) है और μ सेवा दर है।
वक्र का रूप:
- ρ = 0.5 (50% उपयोग) पर, प्रतीक्षा समय छोटा होता है (1 सेवा समय।
- ρ = 0.7 (70% उपयोग) पर, प्रतीक्षा समय ~2.3 सेवा समय है।
- ρ = 0.8 (80% उपयोग) पर, प्रतीक्षा समय ~4 सेवा समय है।
- ρ = 0.9 (90% उपयोग) पर, प्रतीक्षा समय ~9 सेवा समय है।
- ρ = 0.95 (95% उपयोग) पर, प्रतीक्षा समय ~19 सेवा समय है।
- ρ = 1.0 (100% उपयोग) पर, प्रतीक्षा समय अनंत है।
कnee: लगभग 80% उपयोग में वक्र का कोण का कोण होता है। नीचे घुटन तक, क्षमता सुविधाजनक होती है; ऊपर, लेटेंसी जल्दी से उपयोग से अधिक तेज़ी से बढ़ती है।
पрак्रिया पढ़ना: 70% उपयोग के लिए स्थिर अवस्था लक्ष्य करें। कभी 100% नहीं। 30% 'सिरफुट' वास्तव में सीमित लेटेंस की कीमत है।
क्षमता के साथ घुटन
दो स्थितियाँ:
स्थिति ए: 10 प्रतिलिपियाँ 60% CPU पर चल रही हैं। प्रतीक्षा समय प99 = 100 मिलीसेकंड।
स्थिति बी: same fleet को 90% CPU पर चलाने के लिए same code के साथ traffic growth के कारण। p99 = 600 मिलीसेकंड।
same fleet, same code, सिर्फ उपयोग बदला गया।
साइज़ और ट्रिगर मिलकर
सिंथेसिस
अब आप लिटल्स कानून को एक आयत के रूप में लागू कर सकते हैं, क्यूयिंग का चिन्ह पढ़ सकते हैं और क्षमता निर्णयों को दोनों से जोड़ सकते हैं।
दोनों लागू करें।
पीछे के टियर को 2,000 रिक्वेस्ट प्रति सेकंड (req/s) का सामना करने वाला होता है, जिसकी प्रति रिप्लिका क्षमता 80 req/s और 70% CPU। सージ फैक्टर 2x है; आप 3 सिमुल्टेनस रिप्लिका फेलियर का सामना करना चाहते हैं।
साथी धारा
साथी धारा
इस भूगोल-lesson ने Stateless Horizontal Scaling प्राथमिक धारा को संख्यात्मक भूगोल में परिवर्तित किया है।
अगली साथी, geometry_of_ingress_egress_separation, नेटवर्क-परिधि विभाजन को एक द्वि-शाखी ग्राफ के रूप में परिवर्तित करती है, जिसमें विभाजन काटने वाला नोड (cut vertex) होता है।
बहुत अच्छा किया।