9.

Sharing systems

lect09.ppt S-38.145 – Introduction to Teletraffic Theory – Spring 2005 1

9. Sharing systems

Contents

• Refresher: Simple teletraffic model

• M/M/1-PS (∞ customers, 1 server, ∞ customer places)
• M/M/n-PS (∞ customers, n servers, ∞ customer places)
• Application to flow level modelling of elastic data traffic
• M/M/1/k/k-PS (k customers, 1 server, k customer places)

2
9. Sharing systems

Simple teletraffic model

• Customers đ n v i t c đ λ (customers trong m t đvtg)

– 1/λ = th i gian trung bình gi a các l n t i
• Customers đư c ph c v b i n parallel servers
• Khi b n m t server ph c v v i t c đ µ (customers per time unit)
– 1/µ = th i gian ph c v trung bình c a m t customer
• Có n + m v trí customer places trong h th ng
– có ít nh t n service places và nhi u nh t m waiting places
• Gi thi t r ng blocked customers (arriving in a full system) b lost

µ1
λ µ
n+m µ
µ
n 3
9. Sharing systems

Pure sharing system

• Có s servers h u h n (n < ∞), s service places h u h n (n + m

= ∞), no waiting places
– N u có nhi u nh t n customers trong h th ng (x ≤ n), m i customer có
m t server riêng. Ngư c l i (x > n), t ng t c đ ph c v (nµ) đư c chia
s đ u gi a t t c các customers.
– Vì v y, t c đ m t customer đư c ph c v b ng min{µ,nµ/x}
– Không có customer nào b lost, và không có customer nào c n ph i đ i
trư c khi đư c ph c v .
– Nhưng khi delay tăng lên, s có nhi u khách hàng trong h th ng hơn

∞ µ1
λ µ
µ
µ
n 4
9. Sharing systems

Contents

• Refresher: Simple teletraffic model

• M/M/1-PS (∞ customers, 1 server, ∞ customer places)
• M/M/n-PS (∞ customers, n servers, ∞ customer places)
• Application to flow level modelling of elastic data traffic
• M/M/1/k/k-PS (k customers, 1 server, k customer places)

5
9. Sharing systems

M/M/1-PS queue

• Xét mô hình lưu lư ng đơn gi n sau đây:

– Có s customers đ c l p b ng vô cùng (k = ∞)
– Th i gian gi a các l n t i là IID và phân b theo hàm mũ v i k v ng 1/λ
• vì v y, customers đ n theo quá trình Poisson v i cư ng đ λ
– One server (n = 1)
– Các yêu c u ph c v là IID và phân b theo hàm mũ v i mean 1/µ
– S v trí khách hàng b ng vô cùng (p = ∞)
– Quy t c x p hàng: PS. T t c các customers đư c ph c v đ ng th i m t
cách công b ng, chia s đ u nhau dung lư ng ph c v µ.
• Using Kendall’s notation, this is an M/M/1-PS queue
• Notation:
– ρ = λ/µ = traffic load

6
9. Sharing systems

State transition diagram

• Cho X(t) ký hi u s customers trong h th ng t i th i đi m t

– Gi thi t X(t) = i t i th i đi m t, và
xét trong kho ng th i gian ng n (t, t+h]:
• v i xác su t λh + o(h),
có m t customer m i t i (state transition i → i+1)
• n u i > 0, thì, v i xác su t i(µ/i)h + o(h) = µh + o(h),
có m t customer r i h th ng (state transition i → i−1)
• Quá trình X(t) rõ ràng là m t Markov process v i state transition
λ λ λ
0 1 2
µ µ µ

• Đây là m t irreducible birth-death process v i m t không gian tr ng

thái vô h n S = {0,1,2,...} cho M/M/1-FIFO queue.
7
9. Sharing systems

Equilibrium distribution (1)

• Local balance equations (LBE):

π i λ = π i +1µ (LBE)
⇒ π i +1 = λ π i = ρπ i
µ

⇒ π i = ρ iπ 0 , i = 0,1,2, K
• Normalizing condition (N):
∞ ∞
∑π i = π 0 ∑ ρ i = 1 (N)
i =0 i =0
−1
 ∞
i
⇒ π 0 =  ∑ ρ 
 i =0 

= ( )
1 −1
1− ρ
= 1 − ρ , if ρ < 1
8
9. Sharing systems

Equilibrium distribution (2)

• Vì v y, v i m t h th ng stable (ρ < 1), equilibrium distribution t n

t i và là m t geometric distribution:
ρ < 1 ⇒ X ∼ Geom( ρ )
P{ X = i} = π i = (1 − ρ ) ρ i , i = 0,1,2, K
ρ 2 ρ
E[ X ] = 1− ρ , D [X ] =
(1− ρ ) 2
• Remark: Tính ch t không ph thu c vào service time distribution
– K t qu cho PS discipline không ph thu c vào service time distribution,
t c là: nó đúng cho b t k service time distribution nào v i mean 1/µ
– Vì v y, thay cho M/M/1-PS model, chúng ta có th xét mô hình t ng
quát hơn là M/G/1-PS

9
9. Sharing systems

Mean delay

• Cho D ký hi u t ng th i gian (delay) trong h th ng c a m t (typical)

customer
• Do s khách hàng trung bình trong h th ng E[X] như nhau cho m i
work-conserving queueing disciplines, vì v y, mean delay cũng như
nhau d a trên by k t qu Little
• Thus, we may apply the result derived for the FIFO discipline in Lect. 8:
E[D ] = µ1 ⋅ 1−1ρ

10
9. Sharing systems

Mean delay E[D] vs. traffic load ρ

– Note that the time unit is the average service requirement E[S]
6

E[D] 3

0.2 0.4 0.6 0.8 1

traffic load ρ

11
9. Sharing systems

Relative throughput

• M t đ i lư ng QoS là thông lư ng tương đ i relative throughput E[S]/E[D]:

E[ S ] 1
= ⋅ µ (1 − ρ ) = 1 − ρ
E[ D ] µ

12
9. Sharing systems

Relative throughput E[S]/E[D] vs. traffic load ρ

0.8

0.6
E[S]/E[D]
0.4

0.2

0.2 0.4 0.6 0.8 1

traffic load ρ

13
9. Sharing systems

Contents

• Refresher: Simple teletraffic model

• M/M/1-PS (∞ customers, 1 server, ∞ customer places)
• M/M/n-PS (∞ customers, n servers, ∞ customer places)
• Application to flow level modelling of elastic data traffic
• M/M/1/k/k-PS (k customers, 1 server, k customer places)

14
9. Sharing systems

M/M/n-PS queue

• Xét mô hình lưu lư ng đơn gi n sau đây:

– Có s customers đ c l p b ng vô cùng (k = ∞)
– Th i gian gi a các l n t i là IID và phân b theo hàm mũ v i k v ng 1/λ
• vì v y, customers đ n theo quá trình Poisson v i cư ng đ λ
– S servers h u h n (n < ∞)
– Các yêu c u ph c v là IID và phân b theo hàm mũ v i mean 1/µ
– S v trí khách hàng b ng vô cùng (p = ∞)
– Quy t c x p hàng: PS. T t c các customers đư c ph c v đ ng th i
m t cách công b ng, chia s đ u nhau dung lư ng ph c v µ.
– Quy t c x p hàng: PS. N u có nhi u nh t n customers trong h th ng
(i ≤ n), m i customer có server riêng. Ngư c l i (i > n), t c đ ph c
v t ng (nµ) đư c chia s đ u gi a t t c customers.
• Using Kendall’s notation, this is an M/M/n-PS queue
• Notation: 15
– ρ = λ/(nµ) = traffic load
9. Sharing systems

State transition diagram

• Cho X(t) ký hi u s customers trong h th ng t i th i đi m t

– Gi thi t X(t) = i t i th i đi m t, và
xét trong kho ng th i gian ng n (t, t+h]:
• v i xác su t λh + o(h),
có m t customer m i t i (state transition i → i+1)
• n u i > 0, thì, v i xác su t i⋅min{µ,nµ/i}⋅h + o(h) = min{i,n}⋅µh + o(h),
có m t customer r i h th ng (state transition i → i−1)
• Quá trình X(t) rõ ràng là m t Markov process v i state transition
λ λ λ λ λ
0 1 n n+1
µ 2µ nµ nµ nµ

• Đây là m t irreducible birth-death process v i m t không gian tr ng

thái vô h n S = {0,1,2,...} cho M/M/n-FIFO queue.
16
9. Sharing systems

Equilibrium distribution (1)

• Local balance equations (LBE) for i < n:

π i λ = π i +1 (i + 1) µ (LBE)
nρ
⇒ π i +1 = ( +λ1) µ π i = i +1π i
i
( nρ )i
⇒ π i = i! π 0 , i = 0,1,K , n
• Local balance equations (LBE) for i ≥ n:

π i λ = π i +1nµ (LBE)
⇒ π i +1 = nλµ π i = ρπ i
n nn ρ i
i−n i − n ( nρ )
⇒ πi = ρ πn = ρ n!
π0 = n!
π 0, i = n, n + 1, K 17
9. Sharing systems

Equilibrium distribution (2)

• Normalizing condition (N):

∞  n −1 ( nρ )i ∞ n n ρ i 
∑ π i = π 0  ∑ i! + ∑ n!  = 1 (N)
i =0  i =0 i =n 
−1
 n −1 (nρ ) i ( nρ ) n ∞ i − n 
⇒ π 0 =  ∑ i! + n! ∑ ρ 
 i =0 i =n 
−1
 n −1 ( nρ )i 
( nρ ) n 1
=  ∑ i! + n!(1− ρ )  = , if ρ < 1
 i =0  α +β
n −1 ( nρ ) i ( nρ ) n
Notation : α = ∑ i!
, β= n!(1− ρ )
i =0 18
9. Sharing systems

Equilibrium distribution (3)

• Vì v y, v i m t h th ng stable (ρ < 1, t c là: λ < nµ), equilibrium distri-

bution t n t i và cho b i:

ρ <1 ⇒
 ( nρ )i 1
 i! ⋅ α + β , i = 0,1, K, n
P{ X = i} = π i =  n i
 n ρ ⋅ 1 , i = n, n + 1, K
 n! α + β
• Remark: Tính ch t không ph thu c vào service time distribution
– K t qu cho PS discipline không ph thu c vào service time distribution,
t c là: nó đúng cho b t k service time distribution nào v i mean 1/µ
– Vì v y, thay cho M/M/n-PS model, chúng ta có th xét mô hình t ng
quát hơn là M/G/n-PS 19
 9. Sharing systems

Mean delay

• Cho D ký hi u t ng th i gian (delay) trong h th ng c a m t (typical) customer

• Do s khách hàng trung bình trong h th ng E[X] như nhau cho m i work-
conserving queueing disciplines, vì v y, mean delay cũng như nhau d a trên
by k t qu Little
• Vì v y, chúng ta có th áp d ng k t qu cho quy t c FIFO Lect. 8:

( p
E[ D ] = µ1 ⋅ n(1W
−ρ ) )
+1

– v i pw là xác su t
∞ ∞ ( nρ ) n
nn ρ i β
pW = P{ X * ≥ n} = ∑ π i = ∑ π 0 ⋅ n! = π 0 ⋅ n!(1− ρ ) = α +β
i =n i =n

20
9. Sharing systems

Mean delay E[D] vs. traffic load ρ

– Note that the time unit is the average service requirement E[S]
6

4
n=1
E[D] 3
2
3
2
10
100
1

0.2 0.4 0.6 0.8 1

traffic load ρ

21
9. Sharing systems

Relative throughput

• A quality of service measure is the relative throughput E[S]/E[D]:

E[ S ] 1 n (1− ρ ) n (1− ρ )
=
E[ D ] µ
⋅ µ ⋅ =
pW ( n ) + n(1− ρ ) pW ( n ) + n (1− ρ )

E[ S ] 1− ρ
n = 1 : E[ D ] = p (1) +1− ρ = 1 − ρ
W
E[ S ] 2(1− ρ )
n = 2: =
E[ D ] pW ( 2) + 2(1− ρ )
= 1− ρ 2

22
9. Sharing systems

Relative throughput E[S]/E[D] vs. traffic load ρ

0.8
10 100
2 3
0.6
n=1
E[S]/E[D]
0.4

0.2

0.2 0.4 0.6 0.8 1

traffic load ρ

23
9. Sharing systems

Contents

• Refresher: Simple teletraffic model

• M/M/1-PS (∞ customers, 1 server, ∞ customer places)
• M/M/n-PS (∞ customers, n servers, ∞ customer places)
• Application to flow level modelling of elastic data traffic
• M/M/1/k/k-PS (k customers, 1 server, k customer places)

24
9. Sharing systems

Application to flow level modelling of elastic data traffic

• Mô hình M/G/n-PS có th áp d ng đ mô hình hóa lưu lư ng l p

lu ng c a d li u elastic
– customer = TCP flow
– λ = flow arrival rate (flows per time unit)
– r = access link speed for a flow (data units per time unit)
– C = nr = speed of the shared link (data units per time unit)
– E[L] = average flow size (data units)
– E[S] = 1/µ = E[L]/r = average flow transfer time with access link rate
– ρ = λ/(nµ) = traffic load
• Đ i lư ng QoS là throughput
E[ L ] r ⋅E[ S ] r ⋅n(1− ρ ) (1− ρ )
θ = E[ D ] = E[ D ] = p ( n) + n(1− ρ ) = C ⋅ p ( n) + n(1− ρ )
W W

25
9. Sharing systems

Throughput θ vs. traffic load ρ

– Note that the rate unit is the link rate C

1

r=C
0.8

0.6
r = C/2
throughput θ
0.4 r = C/3

0.2
r = C/10
r = C/100
0.2 0.4 0.6 0.8 1
traffic load ρ

26
9. Sharing systems

Contents

• Refresher: Simple teletraffic model

• M/M/1-PS (∞ customers, 1 server, ∞ customer places)
• M/M/n-PS (∞ customers, n servers, ∞ customer places)
• Application to flow level modelling of elastic data traffic
• M/M/1/k/k-PS (k customers, 1 server, k customer places)

27
9. Sharing systems

M/M/1/k/k-PS queue

• Xét mô hình lưu lư ng đơn gi n sau đây:

– S customers đ c l p h u h n (k < ∞)
• on-off type customers (thay đ i gi a idleness và activity)
– Th i gian idle times là IID và phân b mũ v i mean 1/ν
– One server (n = 1)
– Yêu c u ph c v là IID và phân b mũ v i mean 1/µ
– S customer places b ng s customers (p = k)
– Queueing discipline: PS.
• Using Kendall’s notation, this is an M/M/1/k/k-PS queue
• On-off type customer:
service
1
idleness
0

28
9. Sharing systems

State transition diagram

• Cho X(t) ký hi u s customers trong h th ng t i th i đi m t

– Gi thi t X(t) = i t i th i đi m t, và
xét trong kho ng th i gian ng n (t, t+h]:
• n u i < k, thì, v i xác su t (k−i)νh + o(h),
có m t customer tr nên active (state transition i → i+1)
• n u i > 0, thì, v i xác su t i(µ/i)h + o(h) = µ + o(h),
có m t customer active tr nên idle (state transition i → i−1)
• Quá trình X(t) rõ ràng là m t Markov process v i state transition
kν (k−1)ν 2ν ν
0 1 k−1 k
µ µ µ µ

• Note that process X(t) is an irreducible birth-death process

with a finite state space S = {0,1,…,k}
29
9. Sharing systems

Equilibrium distribution (1)

• Local balance equations (LBE):

π i (k − i )ν = π i +1µ (LBE)
µ
⇒ π i = ( k −i )ν π i +1
1 µ k −i
⇒ π i = ( k −i )! (ν ) π k , i = 0,1,K, k

30
9. Sharing systems

Equilibrium distribution (2)

• Normalizing condition (N):

k k
µ
∑ π i = π k ∑ ( k −1 i )! (ν ) k −i = 1 (N)
i =0 i =0
−1
 k 1 µ k −i  1
⇒ π k =  ∑ ( k −i )! (ν )  = k
 i =0  1 ( µ )i
∑ i! ν
i =0
1 ( µ ) k −i
µ ( k −i )! ν
⇒ π i = π k ⋅ ( k −1 i )! (ν )i = k
1 ( µ )i
∑ i! ν
i =0 31
9. Sharing systems

THE END

32