ly thuet xep hang va ung dung

Page: 1

Đại học Bách Khoa

Khoa Điện tửViễn thông

2007 © Copyright by Pham Van Tien

• Trong các hệ thống dịch vụ, chủ thể phục vụ (server) lần lượt phục vụ các đối tượng sử dụng dịch vụ. Số lượng chủ thể có thể nhiều hơn 1

• Ví dụ:– Các hệ thống điện thoại: khi số lượng lớn khách hàng

quay số để kết nối đến một trong những đường ra hữu hạn của tổng đài.

– Trong mạng máy tính: khi mà gói tin được chuyển từ nguồn tới đích và đi qua một số lượng các nút trung gian. Hệ thống hàng đợi xuất hiện tại mỗi nút ở quá trình lưu tạm thông tin tại bộ đệm.

Tổng quan

Page: 2




• Mạng viễn thông

• Kiểm soát lưu lượng giao thông

• Đánh giá hiệu năng hệ thống máy tính

• Y tế và chăm sóc sức khỏe

• Không lưu, bán vé

• Dây truyền sản xuất

Ứng dụng

Page: 3




Lý thuyết xếp hàng và ứng dụng

Page: 4




• Monitoring queue...

Minh họa

Page: 5




Tổng quan

Sự kiện đến Server

Hàng đợ i

Sự kiện đi

Page: 6




Tổng quan

Page: 7




Mạng hàng đợi mở

S

S

S

S M

Page: 8




Mạng hàng đợi đóng

S

S

S

S

Page: 9




Omnet++

Minh họa

Page: 10




• Có thể xem xét mạng viễn thông như một tập hợp các hàng đợi

– Cấu trúc dữ liệu theo kiểu FIFO

• Lý thuyết xếp hàng sẽ giúp tính toán các tham số

như:

– Chiều dài trung bình

– Thời gian đợi trung bình

– Xác xuất một hàng đợi có chiều dài nào đó

– Xác suất mất gói

Xếp hàng trong mạng viễn thông

Page: 11




• Hệ thống có bao nhiêu server? Tốc độ phục vụ của các server này ?

• Có bao nhiêu vị trí đợi trong hàng đợi?

• Có bất kỳ quy tắc nội bộ đặc biệt nào không (yêu cầu dịch vụ, mức độ ưu tiên, hệ thống còn rỗi không)?

• Miêu tả của tiến trình đến (phân bố khoảng thời gian đến)

• Miêu tả của tiến trình phục vụ (phân bố thời gian phục vụ)

Đặc trưng của hàng đợi

Page: 12




• Quy tắc phục vụ (FCFS, LCFS, RANDOM)

• Thời gian rỗi (phân bố thời gian rỗi)

• Mức độ ưu tiên

Đặc trưng của hàng đợi


Hàng đợ i

Sự kiện đi

Page: 13




• Phân tích giải tích

• Quá trình mô phỏng

• Cả hai phương pháp trên

Phân tích hệ thống hàng đợi

Page: 14




• Thời gian xếp hàng (trễ hàng đợi)

• Tổng trễ (bao gồm trễ hàng đợi và trễ phục vụ )

• Số lượng khách hàng trong hàng đợi

• Số lượng khách hàng trong hệ thống (gồm khách hàng chờ và khách hàng đang được phục vụ )

• Xác suất nghẽn mạng (khi kích thước bộ đệm hữu hạn)

• Xác suất chờ để phục vụ

Kết quả phân tích(về phía khách hàng)

Page: 15




• Khả năng sử dụng server

• Khả năng sử dụng bộ đệm

• Lợi ích thu được (thông số dịch vụ và các xem xét về kinh tế)

• Lợi ích bị mất (thông số dịch vụ và các xem xét về kinh tế)

Kết quả phân tích về phía hệ người phục vụ

Page: 16




Phân tích hàng đợi

µ

Một Server

Số vị trí trong hàng đợ i là vô hạn

Sự đến vớ i tốc độ trung bình

Sự đi

tốc độ đến trung bình , thời gian đến trung bình 1/

µ tốc độ phục vụ trung bình, thời gian phục vụ trung bình 1/µ

Với kích thước của bộ đệm là vô hạn, quy tắc phục vụ là FCFS

Page: 17





Sự kiện ACác sự đến

Sự kiện B

Sự kiện C

t

t

t

t

Page: 18




• Sự kiện A: có 1 sự đến trong t

• Sự kiện B: không có sự đến nào trong t

• Sự kiện C: có nhiều hơn 1 sự đến trong t

• Giả sử rằng t 0→ . Như vậy ta sẽ có:

Pr{A}= t

Pr{B}= 1 t

Giả thiết Pr{C}= 0

• Số lượng sự kiện đến tuân theo phân bố Poisson


Page: 19




• Định nghĩa luật phân bố Poisson*

• Đồng thời, khoảng thời gian đến (được tính giữa hai sự đến liên tiếp) tuân theo luật phân bố mũ* với tham số

a(t) = e t


,...)2,1,0(!

)( ===−

nn

enPnλλ

N

(*) Trong MS Excel có hàm POISSON và hàm

EXPONDIST

Page: 20





Sự kiện ACác sự đi

Sự kiện B

Sự kiện C

t

t

t

Page: 21





• Sự kiện A: có 1 sự kiện đi trong t

• Sự kiện B: không có sự kiện đi nào trong t

• Sự kiện C: có nhiều hơn 1 sự kiện đi trong t

• Giả sử rằng t 0. Như vậy ta sẽ có:→

Pr{A}= µtPr{B}= 1 µt

• D là sự kiện của 1 hoặc nhiều sự đến AND với sự kiện

của 1 hoặc nhiều sự đi trong khoảng t. Giả sử Pr{D}=0

Page: 22





• Định nghĩa pN(t) là xác xuất mà hệ thống có N

khách hàng tại thời điểm t

• Khi đó có:p0(t+ t )= p0(t)(1 t)+p 1(t)µ t, N=0

pN(t+ t )= pN(t)(1 tµ t)+pN1(t) t+

pN+1(t)µt, N >0Ở thời điểm t+t có N khách hành nếu ở t có N khách hàng và

không có sự đến/ sự đi...

Page: 23





• Từ đó suy ra:

0),()()()()(

0),()()(

11

100

>+++−=

=+−=

+− Ntptptpdt

tdp

Ntptpdt

tdp

NNNN µλµλ

µλ

Page: 24





• Ở điều kiện ổn định, khi t ∞, ta có→

• Hay:

Tức là xác xuất hệ thống rơi vào một trạng thái nào

đó không phụ thuộc thời gian nữa...

0,0)(

0,0)(0

>=

==

Ndt

tdp

Ndt

tdp

N

p0(t)=p0, với N=0pN(t)=pN, với N>0

Page: 25





• Hệ phương trình vi phân trở thành (đặt = /µ < 1):p1=p 0

pN+1(t)=(1+)p N pN1=p N= N+1p0, N>0

• Theo điều kiện phân bố chuẩn:

• Suy ra:

pi = i (1 ), i=0,1,…

0,1)( ≥=∑∀

ttpi

i

Page: 26




Số lượng khách hàng trung bình

• Xét trong một khoảng thời gian đủ lớn, số lượng khách

hàng lưu trong hệ thống được tính theo công thức:

ρρρρ−

=−== ∑∑∞

=

∞

= 1)1(][

00 i

i

ii iipNE

* Để chứng minh, tách thành 2 tổng rồi thay thế

i+1 sang i để rút gọn...

Page: 27




Số lượng trung bình

• Số lượng khách hàng lưu trong hàng đợi được tính bằng:

ρρρ

ρρ

ρρ

−=−

−=−−

−=−=−= ∑∑∑

∞

=

∞

=

∞

= 11)1(

1)1(][

2

0111

ppippiNEi

ii

ii

iQ

* Tổng xuất phát từ i = 1, nghĩa là công thức chỉ

đúng khi có ít nhất một khách hàng trong hệ

thống

Page: 28




Thời gian trung bình

• Thời gian một khách hàng lưu lại trong hệ thống bao

gồm:

•Thời gian chờ xếp hàng

•Thời gian phục vụ


Hàng đợ i

Sự kiện đi

Page: 29





• Giả thiết:

•Hệ thống ở trạng thái ổn định tức

•Quy tắc phục vụ là FCFS


Hàng đợ i

Sự kiện đi

Page: 30





• Tổng thời gian lưu trong hệ thống:

[ ])1(

111000 ρµµµµ −

=+=+= ∑∑∑∞

=

∞

=

∞

=k

kk

kk

kpkppkWE

Page: 31





• Tổng thời chờ trong hàng đợi:

[ ])1(0 ρµ

ρµ −

==∑∞

=k

kQ pkWE

[ ] [ ])1(

1)1(

11ρµ

ρµρµµ −

=−−

=−= WEWE Q

Page: 32




Xác suất để khách hàng phải đợi

• Sự kiện một khách hàng đến phải đợi chính là khi trong

hệ thống có ít nhất 1 khách hàng:

• Đây cũng chính là xác suất hệ thống ở trạng thái bận Pbusy

Pwait = 1 – p0 =

Page: 33




Tiến trình điểm và tính chất Markov

• Tính dừng (stationarytime). Diễn tiến của các sự kiện trong một khoảng thời gian không phụ thuộc vào thời điểm bắt đầu quan sát. Xác suất mà k cuộc gọi đến trong khoảng thời gian [t1, t1+t2] là độc lập với t1, nghĩa là với mọi t, k ta có:

• Tính độc lập (independence) hay còn gọi là tính không nhớ. Trạng thái tiếp theo chỉ phụ thuộc vào trạng thái hiện tại, nhưng độc lập với việc nó đã có được như thế nào. Đây chính là đặc tính của tiến trình Markov

{ } { }kNNpkNNp tttttttt =−==− ++++ )()( 121121

{ } { }kNNpnNNkNNp tttttt =−==−=− )(|)( 120112

Page: 34




Tiến trình điểm và tính chất Markov

• Tính đều đặn (regularity). Xác suất xảy ra với nhiều hơn một sự kiện ở cùng một thời điểm bằng không:

• Một ví dụ điển hình của tiến trình điểm là tiến trình tuân theo luật Poisson. Xác suất để có k sự kiện trong khoảng thời gian T:

•Phân bố chuẩn:

•Kỳ vọng:

{ } 0)(,0:),(2)( →∆→∆∆=≥−∆+ totkhitoNNp ttt

( )!

)(k

eTkpTk λλ −

=

1)(0

=∑∞

=kkp

∑∞

===

0)()(

kTkkpkE λ

Page: 35




Đính lý Little

• Ký hiệu:

•N(t): số lượng khách hàng nằm trong hệ thống tại thời điểm t

• : số lượng khách hàng đến hệ thống khoảng thời gian (0,t)

• : số lượng khách hàng rời khỏi hệ thống trong (0,t)

• : thời gian chiếm dùng của khách hàng i

Tính trung bình, số lượng khách hàng nằm trong hệ thống được tính bằng tích của tốc độ đến và thời gian phục vụ

t

t

T i

Page: 36




Đính lý Little

• Đẳng thức sau đây đúng vì 2 vế đều biểu diễn diện tích phần màu xanh:

• Tương đương với:

α(t)

T1

N(t)

T2

Tii

β(t)

∫0

t

N t =∑i=1

t

T i

1t∫

0

t

N t = t

t

∑i=1

t

T i

t dpcm

Page: 37




Quá trình sinh tử

• Trong đó là tốc độ sự kiện đến và đi xét tại trạng thái i

• Với một hệ thống dừng và ổn định thì tổng các dòng đi vào một trạng thái bằng tổng các dòng đi ra

i ,i

Page: 38




Các mô hình hàng đợi: ký hiệu kendal

• Ký hiệu tổng quát cho một hệ thống hàng đợi: A/S/c/B/R/SD

• A: mô tả tiến trình đến, thường quan tâm đến khoảng thời gian giữa hai lần đến liên tiếp:

•M: Tiến trình mũ (là tiến trình Markov hay tiến trình không nhớ). Tức trạng thái tiếp theo chỉ phụ thuộc vào trạng thái hiện tại, nhưng độc lập với việc nó đã có được như thế nào

•Er: Tiến trình Erlang bậc r

•Hr: Tiến trình siêu số mũ bậc r

•D: Tiến trình tất định (deterministic)

Page: 39




Các mô hình hàng đợi: ký hiệu kendal

• S: mô tả tiến trình phục vụ, thường quan tâm đến khoảng thời gian cần thiết để phục vụ mỗi sự đến. Cũng có thể tuân theo 1 số luật như đối với tiến trình đến

• c: Số lượng server

• B: Kích thước bộ đệm. Đôi khi kí hiệu này bao gồm cả sự kiện đang được phục vụ

• R: Số nguồn phát ra sự kiện. Nếu các nguồn là tiến trình Markov thì tổng hợp của chúng cũng là 1 tiến trình Markov với:

• SD: Quy tắc phục vụ

• Ví dụ : M/M/c/∞

=∑ i

Page: 40




Hàng đợi M/M/1/∞

• Tiến trình đến và tiến trình phục vụ có thuộc tính Markov. Thời gian giữa hai lần đến và thời gian phục vụ tuân theo phân bố mũ

• Hệ thống có 1 server, dung lượng đệm là vô hạn

• Mật độ lưu lượng:

• Số lượng khách hàng trung bình trong hệ thống:

• Số lượng khách hàng trung bình trong server:

0 ii1 i+121

µ µ µ

...

µ µ µ

=

L=

1−

Ls=P N1=1−PN=0 =1−1−=

Page: 41





• Số lượng khách hàng trung bình trong hàng đợi:

• Thời gian trung bình lưu trong hệ thống của mỗi khách hàng:

• Thời gian phục vụ trung bình cho mỗi khách hàng:

• Thời gian đợi trung bình:

Lq=L−Ls=

1−−=

2

1−

W=L=

1−=

1−

W s=1=

W q=W−W s=

2

1−

Page: 42





• Ví dụ: một luồng gói đến một thiết bị chuyển mạch gói với tốc độ trung bình là 240 pps. Chiều dài gói trung bình là 100byte. Tốc độ của dòng số đầu ra là 500byte/s. Giả thiết dung lượng đệm là đủ lớn. Hãy tính thời gian trễ trung bình tại hệ thống, số bản tin trung bình trong mỗi hệ thống, chiều dài hàng đợi và thời gian đợi trung bình.

Page: 43





• Tốc độ đến:

• Thời gian phục vụ trung bình:

• Mật độ lưu lượng:

• Số bản tin trong hệ thống L:

• Thời gian trong hệ thống:

• Chiều dài hàng đợi:

• Thời gian đợi trung bình:

460240 ==λ

5100500 ==µ

8.054 ===

µλρ

48.01

8.01

=−

=− ρρ

144 ==

λL

2,38,018,0.8,0

1

2

=−

=− ρρ

8,042,3

)1(

2

===− λρλ

ρ qL

Page: 44




Hàng đợi M/M/1/K

}1,...,1{;;

)(

1

11

10

−∈

==+=+

=

−

+− KnKnpp

ppppp

KK

nnn

µλµλµλ

µλ

* K đã bao gồm khách hàng đang được phục vụ

Page: 45





• Do đó:

• Mặt khác, cũng có:

• Nên:

và:

},0{;0 Knpp nn ∈= ρ

∑=

=K

nnp

01

1

0

0 111

+

=

−−==

∑KK

n

np

ρρ

ρ

nKnp ρ

ρρ ×

−−= +11

1

Page: 46





• Xác suất để một yêu cầu bị từ chối:

• Số sự kiện trung bình lưu trong hệ thống:

• Để ý:

• Cuối cùng:

KKKloss pP ρ

ρρ ×

−−== +11

1

∑∑=

+=

×−

−==K

n

nK

K

nn nnpN

11

1 11 ρ

ρρ

∑=

+

−−==

K

n

Knf

0

1

11)(

ρρρρ ∑

=

+−

−++−==′

K

n

KKn KKnf

12

11

)1()1(1)(

ρρρρρ

1

1

1)1(

1 +

+

−+−

−= K

K

KNρ

ρρ

ρ

Page: 47





• Khi : thì: và:

• Mặt khác, cũng có:

• Suy ra:

• Số sự kiện trung bình trong hàng đợi:

• Hay:

∑=

=K

nnp

01

1 0ppn = 11+

=K

pn

∑=

==K

nn

KnpN1 2

∑ ∑∑= ==

−−=−=−=K

n

K

nn

K

nnnq pNpnppnN

10

11)1()1(

1

1

1)1(

11

+

+

−+−+

−= K

K

qKN

ρρρ

ρ

Page: 48





• Thời gian đợi trung bình được tính:

• Thời gian lưu trong hệ thống trung bình:

E W q=1

11− pk

[E N −kpk ]=1

11−pk

[k2−kpk ]

E W =E N

=k

2

Page: 49




Hàng đợi M/G/1/∞• Tiến trình đến Markov, tham số

• Tiến trình phục vụ là bất kỳ

• Chiều dài hàng đợi không giới hạn

• Số sự kiện trung bình trong hệ thống:

• Trong đó là phương sai của biến ngẫu nhiên

• Thời gian trung bình lưu lại trong hệ thống:

E N =2−22 y

2

2 1−=

22 y2

2 1−1

y2 y=1

E W =1 y

2

21−=E N

2

Page: 50




Hàng đợi M/D/1/∞• Tiến trình đến Markov, tham số

• Tiến trình phục vụ là bất biến, tức = 0

• Từ (1) và (2) trong hàng đợi M/G/1 suy ra số sự kiện :

• Số sự kiện trung bình trong hàng đợi:

• Thời gian trung bình lưu lại trong hệ thống:

E N D=E N∣

y2=0 =2−

2 1−

y2

E Nq

D=E N −= 2

2 1−

E W D=

E N

=

2−

21−

Page: 51




Hàng đợi M/D/1/∞• Thời gian đợi trung bình:

E W qD=E W −1=

21−

Page: 52




Hàng đợi M/M/c/∞

• Tốc độ đến của các sự kiện là

• Tốc độ phục vụ của các server là với i = 1, 2,...,c. Để đơn giản, giả thiết

• Mật độ lưu lượng :

• Giả thiết thứ tự phục vụ của các server là từ 1, 2, 3,...,c

• Trong sơ đồ sinhtử ?

1=2=3=...=c=i

=

c

Page: 53




Hàng đợi M/M/c/0

=

−>+=+−∈+=++

=

∑∞

=

+−

+−

0

11

11

10

1

1;)(}1,...,1{;)()1(

nn

nnn

nnn

p

cnpcpcpcnpnpnp

pp

µλµλµλµλ

µλ


• Hệ phương trình cân bằng chuyển đổi trạng thái:

Page: 54





• Đặt

• Xác suất để có n sự kiện trong hệ thống

với n < c

với n >= c

• Tương tự như hàng đợi M/M/1/∞ ta có:

0!1 pan

p nn =

0!p

cap cn

c

n−= ρ

11

00 ]

)1(!!1[ −

−

= −+= ∑ ρc

an

apcc

n

n

ρµλ ca ==

Page: 55





• Xác suất để một yêu cầu phải đợi (công thức Erlang C):

p{Wq > 0} = p{N>=c} = pq = =

• Hay:

)1(!0

ρ−cap c

1−∑n=0

c−1

pn

11

0]

)1(!!1[

)1(!−

−

= −+

−= ∑ ρρ c

an

ac

apcc

n

nc

q

Page: 56




Hàng đợi M/M/c/∞• Chiều dài hàng đợi trung bình:

• Số yêu cầu đang được phục vụ trung bình:

• Xác suất để thời gian đợi không lớn hơn giá trị t là:

E Nq=∑n=c

∞

n−c pn=

1−pq

E N s=∑n=0

c

n pn ∑n=c1

∞

c pn==a

P {W qt }=1−pq e−c−a t

Page: 57




Hàng đợi M/M/c/∞• Thời gian đợi trung bình:

• Số yêu cầu trung bình trong hệ thống:

• Thời gian lưu lại trung bình trong hệ thống:

E W q=1

E N q=1

c1

1−pq

E N =E N q EN s=

1−pqa

E W =1

E N

Page: 58





• Tốc độ đến của các sự kiện là

• Tốc độ phục vụ của các server là với i = 1, 2,...,c. Để đơn giản, giả thiết

• Giả thiết thứ tự phục vụ của các server là từ 1, 2, 3,...,c

• Sơ đồ quá trình sinhtử ?

λ

µµµµµ ===== c...321

iµ

Page: 59





}1,...,1{;

1

;)()1(

0

1

11

10

−∈

=

=+=++

=

∑=

−

+− cn

p

pcppnpnp

pp

c

nn

cc

nnnµλ

µλµλµλ

• Hệ phương trình cân bằng chuyển đổi trạng thái:

Page: 60




Hàng đợi M/M/c/0• Đặt

• Xác suất để có n sự kiện trong hệ thống

với n <= c

• Xác suất để một yêu cầu nào đó đến bị từ chối

0!1 pan

p nn =

1

0]

![

!−

=∑=

c

i

ic

c icp ρρ

ρµλ ca ==

Đây chính là công thức Erlange B

Page: 61




Công thức Erlang• Công thức Erlang C cho biết xác suất để một yêu cầu đến phải chờ

trong hàng đợi:

• Xác suất để một yêu cầu phải chờ trong khoảng thời gian t trước khi được phục vụ:

• Công thức Erlang B cho biết xác suất một yêu cầu đến bị từ chối phục vụ ngay:

1

0]

![

!−

=∑=

c

i

ic

c icp ρρ

11

0]

)1(!!1[

)1(!−

−

= −+

−= ∑ ρρ c

an

ac

apcc

n

nc

q

tacqq eptWP )(1}{ −−−=≤ µ

Page: 62




Cường độ lưu lượng

• Lưu lượng phát sinh từ một người dùng (thời gian chiếm dùng H)

• Lưu lượng phát sinh tổng cộng từ nhiều nguồn tổng hợp lại:

• Lưu lượng mang (không vượt quá số kênh) là giá trị lưu lượng thực tế được phục vụ

• Lưu lượng tổn thất là hiệu số giữa lưu lượng phát sinh và lưu lượng mang

• Đơn vị đo lưu lượng là Erlang, thường tính theo giờ

HA uu .λ=

HA .λ=

cA

cl AAA −=

Page: 63





• Ví dụ: một người dùng có tốc độ phát sinh cuộc gọi là 3 cuộc/giờ, thời gian chiếm kênh trung bình là 10 phút. Vậy tải phát sinh từ người dùng này là (30x10)/60 = 0,5Er

• Nếu có 100 người dùng như vậy thì lưu lượng phát sinh tổng cộng ?

ErxHA 505,0100. === λ

Page: 64




Bậc phục vụ (GoS)

• Hệ thống không hàng đợi (M/M/c/0) (blocked calls cleared):

•Cuộc nối bị từ chối khi tất cả các kênh phục vụ đều bận

•GoS được đánh giá qua công thức Erlang B

1

0]

![

!)( −

=∑=

c

i

ic

iA

cAblockingp

Page: 65




Grade of Service (GoS)

• Hệ thống có hàng đợi M/M/c/∞ (blocked calls delayed)

•GoS được tính bằng xác suất một cuộc gọi phải chờ lâu hơn một khoảng thời gian chờ nào đó

•Sử dụng công thưc Erlang C để đánh giá

∑−

=

−+=> 1

0 !1)/1(!

)0( c

n

nc

c

nAcAcA

Adelayp

tH

Ac

etdelayptdelayp−−

>=> )()(


Page: 66




• Ví dụ: Cho hệ thống trễ có tốc độ cuộc gọi là 20 cuộc/giờ, thời gian chiếm kênh mỗi cuộc là 6 phút, số kênh phục vụ là 3. Tính lưu lượng phát sinh. Xác suất để một để một cuộc gọi phải vào hàng đợi, xác suất để được phục vụ ngay là bao nhiêu ?


ĐS: 4/9


Page: 67




ĐS: 4/9ĐS: 4/9


Page: 68




Tham khảo (Erlang C)

ĐS: 4/9

Page: 69




Tham khảo (Erlang B)

ĐS: 4/9

ly thuet xep hang va ung dung

Documents