A New Jitter Control Mechanism by Per-Hop Packet Scheduling Approach

A New Jitter Control Mechanism by Per-Hop Packet Scheduling Approach

指導教授：連耀南教授學生：林宗銘

2006/10/5

Outline

Introduction Related Work Objective Function Our Solution Performance Evaluation Conclusion

Outline


Introduction

網路的進步與發展，使得更多新型的網路服務迅速應運而生，在使用者越來越多的情況下，對網路的 QoS (Quality of Service) 也更加要求。

All-IP 網路受限於 Packet Switching 原有的特性，有三大品質問題有待克服Long Delay TimeHigh JitterHigh Packet Loss

Introduction

3GPP 在 1999 年初所開始制訂的 UMTS 中依應用服務類型提出 QoS 分類架構，其中包含對 Real-Time Traffic 的服務考量。

UMTS 將網路上風行的主要應用依時效與品質需求概略分為四大類。

類別應用之例

Conversational ( 交談式 ) VoIP(Voice over IP)

Streaming ( 串流式 ) VoD(Video on Demand)

Interactive ( 互動式 ) Telnet

Background ( 背景式 ) E-Mail

Introduction

即時性的應用服務，像是 VoIP 以及 VoD ，對於封包的 Delay 以及 Jitter 具有嚴格的要求。

各個類別的品質要求。

Delay Sensitiv

ity

Jitter Sensitivi

ty

Packet Loss Sensitivity

Conversational

High High Low

Streaming Medium High Low

Interactive Medium Low High

Background

Low No High

Introduction

Jitter IP 封包的傳遞時間起伏不定過於高的 Jitter 將對交談式以及串流式的應用

造成嚴重服務品質下降對於一個資料流到達接收端之相鄰兩個封包，

其 Jitter 的定義如下：Si = the sending time of packet iRi = the arrival time of packet iSj = the sending time of packet jRj = the arrival time of packet j Jitter ＝ ( Rj - Sj ) - ( Ri - Si )其中 j>i

Introduction

目前 IP 網路只提供 best effort 資料流傳送服務。

近來許多研究以 per-hop 封包排程的方法，然而大多數的封包排程方法並未針對封包的重要性做適當處理。

我們亦提出 per-hop 封包排程方法以減低接收端之 Jitter 。

設計與封包傳遞時間相關的 profit function 。根據封包行程遲早以及重要性（不同類型的

profit function ）做傳送順序的調整。

Outline


Related Work

最簡單的消除 Jitter 方法是使用 DeJitter buffer 。接收端設定一個較大的 buffer 。方法簡單但是可能會有相當長的 Delay

Time 。

文獻集文獻一： Yishay Mansour, and Boaz Patt-

Shamir, “Jitter Control in QoS Networks,” IEEE/ACM Transactions on Networking, Aug. 2001.

文獻二： Ion Stoica, and Hui Zhang, “Providing Guaranteed Services Without Per Flow Management,” Proc. of SIGCOMM '99, pp. 81-94, 1999.

文獻三：徐毅銘 , " 在 IPv6 的 DiffServ 網路上具有 Credit/Deficit 調整的延遲變化率減小機制 ," 國立中山大學 , 2003.

文獻內容 Yishay Mansour, and Boaz Patt-Shamir, 2001.

提出一個簡單的 on-line 的 Jitter Control Algorithm ，每個 Router 的 Buffer 大小為 2B 個單位封包。當 Buffer 負載達到 B 時，則將 Buffer 前端的封包送出，之後每隔 Xa 時間送出一個封包，其中 Xa 為封包的平均間隔時間。當 Buffer 負載未達到 B 時，則以 First Come First Serve 為原則送出封包。

Ion Stoica, and Hui Zhang, 1999. 由於 Jitter Virtual Clock(Jitter-VC) 必須在 Edge Router 以及 Core Route

r 都記載著 Per Flow State ，以讓 Router 根據封包到達時間計算出每個封包的 eligible time和 deadline ，進而對封包排程。因此，作者提出 Core Jitter Virtual Clock (CJVC) ，使用 Dynamic Packet State(DPS) 的方法，只在 Edge Router 記載 Per Flow State ，當封包進入 Edge Router 時，預先在封包表頭加入 eligible time和 deadline 的資訊。

徐毅銘 , 2003. 將每一個 Hop 的 Queueing Delay 用一個值代表，每個封包都有其預設

的 Per-Hop Queueing Delay 。封包若是在預設時間內送出，表示封包提早送出（具有 Credit ），反之，則表示封包太晚送出（具有 Deficit ）。將 Credit/ Deficit隨著封包傳輸夾帶在封包表頭中，調整封包傳送順序，將累積的 Credit/ Deficit 消除。

文獻討論 Yishay Mansour, and Boaz Patt-Shamir, 2001.

當最好的 off-line 方法的 Buffer 使用量為 B 個單位封包，作者設計的on-line 方法 Buffer 使用量最多為 2B 個單位封包。

作者此研究並無改變封包送出順序，無法針對封包屬於何種的應用類型作處理，可能會導致 real-time traffic 的 Jitter 變動過於劇烈以及 Delay Time 過長。

Ion Stoica, and Hui Zhang, 1999. CJVC 可和 Jitter-VC 達到同樣的效果。封包表頭夾帶的資訊會隨著經過的 Router 個數而增加，會面臨 scal

ability 的問題。此研究是在 IntServ 架構下，因此會面臨 scalability 的問題，然而在

All-IP 網路下，使用 DiffServ 架構較為恰當。徐毅銘 , 2003.

作者所使用的 CDWFQ 相較於 WFQ 對 Jitter 有一定程度的改善。並未針對封包的重要性做不同的處理。

Outline


Objective Function (single class)

目標：利用在 router 對封包的排程，期望能使所有即時性訊務連結在接收端計算出的 Jitter絕對值總和能最小。

Work –conserving service discipline 。 No de-jitter buffer in receiver 。假設共有 N條即時性訊務連結C1、C2、‥‥、Cn ，

分別送出 N1、N2、‥‥、Nn 個封包，以 TC[a]代表C 連結第 a 個封包的 End to End Delay Time 。期望使

最小。

Objective Function (multiple class)

Work –conserving service discipline 。 No de-jitter buffer in receiver 。使加權的各類別 Jitter倒數和最大。

分析為了最小化 Jitter ，每個 router 對封包排程

時必須取得整個網路的資訊。如此作法複雜度太高。因此，每個 router 各自做排程的決定，在此

我們利用與封包傳遞時間相關的 profit function配合排程演算法來決定封包排程順序。

不同的封包排程演算法以及 profit function 將會影響控制 Jitter 的效果。因此，我們將研究重點放在 profit function 及排程演算法的設計。

This is a sub-optimal solution 。

Outline


Packet Scheduling

Our Approach︰假設每個 packet 在每個 router 都有事先預估的停留時間，因此，每個封包到達每個 router 都有預定送出的時間。在封包所經過的每一個 router ，根據其行程的遲早及重要性調整其傳送的先後次序，以期達到減小在接收端之 Jitter絕對值總和。

研究環境下 Queue 之分類

FIFO queue ：處理進入的封包時，會將封包插入 que

ue 的尾端；而送出封包時，會將 queue 內的封包從前端依序送出。

Preemptive queue ：處理進入的封包時，可將封包插入 que

ue 的任意位置；而送出封包時，會將queue 內的封包從前端依序送出。

簡化 Router示意圖

Output queue︰

1.Single preemptive queue

2.Multiple FIFO queue

Single Preemptive Queue

Router任一 output queue由單一個 preemptive queue所組成。

供作基準比較之用，因過於理想不實際。實際網路中的 router 為了加快交換速度不會採取 preemptive queue 作法，且硬體實作花費也會過高。

Single Preemptive Queue

Multiple FIFO Queue

Router任一 output queue由數個 FIFO queue所組成。

封包僅可插入其中一個 queue 的尾端。設計前端排程器﹙ pre-scheduler﹚與

後端排程器﹙ post-scheduler ﹚，搭配Multiple FIFO queue。

較為實際可行。

Multiple FIFO Queue

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

Single Preemptive Queue封包排程

問題描述： output queue 為 single preemptive queue 。假設每個封包的大小都一樣。每一個封包有與傳遞時間相關的 profit functi

on 。將所有的封包排程，使封包送出的順序所得

到的總獲利值能最大，最終達到減小在接收端之 Jitter絕對值總和。


使用 Jensen‘s benefit functions ，並以得到最大獲利為目標，則 non-preemptive 的封包排程問題是為一個 NP-Hard 的問題。

由於 preemptive 的封包排程問題比 non-preemptive 的封包排程問題更為複雜。因此，若是我們處理 preemptive 的封包排程問題時，則為一個 NP-Hard 的問題。

參考文獻： Jinggang Wang and Binoy Ravindran, " BPA: A Fast Packet Scheduling Algorithm for Real-Time Switched Ethernet Networks," Proc. of ICPP’02.


定義參數：在 output queue裡目前正有 N-1 個已經排定好順序的封包，分別為 pk[1]、 pk[2]、 pk[3]…pk[n-3]、pk[n-2]、 pk[n-1] ，而有一個正要進入output queue 的封包為 pk[n] 。


演算法： output queue 內原有 N-1 個封包順序維持不變，但進入的封包 pk[n] 可以插入 queue任意位置之中，在此 N 個位置中，選取其中總獲利和最大的位置插入。

Multiple FIFO Queue封包排程

問題描述： output queue 為 M個 FIFO queue 。假設每個封包的大小都一樣。每一個封包有與傳遞時間相關的 profit functi

on 。設計前端排程器與後端排程器，使封包送出

的順序所得到的總獲利值能最大，最終達到減小在接收端之 Jitter絕對值總和。

Multiple FIFO Queue封包排程

演算法：我們排程演算法將採取輪詢（ Round Robin ）的方式送出封包，對每個 queue 都服務過一次為一次輪詢，將 queue裡的封包依序全部送出稱為對 queue 服務一次。在處理進入的封包時，在 M 個插入位置中，選取總獲利值最大的位置。

Outline


實驗一

實驗目的︰ real-time traffic 為 single class 的情況下，觀察控制 Jitter 的效果。

觀察指標：所有即時性訊務接收端之 Jitter絕對值總和與封包平均延遲時間﹙ Average Delay Time﹚。

實驗工具： NS2 。實驗變因：即時性訊務個數、即時性訊務傳

送速率、 profit function 類型、 router 的 buffer size 大小、不同的 output queue 類型。

實驗拓墣Sender ： n0、 n1、 n2、 n3、 n4 。

Receiver ： n9 。

Router ： n5、 n6、 n7、 n8 。

實驗結果 (Single Preemptive Queue)

4 CBR-0.5Mb and 1 FTP

0

0.005

0.01

0.015

0.02

0.025

0.03

0.035

5 10 20 30 40 50

Buffer Size(KB)

Jitte

r

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO


0

20

40

60

80

100

120

140

160

5 10 20 30 40 50

Buffer Size(KB)

Del

ay T

ime/

Pack

et (m

s) Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO

n0 ： CBR-0.5MB n1 ： CBR-0.5MB n2 ： CBR-0.5MB

n3 ： CBR-0.5MB n4 ： FTP



0

500

1000

1500

2000

2500

3000

5 10 20 30 40 50

Buffer Size(KB)

Pack

et L

oss(

pkts)

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO(received in time)

FIFO(received)


4 CBR-1Mb and 1 FTP

0

0.005

0.01

0.015

0.02

0.025

5 10 20 30 40 50

Buffer Size(KB)

Jitte

r

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO

4 CBR-1Mb and 1 FTP

0

20

40

60

80

100

120

140

160

5 10 20 30 40 50

Buffer Size(KB)

Del

ay T

ime/

Pack

et (m


Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO

n0 ： CBR-1MB n1 ： CBR-1MB n2 ： CBR-1MB

n3 ： CBR-1MB n4 ： FTP


4 CBR-1Mb and 1 FTP

0

1000

2000

3000

4000

5000

6000

5 10 20 30 40 50

Buffer Size(KB)

Pack

et L

oss(

pkts)

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5


FIFO(received)



0

0.005

0.01

0.015

0.02

0.025

0.03

0.035

5 10 20 30 40 50

Buffer Size(KB)

Jitte

r

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO


0

20

40

60

80

100

120

140

160

5 10 20 30 40 50

Buffer Size(KB)

Del

ay T

ime/

Pack

et (m


Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO


n3 ： FTP n4 ： FTP



0

200

400

600

800

1000

1200

1400

1600

1800

2000

5 10 20 30 40 50

Buffer Size(KB)

Pack

et L

oss(

pkts)

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5


FIFO(received)


3 CBR-1Mb and 2 FTP

0

0.005

0.01

0.015

0.02

0.025

5 10 20 30 40 50

Buffer Size(KB)

Jitte

r

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO

3 CBR-1Mb and 2 FTP

0

20

40

60

80

100

120

140

160

5 10 20 30 40 50

Buffer Size(KB)

Del

ay T

ime/

Pack

et (m


Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO




3 CBR-1Mb and 2 FTP

0

500

1000

1500

2000

2500

3000

3500

4000

5 10 20 30 40 50

Buffer Size(KB)

Pack

et L

oss(

pkts)

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5


FIFO(received)

實驗結果 (Multiple FIFO Queue)


0

0.005

0.01

0.015

0.02

0.025

0.03

0.035

5 10 20 30 40 50

Buffer Size(KB)

Jitte

r

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO


0

20

40

60

80

100

120

140

160

5 10 20 30 40 50

Buffer Size(KB)

Del

ay T

ime/

Pack

et (m


Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO


n3 ： CBR-0.5MB n4 ： FTP



0

500

1000

1500

2000

2500

3000

5 10 20 30 40 50

Buffer Size(KB)

Pack

et L

oss(

pkts)

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5


FIFO(received)


4 CBR-1Mb and 1 FTP

0

0.005

0.01

0.015

0.02

0.025

5 10 20 30 40 50

Buffer Size(KB)

Jitte

r

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO

4 CBR-1Mb and 1 FTP

0

20

40

60

80

100

120

140

160

5 10 20 30 40 50

Buffer Size(KB)

Del

ay T

ime/

Pack

et (m


Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO


n3 ： CBR-1MB n4 ： FTP


4 CBR-1Mb and 1 FTP

0

1000

2000

3000

4000

5000

6000

5 10 20 30 40 50

Buffer Size(KB)

Pack

et L

oss(

pkts)

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5


FIFO(received)



0

0.005

0.01

0.015

0.02

0.025

0.03

0.035

5 10 20 30 40 50

Buffer Size(KB)

Jitte

r

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO


0

20

40

60

80

100

120

140

160

5 10 20 30 40 50

Buffer Size(KB)

Del

ay T

ime/

Pack

et (m


Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO





0

200

400

600

800

1000

1200

1400

1600

1800

2000

5 10 20 30 40 50

Buffer Size(KB)

Pack

et L

oss(

pkts)

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5


FIFO(received)


3 CBR-1Mb and 2 FTP

0

0.005

0.01

0.015

0.02

0.025

5 10 20 30 40 50

Buffer Size(KB)

Jitte

r

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO

3 CBR-1Mb and 2 FTP

0

20

40

60

80

100

120

140

160

5 10 20 30 40 50

Buffer Size(KB)

Del

ay T

ime/

Pack

et (m


Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5

FIFO




3 CBR-1Mb and 2 FTP

0

500

1000

1500

2000

2500

3000

3500

4000

5 10 20 30 40 50

Buffer Size(KB)

Pack

et L

oss(

pkts)

Profit Function 1

Profit Function 2

Profit Function 3

Profit Function 4

Profit Function 5


FIFO(received)

實驗總結 (single preemptive queue)

當 router buffer size 小於等於 20KB 時，使用 profit function 1 及 profit function 2 對 Jitter 並無改善。

當 router buffer size 大於 20KB 時，使用 profit function 1 及 profit function 2 ， Jitter 有明顯的改善。

使用 profit function 3 及 profit function 4Jitter 有明顯的改善。

當 router buffer size 小於等於 20KB 時，使用 profit function 5 對 Jitter 的改善時好時壞。

當 router buffer size 大於 20KB 時，使用 profit function 5 ， Jitter 有明顯的改善。

實驗總結 (multiple FIFO queue)

當 router buffer size 小於等於 20KB 時，使用 profit function 1 及 profit function 2 對 Jitter 並無改善。

當 router buffer size 大於 20KB 時，使用 profit function 1 及 profit function 2 ， Jitter 有明顯的改善。

使用 profit function 3 及 profit function 4Jitter 有明顯的改善，但隨著 router buffer size愈大改善程度愈小。

當 router buffer size 小於等於 20KB 時，使用 profit function 5 對 Jitter 的改善時好時壞。

當 router buffer size 大於 20KB 時，使用 profit function 5 ， Jitter 有明顯的改善。

Outline


Conclusion

Real-time traffic 在現今網路中非常普遍， real-time traffic 對於 Jitter 以及 Delay Time 有著不同的要求，但目前網路是以“ Best Effort” 的方式處理封包，無法滿足 real-time traffic 品質要求。

我們在每個 router 對封包進行重新排程，使接收端的 Jitter 減小，並透過實驗模擬的結果顯示能有效改善 real-time traffic 的 jitter 。。

未來將加以考慮封包剩餘的 hop-count 的因素對封包排程先後順序的影響，以及 Router 排程時，是否有更好的排程演算法可以運用，另外我們設計的五種 profit function 可能無法符合所有應用類型，未來若能將以上幾點納入考量，將能使我們的架構更加完整。

Q&A

Documents

A New Jitter Control Mechanism by Per-Hop Packet Scheduling Approach