Web Server Support for Tiered Services
한국과학기술원 전자전산학과
20003611 황호영
2Communication Networks Research Lab.
목 차
I. Introduction
II. Motivation
III. Servers and QoS
IV. WebQoS (Architecture for Server Based QoS)
V. Results
VI. Summary
VII. Critiques
3Communication Networks Research Lab.
I. Introduction
Internet 을 통해 수행되고 있는 commerce 나 media
의 다양화에 따른 tiered service 에 대한 요구 급증
따라서 , network differentiated service 에 대한 QoS 를
제공해주는데 Server QoS 의 중요성 부각
End-to-end QoS performance
client, network, web server, application components 에 대한
고려 필요
network QoS 는 개선되고 있는 상태
4Communication Networks Research Lab.
I. Introduction (Cont’d)
반면 , server 에 대한 QoS 는 그렇지 못하다 .
End-to-end 로 predictable, stable and tiered service (d
ifferentiated service) 를 제공하기 위한 server QoS
로서 WebQoS 라는 Architecture 제시
WebQoS 에 대한 Simulation 및 결과 분석
5Communication Networks Research Lab.
II. Motivation
예측하기 힘든 client 들의 요구에 대해 server 측에서 congestion 과 queuing 이 급증1998 North America 의 holiday season
e-commerce market 에 client demand 폭발
US stock market panic
user 들에게 preferential service(tiered service) 를 제공해 주고자 하는 Internet based application 의 필요성
6Communication Networks Research Lab.
II. Motivation (Cont’d)
그러나 , network QoS 만으로는 end-to-end QoS suppor
t 하기에 부족
network latency 개선되어 가는 상황
backbone 망이 622Mbps -> 1Gbps bandwidth
ISPs 들이 backbone 과 provider 들간의 동의로 IP traffic
성능 향상 시켜나감 .
Cache 를 통해 static content response time 개선되는 상황
ISDN, DSL, Cable modem 통해 client access network latency
줄어 들어가고 있음
7Communication Networks Research Lab.
II. Motivation (Cont’d)
반면 , server latency 는 증가하는 추세
flash crowd 에 의한 server 의 overload
-> processing request, TCP/IP connection terminating 등에
의한 response time 증가 , server busy 상황 도달
new application technology 급증에 의한 server 의 processing
demand 급증
( 예 : JAVA, Secure Socket Layer(SSL), dynamic data, databa
se 처리 , 복잡한 middleware component)
8Communication Networks Research Lab.
II. Motivation (Cont’d)
Site 들이 제공하는 media 의 multimedia 화
-> richer and larger media, more images
-> audio, voice, video 제공
따라서 , differentiated service 제공을 위해 network Q
oS 만으로는 해결되지 않는다 .
9Communication Networks Research Lab.
III. Servers and QoS
Network QoS, Intelligent network bandwidth manage
ment, congestion avoidance 도 server 에서의 scheduli
ng 이나 bottleneck problem 해결 못한다 .
대부분의 UNIX kernel 에서는 FIFO Scheduling 사용
server 가 busy 해지면 high priority packet 무조건 버림
-> Network QoS 는 무의미해짐 .
10Communication Networks Research Lab.
III. Servers and QoS (Cont’d)
Server QoS 개발을 통해 end-to-end QoS 개선
WebQoS 의 큰 목표
overload protection
tiered service support
11Communication Networks Research Lab.
IV. WebQoS
Modify the FIFO servicing model of a popular web serv
er-Apache, version 1.2.4
Apache Source Modification
http_main.c -> request 가 HTTP socket 으로 직접 가는 대신
connection manager 를 통해 가도록 modify
connection_mgr.c -> classification policy, enqueue mechanism,
dequeue policy, process code
12Communication Networks Research Lab.
IV. WebQoS (Cont’d)
13Communication Networks Research Lab.
IV. WebQoS (Cont’d)
Connection manager
Request Classification
Admission Control
Request Scheduling
Resource Scheduling
14Communication Networks Research Lab.
IV. WebQoS (Cont’d)
Tiered Services Design
•Connection manager
15Communication Networks Research Lab.
IV. WebQoS (Cont’d)
Request Classification
User-class based classification
: Client IP address 이용 , HTTP cokies 이용 , Browser plug-i
n 이용
Target-class based classification
: URL request type or filename path 이용 , Destination IP add
ress 이용
16Communication Networks Research Lab.
IV. WebQoS (Cont’d)
Admission Control
“Basic requests rather than premium requests should be
rejected first”
“Existing sessions should be maintained.”
Total requests queued, Number of premium requests queued
이용
17Communication Networks Research Lab.
IV. WebQoS (Cont’d)
Request Scheduling
Strict Priority
- lower class request 보다 all higher class requests 먼저 sche
dule
Weighted Priority
Shared Capacity
Fixed Capacity
Earliest Deadline First
18Communication Networks Research Lab.
V. Results
Simulation 상황
Server : Single Processor K460. Apache run with 32 work proc
esses
Clients : Four HP 9000 workstations
Network : 100-Base T Ethernet through HP AdvanceStack Swi
tch 2000
httperf generate workload
-> fixed rate(50req/s) , 8KBytes 의 static web page for a 5 minut
e period, 5 sec timeout
19Communication Networks Research Lab.
V. Results (Cont’d)
Simulation 1.
Premium client- 50 req/s
3 Basic clients 의 request rate 은 25-325 req/s 로 monotonic
ally 증가
maximum offered rate = 325*3 + 50 = 1025 req/s)
20Communication Networks Research Lab.
V. Results - Simulation 1
21Communication Networks Research Lab.
V. Results - Simulation 1
22Communication Networks Research Lab.
V. Results - Simulation 1
23Communication Networks Research Lab.
V. Results (Cont’d)
Simulation 2.
Premium client 와 Basic clients 의 request rate 이 모두 mono
tonically 증가
24Communication Networks Research Lab.
V. Results - Simulation 2
25Communication Networks Research Lab.
V. Results - Simulation 2
26Communication Networks Research Lab.
V. Results - Simulation 2
27Communication Networks Research Lab.
V. Results (Cont’d)
Simulation 3. Session Completion Time
28Communication Networks Research Lab.
VI. Summary and Contribution
WebQoS 의 Architecture 개발
WebQoS 의 Performance 평가
Errors, Throughput, Time Response 방면에서 Simulation
Session length 에 따른 Completion Time Simulation
WebQoS 는 request classification, admission control, r
equest scheduling, resource scheduling 을 통해 tiered s
ervice 제공
29Communication Networks Research Lab.
VI. Summary and Contribution (Cont’d)
WebQoS 라는 server QoS 를 통해 앞으로 사용량이
급증할 Differentiated Service(Tiered Service) 의
제공에 상당한 기여 .
End-to-End QoS Performance 에서 network QoS
뿐만 아니라 server 의 QoS 도 중요하다는 점을 제시 .
WebQoS 를 통해 server 의 overload protection, tiered
service support 라는 목표 달성 .
30Communication Networks Research Lab.
VI. 문제점 및 개선방안과 Application
Simulation-2 에서의 문제점 보완 필요
Admission Control 의 보완 필요
WebQoS 는 request 를 server 가 수용할 수 없을 시에는
무조건 reject => degraded content 라도 returning 하는 등의
flexible Admission Control 필요
network QoS 와 server QoS 간의 연동관계 명확히
제시
tight integration 및 QoS Routing 에 대한 연구 필요
31Communication Networks Research Lab.
VI. 문제점 및 개선방안과 Application (Cont’d)
Client 와 server 간의 high priority traffic 을 위해 lig
ht signalling mechanism 필요
Application 과 관련하여 특정한 경우들에 대해서 serv
er QoS 의 적용 방안 연구
QoS 기술에 관련된 device 의 개발 필요