hsnetwork for dsystems
TRANSCRIPT
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 1/31
D i s t r i b u t e d D a t a b a s e S y s t e m s i n H i g h S p e e d
W i d e - A r e a N e t w o r k s
S u j a t a B a n e r j e e a n d V i c t o r O . K . L i
D e p a r t m e n t o f E l e c t r i c a l E n g i n e e r i n g - S y s t e m s
U n i v e r s i t y o f S o u t h e r n C a l i f o r n i a
L o s A n g e l e s , C A 9 0 0 8 9 - 2 5 6 5
C h i h p i n g W a n g
D e p a r t m e n t o f C o m p u t e r S c i e n c e
U n i v e r s i t y o f C a l i f o r n i a
R i v e r s i d e , C A 9 2 5 2 1 - 0 3 0 4
A b s t r a c t
I n a d i s t r i b u t e d d a t a b a s e s y s t e m ( D D B S ) , t h e d a t a i s p a r t i t i o n e d i n t o s m a l l e r d a t a b a s e s a n d d i s -
t r i b u t e d o v e r m u l t i p l e s i t e s i n a c o m p u t e r n e t w o r k . A s s o c i a t e d w i t h a D D B S a r e f u n c t i o n s l i k e
q u e r y p r o c e s s i n g a n d c o n c u r r e n c y c o n t r o l . T r a d i t i o n a l l y i n D D B S r e s e a r c h , t h e c o m p u t e r n e t w o r k
h a s b e e n c o n s i d e r e d a p e r f o r m a n c e b o t t l e n e c k a n d a l o t o f r e s e a r c h e o r t h a s b e e n d i r e c t e d t o w a r d s
t h e d e s i g n o f d a t a b a s e o p e r a t i o n s t h a t m i n i m i z e t h e d a t a t r a n s m i s s i o n c o s t . W i t h t h e d e v e l o p m e n t
o f h i g h s p e e d n e t w o r k s , t h e n e t w o r k t r a n s m i s s i o n c o s t s g o d o w n a n d n e w a l g o r i t h m s t h a t e c i e n t l y
u t i l i z e t h e h u g e b a n d w i d t h a v a i l a b l e a r e r e q u i r e d . I n t h i s p a p e r , w e r s t i d e n t i f y t h e i s s u e s i n v o l v e d
i n d e v e l o p i n g t h i s d i s t r i b u t e d a p p l i c a t i o n i n a h i g h s p e e d e n v i r o n m e n t . T h e n w e d e m o n s t r a t e t h e
i n a d e q u a c y o f e x i s t i n g d a t a b a s e p r o t o c o l s i n u t i l i z i n g t h e G i g a b i t - p e r - s e c o n d n e t w o r k . A n d n a l l y ,
w e d e v e l o p a n e w c o n c u r r e n c y c o n t r o l p r o t o c o l t h a t p e r f o r m s b e t t e r t h a n t r a d i t i o n a l D D B S i n a
h i g h s p e e d n e t w o r k . B o t h a n a l y t i c a l a n d s i m u l a t i o n r e s u l t s a r e p r e s e n t e d . I n t h i s p a p e r , w e h a v e
c o n c e n t r a t e d o n t h e c o n c u r r e n c y c o n t r o l ( C C ) a s p e c t o f D D B S s i n c e t h i s p r o t o c o l i s a t t h e h e a r t
o f t h e o v e r a l l f u n c t i o n i n g o f t h e d i s t r i b u t e d s y s t e m .
T h i s r e s e a r c h i s s u p p o r t e d i n p a r t b y t h e N a t i o n a l S c i e n c e F o u n d a t i o n u n d e r g r a n t N o . N C R - 9 0 1 6 3 4 8 , b y t h e
D e p a r t m e n t o f D e f e n s e J o i n t S e r v i c e s E l e c t r o n i c s P r o g r a m u n d e r c o n t r a c t N o . F 4 9 6 2 0 - 9 1 - 0 0 2 8 , a n d b y t h e P a c i c
B e l l E x t e r n a l T e c h n o l o g y P r o g r a m .
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 2/31
1 I n t r o d u c t i o n a n d M o t i v a t i o n
T h e e v o l u t i o n o f v e r y h i g h s p e e d n e t w o r k s i s p r o m p t i n g r e s e a r c h i n m a n y a r e a s , i n c l u d i n g t h a t
o f d i s t r i b u t e d d a t a b a s e s o f t h e f u t u r e . T h e r e a r e m a n y i s s u e s i n v o l v e d i n t h e i m p l e m e n t a t i o n o f
d i s t r i b u t e d d a t a b a s e s o n n e t w o r k s t h a t w i l l h a v e s p e e d s o f t h e o r d e r o f G i g a b i t s p e r s e c o n d . I n a
d i s t r i b u t e d c o m p u t e r s y s t e m e n v i r o n m e n t , a d a t a b a s e m a y b e p a r t i t i o n e d i n t o s m a l l e r d a t a b a s e s
a n d d i s t r i b u t e d o v e r a l l t h e c o m p u t e r s i t e s . A s s o c i a t e d w i t h a d i s t r i b u t e d d a t a b a s e s y s t e m a r e
f u n c t i o n s l i k e q u e r y p r o c e s s i n g , c o n c u r r e n c y c o n t r o l , d a t a a v a i l a b i l i t y a n d f a i l u r e r e c o v e r y . A l l o f
t h e s e f a i r l y c o m p l e x p r o c e s s e s h a v e t o b e l o o k e d i n t o a g a i n , w i t h r e s p e c t t o i m p l e m e n t i n g t h e m
o n h i g h s p e e d n e t w o r k s . I t i s o u r b e l i e f t h a t n e w a l g o r i t h m s f o r e a c h o f t h e a b o v e f u n c t i o n s w i l l
h a v e t o b e d e v e l o p e d i f t h e a d v a n t a g e s o f a f a s t n e t w o r k a r e t o b e f u l l y u t i l i z e d . I n t h i s p a p e r ,
t h e v a r i o u s i s s u e s i n v o l v e d i n t h e i m p l e m e n t a t i o n o f d i s t r i b u t e d d a t a b a s e s y s t e m s ( D D B S ) i n a
h i g h s p e e d e n v i r o n m e n t a r e c o n s i d e r e d , a n d s o m e n e w t e c h n i q u e s a r e p r e s e n t e d . O u r r e s e a r c h i s
o r i e n t e d t o w a r d s n d i n g t h e a b s o l u t e b o u n d s o f p e r f o r m a n c e t h a t c a n b e a c h i e v e d w h e n n e t w o r k s
g o h i g h s p e e d .
I n m o s t s t u d i e s o f d i s t r i b u t e d d a t a b a s e s y s t e m s ( d e s i g n o r p e r f o r m a n c e a n a l y s i s ) s o f a r , t h e
c o m m u n i c a t i o n n e t w o r k h a s b e e n c o n s i d e r e d a s a b o t t l e n e c k a n d a l o t o f e o r t h a s g o n e i n t o
d e s i g n i n g d a t a b a s e o p e r a t i o n s t h a t m i n i m i z e d a t a t r a n s m i s s i o n c o s t s . W i t h t h e d e v e l o p m e n t o f
h i g h s p e e d n e t w o r k s , t h e n e t w o r k t r a n s m i s s i o n c o s t s g o d o w n a n d n e w a l g o r i t h m s t h a t e c i e n t l y
u t i l i z e t h e h u g e b a n d w i d t h a v a i l a b l e a r e r e q u i r e d . A s d i s c o v e r e d i n t h i s p a p e r , t h e t r a d i t i o n a l
p r o t o c o l s d o n o t a c h i e v e t h i s . I n f a c t , t h e r e i s n o j u s t i c a t i o n f o r i m p l e m e n t i n g D D B S o n h i g h
s p e e d n e t w o r k s i f n o g a i n i n t h r o u g h p u t i s o b s e r v e d w i t h i n c r e a s e i n t h e n e t w o r k s p e e d . L o o k e d
a t f r o m a n o t h e r a n g l e , d i s t r i b u t e d d a t a b a s e s y s t e m s a r e w o r t h y c a n d i d a t e s f o r a p p l i c a t i o n s o f
b r o a d b a n d n e t w o r k s . I t i s o u r b e l i e f t h a t m o s t o f t h e t r a c o n t h e f u t u r e h i g h s p e e d n e t w o r k s w i l l
b e g e n e r a t e d b y u s e r s w a n t i n g a c c e s s t o i n f o r m a t i o n s t o r e d i n d i e r e n t d a t a b a s e s o v e r t h e n e t w o r k .
T h u s , i t b e c o m e s i m p e r a t i v e t o d e s i g n a l g o r i t h m s f o r d i s t r i b u t e d d a t a b a s e s y s t e m s t h a t a r e w e l l
a d a p t e d t o w o r k i n t h e h i g h s p e e d e n v i r o n m e n t , a n d t h i s i s a n o t h e r m o t i v a t i o n f o r o u r r e s e a r c h . I n
o u r D D B S d e s i g n , w e i n t e n d t o g i v e a m o r e a c t i v e r o l e t o t h e c o m m u n i c a t i o n n e t w o r k a n d t r y t o
e x p l o i t t h e l a r g e b a n d w i d t h s i n g e t t i n g h i g h e r t r a n s a c t i o n t h r o u g h p u t . A l s o , w e r e c o g n i z e t h a t t h e
t r a n s m i s s i o n r a t e s o f c o m m u n i c a t i o n n e t w o r k s w i l l c o n t i n u e t o i n c r e a s e i n t h e f u t u r e a n d D D B S
d e s i g n s t h a t c a n k e e p u p a r e n e c e s s a r y .
I n t h e f o l l o w i n g s e c t i o n s , r s t t h e i m p o r t a n t i s s u e s i n v o l v e d i n t h e d e s i g n o f D D B S i n a h i g h
s p e e d n e t w o r k a r e d i s c u s s e d , f o l l o w e d b y a b r i e f l i t e r a t u r e s u r v e y . T h e o n l y w o r k k n o w n t o u s t h a t
h a s a t t e m p t e d t o e x p l o i t t h e l a r g e b e r o p t i c b a n d w i d t h s i n g e t t i n g h i g h t r a n s a c t i o n t h r o u g h p u t s i s
t h e d a t a c y c l e d a t a b a s e m a c h i n e t h a t w a s t a r g e t e d a t p r i m a r i l y a c h i e v i n g v e r y h i g h r e a d t r a n s a c t i o n
t h r o u g h p u t s . W e s p e n d a c o n s i d e r a b l e a m o u n t o f t i m e a n a l y s i n g a n d c o m p a r i n g a D D B S w i t h t h e
d a t a c y c l e c o n c e p t a n d o t h e r t r a d i t i o n a l D D B S a n d d e m o n s t r a t e t h a t t h e d a t a c y c l e c o n c e p t w o r k s
b e t t e r f o r a r e a d - o n l y s y s t e m i n a h i g h s p e e d e n v i r o n m e n t . T h e n , s i n c e r e a l D D B S h a v e u p d a t e s t o o ,
2
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 3/31
w e d e s c r i b e a n e w c o n c u r r e n c y c o n t r o l a l g o r i t h m t h a t w o r k s w e l l i n t h e h i g h s p e e d e n v i r o n m e n t .
T h e m a i n g o a l o f t h e d a t a c y c l e a n d t h e p r o p o s e d c o n c u r r e n c y c o n t r o l s c h e m e i s t o u s e t h e l a r g e
b a n d w i d t h a v a i l a b l e t o b u y e x t r a t r a n s a c t i o n t h r o u g h p u t .
2 M a i n I s s u e s
A s m e n t i o n e d e a r l i e r , f o r a D D B S i n a h i g h s p e e d e n v i r o n m e n t , t h e m a i n m o t i v a t i o n i s t o b e a b l e
t o t r a d e t r a n s a c t i o n t h r o u g h p u t w i t h t h e a v a i l a b l e b a n d w i d t h . A l l o f t h e f o l l o w i n g d i s c u s s i o n i s
m o t i v a t e d w i t h t h e a i m o f r e d u c i n g t h e a v e r a g e t r a n s a c t i o n r e s p o n s e t i m e ( w h i c h i n c r e a s e s t h e
t r a n s a c t i o n t h r o u g h p u t ) u s i n g a b r o a d b a n d n e t w o r k r e s o u r c e . C o n v e n t i o n a l n e t w o r k s a r e d i e r e n t
f r o m h i g h s p e e d n e t w o r k s i n t h a t t h e p r o p a g a t i o n d e l a y i n t h e f o r m e r i s s m a l l r e l a t i v e t o t h e
t r a n s m i s s i o n d e l a y o f d a t a . F o r e x a m p l e , t h e p r o p a g a t i o n d e l a y a c r o s s t h e U n i t e d S t a t e s ( a t t h e
s p e e d o f l i g h t ) i s a b o u t 2 0 m s e c . I n t h e e m e r g i n g h i g h - s p e e d n e t w o r k , a t s a y , 1 G i g a b i t / s e c , i t
w i l l o n l y t a k e 1 m s e c . t o t r a n s m i t a 1 M e g a b i t l e , f o r a t o t a l d e l a y o f 2 1 m s e c . F o r a t r a d i t i o n a l
n e t w o r k l i k e t h e I n t e r n e t , o p e r a t i n g a t 5 0 K b i t s / s e c , t h e t r a n s m i s s i o n d e l a y i s 2 0 s e c . , f o r a t o t a l
d e l a y o f 2 0 0 2 0 m s e c . I n a d d i t i o n , t h e t r a n s m i s s i o n d e l a y d o m i n a t e s t h e l o c a l p r o c e s s i n g d e l a y
a t t h e c o m p u t e r s i t e s . T h e r e f o r e , m o s t e x i s t i n g d i s t r i b u t e d d a t a b a s e a l g o r i t h m s h a v e f o c u s e d o n
m i n i m i z i n g t h e v o l u m e o f d a t a t o b e t r a n s m i t t e d . I n a h i g h s p e e d e n v i r o n m e n t , h o w e v e r , t h e
e m p h a s i s n o w s h o u l d b e o n r e d u c i n g t h e t o t a l p r o p a g a t i o n a n d p r o c e s s i n g d e l a y .
I t h a s b e e n p o s t u l a t e d 1 ] t h a t t h e p r o c e s s o r s p e e d h a s a g r e a t i m p a c t o n t h e d a t a c o m m u n i c a t i o n
p e r f o r m a n c e . M u c h o f t h e t i m e ( u p t o 9 0 % ) r e q u i r e d b y t h e t r a n s f e r o f d a t a f r o m o n e s i t e t o a n o t h e r
i s s p e n t b y t h e p r o c e s s o r i n e a c h s i t e ( p a c k e t i z i n g , e t c ) . T h u s , i t i s e v e n m o r e i m p o r t a n t t o h a v e
f a s t p r o c e s s o r s a n d o p t i m i z e o n t h e p r o c e s s i n g t i m e . I n r e c e n t y e a r s h o w e v e r , w i t h t h e a v a i l a b i l i t y
o f h i g h e r b a n d w i d t h , r e s e a r c h h a s b e e n u n d e r t a k e n t o m a k e t h e c o m m u n i c a t i o n p r o t o c o l s f a s t e r .
A n i m p o r t a n t c r i t e r i o n w h e n d e a l i n g w i t h D D B S i n a h i g h s p e e d n e t w o r k i s t h a t t h e t r a n s a c t i o n
v o l u m e i s e x p e c t e d t o b e q u i t e l a r g e , b e c a u s e o f t h e h i g h c a p a c i t y o f t h e s y s t e m . T h i s h a s s i g n i c a n t
e e c t o n t h e d e s i g n o f t h e D D B S p r o t o c o l s . S o m e o f t h e o t h e r d i s t i n g u i s h i n g c h a r a c t e r i s t i c s o f h i g h
s p e e d n e t w o r k s i n c l u d e h i g h r e l i a b i l i t y ( o w i n g t o t h e l o w b i t - e r r o r - r a t e s ( B E R ) o f t h e o p t i c a l b e r
t r a n s m i s s i o n m e d i u m ) a n d r e g u l a r t o p o l o g y ( t o s i m p l i f y r o u t i n g ) . A l t h o u g h t h e s e t w o s p e c i c i s s u e s
w i l l n o t b e c o n s i d e r e d i n t h i s p a p e r , t h e y a r e t o b e k e p t i n m i n d f o r f u t u r e w o r k . S u m m a r i z i n g , h i g h
s p e e d n e t w o r k s a r e c h a r a c t e r i s e d b y t h e f o l l o w i n g p r o p e r t i e s . T h e r e s t o f t h i s s e c t i o n i s c o n c e r n e d
w i t h t h e w a y i n w h i c h t h e s e p r o p e r t i e s a e c t o u r d e s i g n o f a D D B S .
L a r g e p r o p a g a t i o n d e l a y c o m p a r e d t o t r a n s m i s s i o n d e l a y .
L a r g e p r o p a g a t i o n d e l a y c o m p a r e d t o p r o c e s s i n g d e l a y .
3
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 4/31
L a r g e t r a n s a c t i o n v o l u m e .
H i g h R e l i a b i l i t y .
R e g u l a r T o p o l o g y .
2 . 1 S i m p l e P r o t o c o l s
T o m i n i m i z e t h e p r o c e s s i n g t i m e , i t i s i m p o r t a n t t o r e c o g n i z e t h a t c o m p l i c a t e d p r o t o c o l s l e a d t o
a d d i t i o n a l p r o c e s s i n g , a n d t h u s a l l t h e p r o t o c o l s d e v e l o p e d s h o u l d b e v e r y s i m p l e t o i m p l e m e n t .
2 . 2 M i n i m i z i n g S e q u e n t i a l M e s s a g e P a s s i n g
T h e p r o p a g a t i o n d e l a y b e t w e e n t w o s i t e s i s a f u n c t i o n o f t h e d i s t a n c e b e t w e e n t h e m . T h u s , p r o t o c o l s
w h i c h m i n i m i z e t h e n u m b e r o f s e q u e n t i a l m e s s a g e s a r e n e c e s s a r y , s i n c e e a c h m e s s a g e w i l l i n c u r t h e
s a m e p r o p a g a t i o n d e l a y . P r o t o c o l s b a s e d o n b r o a d c a s t i n g i n f o r m a t i o n m a y p r o v e t o b e b e t t e r s u i t e d
t o t h e h i g h s p e e d e n v i r o n m e n t .
2 . 3 T h e M e m o r y R e s i d e n t P r o p e r t y
I t h a s b e e n w e l l e s t a b l i s h e d t h a t t h e p e r f o r m a n c e o f d a t a b a s e s y s t e m s i s h e a v i l y d e p e n d e n t o n t h e
e c i e n c y o f t h e I / O s y s t e m 2 , 3 ] . I n o t h e r w o r d s , i n c u r r e n t d a t a b a s e s y s t e m s , t h e I / O d e v i c e s
( d i s k s ) c o n s t i t u t e t h e p e r f o r m a n c e b o t t l e n e c k . W h i l e t h e p r o c e s s o r s p e e d s h a v e g o n e u p r a p i d l y ,
t h e I / O s y s t e m s h a v e n o t b e e n a b l e t o k e e p u p . A n o b v i o u s s o l u t i o n t o t h i s p r o b l e m i s t o p u t
t h e e n t i r e d a t a b a s e o n t h e m a i n m e m o r y o f t h e c o m p u t e r s y s t e m . T h i s w a s n o t f e a s i b l e f o r a l o n g
t i m e o w i n g t o t h e c o s t o f s u c h l a r g e m a i n m e m o r i e s . H o w e v e r , i n t h e l a s t d e c a d e , r e s e a r c h e r s h a v e
b e g u n v i s u a l i z i n g t h e p o s s i b i l i t y o f \ M e m o r y - R e s i d e n t D a t a b a s e s " o w i n g t o t h e d e c r e a s i n g m e m o r y
c o s t s 3 { 1 1 ] . W h i l e t h i s e l i m i n a t e s t h e I / O b o t t l e n e c k t o a l a r g e e x t e n t ( f e w e r d i s k a c c e s s e s ) ,
t h e p r o b l e m o f f a i l u r e r e c o v e r y a s s u m e s g r e a t i m p o r t a n c e . T h i s i s d u e t o t h e f a c t t h a t t h e m a i n
m e m o r y i s s u s c e p t i b l e t o m a n y f a i l u r e s ( p o w e r f a i l u r e , s o f t w a r e c o r r u p t i o n , e t c ) , a n d s t a b l e m e m o r y
i s e x t r e m e l y e x p e n s i v e e v e n t o d a y . W i t h d i s t r i b u t e d d a t a b a s e s y s t e m s b e i n g i m p l e m e n t e d o n a h i g h
s p e e d n e t w o r k , t h e v o l u m e o f i n c o m i n g t r a n s a c t i o n s w i l l i n c r e a s e m a n y f o l d 1 2 ] . I f w e a r e t o r e a p
a n y o f t h e a d v a n t a g e s o f a h i g h s p e e d n e t w o r k , t h e I / O b o t t l e n e c k w i l l h a v e t o b e e l i m i n a t e d . T h u s ,
a D D B S o n a h i g h s p e e d n e t w o r k i s e x p e c t e d t o b e \ M e m o r y - R e s i d e n t " .
4
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 5/31
2 . 4 A v o i d a n c e o f D e a d l o c k s a n d R o l l b a c k
A d e a d l o c k i s s a i d t o h a v e o c c u r r e d w h e n t w o o r m o r e t r a n s a c t i o n s a r e w a i t i n g f o r e a c h o t h e r i n
a c y c l e , t o r e l e a s e o n e o r m o r e d a t a i t e m s . F o r i n s t a n c e , a d e a d l o c k s i t u a t i o n m a y a r i s e w h e n t h e
c o n c u r r e n c y c o n t r o l i s i m p l e m e n t e d u s i n g a l o c k i n g m e t h o d . I n d e a d l o c k - p r o n e a l g o r i t h m s , v a l u a b l e
p r o c e s s i n g t i m e h a s t o b e s p e n t i n r u n n i n g d e a d l o c k d e t e c t i o n / r e s o l u t i o n p r o c e s s e s . D e a d l o c k s d o
n o t o c c u r v e r y f r e q u e n t l y . H o w e v e r , w h e n t h e y d o o c c u r , a l a r g e n u m b e r o f t r a n s a c t i o n s m a y b e
b l o c k e d 1 3 , 1 4 ] . I n D D B S o n h i g h s p e e d n e t w o r k s , t h e t r a n s a c t i o n a r r i v a l r a t e i s q u i t e h i g h , a n d
d u r i n g t h e l i f e t i m e o f a d e a d l o c k , m a n y t r a n s a c t i o n s m a y h a v e t o w a i t a l t h o u g h t h e y a r e n o t d i r e c t l y
i n v o l v e d i n t h e d e a d l o c k . T h u s , i t w o u l d b e a d v i s a b l e t o i m p l e m e n t p r o t o c o l s i n w h i c h d e a d l o c k s
d o n o t o c c u r a t a l l , o r i m p l e m e n t r o b u s t d e a d l o c k a v o i d a n c e s c h e m e s .
I n c o n v e n t i o n a l D D B S , t r a n s a c t i o n s a r e r o l l e d b a c k w h e n e v e r a n i n c o n s i s t e n t o p e r a t i o n i s d e -
t e c t e d . O f t e n , r o l l e d b a c k t r a n s a c t i o n s w i l l c a u s e o t h e r t r a n s a c t i o n s t o b e r o l l e d b a c k , c a u s i n g a
c a s c a d i n g e e c t . I n a D D B S t h a t s u s t a i n s a h i g h t r a n s a c t i o n t h r o u g h p u t , a c a s c a d e d r o l l b a c k e v e n t
w i l l a e c t a l a r g e n u m b e r o f t r a n s a c t i o n s , m a n y o f w h i c h m i g h t h a v e a l r e a d y l e f t t h e s y s t e m . T h u s ,
a n o t h e r r e q u i r e m e n t o f a D D B S o n a h i g h s p e e d n e t w o r k i s t o h a v e a r o l l b a c k - f r e e e x e c u t i o n .
3 R e l a t e d W o r k
S o f a r , n o t m u c h w o r k h a s b e e n d o n e i n t h e a r e a o f d i s t r i b u t e d d a t a b a s e s y s t e m s o n w i d e a r e a h i g h
s p e e d n e t w o r k s . T w o n o t a b l e a t t e m p t s a r e t h e F r a g m e n t a n d R e p l i c a t e q u e r y p r o c e s s i n g s t r a t e g y
d e s i g n e d f o r h i g h s p e e d l o c a l a r e a n e t w o r k s , a n d t h e D a t a c y c l e A r c h i t e c t u r e t h a t w a s a i m e d a t
d e s i g n i n g a d a t a b a s e m a c h i n e w i t h v e r y h i g h t h r o u g h p u t s f o r p r i m a r i l y r e a d - o r i e n t e d t r a n s a c t i o n s .
T h e s e c o n t r i b u t i o n s a r e d e s c r i b e d i n s o m e d e t a i l i n t h e f o l l o w i n g s u b s e c t i o n s .
3 . 1 F r a g m e n t a n d R e p l i c a t e Q u e r y P r o c e s s i n g S t r a t e g y
T h e F r a g m e n t a n d R e p l i c a t e m e t h o d o f q u e r y p r o c e s s i n g f o r f a s t l o c a l a r e a n e t w o r k s w a s d e v e l o p e d
t o m i n i m i z e t h e C P U p r o c e s s i n g t i m e 1 5 { 2 1 ] . T h i s a l g o r i t h m i n t r o d u c e s p a r a l l e l i s m i n t h e C P U
p r o c e s s i n g , t h e r e b y , m i n i m i z i n g t h e o v e r a l l q u e r y r e s p o n s e t i m e . A q u e r y i s d i v i d e d i n t o a n u m b e r
o f s u b q u e r i e s ( b y f r a g m e n t i n g s o m e r e l a t i o n s , r e p l i c a t i n g o t h e r s ) a n d p r o c e s s e d a t d i e r e n t s i t e s
c o n c u r r e n t l y . F u r t h e r , a n i n t e g r a t e d a l g o r i t h m h a s b e e n d e v e l o p e d ( C . T . Y u e t a l . ) t o m i n i m i z e t h e
d a t a t r a n s m i s s i o n c o s t ( u s i n g t r a d i t i o n a l m e t h o d s l i k e t h e S e m i - j o i n a l g o r i t h m 2 2 , 2 3 ] ) a s w e l l a s t h e
C P U p r o c e s s i n g t i m e . T h e F r a g m e n t a n d R e p l i c a t e a l g o r i t h m , w h i l e i t d o e s i n t r o d u c e p a r a l l e l i s m
i n t h e p r o c e s s i n g o f q u e r i e s , t h e r e b y r e d u c i n g q u e r y r e s p o n s e t i m e , r e q u i r e s c o m p l e x o p t i m a l i t y
c a l c u l a t i o n s . I t i s e x p e c t e d t h a t t h i s o v e r h e a d w i l l d o m i n a t e t h e a d v a n t a g e s g a i n e d b y u s i n g t h i s
m e t h o d . T h i s p r o m p t s r e s e a r c h i n d a t a b a s e d e s i g n i s s u e s .
5
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 6/31
3 . 2 T h e D a t a c y c l e A r c h i t e c t u r e
T h e d a t a c y c l e a r c h i t e c t u r e w a s d e v e l o p e d t o a c h i e v e v e r y h i g h r e a d - o r i e n t e d t r a n s a c t i o n t h r o u g h -
p u t s 2 4 { 2 7 ] . T h e d a t a c y c l e a r c h i t e c t u r e u t i l i z e s t h e h i g h b e r o p t i c b a n d w i d t h s a v a i l a b l e t o b r o a d -
c a s t t h e e n t i r e d a t a b a s e c o n t e n t s p e r i o d i c a l l y o n a b e r o p t i c b r o a d c a s t b u s . A c e n t r a l d a t a b a s e
s i t e ( a l s o c a l l e d t h e s t o r a g e p u m p ) i s r e s p o n s i b l e f o r t h e b r o a d c a s t i n g m e c h a n i s m . U s e r a c c e s s u n i t s
( U A U ) e q u i p p e d w i t h d a t a l t e r s r e a d t h e d a t a \ o n t h e y " a s t h e d a t a l e s p a s s b y t h a t s i t e o n
t h e b r o a d c a s t b u s . T h u s , t h e a t t a i n a b l e r e a d t h r o u g h p u t i s q u i t e h i g h . A n o p t i m i s t i c c o n c u r r e n c y
c o n t r o l s c h e m e i s i m p l e m e n t e d , w h e r e b y t h e d a t a i t e m s a r e r e a d f r o m t h e b r o a d c a s t b u s a n d t h e
u p d a t e s a r e s u b m i t t e d t o a c e n t r a l u p d a t e m a n a g e r ( U M ) v i a a n u p s t r e a m n e t w o r k . T h e c e n t r a l
u p d a t e u n i t i s r e s p o n s i b l e f o r r e s o l v i n g u p d a t e c o n i c t s a n d a c c e p t s o n l y a n o n - c o n i c t i n g s e t o f
u p d a t e s . T h i s a r c h i t e c t u r e e m p l o y s a m u l t i v e r s i o n c o n c u r r e n c y c o n t r o l s t r a t e g y t h a t i s o p t i m i s t i c
i n n a t u r e , a n d u s e s v a l i d a t i o n ( b o t h a t t h e c e n t r a l i z e d a n d l o c a l l e v e l s ) b e f o r e c o m m i t t i n g a n y
u p d a t e s . T h e m a i n b o t t l e n e c k i n t h i s s t r a t e g y i s t h e c e n t r a l i z e d u p d a t e m a n a g e r , w h o s e s a t u r a -
t i o n p o i n t u l t i m a t e l y l i m i t s t h e u p d a t e t h r o u g h p u t . T h e q u e r y t h r o u g h p u t i s e s s e n t i a l l y u n l i m i t e d
a l t h o u g h l o n g t r a n s a c t i o n s t h a t e x t e n d o v e r o n e o r m o r e d a t a c y c l e s w i l l h a v e t o u n d e r g o l o c a l
v a l i d a t i o n . T h e D a t a c y c l e a r c h i t e c t u r e a l s o g e t s a r o u n d t h e I / O b o t t l e n e c k f o r r e c o r d r e t r i e v a l .
I n t h i s s e n s e , i t c a n a l s o b e c l a s s i e d a s a m e m o r y - r e s i d e n t s y s t e m . A s c h e m a t i c d i a g r a m o f t h e
d a t a c y c l e a r c h i t e c t u r e i s p r o v i d e d i n F i g u r e 1 .
T h e p e r f o r m a n c e o f t h e d a t a c y c l e a r c h i t e c t u r e d e p e n d s o n t h e f r a c t i o n o f q u e r i e s ( r e a d - o n l y
t r a n s a c t i o n s ) g e n e r a t e d i n t h e s y s t e m . T h i s a r c h i t e c t u r e i s n o t e x p e c t e d t o d o v e r y w e l l i n a s y s t e m
w h e r e t h e f r a c t i o n o f u p d a t e s i s h i g h . A l s o , t h e r e s p o n s e t i m e o f q u e r i e s w i t h l a r g e a c c e s s s e t s o r
w h o s e a c c e s s s e t s c a n n o t b e p r e - d e t e r m i n e d ( d a t a - d e p e n d e n t a c c e s s s e t s ) i s l a r g e i n t h e d a t a c y c l e
a r c h i t e c t u r e . T h i s i s b e c a u s e a s i n g l e c y c l e m a y n o t b e s u c i e n t t o a c c e s s a l l t h e d a t a i t e m s . T h e
c e n t r a l d a t a b a s e s i t e i s t h e m o s t v u l n e r a b l e c o m p o n e n t o f t h e s y s t e m , a n d i n t h e c a s e o f f a i l u r e ,
w i l l p a r a l y z e t h e o p e r a t i o n o f t h e e n t i r e s y s t e m . R e c o g n i z i n g t h e p e r f o r m a n c e b o t t l e n e c k o f t h e
c e n t r a l i z e d u p d a t e m a n a g e r a s w e l l a s t h e r e l i a b i l i t y b o t t l e n e c k o f t h e c e n t r a l d a t a b a s e p u m p , a
d i s t r i b u t e d v e r s i o n o f t h e D a t a c y c l e a r c h i t e c t u r e h a s b e e n p r o p o s e d 2 5 ] i n w h i c h t h e f u n c t i o n o f
b r o a d c a s t i n g t h e d a t a i t e m s t o a l l t h e s i t e s i s d i s t r i b u t e d o v e r s e v e r a l s i t e s . A l s o , a d i s t r i b u t e d
p r o c e s s o f v a l i d a t i n g t r a n s a c t i o n s h a s b e e n p r o p o s e d .
4 T h e D a t a c y c l e A r c h i t e c t u r e a s a p o t e n t i a l D D B S i n a H i g h
S p e e d E n v i r o n m e n t
A s m e n t i o n e d e a r l i e r , t h e o n l y a t t e m p t s o f a r a t d e s i g n i n g a d a t a b a s e s y s t e m t o e x p l o i t t h e h i g h
o p t i c a l b e r b a n d w i d t h h a s b e e n t h e D a t a c y c l e d a t a b a s e m a c h i n e a r c h i t e c t u r e 2 4 { 2 7 ] . I t m u s t b e
n o t e d , h o w e v e r , t h a t t h e d a t a c y c l e a r c h i t e c t u r e i n i t s o r i g i n a l f o r m d o e s n o t s a t i s f y a l l t h e c h a r -
6
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 7/31
UAU UAUUAUUAU UAU
Upstream Network
F i g u r e 1 : A s c h e m a t i c d i a g r a m o f t h e d a t a c y c l e a r c h i t e c t u r e
a c t e r i s t i c s o f a d i s t r i b u t e d d a t a b a s e s y s t e m . F o r i n s t a n c e , t h e d a t a m u s t b e p h y s i c a l l y d i s t r i b u t e d
o v e r a c o m p u t e r n e t w o r k f o r t h e s y s t e m t o p a s s a s a D D B S 2 2 ] . T h e d a t a c y c l e a r c h i t e c t u r e r e s e m -
b l e s a m u l t i - p r o c e s s o r d a t a b a s e m a c h i n e m o r e t h a n a D D B S . I t i s g i v e n s u c h a p r o m i n e n t c o v e r a g e
h e r e s i n c e i t i s t h e o n l y d a t a b a s e s y s t e m t i l l n o w t h a t h a s a t t e m p t e d t o u t i l i z e t h e h i g h b a n d w i d t h
o f o p t i c a l b e r s t o p r o v i d e h i g h e r t r a n s a c t i o n t h r o u g h p u t s .
4 . 1 D i s a d v a n t a g e s o f u s i n g t h e D a t a c y c l e A r c h i t e c t u r e a s a W i d e A r e a H i g h
S p e e d D D B S
T h e m a i n d i s a d v a n t a g e s t h a t w o u l d a p p e a r i f t h e D a t a c y c l e a r c h i t e c t u r e w e r e t o b e u s e d a s a
d i s t r i b u t e d d a t a b a s e s y s t e m i n a h i g h s p e e d e n v i r o n m e n t a r e e n u m e r a t e d i n t h i s s e c t i o n .
I t i s m a i n l y a r e a d - o r i e n t e d s y s t e m .
T h e u p d a t e t h r o u g h p u t i s l i m i t e d b y t h e c e n t r a l i z e d U p d a t e M a n a g e r .
T h e m u l t i v e r s i o n o p t i m i s t i c c o n c u r r e n c y c o n t r o l s c h e m e d o e s i n t r o d u c e m o r e c o n c u r r e n c y
a n d p r e v e n t s m u l t i p l e a b o r t s o f l o n g t r a n s a c t i o n s . H o w e v e r , t h e d a t a b a s e s i z e i n c r e a s e s
p r o p o r t i o n a t e l y t o t h e n u m b e r o f v e r s i o n s b e i n g m a i n t a i n e d . T h i s h a s a n a d v e r s e e e c t o f
i n c r e a s i n g t h e d a t a - c y c l e d u r a t i o n , w h i c h i n t u r n i n c r e a s e s t h e q u e r y r e s p o n s e t i m e .
O p t i m i s t i c s c h e m e s f o r c o n c u r r e n c y c o n t r o l u s u a l l y d o n o t p e r f o r m v e r y w e l l u n d e r s i t u a t i o n s
o f h i g h p r o b a b i l i t y o f c o n i c t . W i t h v e r y h i g h v o l u m e o f t r a n s a c t i o n s c o m i n g i n t o a h i g h
s p e e d e n v i r o n m e n t , t h e p r o b a b i l i t y o f c o n i c t w i l l b e h i g h t o o , a n d t h u s a n o p t i m i s t i c s c h e m e
i s n o t t h e a p p r o p r i a t e c h o i c e .
7
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 8/31
T h e c e n t r a l d a t a b a s e p u m p i s t h e m o s t v u l n e r a b l e c o m p o n e n t i n t h i s a r c h i t e c t u r e . I n c a s e o f
a p u m p f a i l u r e , t h e e n t i r e s y s t e m s h u t s d o w n .
D a t a d e p e n d e n t t r a n s a c t i o n s a s w e l l a s t r a n s a c t i o n s w i t h l a r g e a c c e s s s e t s i n c u r h i g h r e s p o n s e
t i m e s a n d h a v e a h i g h a b o r t p r o b a b i l i t y .
I t i s o u r i n t e n t i o n t o a v o i d ( o r a t l e a s t m i n i m i z e ) t h e a b o v e p r o b l e m s i n o u r d e s i g n , a n d c o m p a r e
i t w i t h b o t h t r a d i t i o n a l D D B S a n d t h e D a t a c y c l e s y s t e m .
5 P e r f o r m a n c e C o m p a r i s o n o f a R e a d - O n l y S y s t e m w i t h t h e
D a t a c y c l e A r c h i t e c t u r e a n d T r a d i t i o n a l L o c k i n g s c h e m e
T h e c o n c u r r e n c y c o n t r o l ( C C ) s c h e m e i s a t t h e h e a r t o f a n y D D B S s y s t e m . T h e p e r f o r m a n c e o f
a D D B S i s l a r g e l y d e t e r m i n e d b y t h e e c i e n c y o f i t s c o n c u r r e n c y c o n t r o l s c h e m e . M u c h w o r k h a s
b e e n d o n e i n t h e a r e a o f C C . 2 8 ] p r o v i d e s a c o m p r e h e n s i v e c o l l e c t i o n o f C C s c h e m e s p r o p o s e d
i n t h e a v a i l a b l e l i t e r a t u r e . T h e t w o - p h a s e l o c k i n g ( 2 - P L ) C C s c h e m e i s t h e c u r r e n t l y a c c e p t e d
i n d u s t r y s t a n d a r d .
I t i s o u r b e l i e f t h a t t h e d a t a c y c l e c o n c e p t o f p e r i o d i c a l l y b r o a d c a s t i n g t h e e n t i r e d a t a b a s e w o r k s
v e r y w e l l f o r a R e a d - o n l y s y s t e m , a n d w i l l o u t p e r f o r m t h e s t a n d a r d 2 - P L , g i v e n a c o m m u n i c a t i o n
n e t w o r k w i t h a h i g h e n o u g h d a t a r a t e . T h i s f a c t w i l l b e d e m o n s t r a t e d w i t h a n e x a m p l e i n t h i s
s e c t i o n u s i n g p e r f o r m a n c e m o d e l s d e v e l o p e d b y u s .
I n c o n v e n t i o n a l d i s t r i b u t e d d a t a b a s e s , t h e d a t a i t e m s r e s i d e a t s p e c i c c o m p u t e r s i t e s , a n d a l l
r e q u e s t s t o r e a d o r w r i t e a d a t a - i t e m a r e d i r e c t e d t o t h e r e s p e c t i v e c o m p u t e r s i t e . I t m u s t b e n o t e d
t h a t i n a D D B S w h e r e u p d a t e s a r e n o t m a d e , t h e r e i s n o n e e d t o e x e r c i s e c o n c u r r e n c y c o n t r o l
s i n c e r e a d i n g a d a t a i t e m c a n b e d o n e s i m u l t a n e o u s l y b y t w o o r m o r e t r a n s a c t i o n s . H o w e v e r , i n a
c o n v e n t i o n a l D D B S r u n n i n g t w o - p h a s e l o c k i n g , e v e n a q u e r y ( r e a d - o n l y t r a n s a c t i o n s ) w o u l d h a v e
t o r e q u e s t t h e d a t a i t e m s i n i t s a c c e s s s e t f r o m t h e r e s p e c t i v e c o m p u t e r s i t e s . I n a p u r e r e a d - o n l y
s y s t e m , t h e l o c k - r e q u e s t m e s s a g e s m a y b e r e n a m e d d a t a - r e q u e s t m e s s a g e s . A n e x a m p l e c o m p a r i n g
t h e p e r f o r m a n c e o f a r e a d - o n l y s y s t e m w i t h t r a d i t i o n a l l o c k i n g a n d a r e a d - o n l y s y s t e m w i t h t h e
d a t a c y c l e s c h e m e f o l l o w s . I t i s a s s u m e d t h a t t h e c o m m u n i c a t i o n n e t w o r k a s w e l l a s t h e c o m p u t e r
s i t e s a r e p e r f e c t l y r e l i a b l e .
5 . 1 E x a m p l e
T h e d a t a c y c l e i m p l e m e n t a t i o n o f a R e a d - o n l y D D B S o n a h i g h s p e e d n e t w o r k i s c o n s i d e r e d r s t .
A l t h o u g h , u l t i m a t e l y i t w o u l d m a k e s e n s e t o c o n s i d e r a d i s t r i b u t e d v e r s i o n o f t h e d a t a c y c l e a r c h i -
t e c t u r e , w e l o o k a t t h e c e n t r a l i z e d d a t a p u m p i m p l e m e n t a t i o n h e r e . I n a n y c a s e , f o r a R e a d - o n l y
8
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 9/31
s y s t e m , t h e d i s t r i b u t e d v e r s i o n w o u l d h a v e t h e e e c t o f p r o d u c i n g a l o w e r c y c l e t i m e , a n d a l l o u r
r e s u l t s h e r e c a n b e s c a l e d a c c o r d i n g l y . N e x t , a v e r y s m a l l D D B S e x a m p l e f o r i l l u s t r a t i v e p u r p o s e s
a l o n e , i s d e s c r i b e d .
5 . 2 D a t a c y c l e P a r a m e t e r s
A d a t a b a s e o f s i z e G G i g a b i t s ( G = 0 0 5 , i . e . 5 0 M b i t s ) i s t r a n s m i t t e d f r o m a c e n t r a l d a t a s i t e
o n a b r o a d c a s t b u s o f l e n g t h 2 L m i l e s ( L = 3 0 0 0 ) . T h e e n t i r e d a t a b a s e i s s p l i t i n t o D d a t a - i t e m s
( D = 1 0 0 ) o f e q u a l s i z e
1
. T h e n e t w o r k d a t a r a t e i s a s s u m e d t o b e C G i g a b i t s p e r s e c o n d . W i t h
t h e s e p a r a m e t e r s , i t i s p o s s i b l e t o c a l c u l a t e t h e d a t a - c y c l e t i m e ( T
d c
) , w h i c h i s t h e t i m e t o t r a n s m i t
t h e e n t i r e d a t a b a s e o n t h e b r o a d c a s t b u s . E a c h d a t a i t e m o c c u p i e s a t i m e s l o t ( T
s
) o n t h e b u s .
T
d c
=
G
C
T
s
=
T
d c
D
( 1 )
T h e m i n i m u m t i m e t o a c c e s s a d a t a i t e m u n d e r t h e s e c i r c u m s t a n c e s i s T
s
, a n d t h e m a x i m u m t i m e
t o a c c e s s a d a t a i t e m i s T
d c
. A s s u m i n g t h a t a t r a n s a c t i o n c a n a r r i v e a n y w h e r e i n t h e m i d d l e o f a
d a t a c y c l e , t h e d i s t r i b u t i o n o f t h e t i m e t o a c c e s s a s i n g l e d a t a i t e m c a n b e a s s u m e d t o b e u n i f o r m
i n ( T
s
; T
d c
+ T
s
) . L e t b e t h e r a n d o m v a r i a b l e d e n o t i n g t h e t i m e t o a c c e s s o n e d a t a i t e m . T h e n ,
t h e p r o b a b i l i t y d e n s i t y f u n c t i o n o f i s g i v e n b y
f
( ) =
(
1
T
d c
T
s
< T
d c
+ T
s
0 o t h e r w i s e
( 2 )
5 . 3 2 - P L P a r a m e t e r s
T h e d a t a c y c l e a r c h i t e c t u r e u s e s a b r o a d c a s t b u s d u e t o i t s s p e c i c r e q u i r e m e n t s , w h i l e c o n v e n -
t i o n a l D D B S m a y n o t b e l i m i t e d t o j u s t t h e b u s t o p o l o g y . F o r c o m p a r i s o n p u r p o s e s , w e c h o o s e a
b i d i r e c t i o n a l b e r o p t i c r i n g t o p o l o g y o f c i r c u m f e r e n c e 2 L w i t h N c o m p u t e r s i t e s l o c a t e d a t e q u a l
d i s t a n c e s o n t h e r i n g . E a c h o f t h e D d a t a i t e m s i s l o c a t e d a t o n e o f t h e N c o m p u t e r s i t e s . C a r e
i s t a k e n t o s e e t h a t e a c h s i t e h a s t h e s a m e n u m b e r o f d a t a i t e m s . Q u e u e i n g d e l a y a t t h e l i n k s i s
i g n o r e d h e r e . D e n o t e t h e p r o p a g a t i o n d e l a y b e t w e e n a n y t w o a d j a c e n t s i t e s a s T
p
a n d t h e t i m e
t o t r a n s m i t a s i n g l e d a t a i t e m a s T
t r
. T h e D D B S a r c h i t e c t u r e s f o r t h e d a t a c y c l e a n d t h e l o c k i n g
s c h e m e s a r e d e p i c t e d i n F i g u r e 2 . T h e p r o b a b i l i t y o f d e a d l o c k i s a s s u m e d t o b e n e g l i g i b l e .
T
p
= 2
L
N S p e e d o f L i g h t
, w h e r e s p e e d o f l i g h t = 1 8 6 0 0 0 m i l e s / s e c ( 3 )
T
t r
=
G
D C
( 4 )
1
T h i s i s n o t t r u e i n r e a l i t y , b u t s i n c e i t d o e s n o t a e c t o u r r e s u l t s i n a n y s i g n i c a n t m a n n e r , w e s h a l l m a k e t h i s
a s s u m p t i o n .
9
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 10/31
(a) (b)
F i g u r e 2 : D D B S a r c h i t e c t u r e f o r ( a ) t h e d a t a c y c l e s c h e m e ( b ) t h e l o c k i n g s c h e m e
T h e m i n i m u m t i m e t o a c c e s s a d a t a i t e m b y a s i t e i s z e r o ( i f t h e d a t a i t e m r e s i d e s a t t h a t
s a m e s i t e ) a n d t h e m a x i m u m t i m e t o a c c e s s a d a t a i t e m i s N T
p
+ T
t r
( t h e s u m o f t h e p r o p a g a t i o n
d e l a y f o r b o t h t h e a c c e s s r e q u e s t a n d t h e d a t a i t s e l f a n d t h e t r a n s m i s s i o n d e l a y f o r t h e d a t a
1
) . L e t
u s d e n o t e b y t h e t i m e t o a c c e s s a s i n g l e d a t a i t e m , a s b e f o r e , a n d a s s u m e t h a t i t i s u n i f o r m l y
d i s t r i b u t e d i n ( 0 ; N T
p
+ T
t r
) . N o w ,
f
( ) =
8
<
:
1
N T
p
+ T
t r
0 < N T
p
+ T
t r
0 o t h e r w i s e
( 5 )
5 . 4 C o m p u t e r S i t e P a r a m e t e r s
A l t h o u g h , i t h a s n o t b e e n e x p l i c i t l y m e n t i o n e d s o f a r , e a c h c o m p u t e r s i t e i n t h e D D B S u n d e r
c o n s i d e r a t i o n i s a s s u m e d t o b e a g e n e r a l - p u r p o s e d a t a b a s e m a c h i n e . M a n y d a t a b a s e m a c h i n e s
h a v e b e e n d e s i g n e d s o f a r a n d s o m e o f t h e m h a v e m a x i m u m a c h i e v a b l e t h r o u g h p u t s u p t o 2 0 0 - 5 0 0
t r a n s a c t i o n s p e r s e c o n d 1 2 ] . F r o m t h e s e g u r e s , t h e m a x i m u m e x e c u t i o n t i m e p e r t r a n s a c t i o n
r a n g e s f r o m a f e w m i l l i s e c o n d s t o a f e w h u n d r e d m i l l i s e c o n d s . T h e e x e c u t i o n t i m e i s e x p e c t e d
t o d e c r e a s e w h e n d a t a b a s e s y s t e m s a r e m e m o r y - r e s i d e n t , a s t h e I / O b o t t l e n e c k i s e l i m i n a t e d .
F u r t h e r , t h e m u l t i p r o g r a m m i n g l e v e l i s a s s u m e d t o b e 1 a t e a c h s i t e , i . e . , e a c h s i t e p r o c e s s e s o n l y
o n e t r a n s a c t i o n a t a t i m e .
1
T h e t r a n s m i s s i o n d e l a y f o r t h e a c c e s s r e q u e s t i s n e g l e c t e d o w i n g t o t h e s m a l l s i z e o f t h e a c c e s s r e q u e s t
1 0
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 11/31
5 . 5 T r a n s a c t i o n P a r a m e t e r s
F o r t h e s a k e o f s i m p l i c i t y , w e a s s u m e t h a t a l l t r a n s a c t i o n s a t a l l s i t e s h a v e t h e s a m e d a t a a c c e s s
d i s t r i b u t i o n . E a c h t r a n s a c t i o n h a s a n a c c e s s s e t c a r d i n a l i t y k r a n g i n g f r o m 1 t o K w i t h p r o b a b i l i t y
g
k
. A l s o , g i v e n t h e a c c e s s s e t c a r d i n a l i t y , a l l t h e D d a t a i t e m s a r e a c c e s s e d w i t h e q u a l p r o b a b i l i t y .
W e f u r t h e r c o n s i d e r t w o \ e x t r e m e " c a s e s o f d a t a a c c e s s d i s t r i b u t i o n :
A l l t r a n s a c t i o n s c a n d e t e r m i n e t h e d a t a i t e m s i n t h e i r a c c e s s s e t s b e f o r e e x e c u t i o n b e g i n s .
( P r e - d e c l a r e d a c c e s s s e t t r a n s a c t i o n s )
A l l t r a n s a c t i o n s a c c e s s t h e i r d a t a i t e m s i n a \ s e r i a l f a s h i o n " , i . e , t h e i d e n t i t y o f t h e d a t a
i t e m t o b e a c c e s s e d n e x t c a n b e d e t e r m i n e d o n l y a f t e r a c c e s s i n g t h e d a t a i t e m b e f o r e i t
( D a t a - d e p e n d e n t t r a n s a c t i o n s ) .
W e c a n t h e n c a l c u l a t e t h e a v e r a g e r e s p o n s e t i m e o f a t r a n s a c t i o n , d e n e d h e r e a s t h e t i m e
r e q u i r e d b y a t r a n s a c t i o n t o a c c e s s a l l t h e d a t a i t e m s i n i t s a c c e s s s e t a f t e r i t a r r i v e s a t a s i t e . T h u s
t h e r e s p o n s e t i m e i n c l u d e s t h e t i m e t h a t a t r a n s a c t i o n w a i t s i n a q u e u e b e f o r e b e i n g s e r v i c e d . T h e
a n a l y s i s f o r t h e p r e - d e c l a r e d t r a n s a c t i o n s i s p r o v i d e d n e x t , w h i l e t h e a n a l y s i s f o r t h e d a t a - d e p e n d e n t
t r a n s a c t i o n s i s p r o v i d e d i n A p p e n d i x A .
5 . 6 A n a l y s i s o f D D B S w i t h t r a n s a c t i o n s h a v i n g p r e - d e c l a r e d a c c e s s s e t s
L e t
k
d e n o t e t h e t i m e t o a c c e s s k d a t a i t e m s b y a t r a n s a c t i o n . A l s o , l e t
D
d e n o t e t h e t i m e t o
a c c e s s t h e d a t a i t e m D
i
. T h e n ,
k
= m a x (
D
1
;
D
2
; : : : ;
D
k
) ( 6 )
T h e r a n d o m v a r i a b l e s a r e i n d e p e n d e n t a n d i d e n t i c a l l y d i s t r i b u t e d w i t h t h e u n i f o r m d i s t r i b u t i o n s
f
( ) i n E q u a t i o n s 2 a n d 5 r e s p e c t i v e l y f o r t h e d a t a c y c l e i m p l e m e n t a t i o n a n d t h e 2 - P L s c h e m e .
H e n c e ,
f
k
( ) = k f
( ) ( F
( ) )
k ? 1
( 7 )
F
( ) i s t h e p r o b a b i l i t y d i s t r i b u t i o n f u n c t i o n o f t h e r a n d o m v a r i a b l e . T h u s f r o m t h e a b o v e
p r o b a b i l i t y d e n s i t y f u n c t i o n o f
k
, t h e m e a n
k
a n d s e c o n d m o m e n t
k 2
m a y b e e a s i l y c a l c u l a t e d .
A s m e n t i o n e d e a r l i e r , t h e a c c e s s s e t c a r d i n a l i t y k o f a t r a n s a c t i o n r a n g e s f r o m 1 t o K w i t h p r o b a -
b i l i t y g
k
. W e a r e i n t e r e s t e d i n t h e m e a n ( X ) a n d s e c o n d m o m e n t ( X
2
) o f t h e r a n d o m v a r i a b l e X ,
1 1
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 12/31
w h i c h d e n o t e s t h e t i m e f o r a n y t r a n s a c t i o n t o a c c e s s a l l t h e d a t a i t e m s i n i t s a c c e s s s e t . C l e a r l y ,
X =
K
X
k = 1
k
g
k
a n d X
2
=
K
X
k = 1
k 2
g
k
( 8 )
L e t t h e r a n d o m v a r i a b l e E d e n o t e t h e t r a n s a c t i o n e x e c u t i o n t i m e . A l s o , l e t E a n d E
2
d e n o t e t h e
r s t a n d s e c o n d m o m e n t s o f E r e s p e c t i v e l y . A s d e n e d i n e a r l i e r s e c t i o n s , t h e r a n d o m v a r i a b l e X
d e n o t e s t h e t i m e d u r a t i o n t o a c c e s s a l l t h e d a t a i t e m s i n t h e a c c e s s s e t o f t h e t r a n s a c t i o n b e i n g
p r o c e s s e d . T h e a v e r a g e t r a n s a c t i o n s e r v i c e t i m e i s n o w d e n o t e d b y S w h i c h i s t h e s u m o f t h e d a t a
a c c e s s t i m e a n d t h e e x e c u t i o n t i m e . W e a s s u m e t h a t t h e e x e c u t i o n d o e s n o t b e g i n u n t i l a l l t h e d a t a
i t e m s h a v e b e e n r e a d . T h u s , t h e f o l l o w i n g e q u a t i o n s m a y b e w r i t t e n a s s u m i n g t h a t t h e e x e c u t i o n
t i m e a n d t h e d a t a a c c e s s t i m e a r e i n d e p e n d e n t .
S = X + E
S = X + E a n d S
2
= X
2
+ E
2
+ 2 X E ( 9 )
T h e t r a n s a c t i o n e x e c u t i o n t i m e h e r e i s a s s u m e d t o b e t h e s a m e f o r a l l t r a n s a c t i o n s . T h i s m a y
n o t b e t r u e i n g e n e r a l a n d a b e t t e r a s s u m p t i o n p e r h a p s m i g h t b e t h a t t h e t r a n s a c t i o n e x e c u t i o n
t i m e i s a f u n c t i o n o f t h e c a r d i n a l i t y o f i t s a c c e s s s e t . T h e n E = E ( k ) , w h e r e k i s t h e c a r d i n a l i t y o f
t h e t r a n s a c t i o n a c c e s s s e t . I n t h a t c a s e , w e d e n e
S
k
=
k
+ E ( k ) a n d S
k 2
=
k 2
+ E
2
( k ) + 2
k
E ( k ) ( 1 0 )
N o w , S a n d S
2
h a v e t o b e r e c a l c u l a t e d a s b e l o w .
S =
K
X
k = 1
S
k
g
k
a n d S
2
=
K
X
k = 1
S
k 2
g
k
( 1 1 )
T r a n s a c t i o n s q u e u e u p a t e a c h o f t h e c o m p u t e r s i t e s a t a n a v e r a g e a r r i v a l r a t e o f t r a n s a c t i o n s
p e r s e c o n d , a n d a r e s e r v i c e d w i t h a n a v e r a g e s e r v i c e t i m e o f S a n d s e c o n d m o m e n t o f S
2
. N o w ,
t h e a v e r a g e t i m e s p e n t b y e a c h t r a n s a c t i o n i n t h e s y s t e m R , m a y b e c a l c u l a t e d u s i n g t h e s t a n d a r d
M / G / 1 f o r m u l a 2 9 ] a s g i v e n b e l o w .
R = S +
S
2
2 ( 1 ? S )
( 1 2 )
5 . 7 S i m u l a t i o n D e t a i l s
S i n c e t h e a s s u m p t i o n o f t h e r a n d o m v a r i a b l e s
D
1
; : : : ;
D
k
b e i n g i n d e p e n d e n t m a y n o t b e v e r y
a c c u r a t e , a s i m u l a t i o n o f t h e d a t a c y c l e s c h e m e a s w e l l a s t h a t o f t h e t r a d i t i o n a l t w o - p h a s e l o c k i n g
w a s d o n e , w i t h t h e s a m e p a r a m e t e r s : G = 0 0 5 G b i t s , L = 3 0 0 0 m i l e s , D = 1 0 0 d a t a i t e m s a n d
1 2
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 13/31
0
100
200
300
400
500
600
700
800
900
1000
0 5 10 15 20 25 30 35 40 45 50
Transaction Arrival Rate at a Site
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
1 Gbps 1.5 Gbps 2 Gbps
.... : Traditional Locking
F i g u r e 3 : C o m p a r i s o n o f d a t a c y c l e
a n d t r a d i t i o n a l l o c k i n g f o r a r e a d - o n l y
s y s t e m w i t h p r e - d e c l a r e d a c c e s s s e t s :
E = 0
0
200
400
600
800
1000
1200
0 2 4 6 8 10 12 14
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
Transaction Arrival Rate at a Site
1 Gbps 1.5 Gbps 2 Gbps
F i g u r e 4 : D a t a c y c l e p e r f o r m a n c e
w i t h e x p o n e n t i a l l y d i s t r i b u t e d e x e c u -
t i o n t i m e : E = 5 0 m s e c
N = 1 0 c o m p u t e r s i t e s . D e a d l o c k s w e r e t a k e n i n t o c o n s i d e r a t i o n i n t h e s i m u l a t i o n a l t h o u g h t h e
d e a d l o c k r e s o l u t i o n t i m e w a s n o t i n c l u d e d i n t h e o v e r a l l q u e r y r e s p o n s e t i m e . A l s o , t h e a c c e s s t i m e
o f a s i n g l e d a t a i t e m w a s a s s u m e d t o b e u n i f o r m l y d i s t r i b u t e d . R e s u l t s o f t h e c o m p a r i s o n b e t w e e n
t h e d a t a c y c l e s c h e m e a n d t h e t r a d i t i o n a l l o c k i n g a r e p r e s e n t e d i n F i g u r e 3 f o r t h r e e d i e r e n t v a l u e s
o f t h e n e t w o r k s p e e d C , v i z . , 1 , 1 . 5 a n d 2 G b p s w i t h z e r o e x e c u t i o n t i m e . F i g u r e 4 c o n t a i n s t h e s a m e
r e s u l t s f o r t h e d a t a c y c l e s c h e m e w i t h a n a v e r a g e e x c e u t i o n t i m e o f 5 0 m s e c . T h e e x e c u t i o n t i m e w a s
a s s u m e d t o b e e x p o n e n t i a l l y d i s t r i b u t e d a n d i n d e p e n d e n t o f t h e c a r d i n a l i t y o f t h e a c c e s s s e t . T h e
m a x i m u m d a t a a c c e s s s e t c a r d i n a l i t y K h a s b e e n a s s i g n e d a v a l u e o f 1 0 , w i t h g
k
=
1
K
; k = 1 ; : : : ; K
( i . e , a l l a c c e s s s e t c a r d i n a l i t i e s b e t w e e n 1 a n d K a r e e q u a l l y l i k e l y ) .
A c o m p a r i s o n o f t h e s i m u l a t i o n a n d a n a l y s i s r e s u l t s f o r t h e d a t a c y c l e a n d t h e t r a d i t i o n a l l o c k i n g
s c h e m e ( w i t h z e r o e x e c u t i o n t i m e ) a r e g i v e n i n F i g u r e s 5 a n d 6 r e s p e c t i v e l y . C l e a r l y , t h e s i m u -
l a t i o n a n d a n a l y t i c a l r e s u l t s m a t c h f a i r l y w e l l f o r b o t h c a s e s . T h e s i m u l a t i o n s w r i t t e n i n t h e C
p r o g r a m m i n g l a n g u a g e e x e c u t e d 5 0 , 0 0 0 t r a n s a c t i o n s t y p i c a l l y a n d r e q u i r e d a f e w m i n u t e s o f C P U
t i m e ( S U N S p a r c W o r k s t a t i o n ) p e r d a t a p o i n t . T h e a n a l y s i s t y p i c a l l y t o o k s o m e f r a c t i o n o f a
s e c o n d t o c o m p u t e a l l t h e n e c e s s a r y d a t a p o i n t s . A s t h e s p e e d o f t h e n e t w o r k i s i n c r e a s e d , t h e
m a x i m u m s u s t a i n a b l e t r a n s a c t i o n a r r i v a l r a t e a l s o i n c r e a s e s a s b e f o r e . H o w e v e r , a s t h e a v e r a g e
q u e r y e x e c u t i o n t i m e i n c r e a s e s , i n c r e a s i n g t h e n e t w o r k d a t a r a t e i s n o t a s e e c t i v e a s b e f o r e i n
i m p r o v i n g t h e q u e r y t h r o u g h p u t . T h i s i s a f a i r l y o b v i o u s r e s u l t , s i n c e t h e b o t t l e n e c k d e v i c e i s n o w
t h e d a t a b a s e m a c h i n e t h a t p r o c e s s e s t h e q u e r i e s . F i g u r e 4 h a s b e e n p r o v i d e d h e r e t o s t r e s s t h e f a c t
t h a t t h e r e i s l i t t l e p o i n t i n i m p l e m e n t i n g d i s t r i b u t e d d a t a b a s e s o n v e r y h i g h s p e e d n e t w o r k s i f t h e
q u e r y p r o c e s s i n g c a p a b i l i t i e s o f d a t a b a s e m a c h i n e s c a n n o t k e e p u p .
F r o m F i g u r e 3 , i t i s e v i d e n t t h a t t h e d a t a c y c l e s c h e m e p e r f o r m s w o r s e t h a n t h e 2 - P L s c h e m e , a t
1 3
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 14/31
0
100
200
300
400
500
600
700
800
900
1000
0 5 10 15 20 25 30 35 40 45 50
* * * * * * * * **
*
*
*
*
*
* * * * * * * * * * * * * * **
*
*
*
*
*
* * * * * * * * * * * * * * * * * * * * **
*
*
*
*
Transaction Arrival Rate at a Site
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
1 Gbps
1.5 Gbps
2 Gbps
* : Simulation Points
F i g u r e 5 : C o m p a r i s o n o f s i m u l a -
t i o n a n d a n a l y s i s o f t h e d a t a c y c l e
s c h e m e f o r a r e a d - o n l y s y s t e m w i t h
p r e - d e c l a r e d a c c e s s s e t s : E = 0
0
100
200
300
400
500
600
700
0 5 10 15 20 25 30 35 40
* * * * * * * * * * * * * * **
*
*
*
*
Transaction Arrival Rate at a Site
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
2 Gbps
* : Simulation Points
F i g u r e 6 : C o m p a r i s o n o f s i m u l a t i o n
a n d a n a l y s i s o f t r a d i t i o n a l l o c k i n g f o r
a r e a d - o n l y s y s t e m w i t h p r e - d e c l a r e d
a c c e s s s e t s : E = 0
a l o w d a t a r a t e ( 1 G b p s ) ; t h e t w o s c h e m e s p e r f o r m a l m o s t e q u a l l y a t a n i n t e r m e d i a t e d a t a r a t e ( 1 . 5
G b p s ) a n d a t a h i g h d a t a r a t e ( 2 G b p s ) , t h e d a t a c y c l e s c h e m e o u t - p e r f o r m s t h e t r a d i t i o n a l 2 - P L
s c h e m e . T h e s a m e p a t t e r n i s n o t i c e d f o r b o t h d a t a a c c e s s d i s t r i b u t i o n s . F u r t h e r , i t i s i n t e r e s t i n g t o
n o t e t h a t t h e p e r f o r m a n c e o f t h e 2 - P L s c h e m e d o e s n o t c h a n g e v e r y m u c h w i t h i n c r e a s e i n t h e d a t a
r a t e . T h i s i s t o b e e x p e c t e d s i n c e t h e 2 - P L s c h e m e i s l i m i t e d b y t h e p r o p a g a t i o n d e l a y b e t w e e n
s i t e s w h i c h i s u n a e c t e d b y t h e n e t w o r k d a t a r a t e . O n t h e o t h e r h a n d , s i n c e t h e p e r f o r m a n c e o f t h e
d a t a c y c l e s c h e m e d i r e c t l y d e p e n d s o n t h e t r a n s m i s s i o n t i m e o f t h e e n t i r e d a t a b a s e , w i t h i n c r e a s e
i n t h e d a t a r a t e , t h e p e r f o r m a n c e d r a s t i c a l l y i m p r o v e s . T h u s , t h e r e i s a c r o s s o v e r p o i n t i n t h e
s p e e d o f t h e n e t w o r k w h e r e t h e d a t a c y c l e s c h e m e d o e s b e t t e r t h a n t h e t r a d i t i o n a l 2 - P L s y s t e m .
T h i s c r o s s o v e r o c c u r s j u s t o v e r 1 . 5 G b p s f o r b o t h d a t a a c c e s s d i s t r i b u t i o n s , a s c a n b e s e e n i n t h e
g u r e s p r o v i d e d . I t w o u l d b e v e r y u s e f u l t o b e a b l e t o t h e o r e t i c a l l y d e r i v e t h i s c r o s s o v e r p o i n t ,
a n d t h i s i s w h a t i s d o n e i n t h e f o l l o w i n g s u b - s e c t i o n . T h e d a t a c y c l e s c h e m e , h o w e v e r , s u e r s f r o m
t h e e x t r a c o s t i n v o l v e d i n e q u i p p i n g t h e c o m p u t e r s i t e s w i t h s o p h i s t i c a t e d d a t a l t e r s t o r e a d t h e
d a t a o n t h e b r o a d c a s t b u s \ o n t h e y " a n d h a v i n g a r e l i a b l e c e n t r a l i z e d d a t a p u m p .
5 . 8 D e r i v a t i o n o f t h e A p p r o x i m a t e C r o s s - o v e r P o i n t
L e t T
A
a n d T
B
b e t h e m a x i m u m t i m e r e q u i r e d t o a c c e s s a d a t a i t e m i n t h e d a t a c y c l e a n d 2 - P L
s c h e m e s r e s p e c t i v e l y . T h e a p p r o x i m a t e c r o s s o v e r p o i n t i n t h e d a t a r a t e a b o v e w h i c h t h e d a t a c y c l e
s y s t e m o u t p e r f o r m s t h e 2 - P L s c h e m e c a n b e o b t a i n e d b y e q u a t i n g T
A
a n d T
B
. F r o m t h e d i s c u s s i o n s
1 4
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 15/31
i n t h e p r e v i o u s s e c t i o n s ,
T
A
= T
d c
( =
G
C
) ( 1 3 )
T
B
= N T
p
+ T
t r
( = N T
p
+
G
D C
) ( 1 4 )
C
i s t h e n e t w o r k d a t a r a t e a t w h i c h t h e c r o s s o v e r i n p e r f o r m a n c e o c c u r s . N o w , T
A
= T
B
i s s o l v e d
f o r C
, w i t h G = 0 0 5 , D = 1 0 0 d a t a i t e m s , N = 1 0 c o m p u t e r s i t e s a n d T
p
i s c a l c u l a t e d u s i n g
E q u a t i o n 3 w i t h L = 3 0 0 0 . C
i s f o u n d t o b e 1 5 3 4 G b p s , q u i t e c l o s e t o t h e v a l u e o b t a i n e d f r o m
t h e g u r e s .
5 . 9 T h e E e c t o f U p d a t e s i n t h e D a t a c y c l e S c h e m e
S o f a r , w e h a v e s t u d i e d a r e a d - o n l y s y s t e m w i t h n o u p d a t e s i n t h e D D B S . C l e a r l y , t h e r e a d t h r o u g h -
p u t w i l l d e c r e a s e a s u p d a t e s t a k e p l a c e . I n t h i s s e c t i o n , t h e e e c t o f u p d a t e s o n t h e q u e r y t h r o u g h p u t
i n t h e d a t a c y c l e s c h e m e i s e x a m i n e d . S p e c i c a l l y , w e l o o k a t a n u p d a t e - i n t e n s i v e s y s t e m , w h e r e
e a c h d a t a i t e m i s w r i t t e n o n i n e v e r y d a t a c y c l e . W e l o o k a t s u c h a s i t u a t i o n b e c a u s e i t i s t h e w o r s t
c a s e s c e n a r i o f o r q u e r y e x e c u t i o n a n d w i l l g i v e u s t h e l o w e r b o u n d o f t h e q u e r y t h r o u g h p u t . T h e
u p p e r b o u n d f o r t h e t h r o u g h p u t i s f o r t h e c a s e w h e n t h e r e a r e n o u p d a t e s . T h i s w a s s t u d i e d i n t h e
p r e v i o u s s e c t i o n s a n d t h e r e s u l t s a r e s u m m a r i z e d i n F i g u r e 3 . H e r e , w e c o n s i d e r o n l y t h o s e q u e r i e s
w h o s e r e a d s e t s a r e p r e d e c l a r a b l e , a n d t h e e x e c u t i o n t i m e i s a s s u m e d t o b e n e g l i g i b l e .
I n t h e d a t a c y c l e a r c h i t e c t u r e , t h e u p d a t e s , i f a n y , a r e i n c o r p o r a t e d i n t h e d a t a s t r e a m a t t h e
b e g i n n i n g o f e a c h c y c l e , a n d n e v e r i n t h e m i d d l e o f a c y c l e . T h u s , d a t a i t e m s r e a d b y a D D B S s i t e
i n t h e s a m e c y c l e a r e g u a r a n t e e d t o b e m u t u a l l y c o n s i s t e n t . T h i s f a c t a d v e r s e l y a e c t s t h e r e s p o n s e
t i m e o f q u e r i e s w i t h r e l a t i v e l y l a r g e a c c e s s s e t s , a s t h e s e q u e r i e s m a y r e q u i r e u p t o t w o d a t a c y c l e s
t o a c c e s s t h e i r e n t i r e r e a d s e t 2 5 , 2 6 ] .
5 . 9 . 1 D e t a i l s o f t h e A n a l y s i s
T h e p a r a m e t e r s u s e d h e r e a r e t h e s a m e a s m a d e i n e a r l i e r s e c t i o n s . T h e i m p o r t a n t p o i n t t o b e
n o t e d i n t h e a n a l y s i s i s t h e f a c t t h a t i f t h e p r o c e s s i n g o f a q u e r y b e g i n s a t a t i m e w h e n s o m e o f t h e
d a t a i t e m s i n i t s r e a d s e t h a v e a l r e a d y p a s s e d b y t h a t s i t e , t h e n t h e q u e r y h a s t o w a i t u n t i l i t c a n
a c c e s s i t s e n t i r e r e a d s e t i n t h e s a m e d a t a c y c l e . T h i s i m p l i e s t h a t t h e q u e r y h a s t o w a i t a t l e a s t
u n t i l t h e b e g i n n i n g o f t h e n e x t d a t a c y c l e . T h i s i s t h e e x t r a o v e r h e a d i n c u r r e d d u e t h e f r e q u e n t
u p d a t i n g o f d a t a i t e m s . G i v e n t h a t n d a t a i t e m s o u t o f D h a v e p a s s e d t h e s i t e p r o c e s s i n g a q u e r y
w i t h k d a t a i t e m s i n i t s r e a d s e t , t h e f o l l o w i n g m a y b e d e r i v e d . I t i s a s s u m e d a s b e f o r e t h a t t h e
d a t a i t e m s a r e a c c e s s e d u n i f o r m l y .
P
k
n
= P r o b f A l l k d a t a i t e m s a r e a c c e s s e d i n t h e s a m e c y c l e n o u t o f D d a t a i t e m s
1 5
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 16/31
h a v e g o n e p a s t g
=
8
>
>
>
<
>
>
>
:
0 ; k > D ? n
D ? n
k
D
k
; k D ? n
( 1 5 )
Q
k
n m
= P r o b f m o f t h e k d a t a i t e m s a r e a c c e s s e d i n t h e s a m e c y c l e n o u t o f D d a t a i t e m s
h a v e g o n e p a s t g
=
D ? n
m
n
k ? m
D
k
; m D ? n a n d k ? m n ( 1 6 )
S i n c e t h e p r o c e s s i n g o f a q u e r y m a y b e g i n a n y w h e r e w i t h i n a d a t a c y c l e ,
P
n
= P r o b f n o u t o f D d a t a i t e m s h a v e g o n e p a s t g =
1
D
; n = 1 ; 2 ; : : : ; D ( 1 7 )
L e t X
k
n
b e t h e a v e r a g e t i m e f o r a q u e r y t o a c c e s s a l l t h e k d a t a i t e m s i n i t s r e a d s e t , g i v e n t h a t n
o f t h e d a t a i t e m s i n t h e c u r r e n t c y c l e h a v e a l r e a d y g o n e p a s t t h e s i t e . E q u a t i o n 1 8 i s t h e f o r m u l a
f o r X
k
n
a n d h a s t h r e e t e r m s . T h e r s t t e r m a c c o u n t s f o r t h e c a s e w h e r e a l l t h e k d a t a i t e m s a r e
a c c e s s e d i n t h e c u r r e n t c y c l e . T h e s e c o n d t e r m i s f o r t h e c a s e w h e r e a l l o f t h e k r e q u i r e d d a t a i t e m s
h a v e g o n e p a s t . H e r e , t h e q u e r y h a s t o w a i t u n t i l t h e e n d o f t h e c u r r e n t c y c l e , w h i c h i s t h e t i m e
r e q u i r e d f o r t h e r e m a i n i n g ( D ? n ) d a t a i t e m s t o g o p a s t . A s p e r E q u a t i o n 1 , t h e t r a n s m i s s i o n t i m e
p e r d a t a i t e m i s T
s
. A s s u m i n g t h a t q u e r i e s a r r i v e e x a c t l y a t t h e b e g i n n i n g o f a d a t a i t e m t i m e s l o t ,
t h e r e m a i n i n g t i m e u n t i l t h e e n d o f t h e c u r r e n t d a t a c y c l e i s ( D ? n ) T
s
. T h e n , s i n c e a l l t h e k d a t a
i t e m s a r e a m o n g t h e r s t n d a t a i t e m s i n t h e n e w c y c l e , t h e t i m e t o a c c e s s t h e d a t a i t e m s c a n b e
a m a x i m u m o f n T
s
. T h e t h i r d t e r m c o n s i d e r s a s c e n a r i o w h e r e o n l y m o u t o f k d a t a i t e m s c a n b e
a c c e s s e d i n t h e c u r r e n t c y c l e . O w i n g t o t h e d a t a c o n s i s t e n c y c r i t e r i o n , a l l t h e d a t a i t e m s h a v e t o
b e a c c e s s e d i n t h e s a m e c y c l e . T h u s , a g a i n t h e q u e r y h a s t o w a i t u n t i l t h e e n d o f t h e c u r r e n t c y c l e
a n d a c c e s s a l l t h e k d a t a i t e m s i n t h e n e w c y c l e . F i g u r e 7 s h o u l d h e l p c l a r i f y t h e s c e n a r i o b e i n g
c o n s i d e r e d .
X
k
n
= P
k
n
?
k
1 D ? n
+ Q
k
n 0
( D ? n ) T
s
+ ?
k
1 n
+
k ? 1
X
m = 1
Q
k
n m
( D ? n ) T
s
+ ?
m
n D
] ( 1 8 )
?
r
i j
d e n o t e s t h e a v e r a g e t i m e r e q u i r e d t o a c c e s s r d a t a i t e m s , t h e a c c e s s t i m e s o f e a c h o f w h i c h i s
u n i f o r m l y d i s t r i b u t e d b e t w e e n i T
s
; j T
s
; i < j . T h i s p a r a m e t e r m a y b e e a s i l y c a l c u l a t e d a s d o n e
b e f o r e . S i m i l a r l y , t h e s e c o n d m o m e n t X
k
n
2
m a y b e c o m p u t e d . N o w , X
k
, t h e a v e r a g e t i m e r e q u i r e d
1 6
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 17/31
TransactionArrival
nTs nTs(D-n)Ts (D-n)Ts
Broadcast Cycle
Begins
F i g u r e 7 : T i m i n g d i a g r a m f o r a q u e r y t h a t a r r i v e s w h e n n d a t a i t e m s h a v e g o n e p a s t
b y a q u e r y h a v i n g k d a t a i t e m s i n i t s r e a d s e t m a y b e e v a l u a t e d a s b e l o w .
X
k
=
D
X
n = 1
X
k
n
P
n
a n d X
k 2
=
D
X
n = 1
X
k
n
2
P
n
( 1 9 )
T h e a v e r a g e t i m e X a n d i t s s e c o n d m o m e n t X
2
r e q u i r e d b y a q u e r y t o a c c e s s i t s e n t i r e
r e a d s e t , a v e r a g e d o v e r a l l t h e K c l a s s e s o f q u e r i e s i s g i v e n b e l o w . F r o m e a r l i e r s e c t i o n s , g
k
=
P r o b f T h e c a r d i n a l i t y o f t h e r e a d s e t o f a q u e r y = k g
X =
K
X
k = 1
X
k
g
k
a n d X
2
=
K
X
k = 1
X
k 2
g
k
( 2 0 )
N o w t h e a v e r a g e r e s p o n s e t i m e o f a q u e r y m a y b e c a l c u l a t e d u s i n g E q u a t i o n 1 2 . T h e g r a p h s i n
F i g u r e 3 c o r r e s p o n d t o t h e c a s e w h e r e t h e r e a r e n o u p d a t e s i n t h e s y s t e m . T h e e e c t o f u p d a t e s
w i l l b e t o s h i f t t h e g r a p h s t o t h e l e f t . I n F i g u r e 8 , t h e g r a p h s c o r r e s p o n d i n g t o t h e c a s e w h e r e a l l
t h e d a t a i t e m s a r e u p d a t e d a t t h e b e g i n n i n g o f e a c h c y c l e a r e p r e s e n t e d . F o r e a s y c o m p a r i s o n , t h e
t h r o u g h p u t c u r v e s o f t h e u p d a t e - f r e e c a s e a r e a l s o p r o v i d e d i n t h e s a m e g u r e . I t i s i n t e r e s t i n g t o
n o t e ( b y c o m p a r i n g F i g u r e s 3 a n d 8 ) t h a t a t a h i g h e r d a t a r a t e ( o f 2 G b p s ) , t h e d a t a c y c l e s c h e m e
i n a n u p d a t e - i n t e n s i v e e n v i r o n m e n t p e r f o r m s s l i g h t l y b e t t e r t h a n t h e t r a d i t i o n a l l o c k i n g p r o t o c o l
i n a n u p d a t e - f r e e e n v i r o n m e n t . A s t h e d a t a r a t e i s f u r t h e r i n c r e a s e d , t h e m a r g i n o f i m p r o v e m e n t
i n p e r f o r m a n c e i s e x p e c t e d t o i n c r e a s e . S i n c e s o m e a s s u m p t i o n s w e r e m a d e t o s i m p l i f y t h e a n a l y s i s
( b a s i c a l l y , t h e s a m e a s s u m p t i o n s m a d e e a r l i e r ) , a s i m u l a t i o n w a s d o n e t o v a l i d a t e t h e a n a l y s i s . T h e
c o m p a r i s o n b e t w e e n t h e a n a l y s i s a n d s i m u l a t i o n r e s u l t s a r e p r e s e n t e d i n F i g u r e 9 . F o r l o w l o a d s ,
t h e s i m u l a t i o n a n d a n a l y s i s r e s u l t s m a t c h v e r y w e l l w h i l e a t h i g h e r l o a d s , t h e r e s u l t s d e v i a t e a l i t t l e .
T h i s i s o w i n g t o t h e f a c t t h a t a t h i g h l o a d s , t h e r e i s a d e p e n d e n c y b e t w e e n t h e r e s p o n s e t i m e s o f
s u c c e s s i v e q u e r i e s , w h i c h i s n o t t a k e n i n t o a c c o u n t i n t h e a n a l y s i s .
1 7
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 18/31
0
100
200
300
400
500
600
700
800
0 5 10 15 20 25 30 35 40 45 50
Transaction Arrival Rate at a Site
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
1 Gbps 2 Gbps
____ : No Updates
......: Frequent Updates
F i g u r e 8 : T h e e e c t o f u p d a t e s o n
t h e q u e r y t h r o u g h p u t i n t h e d a t a c y -
c l e s c h e m e : E = 0
0
200
400
600
800
1000
1200
0 5 10 15 20 25 30 35 40 45
* * **
**
*
*
**
*
*
*
*
*
**
*
*
*
*
* * * * * * * * **
*
*
*
*
***
*
*
*
**
*
*
*
*
*
Transaction Arrival Rate at a Site
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
* : Simulation Points
1 Gbps 2 Gbps
F i g u r e 9 : C o m p a r i s o n o f s i m u l a t i o n a n d a n a l -
y s i s o f t h e e e c t o f f r e q u e n t u p d a t e s o n t h e
q u e r y t h r o u g h p u t i n t h e d a t a c y c l e s c h e m e :
E = 0
6 A N e w C o n c u r r e n c y C o n t r o l T e c h n i q u e
F r o m t h e p r e v i o u s s e c t i o n s , i t i s c l e a r t h a t t h e d a t a c y c l e c o n c e p t w o r k s w e l l f o r a r e a d - o n l y s y s t e m .
W e h a v e l o o k e d a t s o m e o t h e r c o n c u r r e n c y c o n t r o l ( C C ) s t r a t e g i e s w i t h r e s p e c t t o i m p l e m e n t i n g
t h e m i n D D B S i n a h i g h s p e e d e n v i r o n m e n t . S p e c i c a l l y , w e h a v e l o o k e d a t t h e d a t a c y c l e i m p l e -
m e n t a t i o n o f u p d a t e t r a n s a c t i o n s , a n d t h e s t a n d a r d t w o - p h a s e l o c k i n g . T h e s h o r t c o m i n g s o f t h e s e
s c h e m e s h a v e b e e n h i g h l i g h t e d b e l o w . I n t h i s s e c t i o n , w e d e v e l o p a n e w C C p r o t o c o l t e r m e d S e n d -
o n - D e m a n d , b e a r i n g i n m i n d t h e v a r i o u s r e q u i r e m e n t s o f a D D B S i n a h i g h s p e e d e n v i r o n m e n t .
O u r d a t a b a s e c o r r e c t n e s s n o t i o n i s t h a t o f c o n i c t s e r i a l i z a b i l i t y 2 2 , 2 8 ] . T o a v o i d r o l l b a c k s t o t h e
m a x i m u m p o s s i b l e e x t e n t , w e u s e t h e c o n s i s t e n c y c r i t e r i a o f t h e h i g h e s t d e g r e e ( d e g r e e 3 ) a s d e n e d
b y G r a y e t a l . i n 2 2 , 3 0 ] .
C C p r o b l e m s i n t h e d a t a c y c l e a r c h i t e c t u r e
1 . T h e c e n t r a l i z e d u p d a t e m a n a g e r i s t h e u l t i m a t e p e r f o r m a n c e a n d r e l i a b i l i t y b o t t l e n e c k .
2 . A m u l t i v e r s i o n o p t i m i s t i c a l g o r i t h m i s u s e d t h a t m a y n o t w o r k v e r y e c i e n t l y u n d e r c o n d i -
t i o n s o f h i g h d a t a c o n t e n t i o n ( w h i c h i s t o b e e x p e c t e d i n a D D B S i n a h i g h s p e e d e n v i r o n m e n t ) .
C C p r o b l e m s i n l o c k i n g
1 . T h e r e i s a f a i r p o s s i b i l i t y o f d e a d l o c k s .
2 . T h e r e i s a l s o a n o v e r h e a d a s s o c i a t e d w i t h t h e s e q u e n c e o f l o c k r e q u e s t , l o c k g r a n t a n d l o c k
r e l e a s e m e s s a g e s w h i l e a c c e s s i n g a n y d a t a i t e m .
1 8
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 19/31
F i g u r e 1 0 : B r o a d c a s t m e s s a g e f o r m a t
6 . 1 T h e S e n d - o n - D e m a n d P r o t o c o l a s a p p l i e d t o U p d a t e s
D a t a i t e m s a r e t r a d i t i o n a l l y b o u n d t o o n e c o m p u t e r s i t e . B y t h i s , w e m e a n t h a t a l l r e q u e s t s t o
a c c e s s a d a t a i t e m h a v e t o b e p r o c e s s e d b y t h e c o m p u t e r s i t e w h e r e t h e d a t a i t e m r e s i d e s . T h i s
l e a d s t o a n e x c h a n g e o f a s e q u e n c e o f m e s s a g e s b e t w e e n t h e t r a n s a c t i o n i n i t i a t i n g s i t e a n d t h e
s i t e w h e r e t h e d a t a i t e m r e s i d e s . I n o u r e o r t t o r e d u c e t h e n u m b e r o f s e q u e n t i a l m e s s a g e s a n d
a l s o p r o m o t e c o o p e r a t i v e e x e c u t i o n b e t w e e n a l l t h e s i t e s i n t h e D D B S , w e p r o p o s e t h e f o l l o w i n g
c o n c u r r e n c y c o n t r o l s c h e m e . T h e u n d e r l y i n g s u p p o r t m e c h a n i s m o f t h i s p r o t o c o l i s s i m i l a r t o t h a t
o f t h e d a t a c y c l e a r c h i t e c t u r e . T h e s o f t w a r e i m p l e m e n t a t i o n d i c u l t i e s a r e c o m p a r a b l e t o t h a t o f
l o c k i n g . W e h a v e o m m i t t e d t h e s e d e t a i l s i n o r d e r t o k e e p t h e p a p e r f o c u s s e d .
I n t h i s n e w s c h e m e , d a t a i t e m s a r e n o l o n g e r b o u n d t o a n y p a r t i c u l a r c o m p u t e r s i t e . E v e r y s i t e
i n t h e D D B S m a i n t a i n s w h a t w e c a l l a \ c l a i m q u e u e " f o r e a c h d a t a i t e m t h a t i s c u r r e n t l y l o c a t e d a t
t h a t s i t e . T h e c l a i m q u e u e f o r a d a t a i t e m c o n t a i n s a l i s t o f t r a n s a c t i o n s ( w i t h t h e s i t e I D w h e r e t h e
t r a n s a c t i o n i s b e i n g e x e c u t e d ) t h a t r e q u i r e t h a t p a r t i c u l a r d a t a i t e m a n d a l s o s p e c i e s t h e a c t i o n
i n t e n d e d t o b e t a k e n b y t h e t r a n s a c t i o n o n t h e d a t a i t e m ( r e a d o r w r i t e ) . T h e a c c e s s s e t a l o n g
w i t h t h e a r r i v a l t i m e - s t a m p o f a t r a n s a c t i o n T { T S ( T ) ( i . e . , t h e t i m e o f a r r i v a l a t t h e H e a d - o f - l i n e
( H O L ) p o s i t i o n a t t h e t r a n s a c t i o n i n i t i a t i o n s i t e ) o f e v e r y i n c o m i n g t r a n s a c t i o n i s b r o a d c a s t t o a l l
s i t e s i n t h e D D B S . A t y p i c a l b r o a d c a s t m e s s a g e s e n t b y a s i t e p r o c e s s i n g a t r a n s a c t i o n w i t h k d a t a
i t e m s i n i t s a c c e s s s e t i s g i v e n i n F i g u r e 1 0 . T h e t r a n s a c t i o n a c c e s s s e t i s e n t e r e d i n t h e r e s p e c t i v e
c l a i m q u e u e s b y a s i t e i n t h e o r d e r o f t h e t r a n s a c t i o n a r r i v a l t i m e s t a m p s . H o w e v e r , n o a c t i o n i s
t a k e n u n t i l i t i s s u r e t h a t e v e r y s i t e i n t h e D D B S h a s r e c e i v e d t h e a b o v e i n f o r m a t i o n . A t t h i s p o i n t ,
t h e t r a n s a c t i o n i s s a i d t o b e c o n r m e d i n o u r t e r m i n o l o g y , a n d t h e d u r a t i o n a s i t e h a s t o w a i t u n t i l
a t r a n s a c t i o n i s c o n r m e d i s t e r m e d t h e c o n r m a t i o n d u r a t i o n . A c l a i m q u e u e a t a n y p o i n t i n t i m e
c o n t a i n s a s e t o f c o n r m e d t r a n s a c t i o n s a n d a s e t o f u n c o n r m e d t r a n s a c t i o n s . I n F i g u r e 1 1 , a
c l a i m q u e u e f o r a d a t a i t e m w i t h m c l a i m s o f w h i c h n a r e c o n r m e d t r a n s a c t i o n s i s d e p i c t e d . T h e
c o n r m a t i o n d u r a t i o n o f a t r a n s a c t i o n i s t h e t i m e g r e a t e r t h a n o r e q u a l t o t h a t r e q u i r e d t o s e n d
t h e a c c e s s s e t i n f o r m a t i o n t o a l l t h e s i t e s . T h i s e n s u r e s t h a t a t e v e r y s i t e , t h e c l a i m q u e u e s h a v e
e n t r i e s i n t h e s a m e o r d e r , a n d t h u s n o d e a d l o c k s c a n o c c u r .
1 9
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 20/31
F i g u r e 1 1 : S t r u c t u r e o f t h e c l a i m q u e u e f o r a d a t a o b j e c t
A t s y s t e m s t a r t - u p t i m e , a l l t h e d a t a i t e m s r e s i d e a t c e r t a i n s i t e s . A s t h e t r a n s a c t i o n s s t a r t
a r r i v i n g , t h e c l a i m q u e u e s s t a r t l l i n g u p . E v e r y s i t e t r a n s m i t s e a c h o f i t s r e s i d e n t d a t a i t e m s t o t h e
s i t e w h e r e t h e r s t c o n r m e d t r a n s a c t i o n i n t h e r e s p e c t i v e c l a i m q u e u e s w a s i n i t i a t e d . T o i m p r o v e
o v e r a l l e c i e n c y , e a c h s i t e m a y t r a n s m i t t h e r e m a i n d e r o f t h e a s s o c i a t e d c l a i m q u e u e a l o n g w i t h t h e
d a t a i t e m , a l t h o u g h c o n s t r u c t i o n o f t h e c l a i m q u e u e m a y a l s o b e d o n e b y p r o c e s s i n g t h e b r o a d c a s t
i n f o r m a t i o n s t o r e d e a r l i e r . W h i l e t h e c l a i m q u e u e i s b e i n g t r a n s m i t t e d , s o m e o t h e r t r a n s a c t i o n s
r e q u i r i n g t h a t d a t a i t e m m a y a r r i v e i n t h e s y s t e m ( b r o a d c a s t t h e i r a c c e s s s e t i n f o r m a t i o n a n d
s u b s e q u e n t l y g e t c o n r m e d ) . T h e i n f o r m a t i o n a b o u t t h e s e t r a n s a c t i o n s m a y b e d e r i v e d f r o m t h e
b r o a d c a s t i n f o r m a t i o n . E v e r y t r a n s a c t i o n - i n i t i a t i n g s i t e w a i t s f o r t h e e n t i r e a c c e s s s e t t o a r r i v e a t
i t s l o c a t i o n , n i s h e s p r o c e s s i n g t h e t r a n s a c t i o n , a n d t h e n s e n d s o u t t h e d a t a i t e m s t o o t h e r s i t e s t h a t
a r e n e x t o n t h e r e s p e c t i v e c l a i m q u e u e s . C l e a r l y , t h i s m e c h a n i s m e l i m i n a t e s t h e n e c e s s i t y t o u n l o c k
d a t a i t e m s , l e a d i n g t o b e t t e r p e r f o r m a n c e . I n t r a d i t i o n a l s y s t e m s , t o m a i n t a i n t h e a t o m i c i t y o f
t r a n s a c t i o n s , s p e c i a l c o m m i t p r o t o c o l s l i k e t h e t w o - p h a s e c o m m i t 2 2 ] m a y h a v e t o b e i m p l e m e n t e d .
H o w e v e r w i t h a l i t t l e t h o u g h t , i t i s c l e a r t h a t o n l y a n i n e x p e n s i v e l o c a l c o m m i t p r o t o c o l i s r e q u i r e d
h e r e , t h u s e n h a n c i n g p e r f o r m a n c e a t a n o t h e r l e v e l . S i n c e e a c h s i t e m a i n t a i n s a c l a i m q u e u e f o r
o n l y t h o s e d a t a i t e m s t h a t c u r r e n t l y r e s i d e a t t h a t s i t e , t h e m e m o r y r e q u i r e m e n t i s n o t v e r y
l a r g e . H o w e v e r , e a c h s i t e h a s t o a l l o c a t e m e m o r y t o s t o r e t h e a c c e s s s e t i n f o r m a t i o n o f c o n r m e d
t r a n s a c t i o n s .
A t y p i c a l u p d a t e t r a n s a c t i o n h a s a r e a d s e t a s w e l l a s a w r i t e s e t . T h u s a t y p i c a l c l a i m q u e u e f o r
a d a t a i t e m h a s r e a d e n t r i e s a s w e l l a s w r i t e e n t r i e s . N o w , c o n s e c u t i v e r e a d e n t r i e s c a n b e p r o c e s s e d
i n p a r a l l e l , w h i l e t h e w r i t e e n t r i e s h a v e t o b e s e r v e d s e r i a l l y . C o n s i d e r t h e c l a i m q u e u e o f a s i n g l e
d a t a i t e m D
j
, w h e r e t h e r e a r e t w o w r i t e e n t r i e s s e p a r a t e d b y a f e w r e a d e n t r i e s . A f t e r t h e r s t
w r i t e h a s b e e n c o m p l e t e d b y t h e s i t e t h a t c u r r e n t l y p o s s e s s e s t h e w r i t e c o p y o f D
j
, i t s e n d s t h e
u p d a t e d v e r s i o n o f D
j
t o a l l s i t e s t h a t h a v e a r e a d e n t r y i n t h e c l a i m q u e u e b e f o r e t h e n e x t w r i t e .
T h e a c t u a l w r i t e c o p y i s s e n t t o t h e s i t e t h a t i s r e s p o n s i b l e f o r t h e l a s t r e a d - e n t r y b e f o r e t h e s e c o n d
w r i t e e n t r y . H o w e v e r , a f t e r e a c h t r a n s a c t i o n t h a t n e e d e d t o r e a d D
j
i s c o m p l e t e d , t h e r e s h o u l d b e
a m e c h a n i s m t o i n f o r m t h e s i t e t h a t n e e d s t o w r i t e o n D
j
. T h i s i s a c h i e v e d i f t h e s i t e s r e a d i n g D
j
s e n d a m e s s a g e t o t h e s i t e t h a t i s w a i t i n g t o w r i t e o n D
j
t h e m o m e n t t h e u p d a t e r e q u i r i n g t h e r e a d
i s o v e r . T h e s i t e t h a t h a s t h e w r i t e c o p y t r a n s m i t s t h e w r i t e c o p y o f D
j
a l o n g w i t h t h e m e s s a g e ,
2 0
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 21/31
a n d t h e n t h e u p d a t e a t t h a t s i t e c a n b e g i n .
O n e o f t h e i m p o r t a n t a s s u m p t i o n s m a d e h e r e i s t h a t t h e c o n r m a t i o n d u r a t i o n i s s e t t o a v a l u e
s u c h t h a t t o t a l o r d e r i n g o f t h e m e s s a g e s i s a c h i e v e d , i . e . , e v e r y s i t e s e e s t h e s a m e o r d e r i n g o f c o n -
r m e d t r a n s a c t i o n s i n a c l a i m q u e u e . I n a r e a l s y s t e m , m e s s a g e s m a y b e d e l a y e d a n d t h e b r o a d c a s t
m e c h a n i s m m a y h a v e t o b e s o p h i s t i c a t e d e n o u g h t o g u a r a n t e e t o t a l o r d e r i n g e v e n u n d e r t h o s e c i r -
c u m s t a n c e s . F u r t h e r w o r k i s p l a n n e d o n s t u d y i n g t h e p e r f o r m a n c e o f t h e s e n d - o n - d e m a n d p r o t o c o l
u n d e r t h e r e l a x e d a s s u m p t i o n t h a t t o t a l o r d e r i n g i s n o t m e t b y t h e b r o a d c a s t i n g m e c h a n i s m . T o
i l l u s t r a t e t h e w o r k i n g o f t h e s e n d - o n - d e m a n d p r o t o c o l , a s i m p l e e x a m p l e h a s b e e n w o r k e d o u t i n
F i g u r e 1 2 w i t h a 3 - n o d e D D B S a n d 3 d a t a i t e m s . T h e c o m m u n i c a t i o n l i n k s a r e l a b e l l e d w i t h t h e
c o m m u n i c a t i o n t i m e ( t r a n s m i s s i o n + p r o p a g a t i o n d e l a y , t h e m a j o r c o m p o n e n t o f w h i c h i n h i g h
s p e e d n e t w o r k s i s t h e p r o p a g a t i o n t i m e ) .
6 . 2 T h e I n t e g r a t e d S e n d - o n - D e m a n d C C P r o t o c o l
T h e i n t e g r a t e d C C a l g o r i t h m i s a p p l i c a b l e t o a g e n e r a l D D B S w h e r e b o t h q u e r i e s ( r e a d - o n l y t r a n s -
a c t i o n s ) a n d u p d a t e s ( r e a d a n d w r i t e t r a n s a c t i o n s ) a r e e x e c u t e d . T h e i n t e g r a t e d a l g o r i t h m i s a
h y b r i d o f t h e d a t a c y c l e s c h e m e a n d t h e s e n d - o n - d e m a n d s c h e m e . T h e r e a d o p e r a t i o n s a r e h a n d l e d
b y t h e d a t a c y c l e m e c h a n i s m o f b r o a d c a s t i n g d a t a i t e m s a n d t h e w r i t e o p e r a t i o n s a r e m a n a g e d b y
t h e s e n d - o n - d e m a n d p r o t o c o l . T h e i n t e g r a t i o n p r o c e s s i s n o t a b s o l u t e l y s t r a i g h t f o r w a r d a s t h e r e a d
a n d w r i t e p r o c e s s e s h a v e t o b e i n t e g r a t e d i n a w a y s o a s t o n o t v i o l a t e a n y c o n s i s t e n c y c r i t e r i a . F o r
i n s t a n c e , t h e r e a d s e t o f a t r a n s a c t i o n m a y n o t b e w r i t t e n o v e r b y a n o t h e r t r a n s a c t i o n , u n t i l t h e
r s t t r a n s a c t i o n h a s n i s h e d e x e c u t i o n . F o r a d e t a i l e d d e s c r i p t i o n o f t h e c o n s i s t e n c y c r i t e r i a , t h e
r e a d e r i s r e f e r r e d t o 2 2 , 3 0 ] .
F o r t h e r e a d o p e r a t i o n s , w e p r o p o s e t o a p p l y t h e d i s t r i b u t e d v e r s i o n o f t h e d a t a c y c l e s c h e m e .
T h e e n t i r e d a t a b a s e i s d i v i d e d i n t o f r a g m e n t s a n d s o m e o f t h e D D B S s i t e s a r e g i v e n t h e r e s p o n s i -
b i l i t y o f b r o a d c a s t i n g o n e f r a g m e n t t o a l l t h e o t h e r s i t e s p e r i o d i c a l l y . T h e f r a g m e n t s i z e s n e e d n o t
b e e q u a l , d e p e n d i n g o n o t h e r f a c t o r s . E a c h d a t a i t e m i n e a c h d a t a b a s e f r a g m e n t h a s t i m e s t a m p
i n f o r m a t i o n a p p e n d e d t o i t . T h e t i m e s t a m p v a l u e i s t h e t i m e a t w h i c h t h a t p a r t i c u l a r d a t a i t e m
w a s u p d a t e d b y s o m e t r a n s a c t i o n a n d a l s o c o n t a i n s t h e i d e n t i t y o f t h e t r a n s a c t i o n t h a t w a s r e -
s p o n s i b l e f o r t h e u p d a t e
2
. T h i s t i m e s t a m p v a l u e i s i n i t i a l i z e d t o z e r o a t s y s t e m s t a r t - u p t i m e . A s
i n t h e d a t a c y c l e a r c h i t e c t u r e , t h e c o m p u t e r s i t e s a r e a s s u m e d t o b e e q u i p p e d w i t h d a t a l t e r s a n d
o t h e r n e c e s s a r y h a r d w a r e r e q u i r e d t o r e a d d a t a i t e m s o n t h e y 2 4 { 2 7 ] . D a t a i t e m s m a y b e r e a d
b y t h e c o m p u t e r s i t e s i n e v e r y b r o a d c a s t c y c l e a n d u s e d i n p r o c e s s i n g q u e r i e s . A s l o n g a s a l l t h e
d a t a i t e m s i n t h e q u e r y r e a d s e t a r e o f t h e s a m e v e r s i o n , t h e q u e r y i s g u a r a n t e e d t o g i v e t h e c o r r e c t
r e s u l t . I n t h e d a t a c y c l e a r c h i t e c t u r e c o n t e x t , a q u e r y t h a t c a n o b t a i n i t s e n t i r e r e a d s e t w i t h i n o n e
2
T h e t r a n s a c t i o n I D i s u s e d t o o b t a i n t h e s e t o f d a t a i t e m s t h a t w e r e u p d a t e d a l o n g w i t h t h e d a t a i t e m u n d e r
c o n s i d e r a t i o n .
2 1
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 22/31
T3
0 1 2 time of arrival atHOL
Site 3Site 2
essage
D2 w D3 w
Broadcast Messagefor T2 sent
Site 2 TS=1 D1 w D3 w
Broadcast Messagefor T
D2
T1
D2
T1
D2 T1 confirmed andD2 sent to Site 1
F i g u r e 1 2 : A s i m p l e e x a m p l e i l l u s t r a t i n g s e n d - o n - d e m a n d e x e c u t i o n
d a t a c y c l e i s g u a r a n t e e d t o b e c o r r e c t s i n c e u p d a t e s a r e i n c o r p o r a t e d i n t h e b r o a d c a s t s t r e a m o n l y
a t t h e b e g i n n i n g o f t h e c y c l e . T h e i n f o r m a t i o n m a y n o t b e t h e m o s t u p - t o - d a t e b u t t h e r e s u l t o f t h e
q u e r y w i l l b e c o n s i s t e n t . H o w e v e r i n t h e c a s e o f t h e d i s t r i b u t e d d a t a c y c l e i m p l e m e n t a t i o n , i t i s n o t
v e r y c l e a r a s t o h o w c o n s i s t e n t d a t a m a y b e d e r i v e d , s i n c e n o w t h e u p d a t e s o f d a t a i t e m s a e c t e d
b y t h e s a m e u p d a t e o p e r a t i o n m a y b e r e e c t e d i n t h e d i e r e n t b r o a d c a s t s t r e a m s a t d i e r e n t t i m e s .
2 2
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 23/31
ent to Site 3.
D3D1
T3
T2 executioncontinues for 1 unit
T2 finishes executionand departs.D1 sent to Site 3
D3
D3D1
T3
F i g u r e 1 2 : E x a m p l e ( c o n t i n u e d )
T h e d a t a i t e m s r e a d f r o m o n e b r o a d c a s t s t r e a m i s o f c o u r s e s t i l l c o n s i s t e n t w i t h i n a s i n g l e c y c l e .
T h e e x a m p l e b e l o w w i l l d e m o n s t r a t e h o w t h i s p r o b l e m i s t a c k l e d i n o u r s y s t e m .
E x a m p l e
C o n s i d e r a q u e r y t h a t h a s t h r e e d a t a i t e m s , s a y D
1
; D
2
a n d D
3
i n i t s r e a d s e t . L e t t h e p a i r
( T S
D
j
; S
D
j
)
t
r e p r e s e n t t h e t i m e s t a m p i n f o r m a t i o n , w h e r e T S
D
j
i s t h e w r i t e t i m e s t a m p o f t h e d a t a
i t e m D
j
a n d S
D
j
= f D
i
1
; : : : ; D
i
k
g i s t h e s e t o f k d a t a i t e m s ( i n c l u d i n g D
j
) u p d a t e d b y t h e s a m e
u p d a t e t h a t c r e a t e d t h e l a t e s t v e r s i o n o f D
j
r e s p e c t i v e l y , a s r e a d b y a p a r t i c u l a r s i t e a t t i m e t . T h e
s e c o n d p i e c e o f i n f o r m a t i o n m a y b e d e r i v e d f r o m t h e t r a n s a c t i o n I D i n f o r m a t i o n . W i t h o u t a n y l o s s
o f g e n e r a l i t y , L e t t
1
; t
2
a n d t
3
b e t h e r e s p e c t i v e p o i n t s i n t i m e t h a t d a t a i t e m s D
1
; D
2
a n d D
3
r e s p e c t i v e l y a r e a v a i l a b l e t o t h e q u e r y i n q u e s t i o n . F i g u r e 1 3 a i l l u s t r a t e s t h i s s c e n a r i o , w h e r e t h e
d a t a i t e m s i n t h e r e a d s e t a r e a v a i l a b l e o n t w o d i e r e n t b r o a d c a s t c h a n n e l s . A l s o , t h e b r o a d c a s t
2 3
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 24/31
ycle Begins
t0 t1
t3
t2
(a)
(b)
t4
t3 t6
F i g u r e 1 3 : T i m i n g d i a g r a m f o r a q u e r y
c y c l e s a r e a s s u m e d t o b e c o n t i n u o u s . T h e q u e r y p r o c e s s i n g s t a r t s a t t
0
. L e t
( T S
D
1
; S
D
1
)
t
1
= ( t s
1
; f D
1
; D
4
g )
( T S
D
2
; S
D
2
)
t
2
= ( t s
2
; f D
2
; D
3
g )
( T S
D
3
; S
D
3
)
t
3
= ( t s
3
; f D
3
g )
I f t s
2
t s
3
, t h e n i t i s o b v i o u s t h a t n o c o n s i s t e n c y c r i t e r i a i s v i o l a t e d s i n c e n o c o n i c t i n g u p d a t e s
a r e r e e c t e d i n t h e v e r s i o n s b e i n g r e a d . F i g u r e 1 3 b d e p i c t s t h e c a s e w h e n t s
2
> t s
3
. I n t h i s c a s e ,
a n u p d a t e t h a t s h o u l d h a v e r e e c t e d o n t h e v e r s i o n o f D
3
h a s n o t y e t t a k e n e e c t a n d u s i n g t h e s e
v e r s i o n s o f t h e t h r e e d a t a i t e m s t o c o m p u t e t h e q u e r y w o u l d g i v e i n c o n s i s t e n t r e s u l t s . H e n c e , t h e
s i t e h a s t o w a i t u n t i l a c o n s i s t e n t s e t o f v e r s i o n s c a n b e o b t a i n e d . S u p p o s e
( T S
D
1
; S
D
1
)
t
4
= ( t s
4
; f D
1
; D
2
g )
( T S
D
2
; S
D
2
)
t
5
= ( t s
4
; f D
1
; D
2
g )
( T S
D
3
; S
D
3
)
t
6
= ( t s
2
; f D
2
; D
3
g )
2 4
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 25/31
L e t t s
4
> t s
2
. N o w , D
3
h a s b e e n u p d a t e d t o t h e n e w v e r s i o n . H o w e v e r , i n t h e m e a n t i m e , t h e
v e r s i o n s o f D
1
a n d D
2
h a v e c h a n g e d . T h u s t h e d a t a v e r s i o n s a t t i m e i n s t a n t s t
1
; t
2
a n d t
6
w i l l
c o n s t i t u t e a c o n s i s t e n t s e t .
F r o m t h e a b o v e e x a m p l e , t h e c o n s i s t e n c y c r i t e r i a f o r q u e r i e s m a y b e d e v e l o p e d . A q u e r y t h a t
r e q u i r e s k d a t a i t e m s , s a y D
1
; : : : ; D
k
w i t h o u t l o s s o f g e n e r a l i t y , m a y r e a d t h o s e v e r s i o n s o f t h e
d a t a i t e m s t h a t s a t i s f y a t l e a s t o n e o f t h e f o l l o w i n g c o n d i t i o n s .
D
m
; D
n
62 S
D
m
T
S
D
n
, 1 m ; n k a n d m 6= n
F o r a n y t w o d a t a i t e m s D
m
a n d D
n
, 1 m ; n k a n d m 6= n , I f D
m
o r D
n
2 S
D
m
T
S
D
n
,
t h e n a t l e a s t o n e o f S
D
m
o r S
D
n
c o n t a i n s b o t h D
m
a n d D
n
. L e t S
D
m
b e t h a t u p d a t e s e t .
T h e n , t h e s e t o f v e r s i o n s a c c e s s e d i s c o n s i s t e n t i f T S
D
m
T S
D
n
T h e i n t e g r a t e d s e n d - o n - d e m a n d a l g o r i t h m i s s u m m a r i z e d i n F i g u r e 1 4 .
6 . 3 S i m u l a t i o n R e s u l t s
I n F i g u r e s 1 5 a n d 1 6 , w e p r e s e n t a c o m p a r i s o n b e t w e e n l o c k i n g a n d t h e S e n d - o n - D e m a n d p r o t o c o l
f o r a w r i t e - o n l y s y s t e m . T h i s i s t h e r e s u l t o f a s i m u l a t i o n s t u d y , i n w h i c h u p t o 1 5 0 , 0 0 0 t r a n s a c t i o n s
w e r e e x e c u t e d i n e a c h r u n . T h e p a r a m e t e r s u s e d a r e t h e s a m e a s t h a t u s e d i n t h e r e a d - o n l y s y s t e m
o f t h e p r e v i o u s s e c t i o n , v i z . , G = 0 . 0 5 , L = 3 0 0 0 , D = 1 0 0 , N = 1 0 . T h e a c c e s s s e t c a r d i n a l i t y o f a l l
t r a n s a c t i o n s i s a s s u m e d t o b e a c o n s t a n t K . I n F i g u r e 1 5 , w h e n t h e d a t a c o n t e n t i o n i s h i g h ( K = 4 ) ,
t h e s e n d - o n - d e m a n d p r o t o c o l o u t p e r f o r m s 2 - P L , w h i l e a t l o w d a t a c o n t e n t i o n ( K = 1 ) , t h e l o c k i n g
p e r f o r m a n c e i s b e t t e r . T h e s e n d - o n - d e m a n d p r o t o c o l h a s a n i n i t i a l o v e r h e a d - t h e b r o a d c a s t i n g
p h a s e , b e f o r e a n y t r a n s a c t i o n c a n b e c o n r m e d , i . e . , o c i a l l y a c c e p t e d i n t o t h e s y s t e m . H o w e v e r ,
t h e d a t a i t e m s t h e m s e l v e s a r e l o c k e d f o r a r e l a t i v e l y s h o r t p e r i o d a s c o m p a r e d t o t h e 2 - P L s c h e m e ,
w h i c h s u e r s f r o m t h e e x t r a o v e r h e a d o f u n l o c k m e s s a g e s . T h u s , t h e q u e u e i n g d e l a y f o r d a t a i t e m s
i s l a r g e r i n 2 - P L a n d d e g r a d e s t h e p e r f o r m a n c e i n h i g h c o n t e n t i o n s i t u a t i o n s . A t l o w c o n t e n t i o n ,
t h e q u e u e i n g d e l a y i s n e g l i g i b l e , a n d t h e b r o a d c a s t i n g o v e r h e a d i n t h e s e n d - o n - d e m a n d s c h e m e
c a u s e s t h e p e r f o r m a n c e t o b e w o r s e t h a n l o c k i n g .
I t h a s b e e n o b s e r v e d i n d a t a b a s e s y s t e m s t h a t s o m e d a t a i t e m s a r e a c c e s s e d m o r e o f t e n t h a n
o t h e r s . T h e s e d a t a i t e m s a r e r e f e r r e d t o a s t h e h o t d a t a . T h e c o n c u r r e n t a c c e s s o f h o t d a t a i t e m s
c a u s e s a p e r f o r m a n c e b o t t l e n e c k i n t h a t a l l t h e t r a n s a c t i o n s a c c e s s i n g t h e h o t d a t a i t e m h a v e t o b e
s e r i a l l y e x e c u t e d . T h e l a r g e r t h e s e r v i c e t i m e o f t h e h o t d a t a i t e m s , t h e w o r s e t h e p e r f o r m a n c e . A
h o t d a t a s i m u l a t i o n i n w h i c h a s i n g l e d a t a i t e m o c c u r r e d i n t h e a c c e s s s e t o f 2 0 % o f t h e t r a n s a c t i o n s
w a s c a r r i e d o u t a t t w o d i e r e n t d a t a t r a n s m i s s i o n r a t e s , v i z . , 5 0 M b p s a n d 1 G b p s . T h e p e r f o r m a n c e
o f a D D B S w i t h l o c k i n g a n d t h e s e n d - o n - d e m a n d p r o t o c o l r e s p e c t i v e l y w a s s t u d i e d f o r K = 1 , a n d
a l l o t h e r c o n d i t i o n s r e m a i n i n g t h e s a m e a s b e f o r e . T h e r e s u l t s a r e p r o v i d e d i n F i g u r e 1 6 , w h e r e i t i s
2 5
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 26/31
A l l S i t e s :
U p d a t e c l a i m q u e u e s a s a n d w h e n t r a n s a c t i o n s a r e c o n r m e d .
I f r e s p o n s i b l e f o r b r o a d c a s t i n g a f r a g m e n t o f t h e d a t a b a s e , a p p e n d t i m e s t a m p i n f o r m a t i o n t o t h e d a t a
i t e m s a s t h e u p d a t e d d a t a i t e m s a r r i v e .
R e m o v e t h e u p d a t e t r a n s a c t i o n i n f o r m a t i o n f r o m t h e c l a i m q u e u e s a s a n d w h e n t h e y d e p a r t b y c h e c k i n g
t h e t i m e s t a m p i n f o r m a t i o n i n t h e b r o a d c a s t s t r e a m s .
S i t e s P r o c e s s i n g Q u e r i e s :
S c a n b r o a d c a s t c h a n n e l s o n w h i c h d a t a i t e m s i n t h e q u e r y a c c e s s s e t a r e b e i n g b r o a d c a s t .
R e a d o n l y t h o s e c o p i e s t h a t a r e m u t u a l l y c o n s i s t e n t b y c h e c k i n g t h e r e s p e c t i v e t i m e s t a m p i n f o r m a t i o n .
E x e c u t e t h e q u e r y .
S i t e s P r o c e s s i n g U p d a t e s :
B r o a d c a s t t h e e n t i r e a c c e s s s e t ( r e a d s e t + w r i t e s e t ) o f t h e u p d a t e t o a l l t h e s i t e s .
W a i t f o r t h e f o l l o w i n g e v e n t s :
{ A l l t h e d a t a i t e m s i n t h e a c c e s s s e t a r r i v e .
{ T h e \ c o m p l e t i o n " m e s s a g e a r r i v e s f r o m t h e t r a n s a c t i o n s t h a t h o l d a r e a d - c o p y o f a d a t a i t e m i n
t h e w r i t e s e t .
E x e c u t e t h e u p d a t e .
S e n d a c o p y o f e a c h u p d a t e d d a t a i t e m ( a l o n g w i t h t h e t i m e a t w h i c h t h e u p d a t e w a s e x e c u t e d ) t o
t h e r e s p e c t i v e s i t e s r e s p o n s i b l e f o r b r o a d c a s t i n g t h e m .
I f h o l d i n g a r e a d - c o p y o f d a t a i t e m D
j
, s e n d a \ c o m p l e t i o n " m e s s a g e t o t h e n e x t w r i t e i n t h e c l a i m
q u e u e f o r D
j
I f h o l d i n g t h e w r i t e - c o p y o f D
j
, s e n d a r e a d - c o p y o f D
j
t o a l l s i t e s w h i c h h a v e a r e a d e n t r y i n t h e
c l a i m q u e u e b e f o r e t h e n e x t w r i t e ; a n d s e n d t h e w r i t e - c o p y t o t h e n e x t w r i t e .
F i g u r e 1 4 : T h e I n t e g r a t e d S e n d - o n - D e m a n d C C A l g o r i t h m
c l e a r t h a t t h e s e n d - o n - d e m a n d p r o t o c o l d o e s b e t t e r i n a h i g h c o n t e n t i o n s c e n a r i o . A t t h e l o w e r d a t a
r a t e o f 5 0 M b p s , t h e p e r f o r m a n c e c u r v e s f o r t h e t w o p r o t o c o l s a r e f a i r l y c l o s e , a n d t h i s i s b e c a u s e
t h e d a t a t r a n s m i s s i o n t i m e i s a d o m i n a n t f a c t o r . A t e v e n l o w e r d a t a r a t e s ( o r i n l o c a l a r e a n e t w o r k s
w h e r e t h e p r o p a g a t i o n d e l a y i s i n s i g n i c a n t ) , t h e p e r f o r m a n c e o f b o t h p r o t o c o l s i s a b o u t t h e s a m e .
A s t h e d a t a r a t e i s i n c r e a s e d , ( a n d t h e e e c t o f t h e p r o p a g a t i o n d e l a y d o m i n a t e s ) s e n d - o n - d e m a n d
o u t p e r f o r m s l o c k i n g . A t a l o w t r a n s a c t i o n a r r i v a l r a t e , t h e a v e r a g e r e s p o n s e t i m e f o r l o c k i n g i s
l o w e r t h a n t h a t i n t h e s e n d - o n - d e m a n d , a n d t h a t i s b e c a u s e o f t h e i n i t i a l b r o a d c a s t i n g o v e r h e a d
i n t h e s e n d - o n - d e m a n d . A s t h e a r r i v a l r a t e i s i n c r e a s e d , t h e q u e u e i n g d e l a y f o r t h e t r a n s a c t i o n s i n
t h e l o c k i n g c a s e d o m i n a t e s a n d c o n s e q u e n t l y t h e r e s p o n s e t i m e i n c r e a s e s .
2 6
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 27/31
0
200
400
600
800
1000
1200
0 100 200 300 400 500 600
Total Arrival Rate to the System
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
...... : Locking
___ : Send-on-Demand
K=1LowContention
K=4HighContention
F i g u r e 1 5 : C o m p a r i s o n o f s e n d - o n -
d e m a n d a n d t r a d i t i o n a l l o c k i n g f o r a
w r i t e - o n l y s y s t e m
0
100
200
300
400
500
600
700
0 50 100 150 200 250 300 350 400
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
Total Arrival Rate to the System
K=1
20% update the same data item
..... : Locking
___ : Send-on-Demand
1 Gbps
50 Mbps
F i g u r e 1 6 : H o t d a t a s i m u l a t i o n i n a
w r i t e - o n l y s y s t e m
7 C o n c l u s i o n s a n d F u t u r e W o r k
I n t h i s p a p e r , t h e i s s u e s t h a t a r e d e e m e d i m p o r t a n t b y u s i n t h e d e s i g n o f d i s t r i b u t e d d a t a b a s e
s y s t e m s i n h i g h s p e e d n e t w o r k s h a v e b e e n s t a t e d . W e h a v e a l s o d e m o n s t r a t e d t h e i n a d e q u a c y
o f c o n v e n t i o n a l p r o t o c o l s i n t e r m s o f g i v i n g i m p r o v e d p e r f o r m a n c e a s t h e t r a n s m i s s i o n r a t e i s
i n c r e a s e d . F i n a l l y , a n e w d i s t r i b u t e d c o n c u r r e n c y c o n t r o l p r o t o c o l h a s b e e n d e s c r i b e d t h a t i s b a s e d
o n t h e a v a i l a b i l i t y o f s o p h i s t i c a t e d t e c h n o l o g y a n d t h e h i g h t h r o u g h p u t d a t a c y c l e d a t a b a s e m a c h i n e
c o n c e p t .
A s e x p l a i n e d i n p r e v i o u s s e c t i o n s , n e w p r o t o c o l s w i l l h a v e t o b e d e v e l o p e d i n o r d e r f o r D D B S
t o b e a d a p t e d f o r b r o a d b a n d n e t w o r k s . I t i s i m p o r t a n t , h o w e v e r , t o n o t e t h a t t h i s c h a n g e f r o m
l o w s p e e d t o h i g h s p e e d n e t w o r k d i s t r i b u t e d d a t a b a s e s y s t e m s c a n n o t , a n d w i l l n o t b e p o s s i b l e
o v e r n i g h t . W h i l e t h e s o f t w a r e c h a n g e s a r e n o t s o d i c u l t t o h a n d l e , i t i s i m p o r t a n t t o r e a l i z e t h a t
t h e r e w i l l b e m a n y h a r d w a r e c h a n g e s i n d a t a b a s e m a c h i n e s b e f o r e t h e y c a n b e p u t o n - l i n e i n a
h i g h s p e e d e n v i r o n m e n t . F o r i n s t a n c e , d a t a l t e r s t o r e a d d a t a i t e m s o n t h e y a s t h e y p a s s b y
t h e c o m p u t e r s i t e s ' r e a d h e a d s i s n o t a s t a n d a r d p r o c e d u r e y e t . F u r t h e r , w e p r o p o s e t o u s e t h e
d i s t r i b u t e d d a t a c y c l e s c h e m e t o h a n d l e r e a d s i n o u r a r c h i t e c t u r e . I n t h i s c a s e , t h e r e a r e m u l t i p l e
r e a d - h e a d s i n a s i n g l e m a c h i n e t h a t h a v e t o b e c o o r d i n a t e d q u i c k l y , a n d t h e h a r d w a r e r e q u i r e d i s
s t i l l n o t r e a d i l y a v a i l a b l e . T o r e a l i z e a n y i n c r e a s e i n t h e t r a n s a c t i o n t h r o u g h p u t w i t h a h i g h s p e e d
n e t w o r k , t h e C P U p r o c e s s i n g b o t t l e n e c k h a s t o b e r e s o l v e d .
T h e s e n d - o n - d e m a n d C C p r o t o c o l i s b y n o m e a n s a n o p t i m a l p r o t o c o l a s f a r a s m a x i m i z i n g
t h e t h r o u g h p u t o f a D D B S i n a h i g h s p e e d e n v i r o n m e n t i s c o n c e r n e d . I t i s s i m p l y o n e p r o t o c o l
t h a t p e r f o r m s b e t t e r t h a n t h e s t a n d a r d i z e d C C a l g o r i t h m s . T h e s e n d - o n - d e m a n d a l g o r i t h m i s
2 7
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 28/31
a l s o p r o p a g a t i o n d e l a y b o u n d , i . e . , i t s p e r f o r m a n c e d o e s n o t i m p r o v e w i t h t h e s p e e d o f t h e n e t w o r k
a f t e r a c e r t a i n t h r e s h o l d d a t a r a t e . F u r t h e r , a t l o w d a t a c o n t e n t i o n , t h e s t a n d a r d 2 - P L C C p r o t o c o l
p e r f o r m s b e t t e r t h a n s e n d - o n - d e m a n d b e c a u s e o f t h e o v e r h e a d o f t h e b r o a d c a s t p h a s e i n t h e l a t t e r .
T h u s , a C C a l g o r i t h m t h a t i s a h y b r i d o f t h e s e n d - o n - d e m a n d a n d l o c k i n g s c h e m e s m i g h t p r o v e t o
b e b e t t e r , a n d i s u n d e r a c t i v e c o n s i d e r a t i o n .
A s p a r t o f t h e f u t u r e w o r k , t h e o p e r a t i o n o f t h e s e n d - o n - d e m a n d p r o t o c o l i n t h e f a c e o f n e t w o r k
a n d c o m p u t e r s i t e f a i l u r e s i s b e i n g c o n s i d e r e d . T h e e e c t o f d i e r e n t d a t a g r a n u l a r i t y , d i e r e n t d a t a
a c c e s s d i s t r i b u t i o n s a n d m u l t i p l e c o p i e s o f d a t a i t e m s o n t h e p e r f o r m a n c e o f t h e s e n d - o n - d e m a n d
p r o t o c o l i s a l s o b e i n g l o o k e d a t . D a t a s e c u r i t y a n d n e t w o r k a r c h i t e c t u r e i s s u e s i n t h e c o n t e x t o f
t h i s n e w p r o t o c o l i s a l s o b e i n g s t u d i e d .
A c k n o w l e d g e m e n t s
T h e a u t h o r s w o u l d l i k e t o t h a n k t h e a n o n y m o u s r e v i e w e r s f o r t h e i r d e t a i l e d c o m m e n t s o n t h e
o r i g i n a l m a n u s c r i p t . T h e y w e r e o f g r e a t a s s i s t a n c e i n i m p r o v i n g t h e o v e r a l l p r e s e n t a t i o n o f t h i s
p a p e r .
A A n a l y s i s o f D D B S w i t h d a t a d e p e n d e n t t r a n s a c t i o n s
I n t h i s c a s e , t h e d a t a r e q u e s t f o r a d a t a i t e m c a n b e s e n t o u t t o t h e c o m p u t e r s i t e w h e r e i t r e s i d e s ,
o n l y a f t e r t h e p r e v i o u s d a t a i t e m h a s b e e n r e c e i v e d a n d r e a d b y t h e t r a n s a c t i o n i n i t i a t i o n s i t e . T h e
i d e n t i t y o f t h e n e x t d a t a i t e m i s u n k n o w n u n t i l t h e c u r r e n t d a t a i t e m i s r e a d a n d s o m e c o m p u t a t i o n s
d o n e . L e t
k
a n d
D
d e n o t e t h e s a m e r a n d o m v a r i a b l e s a s i n t h e a b o v e d i s c u s s i o n . N o w ,
k
=
k
X
i = 1
D
( 2 1 )
A g a i n , w e m a k e t h e a s s u m p t i o n t h a t t h e r a n d o m v a r i a b l e s
D
; : : : ;
D
k
a r e i n d e p e n d e n t a n d
i d e n t i c a l l y d i s t r i b u t e d w i t h t h e u n i f o r m d i s t r i b u t i o n s i n E q u a t i o n s 2 a n d 5 , a s t h e c a s e m a y b e .
U s i n g t h e c h a r a c t e r i s t i c f u n c t i o n o f t h e p . d . f f
( ) d e n o t e d b y
( s ) , t h e c h a r a c t e r i s t i c f u n c t i o n
o f
k
,
k
( s ) m a y b e c a l c u l a t e d a s b e l o w :
k
( s ) =
( s )
k
( 2 2 )
N o w , t h e r s t a n d s e c o n d m o m e n t o f
k
, v i z . ,
k
a n d
k 2
m a y b e c a l c u l a t e d b y s t a n d a r d p r o c e -
d u r e s . A s b e f o r e , E q u a t i o n 8 m a y b e u s e d t o c a l c u l a t e X a n d X
2
. T h e a v e r a g e r e s p o n s e t i m e o f a
q u e r y , R m a y b e c a l c u l a t e d a s i n E q u a t i o n 1 2 .
T h e r e s u l t s o f c o m p a r i s o n o f t h e d a t a c y c l e a n d t h e t r a d i t i o n a l s c h e m e f o r d e p e n d e n t - d a t a t r a n s -
a c t i o n s i s p r o v i d e d i n F i g . 1 7 w i t h t h e s a m e p a r a m e t e r s a s i n t h e p r e v i o u s s e c t i o n . A c o m p a r i s o n
2 8
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 29/31
0
200
400
600
800
1000
1200
0 2 4 6 8 10 12 14
Transaction Arrival Rate at a Site
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
1 Gbps 1.5 Gbps 2 Gbps
.... : Traditional Locking
F i g u r e 1 7 : C o m p a r i s o n o f d a t a c y c l e
a n d t r a d i t i o n a l l o c k i n g f o r a r e a d - o n l y
s y s t e m w i t h d a t a d e p e n d e n t t r a n s a c -
t i o n s : E
i
= 0
0
100
200
300
400
500
600
700
800
900
1000
0 2 4 6 8 10 12 14
**
*
*
*
*
*
* * * **
*
*
*
*
*
*
* * * * * * **
**
*
*
*
*
Transaction Arrival Rate at a Site
T r a n s a c t i o n R e s p o n s e
T i m e ( m s e c )
1 Gbps
1.5 Gbps
2 Gbps
* : Simulation Points
F i g u r e 1 8 : C o m p a r i s o n o f s i m u l a t i o n a n d
a n a l y s i s o f t h e d a t a c y c l e s c h e m e f o r a r e a d -
o n l y s y s t e m w i t h d a t a d e p e n d e n t t r a n s a c -
t i o n s : E
i
= 0
0
200
400
600
800
1000
1200
0 2 4 6 8 10 12
* * * **
**
*
*
*
*
*
Transaction Arrival Rate at a Site
T r a n s a c t i o n R e s p o n s e T i m e ( m s e c )
2 Gbps
* : Simulation Points
F i g u r e 1 9 : C o m p a r i s o n o f s i m u l a t i o n a n d
a n a l y s i s o f t r a d i t i o n a l l o c k i n g f o r a r e a d -
o n l y s y s t e m w i t h d a t a d e p e n d e n t t r a n s a c -
t i o n s : E
i
= 0
o f s i m u l a t i o n a n d a n a l y s i s f o r b o t h c a s e s i s p r e s e n t e d i n F i g u r e s 1 8 a n d 1 9 .
2 9
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 30/31
R e f e r e n c e s
1 ] W . L u k , X . W a n g , a n d F . L i n g , \ O n t h e C o m m u n i c a t i o n C o s t o f D i s t r i b u t e d D a t a b a s e P r o -
c e s s i n g , " i n P r o c e e d i n g s o f t h e I n t e r n a t i o n a l C o n f e r e n c e o n D i s t r i b u t e d C o m p u t i n g S y s t e m s ,
p p . 5 2 8 { 5 3 5 , 1 9 8 8 .
2 ] C . D a t e , A n I n t r o d u c t i o n t o D a t a b a s e S y s t e m s , v o l . I . A d d i s o n - W e s l e y , 4 e d . , 1 9 8 6 .
3 ] H . G a r c i a - M o l i n a , R . J . L i p t o n , a n d J . V a l d e s , \ A M a s s i v e M e m o r y M a c h i n e , " I E E E T r a n s -
a c t i o n s o n C o m p u t e r s , v o l . C - 3 3 , p p . 3 9 1 { 3 9 9 , M a y 1 9 8 4 .
4 ] A . A m m a n n , M . H a r a h a n , a n d R . K r i s h n a m u r t h y , \ D e s i g n o f a M e m o r y R e s i d e n t D B M S , " i n
P r o c e e d i n g s o f t h e I E E E S p r i n g C o m p u t e r C o n f e r e n c e C O M P C O N - 8 5 , ( S a n F r a n c i s c o , C a l i -
f o r n i a ) , p p . 5 4 { 5 7 , F e b r u a r y 1 9 8 5 .
5 ] D . D e w i t t , R . K a t z , F . O l k e n , L . S h a p i r o , M . S t o n e b r a k e r , a n d D . W o o d , \ I m p l e m e n t a t i o n
T e c h n i q u e s f o r M a i n M e m o r y D a t a b a s e S y s t e m s , " i n P r o c e e d i n g s o f t h e 1 9 8 4 A C M S I G M O D
C o n f e r e n c e , ( B o s t o n , M a s s a c h u s e t t s ) , p p . 1 { 8 , J u n e 1 9 8 4 .
6 ] M . H . E i c h , \ M A R S : T h e D e s i g n o f a M a i n M e m o r y D a t a b a s e M a c h i n e , " i n P r o c e e d i n g s o f t h e
I n t e r n a t i o n a l W o r k s h o p o n D a t a b a s e M a c h i n e s , p p . 4 6 8 { 4 8 1 , O c t o b e r 1 9 8 7 .
7 ] M . H . E i c h , \ M a i n M e m o r y D a t a b a s e R e s e a r c h D i r e c t i o n s , " i n P r o c e e d i n g s o f t h e S i x t h I n -
t e r n a t i o n a l W o r k s h o p o n D a t a b a s e M a c h i n e s ( H . B o r a l a n d P . F a u d e m a y , e d s . ) , ( D e a u v i l l e ,
F r a n c e ) , p p . 2 5 1 { 2 6 8 , S p r i n g e r - V e r l a g , J u n e 1 9 8 9 .
8 ] J . G r a y a n d F . P u t z o l u , \ T h e 5 - m i n u t e R u l e f o r T r a d i n g M e m o r y f o r D i s c A c c e s s e s a n d
t h e 1 0 - b y t e R u l e f o r T r a d i n g M e m o r y f o r C P U t i m e , " i n P r o c e e d i n g s o f t h e A C M S I G M O D
C o n f e r e n c e , ( S a n F r a n c i s c o , C a l i f o r n i a ) , p p . 3 9 5 { 3 9 8 , M a y 1 9 8 7 .
9 ] R . H a g m a n n , \ A C r a s h R e c o v e r y S c h e m e f o r a M e m o r y R e s i d e n t D a t a b a s e S y s t e m , " I E E E
T r a n s a c t i o n s o n C o m p u t e r s , v o l . C - 3 5 , p p . 8 3 9 { 8 4 3 , S e p t e m b e r 1 9 8 6 .
1 0 ] T . J . L e h m a n a n d M . J . C a r e y , \ A R e c o v e r y A l g o r i t h m f o r a H i g h P e r f o r m a n c e M e m o r y
R e s i d e n t D a t a b a s e S y s t e m , " i n P r o c e e d i n g s o f t h e A C M S I G M O D C o n f e r e n c e , ( S a n F r a n c i s c o ,
C a l i f o r n i a ) , p p . 1 0 4 { 1 1 7 , M a y 1 9 8 7 .
1 1 ] K . S a l e m a n d H . G a r c i a - M o l i n a , \ S y s t e m M : A T r a n s a c t i o n P r o c e s s i n g T e s t b e d f o r M e m o r y
R e s i d e n t D a t a , " I E E E T r a n s a c t i o n s o n K n o w l e d g e a n d D a t a E n g i n e e r i n g , v o l . 2 , p p . 1 6 1 { 1 7 2 ,
M a r c h 1 9 9 0 .
1 2 ] J . G r a y , B . G o o d , D . G a w l i c k , P . H o m a n , a n d H . S a m m e r , \ O n e T h o u s a n d T r a n s a c t i o n s
p e r S e c o n d , " i n P r o c e e d i n g s o f t h e I E E E S p r i n g C o m p u t e r C o n f e r e n c e C O M P C O N - 8 5 , ( S a n
F r a n c i s c o , C a l i f o r n i a ) , p p . 9 6 { 1 0 1 , F e b r u a r y 1 9 8 5 .
1 3 ] S . - C . S h y u , D e s i g n a n d P e r f o r m a n c e A n a l y s i s o f L o c k i n g A l g o r i t h m s f o r D i s t r i b u t e d D a t a b a s e s
P h D t h e s i s , U n i v e r s i t y o f S o u t h e r n C a l i f o r n i a , L o s A n g e l e s , C A 9 0 0 8 9 , D e c e m b e r 1 9 8 9 .
1 4 ] S . - C . S h y u a n d V . O . L i , \ P e r f o r m a n c e A n a l y s i s o f S t a t i c L o c k i n g i n D i s t r i b u t e d D a t a b a s e
S y s t e m s , " I E E E T r a n s a c t i o n s o n C o m p u t e r s , v o l . 3 9 , p p . 7 4 1 { 7 5 1 , J u n e 1 9 9 0 .
3 0
7/27/2019 HSNetwork for DSystems
http://slidepdf.com/reader/full/hsnetwork-for-dsystems 31/31
1 5 ] A . C h e n , D . B r i l l , M . T e m p l e t o n , a n d C . Y u , \ D i s t r i b u t e d Q u e r y P r o c e s s i n g i n a M u l t i p l e
D a t a b a s e S y s t e m , " I E E E J o u r n a l o n S e l e c t e d A r e a s i n C o m m u n i c a t i o n s , v o l . 7 , p p . 3 9 0 { 3 9 8 ,
A p r i l 1 9 8 9 .
1 6 ] M . T e m p l e t o n , D . B r i l l , S . D a o , E . L u n d , P . W a r d , A . C h e n , a n d R . M a c G r e g o r , \ M e r m a i d {
A F r o n t - E n d t o D i s t r i b u t e d H e t e r o g e n e o u s D a t a b a s e s , " P r o c e e d i n g s o f t h e I E E E , v o l . 7 5 ,
p p . 6 9 5 { 7 0 8 , M a y 1 9 8 7 .
1 7 ] C . Y u , K . G u h , D . B r i l l , a n d A . C h e n , \ P a r t i t i o n i n g R e l a t i o n f o r P a r a l l e l P r o c e s s i n g i n F a s t
L o c a l N e t w o r k s , " i n P r o c e e d i n g s o f t h e I E E E 1 9 8 6 P a r a l l e l P r o c e s s i n g , p p . 1 0 2 1 { 1 0 2 8 , 1 9 8 6 .
1 8 ] C . Y u , K . G u h , D . B r i l l , a n d A . C h e n , \ P a r t i t i o n S t r a t e g y f o r D i s t r i b u t e d Q u e r y P r o c e s s i n g
i n F a s t L o c a l N e t w o r k s , " I E E E T r a n s a c t i o n s o n S o f t w a r e E n g i n e e r i n g , v o l . 1 5 , p p . 7 8 0 { 7 9 3 ,
J u n e 1 9 8 9 .
1 9 ] C . Y u , K . G u h , C . C h a n g , C . C h e n , M . T e m p l e t o n , a n d D . B r i l l , \ A n A l g o r i t h m t o P r o c e s s
Q u e r i e s i n a F a s t D i s t r i b u t e d N e t w o r k , " i n P r o c e e d i n g s o f t h e I E E E 1 9 8 4 R e a l T i m e S y s t e m s
S y m p o s i u m , p p . 1 1 5 { 1 2 2 , 1 9 8 4 .
2 0 ] C . Y u , K . G u h , W . Z h a n g , M . T e m p l e t o n , a n d A . C . D . B r i l l , \ A l g o r i t h m s t o P r o c e s s
D i s t r i b u t e d Q u e r i e s i n F a s t L o c a l N e t w o r k s , " I E E E T r a n s a c t i o n s o n C o m p u t e r s , v o l . C - 3 6 ,
p p . 1 1 5 3 { 1 1 6 3 , O c t o b e r 1 9 8 7 .
2 1 ] P . S . Y u , D . C o r n e l l , D . M . D i a s , a n d A . T h o m a s i a n , \ O n C o u p l i n g P a r t i t i o n e d D a t a b a s e S y s -
t e m s , " i n P r o c e e d i n g s o f t h e 6 t h I n t e r n a t i o n a l C o n f e r e n c e o n D i s t r i b u t e d C o m p u t i n g S y s t e m s ,
( M a s s a c h u s e t t s ) , p p . 1 4 8 { 1 5 7 , M a y 1 9 8 6 .
2 2 ] M . T . O z s u a n d P . V a l d u r i e z , P r i n c i p l e s o f D i s t r i b u t e d D a t a b a s e S y s t e m s . P r e n t i c e H a l l , 1 9 9 1 .
2 3 ] J . D . U l l m a n , P r i n c i p l e s o f D a t a b a s e S y s t e m s . C o m p u t e r S c i e n c e P r e s s , s e c o n d e d . , 1 9 8 2 .
2 4 ] T . B o w e n , G . G o p a l , G . H e r m a n , a n d J . W i l l i a m M a n s e l d , \ A S c a l e D a t a b a s e A r c h i t e c t u r e
f o r N e t w o r k S e r v i c e s , " I E E E C o m m u n i c a t i o n s M a g a z i n e , v o l . 2 9 , p p . 5 2 { 5 9 , J a n u a r y 1 9 9 1 .
2 5 ] G . H e r m a n a n d G . G o p a l , \ T h e C a s e f o r O r d e r l y S h a r i n g , " i n S p r i n g e r V e r l a g L e c t u r e N o t e s
i n C o m p u t e r S c i e n c e o n H i g h P e r f o r m a n c e T r a n s a c t i o n S y s t e m s ( D . G a w l i c k , M . H a y n i e , a n d
A . R e u t e r , e d s . ) , p p . 1 4 8 { 1 7 4 , S p r i n g e r - V e r l a g , 1 9 8 9 .
2 6 ] G . H e r m a n , G . G o p a l , K . L e e , a n d A . W e i n r i b , \ T h e D a t a c y c l e A r c h i t e c t u r e f o r v e r y H i g h
T h r o u g h p u t D a t a b a s e S y s t e m s , " i n P r o c e e d i n g s o f t h e A C M , S I G M O D , p p . 9 7 { 1 0 3 , 1 9 8 7 .
2 7 ] A . W e i n r i b a n d G . G o p a l , \ D e c e n t r a l i z e d R e s o u r c e A l l o c a t i o n f o r D i s t r i b u t e d S y s t e m s , " i n
P r o c e e d i n g s o f I N F O C O M 8 7 , ( S a n F r a n c i s c o ) , p p . 3 2 8 { 3 3 6 , A p r i l 1 9 8 7 .
2 8 ] W . C e l l a r y , E . G e l e n b e , a n d T . M o r z y , C o n c u r r e n c y C o n t r o l i n D i s t r i b u t e d D a t a b a s e S y s t e m s
S t u d i e s i n C o m p u t e r S c i e n c e a n d A r t i c i a l I n t e l l i g e n c e , E l s e v i e r S c i e n c e P u b l i s h e r s , 1 9 8 8 .
2 9 ] L . K l e i n r o c k , Q u e u e i n g S y s t e m s , v o l . I : T h e o r y . M c G r a w H i l l , 1 9 6 0 .
3 0 ] J . G r a y , R . L o r i e , G . P u t z o l u , a n d I . T r a i g e r , \ G r a n u l a r i t y o f L o c k s a n d D e g r e e s o f C o n s i s t e n c y
i n a S h a r e d D a t a B a s e , " i n M o d e l l i n g i n D a t a B a s e M a n a g e m e n t S y s t e m s ( G . N i j s s e n , e d . ) ,
p p . 3 6 5 { 3 9 4 , A m s t e r d a m : N o r t h - H o l l a n d , 1 9 7 6 .