ijcai95 wsd

8/14/2019 IJCAI95 WSD

1/7

A W o r d N e t - b a s e d A l g o r i t h m f o r W o r d S e n s e D i s a m b i g u a t i o n

X i a o b i n L i

D e p a r t m e n t o f C o m p u t e r S c i e n c e

C o n c o r d i a U n i v e r s i t y

M o n t r e a l , Q u e b e c

C a n a d a H 3 G 1 M 8

x i a o b i n @ c s . c o n c o r d i a . c a

S t a n S z p a k o w i c z a n d S t a n M a t w i n

D e p a r t m e n t o f C o m p u t e r S c i e n c e

U n i v e r s i t y o f O t t a w a

O t t a w a , O n t a r i o

C a n a d a K 1 N 6 N 5

f s z p a k , s t a n g @ c s i . u o t t a w a . c a

A b s t r a c t

W e p r e s e n t a n a l g o r i t h m f o r a u t o m a t i c w o r d

s e n s e d i s a m b i g u a t i o n , b a s e d o n l e x i c a l k n o w l -

e d g e c o n t a i n e d i n W o r d N e t a n d o n t h e r e s u l t s

o f s u r f a c e - s y n t a c t i c a n a l y s i s . T h e a l g o r i t h m

i s p a r t o f a s y s t e m t h a t a n a l y z e s t e x t s i n o r -

d e r t o a c q u i r e k n o w l e d g e i n t h e p r e s e n c e o f a s

l i t t l e p r e - c o d e d s e m a n t i c k n o w l e d g e a s p o s s i -

b l e . O n t h e o t h e r h a n d , w e w a n t t o m a k e t h e

b e s t u s e o f p u b l i c - d o m a i n i n f o r m a t i o n s o u r c e s

s u c h a s W o r d N e t . R a t h e r t h a n d e p e n d o n l a r g e

a m o u n t s o f h a n d - c r a f t e d k n o w l e d g e o r s t a t i s -

t i c a l d a t a f r o m l a r g e c o r p o r a , w e u s e s y n t a c -

t i c i n f o r m a t i o n a n d i n f o r m a t i o n i n W o r d N e t

a n d m i n i m i z e t h e n e e d f o r o t h e r k n o w l e d g e

s o u r c e s i n t h e w o r d s e n s e d i s a m b i g u a t i o n p r o -

c e s s . W e p r o p o s e t o g u i d e d i s a m b i g u a t i o n b y

s e m a n t i c s i m i l a r i t y b e t w e e n w o r d s a n d h e u r i s -

t i c r u l e s b a s e d o n t h i s s i m i l a r i t y . T h e a l g o r i t h m

h a s b e e n a p p l i e d t o t h e C a n a d i a n I n c o m e T a x

G u i d e . T e s t r e s u l t s i n d i c a t e t h a t e v e n o n a r e l a -

t i v e l y s m a l l t e x t t h e p r o p o s e d m e t h o d p r o d u c e s

c o r r e c t n o u n m e a n i n g m o r e t h a n 7 2 % o f t h e

t i m e .

1 I n t r o d u c t i o n

T h i s w o r k i s p a r t o f t h e p r o j e c t t h a t a i m s a t a s y n e r -

g i s t i c i n t e g r a t i o n o f M a c h i n e L e a r n i n g a n d N a t u r a l L a n -

g u a g e P r o c e s s i n g . T h e l o n g - t e r m g o a l o f t h e p r o j e c t i s

a s y s t e m t h a t p e r f o r m s m a c h i n e l e a r n i n g o n t h e r e s u l t s

o f t e x t a n a l y s i s t o a c q u i r e a u s e f u l c o l l e c t i o n o f p r o d u c -

t i o n r u l e s . B e c a u s e s u c h a s y s t e m s h o u l d n o t r e q u i r e

e x t e n s i v e d o m a i n k n o w l e d g e u p f r o n t , t e x t a n a l y s i s i s

t o b e d o n e i n a k n o w l e d g e - s c a n t s e t t i n g a n d w i t h m i n -

i m a l u s e r i n v o l v e m e n t . A d o m a i n - i n d e p e n d e n t s u r f a c e -

s y n t a c t i c p a r s e r p r o d u c e s a n a n a l y s i s o f a t e x t f r a g m e n t

( u s u a l l y a s e n t e n c e ) t h a t u n d e r g o e s i n t e r a c t i v e s e m a n t i c

T h i s w o r k w a s d o n e w h i l e t h e r s t a u t h o r w a s w i t h t h e

K n o w l e d g e A c q u i s i t i o n a n d M a c h i n e L e a r n i n g g r o u p a t t h e

U n i v e r s i t y o f O t t a w a . T h e a u t h o r s a r e g r a t e f u l t o t h e N a t -

u r a l S c i e n c e s a n d E n g i n e e r i n g R e s e a r c h C o u n c i l o f C a n a d a

f o r h a v i n g s u p p o r t e d t h i s w o r k w i t h a S t r a t e g i c G r a n t N o .

S T R 0 1 1 7 7 6 4 .

i n t e r p r e t a t i o n . B y d e s i g n , w e o n l y n e e d t h e u s e r t o a p -

p r o v e t h e s y s t e m ' s n d i n g s o r p r o m p t i t f o r a l t e r n a t i v e s .

A l s o b y d e s i g n , w e l i m i t o u r s e l v e s t o i n f o r m a t i o n s o u r c e s

i n t h e p u b l i c d o m a i n : i n e x p e n s i v e d i c t i o n a r i e s a n d o t h e r

l e x i c a l s o u r c e s , s u c h a s W o r d N e t .

W o r d N e t M i l l e r , 1 9 9 0 ; B e c k w i t h e t a l . , 1 9 9 1 ] i s a v e r y

r i c h s o u r c e o f l e x i c a l k n o w l e d g e . S i n c e m o s t e n t r i e s h a v e

m u l t i p l e s e n s e s , w e f a c e a s e v e r e p r o b l e m o f a m b i g u i t y .

T h e m o t i v a t i o n f o r t h e w o r k d e s c r i b e d h e r e i s t h e d e s i r e

t o d e s i g n a w o r d s e n s e d i s a m b i g u a t i o n ( W S D ) a l g o r i t h m

t h a t s a t i s e s t h e n e e d s o f o u r p r o j e c t ( l e a r n i n g f r o m t e x t )

w i t h o u t l a r g e a m o u n t s o f h a n d - c r a f t e d k n o w l e d g e o r s t a -

t i s t i c a l d a t a f r o m l a r g e c o r p o r a . W e c o n c e n t r a t e o n u s i n g

i n f o r m a t i o n i n W o r d N e t t o t h e f u l l e s t e x t e n t a n d m i n i -

m i z i n g t h e n e e d f o r o t h e r k n o w l e d g e s o u r c e s i n t h e W S D

a l g o r i t h m . S e m a n t i c s i m i l a r i t y b e t w e e n w o r d s ( d e n e d

i n t h e n e x t s e c t i o n ) p l a y s a n i m p o r t a n t r o l e i n t h e a l g o -

r i t h m . W e p r o p o s e s e v e r a l h e u r i s t i c r u l e s t o g u i d e W S D .

T e s t e d o n a n u n r e s t r i c t e d , r e a l t e x t ( t h e C a n a d i a n I n -

c o m e T a x G u i d e ) , t h i s a u t o m a t i c W S D m e t h o d g i v e s

e n c o u r a g i n g r e s u l t s .

W o r d s e n s e d i s a m b i g u a t i o n i s e s s e n t i a l i n n a t u r a l l a n -

g u a g e p r o c e s s i n g . E a r l y s y m b o l i c m e t h o d s H i r s t , 1 9 8 7 ;

S m a l l a n d R i e g e r , 1 9 8 2 ; W i l k s , 1 9 7 5 ] h e a v i l y r e l y o n

l a r g e a m o u n t s o f h a n d - c r a f t e d k n o w l e d g e . A s a r e s u l t ,

t h e y c a n o n l y w o r k i n a s p e c i c d o m a i n . T o o v e r c o m e

t h i s w e a k n e s s , a v a r i e t y o f s t a t i s t i c a l W S D m e t h o d s

B r o w n e t a l . , 1 9 9 1 ; G a l e e t a l . , 1 9 9 2 ; R e s n i k , 1 9 9 2 ;

S c h u t z e , 1 9 9 2 ; C h a r n i a k , 1 9 9 3 ; L e h m a n , 1 9 9 4 ] h a v e b e e n

p u t f o r w a r d . T h e y s c a l e u p e a s i l y a n d t h i s m a k e s t h e m

u s e f u l f o r l a r g e , u n r e s t r i c t e d c o r p o r a . O n e o f t h e m o s t

i m p o r t a n t s t e p s i n s t a t i s t i c a l W S D m e t h o d s , h o w e v e r ,

i s s t a t i s t i c a l l y m o t i v a t e d e x t r a c t i o n o f w o r d - w o r d r e l a -

t i o n s h i p s f r o m c o r p o r a . A s R e s n i k p o i n t s o u t 1 9 9 3 ] ,

" t h e c o r p u s m a y f a i l t o p r o v i d e s u c i e n t i n f o r m a t i o n

a b o u t r e l e v a n t w o r d / w o r d r e l a t i o n s h i p s a n d w o r d / w o r d

r e l a t i o n s h i p s , e v e n t h o s e s u p p o r t e d b y t h e d a t a , m a y

n o t b e t h e a p p r o p r i a t e r e l a t i o n s h i p s t o l o o k a t f o r s o m e

t a s k s " . M o s t o f t h e s t a t i s t i c a l m e t h o d s s u e r f r o m t h i s

l i m i t a t i o n . R e s n i k p r o p o s e s c o n s t r a i n i n g t h e s e t o f p o s -

s i b l e w o r d c l a s s e s b y u s i n g W o r d N e t . R a t h e r t h a n i m -

p r o v i n g s t a t i s t i c a l a p p r o a c h e s R e s n i k , 1 9 9 3 ; S u s s n a ,

1 9 9 3 ; V o o r h e e s , 1 9 9 3 ] , w e p r o p o s e a c o m p l e t e l y d i e r -

e n t W o r d N e t - b a s e d a l g o r i t h m f o r W S D .

8/14/2019 IJCAI95 WSD

2/7

2 W o r d N e t a n d S e m a n t i c S i m i l a r i t y

W o r d N e t i s a l e x i c a l d a t a b a s e w i t h a r e m a r k a b l y b r o a d

c o v e r a g e . O n e o f i t s m o s t o u t s t a n d i n g q u a l i t i e s i s a

w o r d s e n s e n e t w o r k . A w o r d s e n s e n o d e i n t h i s n e t -

w o r k i s a g r o u p o f s t r i c t s y n o n y m s c a l l e d " s y n s e t " w h i c h

i s r e g a r d e d a s a b a s i c o b j e c t i n W o r d N e t . E a c h s e n s e

o f a w o r d i s m a p p e d t o s u c h a w o r d s e n s e n o d e ( i . e .

a s y n s e t ) i n W o r d N e t a n d a l l w o r d s e n s e n o d e s i n

W o r d N e t a r e l i n k e d b y a v a r i e t y o f s e m a n t i c r e l a t i o n -

s h i p s , s u c h a s I S - A ( h y p e r n y m y / h y p o n y m y ) , P A R T - O F

( m e r o n y m y / h o l o n y m y ) , s y n o n y m y a n d a n t o n y m y . T h e

I S - A r e l a t i o n s h i p i s d o m i n a n t { s y n s e t s a r e g r o u p e d b y

i t i n t o h i e r a r c h i e s . O u r a l g o r i t h m o n l y a c c e s s e s i n f o r m a -

t i o n a b o u t n o u n s a n d v e r b s , f o r w h i c h t h e r e e x i s t s u c h

l e x i c a l h i e r a r c h i e s .

I t h a s b e c o m e c o m m o n t o u s e s o m e m e a s u r e o f s e -

m a n t i c s i m i l a r i t y b e t w e e n w o r d s t o s u p p o r t w o r d s e n s e

d i s a m b i g u a t i o n R e s n i k , 1 9 9 2 ; S c h u t z e , 1 9 9 2 ] . I n t h i s

w o r k , w e h a v e a d o p t e d t h e f o l l o w i n g d e n i t i o n : s e m a n -

t i c s i m i l a r i t y b e t w e e n w o r d s i s i n v e r s e l y p r o p o r t i o n a l t o

t h e s e m a n t i c d i s t a n c e b e t w e e n w o r d s i n a W o r d n e t I S -

A h i e r a r c h y . B y i n v e s t i g a t i n g t h e s e m a n t i c r e l a t i o n s h i p s

b e t w e e n t w o g i v e n w o r d s i n W o r d N e t h i e r a r c h i e s , s e m a n -

t i c s i m i l a r i t y c a n b e m e a s u r e d a n d r o u g h l y d i v i d e d i n t o

t h e f o l l o w i n g f o u r l e v e l s :

L e v e l 1 : T h e w o r d s a r e s t r i c t s y n o n y m s a c c o r d i n g t o

W o r d N e t : o n e w o r d i s i n t h e s a m e s y n s e t a s t h e

o t h e r w o r d .

L e v e l 2 : T h e w o r d s a r e e x t e n d e d s y n o n y m s a c c o r d -

i n g t o W o r d N e t : o n e w o r d i s t h e i m m e d i a t e p a r e n t

n o d e o f t h e o t h e r w o r d i n a I S - A h i e r a r c h y o f W o r d -

N e t . W h e n u s e d t o g e t t h e s y n o n y m s o f a w o r d ,

W o r d N e t n o t o n l y p r o d u c e s t h e s t r i c t s y n o n y m s ( a

s y n s e t ) , b u t a l s o t h e i m m e d i a t e p a r e n t n o d e s o f t h i s

s y n s e t i n a I S - A h i e r a r c h y o f W o r d N e t . H e r e , t h e s e

i m m e d i a t e p a r e n t n o d e s a r e c a l l e d " e x t e n d e d s y n -

o n y m s " .

L e v e l 3 : T h e w o r d s a r e h y p o n y m s a c c o r d i n g t o W o r d -

N e t : o n e w o r d i s a c h i l d n o d e o f t h e o t h e r w o r d i n

a I S - A h i e r a r c h y o f W o r d N e t .

L e v e l 4 : T h e w o r d s h a v e a c o o r d i n a t e r e l a t i o n s h i p i n

W o r d N e t : a w o r d i s a s i b l i n g n o d e o f t h e o t h e r w o r d

( i . e . b o t h w o r d s h a v e t h e s a m e p a r e n t n o d e ) i n a

I S - A h i e r a r c h y o f W o r d N e t .

L e v e l 1 c o n c e r n s t h e s e m a n t i c s i m i l a r i t y b e t w e e n

w o r d s i n s i d e a s y n s e t ; L e v e l 2 - L e v e l 4 d e s c r i b e t h e s e -

m a n t i c s i m i l a r i t y b e t w e e n w o r d s t h a t b e l o n g t o d i e r e n t

s y n s e t s ( a s y n s e t w h i c h i s c o m p o s e d o f a g r o u p o f s t r i c t

s y n o n y m s i s a n o d e i n t h e h i e r a r c h y o f W o r d N e t ) . T h e

s e m a n t i c s i m i l a r i t y a t L e v e l 1 a n d L e v e l 4 a r e s y m m e t -

r i c , b u t t h e s e m a n t i c s i m i l a r i t y a t L e v e l 2 a n d L e v e l 3

a r e n o t s y m m e t r i c a l t h o u g h b o t h a r e a b o u t t h e r e l a t i o n

b e t w e e n a w o r d i n a c h i l d s y n s e t a n d a w o r d i n i t s p a r -

e n t s y n s e t . I n W o r d N e t , a p a r e n t s y n s e t i s c o n s i d e r e d a s

" e x t e n d e d s y n o n y m s " o f i t s i m m e d i a t e c h i l d s y n s e t , b u t

a c h i l d s y n s e t i s n o t a s y n o n y m o f i t s i m m e d i a t e c h i l d

s y n s e t a t a l l . F o r e x a m p l e , a p a r e n t s y n s e t " p o s s e s s i o n "

i s a n " e x t e n d e d s y n o n y m " o f i t s i m m e d i a t e c h i l d s y n s e t

" p r o p e r t y , b e l o n g i n g , h o l d i n g , m a t e r i a l p o s s e s s i o n " , b u t

a c h i l d s y n s e t " p r o p e r t y , b e l o n g i n g , h o l d i n g , m a t e r i a l

p o s s e s s i o n " i s n o t a s y n o n y m o f i t s i m m e d i a t e p a r e n t

s y n s e t " p o s s e s s i o n " a t a l l . U s i n g t h e i n f o r m a t i o n a b o u t

a p a r e n t s y n s e t t o d e c i d e t h e i n t e n d e d m e a n i n g o f a w o r d

i n i t s i m m e d i a t e c h i l d s y n s e t i s d i e r e n t f r o m u s i n g t h e

i n f o r m a t i o n a b o u t a c h i l d s y n s e t t o d e c i d e t h e i n t e n d e d

m e a n i n g o f a w o r d i n i t s i m m e d i a t e p a r e n t s y n s e t . S o

h e r e w e h a v e d i v i d e d t h e s e m a n t i c s i m i l a r i t y b e t w e e n a

p a r e n t s y n s e t a n d i t s i m m e d i a t e c h i l d s y n s e t i n t o t w o

l e v e l s ( L e v e l 2 a n d L e v e l 3 ) .

A l t h o u g h w e h a v e o n l y a p p l i e d t h e a l g o r i t h m t o W S D

o f n o u n o b j e c t s i n a t e x t ( i . e . n o u n s t h a t a r e o b j e c t s o f

v e r b s i n s e n t e n c e s a n a l y z e d b y t h e s y s t e m ) , i t c a n a l s o b e

a p p l i e d t o o t h e r n o u n p h r a s e s i n a s e n t e n c e , i n p a r t i c u l a r

s u b j e c t s .

I n t h i s a p p r o a c h , w e m u s t c o n s i d e r c o n t e x t s t h a t a r e

r e l e v a n t t o o u r m e t h o d a n d t h e s e m a n t i c s i m i l a r i t y i n

t h e s e c o n t e x t s .

F o r a l l p r a c t i c a l p u r p o s e s , t h e p o s s i b l e s e n s e s o f a w o r d

c a n b e f o u n d i n W o r d N e t , b u t d u e t o i t s e x t r e m e l y b r o a d

c o v e r a g e , m o s t w o r d s h a v e m u l t i p l e w o r d s e n s e s . A c o n -

t e x t m u s t b e c o n s i d e r e d i n o r d e r t o d e c i d e a p a r t i c u l a r

w o r d s e n s e . T h e n o t i o n o f c o n t e x t a n d i t s u s e c o u l d

d i e r w i d e l y a c r o s s W S D m e t h o d s . O n e m a y c o n s i d e r

a w h o l e t e x t , a 1 0 0 - w o r d w i n d o w , a s e n t e n c e o r s o m e

s p e c i c w o r d s n e a r b y , a n d s o o n . I n o u r w o r k , w e a s -

s u m e t h a t a g r o u p o f w o r d s c o - o c c u r r i n g i n a s e n t e n c e

w i l l d e t e r m i n e e a c h o t h e r ' s s e n s e d e s p i t e e a c h o f t h e m

b e i n g m u l t i p l y a m b i g u o u s . A s i m p l e a n d e e c t i v e w a y

i s t o c o n s i d e r a s c o n t e x t t h e v e r b s t h a t d o m i n a t e n o u n

o b j e c t s i n s e n t e n c e s . T h a t i s , w e i n v e s t i g a t e v e r b - n o u n

p a i r s t o d e t e r m i n e t h e i n t e n d e d m e a n i n g o f n o u n o b j e c t s

i n s e n t e n c e s .

I n t h i s w o r k , t h e n , w e f o c u s o n i n v e s t i g a t i n g t w o a s -

p e c t s o f s e m a n t i c s i m i l a r i t y :

T h e s e m a n t i c s i m i l a r i t y o f t h e n o u n o b j e c t s

T h e s e m a n t i c s i m i l a r i t y o f t h e i r v e r b c o n t e x t s

3 H e u r i s t i c R u l e s a n d C o n d e n c e o f

R e s u l t s

W e h a v e s e t o u t t o d e t e r m i n e t h e i n t e n d e d m e a n i n g o f a

n o u n o b j e c t i n a g i v e n v e r b c o n t e x t : f r o m a l l c a n d i d a t e

w o r d s e n s e s i n W o r d N e t o f t h e n o u n o b j e c t , s e l e c t o n e

s e n s e t h a t b e s t t s t h e g i v e n v e r b c o n t e x t .

S u p p o s e t h a t t h e a l g o r i t h m s e e k s t h e i n t e n d e d m e a n -

i n g o f a n o u n o b j e c t N O B J i n i t s v e r b c o n t e x t V C ( t h a t

i s , t h e i n t e n d e d m e a n i n g o f N O B J i n a v e r b - o b j e c t p a i r

( V C , N O B J ) ) . N O B J h a s n c a n d i d a t e w o r d s e n s e s i n

W o r d N e t . s ( k ) m e a n s t h e k t h w o r d s e n s e o f N O B J i n

W o r d N e t , 1 k n . S S m e a n s t h e s e m a n t i c s i m i l a r i t y b e -

t w e e n w o r d s i n a I S - A h i e r a r c h y o f W o r d N e t . A n a r r o w

i s u s e d t o d e s c r i b e t h e r e l a t i o n s h i p b e t w e e n w o r d s o r b e -

t w e e n a w o r d a n d i t s w o r d s e n s e . T h e h e u r i s t i c r u l e s

a d o p t e d i n t h e W S D a l g o r i t h m a r e a s f o l l o w s :

H e u r i s t i c R u l e 1 ( H R 1 ) : S e a r c h t h e t e x t f o r a

v e r b - o b j e c t p a i r ( V C , N O B J ' ) i n w h i c h N O B J ' h a s

t h e s e m a n t i c s i m i l a r i t y w i t h a w o r d s e n s e o f N O B J

i n W o r d N e t a n d t h e n c o n s i d e r t h i s w o r d s e n s e o f

N O B J a s a r e s u l t ( s e e F i g . 1 a n d t h e e x a m p l e i n

8/14/2019 IJCAI95 WSD

3/7

S T E P 2 a n d S T E P 3 o f t h e W S D a l g o r i t h m i n t h e

n e x t s e c t i o n ) .

condition

" ...... VC ...... NOBJ ......"

" ...... VC ...... NOBJ ......"

S(1) ... S(k) ... S(n)

condition

" ...... VC ...... NOBJ ......"

SS

consequence

" ...... VC ...... NOBJ ......"

Intended meaning in Text

S(k)

F i g u r e 1 : P r i n c i p l e o f H e u r i s t i c H R 1

H e u r i s t i c R u l e 2 ( H R 2 ) : S e a r c h t h e t e x t f o r a v e r b -

o b j e c t p a i r ( V C ' , N O B J ) i n w h i c h V C ' h a s t h e s e -

m a n t i c s i m i l a r i t y w i t h V C . I f t h e w o r d s e n s e o f

N O B J i n v e r b c o n t e x t V C ' h a s a l r e a d y b e e n a c -

q u i r e d , t h e n c o n s i d e r t h i s w o r d s e n s e a s a r e s u l t

( s e e F i g . 2 a n d t h e e x a m p l e i n S T E P 4 o f t h e W S D

a l g o r i t h m ) .

condition

" ...... VC ...... NOBJ ......"

SS

S(k)

" ...... VC...... NOBJ ......"


consequence

" ...... VC ...... NOBJ ......"

S(k)



H e u r i s t i c R u l e 3 ( H R 3 ) : S e a r c h t h e t e x t f o r a v e r b -

o b j e c t p a i r ( V C ' , N O B J ' ) i n w h i c h V C ' h a s t h e s e -

m a n t i c s i m i l a r i t y w i t h V C a n d N O B J ' h a s t h e s e -

m a n t i c s i m i l a r i t y w i t h a w o r d s e n s e o f N O B J i n

W o r d N e t . T h e n c o n s i d e r t h i s w o r d s e n s e a s a r e -

s u l t ( s e e F i g . 3 a n d t h e e x a m p l e i n S T E P 5 a n d

S T E P 6 o f t h e W S D a l g o r i t h m ) .

O b v i o u s l y , H R 2 i s n o t a l w a y s f e a s i b l e a n d i t j u s t c o n -

t r i b u t e s t o t h e i n f e r e n c e o f f u r t h e r r e s u l t s b a s e d o n t h e

p r e v i o u s l y a c q u i r e d r e s u l t s . H R 3 i n f e r s r e s u l t s w i t h a

w e a k e r c o n s t r a i n t o n t h e s e m a n t i c s i m i l a r i t y b e t w e e n

v e r b - o b j e c t p a i r s . H R 1 i s t h e m a i n h e u r i s t i c r u l e i n t h e

a l g o r i t h m .

B e s i d e s t h e h e u r i s t i c r u l e s b a s e d o n t h e s e m a n t i c s i m -

i l a r i t y b e t w e e n v e r b - o b j e c t p a i r s , s p e c i a l h e u r i s t i c r u l e s

r e l a t e d t o t h e s y n t a c t i c s t r u c t u r e h a v e a l s o b e e n f o r m u -

l a t e d t o a s s i s t w o r d s e n s e d i s a m b i g u a t i o n ; s e e G r e f e n -

s t e t t e a n d H e a r s t , 1 9 9 2 ] f o r a s i m i l a r a p p r o a c h .

condition

SS

S(1) ... S(k) ... S(n)

SS

" ...... VC ...... NOBJ ......"

" ...... VC ...... NOBJ ......"

consequence

" ...... VC ...... NOBJ ......"

S(k)



H e u r i s t i c R u l e 4 ( H R 4 ) : S e a r c h t h e t e x t f o r a

" s u c h a s " s t r u c t u r e w h i c h f o l l o w s t h e v e r b - o b j e c t

p a i r ( V C , N O B J ) i n t h e t e x t . T h e o b j e c t N O B J ' o f

" s u c h a s " c e r t a i n l y h a s a s y n o n y m o r h y p o n y m r e -

l a t i o n s h i p w i t h a w o r d s e n s e o f N O B J i n W o r d N e t .

T h e n c o n s i d e r t h i s w o r d s e n s e a s a r e s u l t ( s e e F i g . 4

a n d t h e e x a m p l e i n S T E P 7 o f t h e W S D a l g o r i t h m

i n t h e n e x t s e c t i o n ) .

condition

SS

" ...... VC ...... NOBJ, such as NOBJ ......"

S(1) ... S(k) ... S(n)

consequence

" ...... VC ...... NOBJ, such as NOBJ ......"


S(k)


H e u r i s t i c R u l e 5 ( H R 5 ) : S e a r c h t h e t e x t f o r a V P

c o o r d i n a t e s t r u c t u r e s u c h a s e i t h e r " V C a n d V C ' "

o r " V C o r V C ' " w h i c h h a s t h e n o u n o b j e c t N O B J .

I f t h e w o r d s e n s e o f N O B J i n t h e v e r b c o n t e x t V C '

h a s a l r e a d y b e e n a c q u i r e d , t h e n c o n s i d e r t h i s w o r d

s e n s e a s a r e s u l t ( s e e F i g . 5 a n d t h e e x a m p l e i n

S T E P 8 o f t h e W S D a l g o r i t h m ) .

H R 4 o n l y a i m s a t o n e k i n d o f s p e c i a l c a s e s a n d i t s

c o v e r a g e i s l i m i t e d . H R 5 , l i k e H R 2 , a l s o d e p e n d s o n p r e -

v i o u s l y a c q u i r e d r e s u l t s , b u t i t s c o v e r a g e i s m o r e l i m i t e d .

B e c a u s e t h e r e s u l t s a c q u i r e d b y a p p l y i n g d i e r e n t

h e u r i s t i c r u l e s h a v e d i e r e n t a c c u r a c y , w e h a v e t o d e -

n e t h e m e a s u r e o f c o n d e n c e i n t h e r e s u l t ( " C F " f o r

s h o r t ) a c c o r d i n g t o d i e r e n t h e u r i s t i c r u l e s a n d d i e r -

e n t s e m a n t i c s i m i l a r i t y a d o p t e d i n t h e s e r u l e s . I n o u r

a l g o r i t h m , t h e a s s i g n m e n t o f C F v a l u e s i n t u i t i v e l y c o r -

r e s p o n d s t o o u r n o t i o n o f d e c r e a s i n g s e m a n t i c s i m i l a r i t y

( t h e t e s t o f t h e v i a b i l i t y o f t h i s i n t u i t i v e a s s i g n m e n t h a s

b e e n s h o w n i n s e c t i o n 5 ) . T h e C F v a l u e s a r e n u m b e r s

b e t w e e n 0 a n d 1 . T h e a s s i g n m e n t o f C F v a l u e s t o l e v e l s

i s a r b i t r a r y , b u t i t h a s s e r v e d u s w e l l s o f a r . B e c a u s e

8/14/2019 IJCAI95 WSD

4/7

condition

" ...... VC ...... NOBJ ......"

S(1) ... S(k) ... S(n)

" ...... VC...... NOBJ ......"

S(k)

" ...... VC ...... NOBJ ......"

consequence



" ...... VC and / or VC ...... NOBJ ......" )( In Text


t h e W S D p r o c e s s h e r e i s n e v e r c o m p l e t e d o n l y b a s e d o n

L e v e l 1 s e m a n t i c s i m i l a r i t y b e t w e e n w o r d s , w e h a v e d e -

n e d t h e C F v a l u e s a s n u m b e r s b e t w e e n 0 a n d 1 ( 0 C F

1 ) . T h e a s s i g n m e n t o f C F v a l u e s i s s h o w n a s f o l l o w s :

C F = 1 . 0 : T h e r e s u l t s a c q u i r e d b y a p p l y i n g H R 1 ;

N O B J h a s o n l y o n e w o r d s e n s e i n W o r d N e t .

C F = 0 . 9 : T h e r e s u l t s a c q u i r e d b y

{ a p p l y i n g H R 1 a n d c o n s i d e r i n g t h e s y n o n y m y

o r h y p o n y m y r e l a t i o n s h i p b e t w e e n N O B J a n d

N O B J ' i n H R 1 .

{ a p p l y i n g H R 4 .

C F = 0 . 8 : T h e r e s u l t s a c q u i r e d b y a p p l y i n g H R 1

a n d c o n s i d e r i n g t h e c o o r d i n a t e r e l a t i o n s h i p b e t w e e n

N O B J a n d N O B J ' i n H R 1 .

C F = 0 . 7 : T h e r e s u l t s a c q u i r e d b y a p p l y i n g

H R 2 a n d c o n s i d e r i n g t h e p r e v i o u s l y o b t a i n e d r e s u l t s

w h o s e C F i s 0 . 9 o r 0 . 8 i n H R 2 .


a n d c o n s i d e r i n g t h e s y n o n y m o r t h e h y p o n y m r e l a -

t i o n s h i p b e t w e e n N O B J a n d N O B J ' i n H R 3 .


a n d c o n s i d e r i n g t h e c o o r d i n a t e r e l a t i o n s h i p b e t w e e n

N O B J a n d N O B J ' i n H R 3 .

I n t h e a l g o r i t h m , H R 1 i s a l w a y s a p p l i e d r s t , t h e n

H R 2 a n d n a l l y H R 3 . B o t h H R 4 a n d H R 5 a r e a p p l i e d

l a t e r t h a n t h e r s t t h r e e h e u r i s t i c r u l e s b e c a u s e b o t h

H R 4 a n d H R 5 a r e o n l y a p p l i c a b l e i n f e w c a s e s . T h e h i g h

s e m a n t i c s i m i l a r i t y b e t w e e n w o r d s i s a l w a y s c o n s i d e r e d

e a r l i e r t h a n l o w s e m a n t i c s i m i l a r i t y . T h e r e s u l t s w i t h

h i g h e r C F v a l u e s a r e u s u a l l y a c q u i r e d b y t h e a l g o r i t h m

e a r l y .

4 W S D a l g o r i t h m

I n t h i s s e c t i o n , w e g i v e a d e t a i l e d d e s c r i p t i o n o f t h e W S D

a l g o r i t h m a n d i l l u s t r a t e i t w i t h e x a m p l e s .

S u p p o s e a n o u n W n h a s n w o r d s e n s e s i n W o r d N e t .

I n a t e x t , w e a r e g o i n g t o d e c i d e t h e i n t e n d e d m e a n i n g

o f t h e n o u n o b j e c t W n i n i t s v e r b c o n t e x t W v o r i n a

v e r b - o b j e c t p a i r ( W v , W n ) .

H e r e , s e n s e ( W n , k ) m e a n s t h e k t h s e n s e o f W n i n

W o r d N e t ( 0 k 1 ) ; s y n o n y m y b e t w e e n w o r d s m e a n s

t h a t o n e w o r d i s i n t h e s a m e s y n s e t a s a n o t h e r w o r d

o r i s a i m m e d i a t e p a r e n t n o d e o f a n o t h e r w o r d i n W o r d -

N e t ' s I S - A h i e r a r c h y . H y p o n y m y b e t w e e n w o r d s m e a n s

t h a t o n e w o r d i s a c h i l d n o d e o f a n o t h e r w o r d . A c o o r d i -

n a t e r e l a t i o n s h i p m e a n s t h a t o n e w o r d i s a s i b l i n g n o d e

o f a n o t h e r w o r d . T h e c o n d e n c e i n a r e s u l t i s d e n e d a s

a n u m b e r C F ( 0 C F 1 )

W S D A l g o r i t h m

T h e a l g o r i t h m a t t e m p t s t o d i s a m b i g u a t e a g i v e n w o r d

i n e i g h t w a y s b y g o i n g t h r o u g h e i g h t s t e p s . I f a n y s t e p

s u c c e e d s , t h e r e m a i n i n g o n e s a r e s k i p p e d .

S T E P 1

S e a r c h f o r W n i n W o r d N e t . I f W n o n l y h a s o n e s e n s e ,

s e n s e ( W n , 1 ) , i n W o r d N e t , t h e m e a n i n g o f W n i n i t s

v e r b c o n t e x t W v i s s e n s e ( W n , 1 ) . T h e c o n d e n c e i n t h i s

r e s u l t i s 1 .

F o r e x a m p l e , s u p p o s e W n = " i n c o m e " . I t o n l y h a s o n e

s e n s e i n W o r d N e t , d e n o t e d s e n s e ( i n c o m e , 1 ) ; t h i s s e n s e

i s g i v e n a s " n a n c i a l g a i n " . T h e m e a n i n g o f " i n c o m e "

i n a n y o f i t s v e r b c o n t e x t s i s s e n s e ( i n c o m e , 1 ) . T h e c o n -

d e n c e i n t h i s r e s u l t i s 1 .

S T E P 2

F i n d a v e r b - o b j e c t p a i r ( W v , W n ' ) i n t h e p a r s e d t e x t

a n d W n ' i s s y n o n y m o u s o r h y p o n y m o u s w i t h s e n s e ( W n ,

k ) 1 k n . T h e m e a n i n g o f W n i n i t s v e r b c o n t e x t W v

i s s e n s e ( W n , k ) . T h e c o n d e n c e i n t h i s r e s u l t i s 0 . 9 .

F o r e x a m p l e , s u p p o s e W n = " c o n t r i b u t i o n " a n d W v

= " c a l c u l a t e " . " c o n t r i b u t i o n " h a s 5 s e n s e s i n W o r d -

N e t . A v e r b - o b j e c t p a i r " c a l c u l a t e a m o u n t " c a n b e

f o u n d i n t h e t e x t a n d " a m o u n t " i s s y n o n y m o u s w i t h

s e n s e ( c o n t r i b u t i o n , 3 ) ; t h i s s e n s e i s g i v e n a s " a n a m o u n t

o f m o n e y c o n t r i b u t e d " . T h e m e a n i n g o f " c o n t r i b u t i o n "

i n i t s v e r b c o n t e x t " c a l c u l a t e " i s s e n s e ( c o n t r i b u t i o n , 3 ) .

S T E P 3

T h e s a m e a s S T E P 2 , b u t w i t h a c o o r d i n a t e r e l a t i o n -

s h i p i n s t e a d o f s y n o n y m y o r h y p o n y m y b e t w e e n W n '

a n d s e n s e ( W n , k ) 1 k n . T h e c o n d e n c e i n t h i s r e -

s u l t i s 0 . 8 .

F o r e x a m p l e , s u p p o s e W n = " e x p e n s e " a n d W v =

" s u b t r a c t " . " e x p e n s e " h a s 2 s e n s e s i n W o r d N e t . A

v e r b - o b j e c t p a i r " s u b t r a c t g r a n t " c a n b e f o u n d i n t h e

t e x t a n d " g r a n t " h a s a c o o r d i n a t e r e l a t i o n s h i p w i t h

s e n s e ( e x p e n s e , 1 ) ; t h i s s e n s e i s g i v e n a s " a p o s s e s s i o n

w h o s e o w n e r s h i p h a s c h a n g e d " . T h e m e a n i n g o f " e x -

p e n s e " i n i t s v e r b c o n t e x t " s u b t r a c t " i s s e n s e ( e x p e n s e ,

1 )

8/14/2019 IJCAI95 WSD

5/7

S T E P 4

F i n d i n t h e p a r s e d t e x t a v e r b - o b j e c t p a i r ( W v ' , W n )

i n w h i c h W v ' h a s a s y n o n y m y , h y p o n y m y o r c o o r d i n a t e

r e l a t i o n s h i p w i t h W v a n d t h e w o r d s e n s e o f W n i n i t s

v e r b c o n t e x t W v ' h a s a l r e a d y b e e n a c q u i r e d ( s u p p o s e i t

i s s e n s e ( W n , k ) 1 k n ) . T h e m e a n i n g o f W n i n i t s v e r b

c o n t e x t W v i s a l s o s e n s e ( W n , k ) . T h e c o n d e n c e i n t h i s

r e s u l t i s 0 . 7 .

F o r e x a m p l e , s u p p o s e W n = " c o n t r i b u t i o n " a n d W v =

" p r o r a t e " . " c o n t r i b u t i o n " h a s 6 s e n s e s i n W o r d N e t . A

v e r b - o b j e c t p a i r " c a l c u l a t e c o n t r i b u t i o n " c a n b e f o u n d

i n t h e t e x t a n d " c a l c u l a t e " h a s a s y n o n y m r e l a t i o n s h i p

w i t h " p r o r a t e " . T h e m e a n i n g o f " c o n t r i b u t i o n " i n i t s

v e r b c o n t e x t " c a l c u l a t e " h a s a l r e a d y b e e n a c q u i r e d ( i t i s

s e n s e ( c o n t r i b u t i o n , 3 ) , s e e t h e e x a m p l e i n S T E P 2 ) . T h e

m e a n i n g o f " c o n t r i b u t i o n " i n i t s v e r b c o n t e x t " p r o r a t e "

i s a l s o s e n s e ( c o n t r i b u t i o n , 3 ) .

S T E P 5

F i n d i n t h e p a r s e d t e x t a v e r b - o b j e c t p a i r ( W v ' , W n ' ) i n

w h i c h W v ' h a s a s y n o n y m y , h y p o n y m y o r c o o r d i n a t e r e -

l a t i o n s h i p w i t h W v a n d W n ' h a s a s y n o n y m o r h y p o n y m

r e l a t i o n s h i p w i t h s e n s e ( W n , k ) 1 k n . T h e m e a n i n g o f

W n i n i t s v e r b c o n t e x t W v i s s e n s e ( W n , k ) . T h e c o n -

d e n c e i n t h i s r e s u l t i s 0 . 6 .

F o r e x a m p l e , s u p p o s e W n = " d e d u c t i o n " a n d W v =

" c a l c u l a t e " . " d e d u c t i o n " h a v e s e v e n s e n s e s i n W o r d N e t .

A v e r b - o b j e c t p a i r " s u b t r a c t a l l o w a n c e " c a n b e f o u n d

i n t h e t e x t . " s u b t r a c t " i s s y n o n y m o u s w i t h " c a l c u l a t e "

a n d " a l l o w a n c e " i s s y n o n y m o u s w i t h s e n s e ( d e d u c t i o n ,

3 ) ; t h i s s e n s e i s g i v e n a s " a n a m o u n t o r p e r c e n t a g e d e -

d u c t e d " . T h e m e a n i n g o f " d e d u c t i o n " i n i t s v e r b c o n t e x t

" c a l c u l a t e " i s s e n s e ( d e d u c t i o n , 3 ) .

S T E P 6

T h e s a m e a s S T E P 5 , b u t w i t h a c o o r d i n a t e r e l a t i o n -

s h i p i n s t e a d o f s y n o n y m y o r h y p o n y m y b e t w e e n W n '

a n d s e n s e ( W n , k ) 1 k n . T h e c o n d e n c e i n t h i s r e -

s u l t i s 0 . 5 .

F o r e x a m p l e , W n = " i n v e s t m e n t " a n d W v = " l i s t " . " i n -

v e s t m e n t " h a s 3 s e n s e s i n W o r d N e t . A v e r b - o b j e c t p a i r

" e n t e r c r e d i t " c a n b e f o u n d i n t h e t e x t . " e n t e r " h a s a

c o o r d i n a t e r e l a t i o n s h i p w i t h " l i s t " a n d " c r e d i t " h a s a

c o o r d i n a t e r e l a t i o n s h i p w i t h s e n s e ( i n v e s t m e n t , 1 ) ; t h i s

s e n s e i s g i v e n a s " a n y v a l u a b l e o r u s e f u l p o s s e s s i o n " .

T h e m e a n i n g o f " i n v e s t m e n t " i n i t s v e r b c o n t e x t " l i s t "

i s s e n s e ( i n v e s t m e n t 1 ) .

S T E P 7

F i n d i n t h e p a r s e d t e x t a " s u c h a s " s t r u c t u r e t h a t f o l -

l o w s t h e v e r b - o b j e c t p a i r ( W v , W n ) i n t h e t e x t a n d t h e

o b j e c t W n ' o f t h i s " s u c h a s " s t r u c t u r e i s s y n o n y m o u s o r

h y p o n y m o u s w i t h s e n s e ( W n , k ) 1 k n . T h e m e a n i n g

o f W n i n i t s v e r b c o n t e x t W v i s s e n s e ( W n , k ) . T h e c o n -

d e n c e i n t h i s r e s u l t i s 0 . 9 .

F o r e x a m p l e , s u p p o s e W n = " p r o p e r t y " a n d W v =

" s e l l " . " p r o p e r t y " h a s 5 s e n s e s i n W o r d N e t . A s t r u c -

t u r e " s u c h a s r e a l e s t a t e " c a n b e f o u n d i n t h e t e x t w h i c h

f o l l o w s " s e l l p r o p e r t y " i n t h e t e x t ( t h a t i s , " . . . s e l l p r o p -

e r t y , s u c h a s r e a l e s t a t e . . . " ) a n d t h e o b j e c t " r e a l e s -

t a t e " o f t h i s " s u c h a s " s t r u c t u r e i s h y p o n y m o u s w i t h

s e n s e ( p r o p e r t y , 1 ) ; t h i s s e n s e i s g i v e n a s " a n y t a n g i b l e

p o s s e s s i o n t h a t i s o w n e d b y s o m e o n e " . T h e m e a n i n g o f

" p r o p e r t y " i n i t s v e r b c o n t e x t " s e l l " i s s e n s e ( p r o p e r t y ,

1 )

S T E P 8

F i n d i n t h e p a r s e d t e x t a c o o r d i n a t e v e r b p h r a s e s t r u c -

t u r e " W v a n d W v ' " o r " W v o r W v ' " w h o s e n o u n o b j e c t

i s W n a n d t h e m e a n i n g o f W n i n i t s v e r b c o n t e x t W v '

h a s a l r e a d y b e e n a c q u i r e d ( s u p p o s e i t i s s e n s e ( W n , k )

1 k n ) . T h e m e a n i n g o f W n i n i t s v e r b c o n t e x t W v i s

a l s o s e n s e ( W n , k ) . T h e c o n d e n c e i n t h i s r e s u l t i s t h e

s a m e a s f o r t h e v e r b c o n t e x t W v ' .

F o r e x a m p l e , s u p p o s e W n = " p r o p e r t y " a n d W v = " d i s -

p o s e o f " . " p r o p e r t y " h a s 5 s e n s e s i n W o r d N e t . I n t h e

t e x t , a V P c o o r d i n a t e s t r u c t u r e " d i s p o s e o f o r s e l l "

w h o s e n o u n o b j e c t i s " p r o p e r t y " h a s b e e n f o u n d ( t h a t

i s , t h e r e i s " . . . d i s p o s e o f o r s e l l p r o p e r t y . . . " i n t h e t e x t )

a n d t h e m e a n i n g o f " p r o p e r t y " i n i t s v e r b c o n t e x t " s e l l "

h a s a l r e a d y b e e n a c q u i r e d ( i t i s s e n s e ( p r o p e r t y , 1 ) w i t h

t h e c o n d e n c e 0 . 9 , s e e t h e e x a m p l e i n S T E P 7 ) , t h e n t h e

m e a n i n g o f " p r o p e r t y " i n i t s v e r b c o n t e x t " d i s p o s e o f "

i s a l s o s e n s e ( p r o p e r t y , 1 ) . T h e c o n d e n c e i n t h i s r e s u l t

i s a l s o 0 . 9 .

5 E v a l u a t i o n

T h e W S D a l g o r i t h m h a s b e e n i m p l e m e n t e d i n P r o l o g

a n d t e s t e d o n t h e C a n a d i a n I n c o m e T a x G u i d e . T h i s

t e x t c o n t a i n s 1 7 9 7 s e n t e n c e s i n w h i c h t h e r e a r e 5 9 3 d i f -

f e r e n t v e r b - o b j e c t p a i r s . T h e s e p a i r s e m p l o y 1 7 3 d i e r -

e n t n o u n - o b j e c t s , s o t h e a v e r a g e n o u n - o b j e c t a p p e a r s i n

t h e t e x t i n m o r e t h a n t h r e e v e r b c o n t e x t s . T h e r e a r e 7 0

n o u n - o b j e c t s w h i c h h a v e t h r e e o r m o r e v e r b c o n t e x t s i n

t h e t e x t . A m o n g s u c h 7 0 n o u n - o b j e c t s , 6 0 n o u n - o b j e c t s

h a v e m o r e t h a n o n e s e n s e i n W o r d N e t .

W e h a v e c a r r i e d o u t a p o s t h o c e v a l u a t i o n o f t h e r e -

s u l t s , b a s e d o n a m a n u a l a s s e s s m e n t o f t h e a l g o r i t h m ' s

o u t p u t . A n o t h e r a p p r o a c h , w h i c h w e i n t e n d t o u s e i n

f u r t h e r t e s t s o f t h e W S D a l g o r i t h m i n a d d i t i o n t o p o s t

h o c a n a l y s i s , i s t o m a r k n o u n s i n a p o r t i o n o f t e x t i n

a d v a n c e a n d m e a s u r e t h e n u m b e r o f m a t c h e s .

T h e e v a l u a t i o n o f t h e W S D a l g o r i t h m h a s b e e n d o n e

o n a t e s t o f 3 9 7 c a s e s : w e d e t e r m i n e d t h e i n t e n d e d m e a n -

i n g s o f 6 0 n o u n - o b j e c t s i n 3 9 7 d i e r e n t v e r b c o n t e x t s .

T h e W S D p r o g r a m m a y g i v e v e p o s s i b l e r e s u l t s :

O n e c o r r e c t s o l u t i o n { o n e r e a s o n a b l e m e a n i n g o f

t h e n o u n o b j e c t h a s b e e n s e l e c t e d b y t h e W S D a l -

g o r i t h m .

F o r e x a m p l e , f o r t h e p a i r " r e p o r t l o s s " , o n l y o n e

s e n s e a m o n g 6 c a n d i d a t e w o r d s e n s e s i n W o r d N e t ,

s e n s e ( l o s s , 2 ) , h a s b e e n s e l e c t e d b y t h e W S D a l g o -

r i t h m a s t h e i n t e n d e d m e a n i n g o f " l o s s " i n t h e v e r b

c o n t e x t " r e p o r t " .

S e n s e 2

l o s s { ( f a i l u r e t o r e t a i n p o s s e s s i o n ; " t h e c o m p a n y

8/14/2019 IJCAI95 WSD

6/7

w r o t e o i t s l o s s e s " )

) t r a n s f e r r e d p r o p e r t y , t r a n s f e r r e d p o s s e s s i o n

C o r r e c t m u l t i p l e s o l u t i o n s { m o r e t h a n o n e r e a s o n -

a b l e m e a n i n g o f t h e n o u n o b j e c t h a s b e e n s e l e c t e d

b y t h e W S D a l g o r i t h m . B e c a u s e s o m e v e r b s c a n n o t

p u t s t r o n g r e s t r i c t i o n s o n t h e i r o b j e c t s , i t i s p o s s i -

b l e t h a t s e v e r a l w o r d s e n s e s o f a n o u n o b j e c t a r e a l l

r e a s o n a b l e i n t h e v e r b c o n t e x t .

F o r e x a m p l e , f o r t h e v e r b - o b j e c t " c l a i m c h a r g e " ,

a m o n g 1 3 c a n d i d a t e w o r d s e n s e s i n W o r d N e t , t w o

w o r d s e n s e s o f " c h a r g e " h a v e b e e n s e l e c t e d b y t h e

a l g o r i t h m a s t h e i n t e n d e d m e a n i n g o f " c h a r g e " i n

t h e v e r b c o n t e x t " c l a i m " : s e n s e ( c h a r g e , 1 ) a n d

s e n s e ( c h a r g e , 2 ) . I n f a c t , b o t h a r e r e a s o n a b l e i n

t h e v e r b c o n t e x t " c l a i m " .

S e n s e 1

c h a r g e { ( a n a n c i a l l i a b i l i t y ; s u c h a s a t a x )

) l i a b i l i t y , n a n c i a l o b l i g a t i o n , i n d e b t e d n e s s , p e c u -

n i a r y o b l i g a t i o n

S e n s e 2

c h a r g e { ( t h e p r i c e c h a r g e d f o r s o m e a r t i c l e o r s e r -

v i c e )

) c o s t , p r i c e , t e r m s , d a m a g e

P a r t i a l l y c o r r e c t s o l u t i o n s { m o r e t h a n o n e w o r d

s e n s e o f t h e n o u n o b j e c t h a s b e e n s e l e c t e d b y t h e

W S D a l g o r i t h m . A m o n g t h o s e , a t l e a s t , t h e r e i s

t h e c o r r e c t w o r d s e n s e t h a t i s r e a s o n a b l e i n t h e v e r b

c o n t e x t .

F o r e x a m p l e , f o r t h e v e r b - o b j e c t p a i r " a t t a c h r e -

c e i p t " , a m o n g t h r e e c a n d i d a t e w o r d s e n s e s , t w o

w o r d s e n s e s o f " r e c e i p t " h a v e b e e n s e l e c t e d b y t h e

W S D a l g o r i t h m a s t h e i n t e n d e d m e a n i n g o f " r e -

c e i p t " i n t h e v e r b c o n t e x t " a t t a c h " : s e n s e ( r e c e i p t , 2 )

a n d s e n s e ( r e c e i p t , 3 ) . I n f a c t , o n l y s e n s e ( r e c e i p t , 2 )

i s r e a s o n a b l e i n t h e v e r b c o n t e x t " a t t a c h " .

S e n s e 2

r e c e i p t , a c k n o w l e d g m e n t , a c k n o w l e d g e m e n t

) c o m m e r c i a l d o c u m e n t , c o m m e r c i a l i n s t r u m e n t

S e n s e 3

r e c e p t i o n , r e c e i p t , r e c e i v i n g { ( t h e a c t o f r e c e i v i n g )

) a c q u i s i t i o n , a c q u i r i n g , t a k i n g

W r o n g s o l u t i o n { t h e m e a n i n g s o f t h e n o u n o b j e c t

s e l e c t e d b y t h e W S D a l g o r i t h m a r e u n r e a s o n a b l e

f o r i t s v e r b c o n t e x t .

N o s o l u t i o n { n o r e s u l t h a s b e e n a c q u i r e d b y t h e a l g o -

r i t h m . F o r s o m e c a s e s , i f n o r e l e v a n t i n f o r m a t i o n f o r

s u p p o r t i n g t h e W S D p r o c e s s o f t h e s e c a s e s c a n b e

f o u n d i n t h e t e x t ( e . g . t h e r e i s n o s u c i e n t i n f o r m a -

t i o n i n t h e t e x t ) , t h e a l g o r i t h m w o u l d n o t p r o d u c e

a n y s o l u t i o n .

T h e f o l l o w i n g s t a t i s t i c a l d a t a h a v e b e e n o b t a i n e d b y

r u n n i n g t h e W S D p r o g r a m t o d e a l w i t h t h e 3 9 7 c a s e s :

a l l c a s e s

( 3 9 7 d i e r e n t v e r b - o b j e c t p a i r s ) 3 9 7

o n e c o r r e c t s o l u t i o n 2 2 5 5 7 %

m u l t i p l e s o l u t i o n s 5 9 1 5 %

p a r t i a l l y c o r r e c t s o l u t i o n s 2 0 5 %

w r o n g s o l u t i o n 1 7 4 %

n o s o l u t i o n 7 6 1 9 %

T h i s t e s t r e s u l t f o r t h e W S D a l g o r i t h m i s e n c o u r a g i n g .

W i t h h u m a n ' s a s s e s s m e n t , t h e w o r d s e n s e d i s a m b i g u a -

t i o n h a s a h i g h a c c u r a c y o f u p t o 7 2 % ( o n e c o r r e c t s o -

l u t i o n a n d c o r r e c t m u l t i p l e s o l u t i o n s ) . A m o n g t h e r e -

m a i n i n g 2 8 % c a s e s , t h e r e a r e o n l y 4 % w r o n g s o l u t i o n s .

T h e 5 % c a s e s w i t h p a r t i a l l y c o r r e c t s o l u t i o n s s h o w h o w

w o r d s e n s e a m b i g u i t y h a s b e e n i m p r o v e d b y t h e W S D

a l g o r i t h m .

O f c o u r s e , o n t h e o t h e r h a n d , w i t h 1 5 % c o r r e c t m u l -

t i p l e s o l u t i o n c a s e s , t h i s W S D a l g o r i t h m i s o b v i o u s l y

l i m i t e d . I n t h e s e c a s e s , a v e r b c o n t e x t , f o r e x a m p l e ,

" i n c l u d e " o r " h a v e " , i s n o t s t r o n g e n o u g h t o l i m i t t h e

m u l t i p l e w o r d s e n s e s o f i t s n o u n o b j e c t t o t h e o n l y

i n t e n d e d m e a n i n g . I n a d d i t i o n , e v e n f o r s o m e s i n g l e -

s o l u t i o n c a s e s , t h e o n l y i n t e n d e d m e a n i n g o b t a i n e d b y

t h e a l g o r i t h m i s s u i t a b l e i n t h e v e r b a l c o n t e x t c o n s i d e r e d

b y o u r a l g o r i t h m , b u t i s n o t n e c e s s a r i l y a p p r o p r i a t e f o r

t h e w h o l e t e x t . I n o r d e r t o p r o d u c e t h e o n l y i n t e n d e d

m e a n i n g o f t h e n o u n o b j e c t s i n t h e w h o l e t e x t , c o n t e x t s

o t h e r t h a n j u s t t h e v e r b c o n t e x t s h o u l d b e e x p l o i t e d i n

t h e f u t u r e v e r s i o n s o f o u r a l g o r i t h m .

T h e r e a r e 1 9 % n o - s o l u t i o n c a s e s i n t h e t e s t . T h i s

m e a n s t h a t 5 9 3 b a c k g r o u n d v e r b - o b j e c t p a i r s i n t h e t e x t

a r e n o t s u c i e n t t o s u p p o r t w o r d s e n s e d i s a m b i g u a t i o n

o f t h e s e c a s e s . T h e W S D a l g o r i t h m d e p e n d s o n t h e r e l -

e v a n t i n f o r m a t i o n i n a t e x t , s o t h e m o r e r e l e v a n t i n f o r -

m a t i o n i n t h e t e x t , t h e b e t t e r t h e W S D r e s u l t . I f a

t e x t i s s h o r t o f r e l e v a n t i n f o r m a t i o n f o r s u p p o r t i n g W S D

p r o c e s s , a g o o d i d e a i s t h a t i n s t e a d o f u s i n g r e l e v a n t

i n f o r m a t i o n f r o m t h e t e x t , t h e W S D a l g o r i t h m w o r k s

b a s e d o n s o m e s u p p o r t i n g i n f o r m a t i o n f r o m a l a r g e c o r -

p u s ( t h a t i s , w i t h a l a r g e a m o u n t o f v e r b - o b j e c t p a i r s

f r o m a l a r g e c o r p u s a s i t s b a c k g r o u n d k n o w l e d g e ) .

T h e s e n s i t i v i t y o f r e s u l t s t o t h e s p e c i c s e t t i n g o f C F s

u s e d h a s b e e n n o t i c e d i n t h e e x p e r i m e n t a s w e l l . T h e f o l -

l o w i n g r e s u l t s i n d i c a t e t h a t i n d e e d t h e q u a l i t y d e c r e a s e s

w i t h t h e d e c r e a s i n g v a l u e s a l t h o u g h m a y b e t h e a c t u a l

s e t t i n g c o u l d b e c h a n g e d , a s l o n g a s i t s v a l u e s a r e i n

r o u g h l y t h e s a m e d e c r e a s i n g o r d e r f o r H R 1 - H R 5 .

t o t a l w r o n g c a s e s e r r o r r a t e

0 C F

8/14/2019 IJCAI95 WSD

7/7

v a l u e s i n t h e W S D a l g o r i t h m i s q u i t e a c c e p t a b l e .

6 C o n c l u s i o n s

I n t h i s p a p e r , w e h a v e p r e s e n t e d a W o r d N e t - b a s e d a l -

g o r i t h m f o r w o r d s e n s e d i s a m b i g u a t i o n . T h e a l g o r i t h m

i s d e s i g n e d t o s u p p o r t t e x t a n a l y s i s w i t h m i n i m a l p r e -

c o d e d k n o w l e d g e . A l t h o u g h t h e a l g o r i t h m i s a s s u m e d t o

a i m a t w o r d s e n s e d i s a m b i g u a t i o n o f n o u n o b j e c t s i n a

t e x t , i n f a c t i t c a n b e e a s i l y t r a n s f o r m e d t o c o v e r s o m e

o t h e r p a r t s o f s p e e c h i n a t e x t .

T h e a p p r o a c h f o c u s e s o n t w o p a r t s : t h e f u l l u t i l i z a t i o n

o f t h e i m p o r t a n t r e l a t i o n s h i p s b e t w e e n w o r d s i n W o r d -

N e t a n d t h e e x p l o r a t i o n o f W S D h e u r i s t i c r u l e s b a s e d

o n t h e s e m a n t i c s i m i l a r i t y b e t w e e n w o r d s . T h e e x p e r -

i m e n t d e s c r i b e d h e r e d e m o n s t r a t e s t h e v i a b i l i t y o f t h e

W S D a l g o r i t h m , t h e r a t i o n a l i t y o f t h e c o n d e n c e v a l u e

a s s i g n m e n t a n d s h o w t h e p o t e n t i a l o f a W o r d N e t - b a s e d

m e t h o d . T h e e x p e r i m e n t a l s o s h o w s t h e l i m i t a t i o n s o f

c o n s i d e r i n g o n l y v e r b c o n t e x t s i n t h e W S D p r o c e s s .

F u t u r e w o r k o n W S D w i l l f o c u s o n i n v e s t i g a t i n g t h e

p o s s i b i l i t y o f t h e i n v o l v e m e n t o f m o r e c o m p l e x c o n t e x t

i n t h e W S D p r o c e s s a n d c o n s i d e r i n g t h e e e c t i v e c o m -

b i n a t i o n b e t w e e n t h e c u r r e n t r e s u l t w i t h v e r b c o n t e x t s

a n d t h e p o s s i b l e f u t u r e r e s u l t w i t h s o m e o t h e r c o n t e x t s .

R e f e r e n c e s

B e c k w i t h e t a l . , 1 9 9 1 B e c k w i t h , R . , C . F e l l b a u m , D .

G r o s s a n d G . M i l l e r , " W o r d N e t : A L e x i c a l d a t a b a s e

O r g a n i z e d o n P s y c h o l i n g u i s t i c P r i n c i p l e s " , I n L e x i c a l

A c q u i s i t i o n : E x p l o i t i n g O n - l i n e R e s o u r c e s t o B u i l d a

L e x i c o n . L a w r e n c e E r l b a u m A s s o c i a t e s , 1 9 9 1 .

B r o w n e t a l . , 1 9 9 1 B r o w n , P . F . , S . A . D e l l a P i e t r a ,

V . J . D e l l a P i e t r a a n d R . L . M e r c e r , " W o r d - S e n s e

D i s a m b i g u a t i o n U s i n g S t a t i s t i c a l M e t h o d s " , I n P r o c

A C L M e e t i n g , B e r k e l e y 1 9 9 1 , 2 6 4 - 2 7 0 .

C h a r n i a k , 1 9 9 3 C h a r n i a k , E . , S t a t i s t i c a l L a n g u a g e

L e a r n i n g . M I T P r e s s , 1 9 9 3 .

G a l e e t a l . , 1 9 9 2 a l e , W . A . , K . W . C h u r c h a n d D .

Y a r o w s k y , " A M e t h o d f o r D i s a m b i g u a t i n g W o r d

S e n s e s i n a L a r g e C o r p u s " , I n C o m p u t e r s a n d t h e

H u m a n i t i e s , 1 9 9 2 .

G r e f e n s t e t t e a n d H e a r s t , 1 9 9 2 G r e f e n s t e t t e , G . a n d

M . H e a r s t , " A M e t h o d f o r R e n i n g A u t o m a t i c a l l y

D i s c o v e r e d L e x i c a l R e l a t i o n s : C o m b i n i n g W e a k T e c h -

n i q u e s f o r S t r o n g e r R e s u l t s " , I n A A A I W o r k s h o p o n

S t a t i s t i c a l l y - B a s e d N L P T e c h n i q u e s , S a n J o s e , J u l y

1 9 9 2 .

H i r s t , 1 9 8 7 H i r s t , G . , S e m a n t i c i n t e r p r e t a t i o n a n d t h e

D i s a m b i g u a t i o n o f A m b i g u i t y C a m b r i d g e U n i v e r s i t y

P r e s s , E n g l a n d , 1 9 8 7 .

L e h m a n , 1 9 9 4 L e h m a n , J . F . , " T o w a r d t h e E s s e n t i a l

N a t u r e o f S t a t i s t i c a l K n o w l e d g e i n S e n s e D i s a m b i g u a -

t i o n " , I n P r o c A A A I - 9 4 , 1 9 9 4 , 7 3 4 - 7 4 1 .

M i l l e r , 1 9 9 0 M i l l e r , G . , " W o r d N e t : A n O n - l i n e L e x i c a l

D a t a b a s e " , I n I n t e r n a t i o n a l J o u r n a l o f L e x i c o g r a p h y

V o l . 3 , N o . 4 , 1 9 9 0 .

R e s n i k , 1 9 9 2 R e s n i k , P . , " W o r d N e t a n d D i s t r i b u t i o n a l

A n a l y s i s : A C l a s s - b a s e d A p p r o a c h t o L e x i c a l D i s c o v -

e r y " , I n A A A I W o r k s h o p o n S t a t i s t i c a l l y - B a s e d N L P

T e c h n i q u e s , S a n J o s e , J u l y 1 9 9 2 .

R e s n i k , 1 9 9 3 R e s n i k , P . , " S e m a n t i c C l a s s e s a n d S y n -

t a c t i c A m b i g u i t y " , I n P r o c . o f t h e A R P A W o r k s h o p

o n H u m a n L a n g u a g e T e c h n o l o g y . P r i n c e t o n , 1 9 9 3 .

S c h u t z e , 1 9 9 2 S c h u t z e , H . , " W o r d S e n s e D i s a m b i g u a -

t i o n W i t h S u b l e x i c a l R e p r e s e n t a t i o n s " , I n A A A I

W o r k s h o p o n S t a t i s t i c a l l y - B a s e d N L P T e c h n i q u e s , S a n

J o s e , J u l y 1 9 9 2 , 1 0 9 - 1 1 3 .

S m a l l a n d R i e g e r , 1 9 8 2 S m a l l , S . L . a n d R i e g e r , G . J . ,

" P a r s i n g a n d C o m p r e h e n d i n g w i t h W o r d E x p e r t s ( a

t h e o r y a n d i t s r e a l i z a t i o n ) " , W . G . L e h n e r t a n d M .

H . R i n g l e , ( e d . ) , I n S t r a t e g i e s f o r N a t u r a l L a n g u a g e

P r o c e s s i n g , L a w r e n c e E r l b a u m A s s o c i a t e s , 1 9 8 2 , 8 9 -

1 4 7 .

S u s s n a , 1 9 9 3 S u s s n a , M . , " W o r d S e n s e D i s a m b i g u a -

t i o n f o r F r e e - t e x t I n d e x i n g U s i n g a M a s s i v e S e m a n t i c

N e t w o r k " , I n C I K M ' 9 3 , 1 9 9 3 .

V o o r h e e s , 1 9 9 3 V o o r h e e s , E . M . , " U s i n g W o r d N e t t o

D i s a m b i g u a t e W o r d S e n s e f o r T e x t R e t r i e v a l " , I n P r o c

A C M S I G I R ' 9 3 , P i t t s b u r g h , 1 9 9 3 , 1 7 1 - 1 8 0 .

W i l k s . , 1 9 7 5 W i l k s , Y . A . , " A P r e f e r e n t i a l , P a t t e r n -

s e e k i n g S e m a n t i c s f o r N a t u r a l L a n g u a g e I n f e r e n c e " ,

I n A r t i c i a l I n t e l l i g e n c e . V o l . 6 , 1 9 7 5 .

ijcai95 wsd

Documents