^ î ® ° p u b | r é ç ° u os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을...

11
www.earticle.net 논 문한국차세대컴퓨팅학회 논문지 2014년 8월 89 시선추적 기법을 활용한 발레의 비언어적 스토리텔링 연구 Investigation of non-linguistic factors for storytelling in ballet using an eye-tracking technique 이경민*, 이용일**, 정재승**, 장선희*** 1) Kyungmin Lee, Yong-il Lee, Jaeseung Jeong, Seon Hee Jang (143-747) 서울 광진구 능동로 209 세종대학교 무용학과 * (305-701) 대전 유성구 대학로 291 한국과학기술원 바이오및뇌공학과 ** (143-747) 서울 광진구 능동로 209 세종대학교 뮤지컬 연구소 *** [email protected], [email protected], [email protected], [email protected] 본 연구는 비언어적 형태의 발레가 언어적 구조의 특성을 따르면서 어떻게 관객들에게 전달되는지를 과학적으로 측 정해 보고자 한다. 이를 위해 정상 아동과 읽기 장애 아동 두 그룹을 대상으로 두 단계 실험을 했다. 먼저 학생들이 발레를 감상하는 과정에서 줄거리 이해에 필수적인 요소들을 놓치지 않고 응시하는지 관찰했다. 응시 여부는 사람의 시선 움직임을 실시간으로 추적하고 유형을 자동으로 판별할 수 있는 아이트래커 (Eye-Tracker) 장비로 측정했다. 다음으로 학생들이 발레 공연의 줄거리 내용을 얼마나 원래 의도대로 이해했는지 알아보는 설문을 수행했다. 컴퓨터 로 보여준 실험 공연 영상은 20분 길이로 편집된 발레 작품 <La Sylphide>의 1막이다. 읽기능력이 우수하여 BASA 점수가 높은 학생들은 중요 장면에 시선을 잘 집중하고 내용을 파악해서 스토리 이해에 뛰어난 결과를 보였 고 언어적 형태의 글에 대한 이해력이 낮은 읽기장애아동은 비언어적 형태의 발레 언어에 대한 이해력도 낮은 것을 알 수 있었다. 따라서 발레가 스토리를 전달할 때 언어적인 구조를 가진다고 결론 내릴 수 있다. Abstract The purpose of the research is to learn how the non-linguistic form of Ballet is used to tell its story with a linguistic structure. Two experiments were done with two groups (normal / reading disability) of children. First, we observed whether children were staring at the elements, which are essential to understand the plot line of the Ballet performance. To do this, we used an Eye-Tracker to track and to categorize children's eye movements. Second, we asked children to answer the questionnaires to understand how much children understood the plot line of the Ballet performances after they watched the first twenty minutes from Act-1 of Ballet performance <La Sylphide>. The children who got the high BASA reading score were able to focus on important 1) 교신저자 논문투고일자 : 2014. 08. 08 심사일자 : 2014. 08. 08 게재확정일자 : 2014. 08. 24 [Provider:earticle] Download by IP 143.248.31.XXX at October 19, 2017 4:59 PM

Upload: others

Post on 19-May-2020

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

89

시선추적 기법을 활용한 발레의 비언어적

스토리텔링 연구Investigation of non-linguistic factors for storytelling in ballet using

an eye-tracking technique

이경민*, 이용일**, 정재승**, 장선희***1)

Kyungmin Lee, Yong-il Lee, Jaeseung Jeong, Seon Hee Jang

(143-747) 서울 광진구 능동로 209 세종대학교 무용학과*

(305-701) 대전 유성구 대학로 291 한국과학기술원 바이오및뇌공학과**

(143-747) 서울 광진구 능동로 209 세종대학교 뮤지컬 연구소***

[email protected], [email protected], [email protected], [email protected]

요 약

본 연구는 비언어 형태의 발 가 언어 구조의 특성을 따르면서 어떻게 객들에게 달되는지를 과학 으로 측

정해 보고자 한다. 이를 해 정상 아동과 읽기 장애 아동 두 그룹을 상으로 두 단계 실험을 했다. 먼 학생들이

발 를 감상하는 과정에서 거리 이해에 필수 인 요소들을 놓치지 않고 응시하는지 찰했다. 응시 여부는 사람의

시선 움직임을 실시간으로 추 하고 유형을 자동으로 별할 수 있는 아이트래커 (Eye-Tracker) 장비로 측정했다.

다음으로 학생들이 발 공연의 거리 내용을 얼마나 원래 의도 로 이해했는지 알아보는 설문을 수행했다. 컴퓨터

로 보여 실험 공연 상은 20분 길이로 편집된 발 작품 <La Sylphide>의 1막이다. 읽기능력이 우수하여

BASA 수가 높은 학생들은 요 장면에 시선을 잘 집 하고 내용을 악해서 스토리 이해에 뛰어난 결과를 보

고 언어 형태의 에 한 이해력이 낮은 읽기장애아동은 비언어 형태의 발 언어에 한 이해력도 낮은 것을

알 수 있었다. 따라서 발 가 스토리를 달할 때 언어 인 구조를 가진다고 결론 내릴 수 있다.

Abstract

The purpose of the research is to learn how the non-linguistic form of Ballet is used to tell its story

with a linguistic structure. Two experiments were done with two groups (normal / reading

disability) of children. First, we observed whether children were staring at the elements, which are

essential to understand the plot line of the Ballet performance. To do this, we used an Eye-Tracker

to track and to categorize children's eye movements. Second, we asked children to answer the

questionnaires to understand how much children understood the plot line of the Ballet

performances after they watched the first twenty minutes from Act-1 of Ballet performance <La

Sylphide>. The children who got the high BASA reading score were able to focus on important

1) 교신저자

논문투고일자 : 2014. 08. 08 심사일자 : 2014. 08. 08 게재확정일자 : 2014. 08. 24

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 2: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

90

scenes and showed the excellent understanding in plot line. Children with reading disability

showed difficulties in understanding the Ballet language. From this observation, we conclude that

the ballet has a linguistic structure while delivering stories to audiences.

키워드: 시선추 , 발 , 발 언어, 낭만 발 , 읽기 장애

Keyword: Eye-Tracker, Ballet, Ballet Language, Romantic Ballet, Reading disability

1. 서론

예술은 인간과 인간 간의 소통수단으로 헤겔은

이를 "작가, 작품, 그리고 대중과의 관계선상에 놓

여있는 사회적 관련과 의사소통작용"으로 보았다

[1]. 그런데 예술언어의 소통 수단은 단순히 문법

적 구조를 지닌 언어에만 국한되지 않고, 음악, 그

림, 연극, 무용 등 인간의 비언어적인 모든 행동까지

포함한다[2].

언어는 음성, 문자, 기호, 행위 등 의사를 전달할

수 있는 모든 기능을 포함하며, 형태(form)에 따라

크게 두 종류로 분류된다. 하나는 언어적(linguistic)

형태로, 이 형태의 언어는 사회적으로 제정된 상징

적 기호를 사용하며 일반적으로 음성언어로 표현된

다. 다른 하나는 비언어적(non-linguistic) 형태로,

이는 언어적 형태를 제외한 모든 메시지를 의미한

다. 예술언어는 전통적으로 비언어적 형태였다고

할 수 있으며, 예술언어의 일종인 발레언어 역시 동

작, 마임, 의상, 음악 등 비언어적 형태로 관객과 소

통한다.

본 연구에서는 낭만발레의 대표작인 <La Sylphide>

를 통해, 읽기장애아동 및 일반아동이 발레언어를

통해 발레의 스토리를 이해할 수 있는지 알아보고

자 한다. 18세기 프랑스 무용가 노베르(J. G.

Noverre, 1727-1810)에 의해 드라마적 요소가

발레에 도입된 이후, 많은 연구를 통해 발레가 언어

를 가지고 있다고 주장되었지만 정량적인 근거와

실험은 그동안 미약했다 [28]. 이에 발레언어에 대

한 과학적인 연구 방법을 시도해보고자 아이트래커

(Eye-Tracker)를 기반으로 아동의 시선행동을

분석해 볼 것이다. 결론에서 비언어적인 형태의 발

레가 언어적인 구조를 지니고 스토리를 전달하는지

확인할 수 있을 것이며, 나아가 무용치료의 정당성

을 부분적으로 확보하고자 한다.

2. 배경

2.1 낭만 발레의 스토리텔링

발레의 종류는 크게 plot 형식과 non-plot형식

으로 나눌 수 있다. plot형식은 의미적 정보를 주로

전달하며 non-plot형식은 미적 정보를 전달한다.

발레는 두 가지 정보 중 어느 쪽에 더 중점을 두느

냐에 따라 두 종류로 분류할 수 있다. 의미적 정보

는 구체적인 내용을 가진 정보이다. 반면 미적 정보

란 그 자체의 아름다움만을 의미한다. 가령 폴락

(Jackson Pollock)의 <NO. 51948>은 뚜렷이 전

달해주는 의미가 없고 미적 쾌감만을 전해주므로

미적 정보를 가진 작품이라 볼 수 있다. 대체로 동

작의 미학을 바탕으로 미적 정보만을 강화하고 있

는 것이 조지 발란신(George Balanchine)의 <아

공> 과 같은 non-plot형식이라면, 주로 의미적 정

보를 전달하는데 치중하는 쪽은 <백조의 호수>나

<호두까기 인형>과 같은 plot 형식이다 [3].

의미적 정보를 전달하는 낭만발레는 궁정발레에

서 출발하였으며 그 중 현존하는 낭만발레의 대표

작품은 지젤(Giselle)과, 라 실피드(La Sylphide)

이다. 위의 2개의 작품은 궁정발레의 움직임과 노

베르의 정신을 계승하여 기승전결이 있는 드라마를

가진, 스토리텔링이 잘 이루어진 plot형식의 작품이

다. 다시 말해 모든 발레언어는 비언어적 형태이되

일부 발레는 언어적 구조를 통해 의미를 전달하며,

이중 의미 전달력이 탁월한 장르가 낭만발레라는

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 3: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

91

것이다.

스토리텔링은 여러 가지 방법을 통해 이야기를

전달하는 행위를 뜻한다. 데닝(Denning)은 이를

좀 더 구체적으로, '일어난 상황을 잘 짜인 스토리로

시각, 청각, 후각 등의 감각에 호소하며 감동적으로

전달하는 고대로부터 전승되어온 인류의 담화 예술

혹은 기술'이라 정의하고 있다 [4]. 발레는 무용수

의 동작, 마임, 의상, 배경, 소품, 음악 등 비언어적

서사 방식으로 소통하며, 따라서 발레의 스토리텔

링이란 작품의 이야기를 이러한 비언어적 발레언어

들을 사용하여 전하는 행위를 말한다.

2.2 시선추적 기법의 응용성

시선추적은 피험자의 안구 움직임을 분석함으로

써 피험자가 정보를 어떻게 처리하여 활용하는지

살펴보는 것으로, 시선의 고정 빈도나 고정시간, 고

정 순서, 시선 이동 횟수 등 시선행동 정보를 정량

화하는 것이다 [5-6]. 시선추적 측정 장비인 아이

트래커는(Eye-Tracker)는 인간의 시선행동을 해

석하기 위해 안구 움직임을 추적하는 기법 중 하나

로, 피험자의 눈동자에 적외선을 투사하여 동공이

어느 쪽으로 향하는지와 현재 모니터와의 각도, 면

적을 조합하여 움직임을 추적한다.

시선 추적에 대한 관심과 연구는 동서양 고전에

서 오래 전부터 찾아볼 수 있다. 예전에는 측정방법

이 없었다. 1900년도에 나온 논문에서 시선 추적을

위해서는 많은 어려움이 있으며 개인이 혼자 측정하

는 것은 부정확하다는 기록이 남아 있다. 그래서 읽

을 때 정형화된 움직임이 있어 패턴을 인식하는 연

구가 진행되어 왔다. 대부분의 연구들은 책 읽을 때

사람들이 정보 수용을 어떻게 하는지 초점을 맞춰서

연구되어 왔다. 이때의 기술로는 각도 5도 미만으로

활발하게 움직이는 안구의 운동을 세세하게 추적할

수 없었다. 이 때문에 책에 특정 기호를 표시를 해두

고 제한 시간 내의 움직임을 근사해서 유추해 냄으

로써 연구를 진행했다. 당연히 복잡한 것은 불가능

하고 간단한 사례들에만 연구가 진행되었다.

시선 추적에 대한 컴퓨터를 활용한 전기적 측정

방법이 개발된 것은 2000년대 초이다. 그 전까지는

정확한 측정이 사실상 어려워서 연구에 활용이 되

어도 매우 영향력이 크다고 할 수가 없었다. 정교한

방법론에 있어서는 오히려 통계적 고찰에 기반을

둔 회기 분석보다 떨어졌고 결론보다는 참조할 만

한 자료로의 수준만 되었다. 그렇지만 카메라 기술

의 발전과 컴퓨터의 계산 능력의 향상으로 이미지

처리와 센서를 활용한 정밀한 측정 장비가 나오게

되면서 새롭게 응용할 수 있는 영역들이 점차 늘어

나고 있다. 대표적인 연구 분야는 광고심리학으로

광고의 효과성 측정에 시선추적이 많이 쓰이고 있

다. 이외에도 디자인 분야에서 사용자의 편의성과

관심을 측정하기 위한 UI/UX 연구, 언어장애인을

지원하기 위한 대체 입력도구, 우울증/자폐증 진단

및 치료를 위한 신경정신 분야, 게임을 비롯한 차세

대 컴퓨터 인터페이스 등에서도 각광을 받고 있는

기술이다 [26-27].

관찰안구추적과 그림 지각 분야의 선구자인 얄부

스는 시선운동과 고정(Fixation)에 관한 기록은 피

험자가 무엇을 생각하고 있는지 말해주는 단서가

된다고 하였다 [7]. 여러 연구가 이처럼 주체의 관

심과 흥미에 따라 시각적 주의가 달라진다는 연구

결과를 보여 준다. 가령 사람들은 자기가 좋아하는

사람을 더 쳐다본다는 분석이나, 일방적 응시는 관

심에 대한 일방적 표현이라는 해석, 혹은 인간의 눈

이 개인적으로 중요한 개체에 오랫동안 머문다는

연구 결과 등이 그 예이다 [8-10].

2.3 읽기 장애

읽기장애는 문자매체를 읽고 의미를 파악하는데

곤란을 겪는 것을 말하며[11], 읽기능력이 발달 과

정에서 지체되거나 읽기에 장애가 있는, 학습장애

의 하위유형으로 볼 수 있다. 읽기장애란 대체로, 지

능이 정상 혹은 그 이상이며 학습의 기회를 박탈

당하거나 사회·경제적으로 소외되지 않았음에도

불구하고 나이 대에 적절한 읽기능력을 갖추지 못

한 것을 가리킨다[12-13].

읽기의 개념은 매우 다양하지만, 크게 '해독'과 '

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 4: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

92

사고'를 중심으로 하는 두 정의로 나누어 볼 수 있다

[14]. 읽기를 해독으로 보는 정의는 이를 단어재인,

즉 시각적 자극으로 제시된 문자단어를 보고 그 의

미를 파악하는 심리적 과정, 그리고 문자의 음성화

로 본다. 읽기를 사고로 보는 정의에서는, 이를 글의

의미를 파악하는 언어이해, 즉 낱말이나 문장 등을

해석하는 과정이라 정의하며 사고과정을 포함 시킨

다 [15].

읽기의 궁극적인 목표는 글의 의미를 파악하는

것이다. 그러나 해독 과정이 없다면 글의 의미를 파

악하지 못한다. 따라서 초기의 읽기는 문자를 소리

로 바꾸어 읽는 과정이어야 한다. 그러나 이후 그

과정이 자동화되면, 읽기란 글을 읽고 의미를 파악

하는 과정이 된다. 이렇듯 글자의 해독을 통해서만

이 사고의 과정에 이를 수 있기 때문에 읽기 능력은

해독과 사고의 두 가지 능력이 모두 일정 수준 이상

필요하다.

3. 실험 설계

본 연구의 목적을 달성하기 위해 '발레는 비언어

적인 형태의 발레언어를 통해 스토리를 전달하며,

이 과정에서 언어적인 구조를 따를 것이다'라는 연

구 가설을 설정하였다. 발레를 통해 스토리를 전달

하고자 할 때 관객들이 언어적 구조를 따르는 방식

으로 받아들이는 지를 과학적인 방법으로 알아보려

는 것이다. 과학적이다는 것은 정량적으로 측정해

서 가설을 비교 분석할 수 있는지 여부를 의미한다.

이를 위해 글의 의미를 파악하는 데 어려움을 겪는

'읽기장애아동' 및 정상적인 독해가 가능한 '일반아

동'을 각각 대상으로 하여, 두 집단이 발레작품의 스

토리를 얼마나 이해하고 있는지 서로 비교하였다.

이해도를 측정하는 실험에서 아이트래커(Eye-

Tracker)를 이용하여 아동의 시선행동을 관찰하였

으며, 이를 통해 스토리를 전달하는 발레만의 고유

언어를 아동이 잘 읽어냈는지 알아보고자 하였다.

즉 발레작품의 비언어적 요소에 대한 시선추적 연

구를 시행하여, 아동이 스토리텔링을 독해하는 과

정을 검토하고자 한 것이다.

3.1 연구의 제한점

본 연구에서는 실제 공연장을 방문하는 대신 모

니터의 영상으로 발레작품을 감상하였다. 발레작품

<La Sylphide>는 1막 시작 부분부터 20분이 경과

한 부분까지 편집한 것이다. 발레작품 감상 시 피험

자의 시각적 반응만을 살펴보았으며 피험자가 의상,

배경, 무용수의 움직임(표정 포함) 등에만 주목하

도록 했다. 안구움직임 기록 장치는 수평방향과 수

직 방향에서 약 0.5도의 정밀성 오차를 갖지만, 실

험자의 시선이 고정되었을 때 나타나는 미세한 안

구움직임(Miniature movement)을 잡아내지 못

했다.

3.2 연구 대상

G시의 5개의 초등학교에서 총 50명의 피험자가

참가하였다. 그 중 데이터 기록이 잘못되었거나 불

성실하게 실험에 임한 10개의 데이터를 제외하고

총 40명의 피험자를 선별하였다. 읽기장애아동과

일반아동 두 집단으로 구성하였고, 남녀 각각 10

명, 각 집단별 20명씩 총 40명의 피험자가 실험에

참여하였다. 두 집단 모두 발레작품을 감상한 적이

없는 아동들로서 초등학교3학년에 재학 중인 만 8

세에서 9세 사이의 아동으로 사전조사를 통해 시

력이 좌우 시력이 평균 1.0 이상인 사람으로 구성

하였다. IQ와 읽기 성취 불일치이론을 바탕으로 지

능지수가 85이상이며 읽기성취도가 불일치하는

아동을 읽기장애아동, 일치 하는 아동을 일반아동

으로 선정했다.

남 여 총 지능 BASA(단계)

장애아동 10명 10명 20명 113 133(4.7)

일반아동 10명 10명 20명 116 310(1.7)

3학년(만8-9세) p.>05 p.<.05

<표 1> 연구 상

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 5: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

93

3.3 실험 과제

본 연구에서는 총 2가지 과제로 이루어졌다. 첫

번째 과제는 발레 작품 <La Sylphide> 감상 중 발

레언어를 통해 스토리를 이해하였는지 알아보기 위

해 아이트래커(Eye-tracker)를 통해 시선행동을

파악한다. 두 번째 과제는 발레작품 감상 시 읽기장

애아동과 일반아동 두 집단 모두 스토리를 얼마나

이해하였는지 알아보기 위해 묻는 설문조사 방식의

과제이다. 피험자들은 1막 처음부터 20분까지 편집

된 발레 작품 <La Sylphide>를 컴퓨터 모니터상의

동영상으로 감상 후 5지선다형으로 된 질문지에 응

했으며 정답률을 통해 스토리의 이해 정도를 파악

하고자 했다.

본 연구의 동영상은 약 20분 정도로 구성된 파리

오페라 발레단의 발레작품 <La Sylphide>를 편집

한 것이다. <La Sylphide>는 1, 2 막으로 구성된

작품이며 총 작품 시간은 1시간 50여분이다. 이것

을 시선추적을 하는 동안 집중도를 높이기 위해 1

막의 처음부터 약 20분간의 영상만 편집하였다. 설

문지는 발레작품 <La Sylphide>의 1막 처음부터

20분간의 내용을 토대로 내용의 이해를 묻는 질문

지를 5지선다형으로 구성했다. 문항은 작품 배경,

인물 관계 등 전체 줄거리를 묻는 것으로 구성했다.

시선추적을 위한 아이트래커(Eye-tracker)는

토비(Tobii)사의 T120 모델을 사용하였다. 이 시

선추적 장비는 스웨덴 스톡홀름에 본사를 둔 Tobii

Technology가 생산하는 Eye-Tracking and Gaze

Estimation System으로 각막에서 반사되는 적외

선인 각막광과 동공의 위치 및 크기를 측정하는 방

식으로 되어있다. 실험은 모니터 상의 특정 지점을

바라보고 있는 안구고정위치를 추적하는 방식으로

진행되며 이때, 안구가 움직이는 동안 7-8회 정도

(약 0.1초)정지하면 안구 고정이 일어난 것으로 판

단한다.

3.4 분석 방법

독립변인 종속변인

읽기장애 여부

(읽기장애아동,

일반아동)

스토리이해 질문지조사결과

시선행동 결과

<표 2> 실험설계

본 연구에서는 읽기장애 여부(읽기장애아동-일

반아동)를 독립변인으로 하였다. 종속변인은 질문

지결과와 시선행동측정변인으로 정하였다. 두 독립

표본 t 검증이란 두 모집단의 속성인 평균을 비교하

기 위하여 두 모집단을 대표하는 표본들을 독립적

으로 추출하여 표본 평균들의 비교를 통하여 모집

단 간의 유사성을 검증하는 방법이다. 이 방법은 종

속변인으로 설정된 발레작품의 스토리를 이해하였

는지 알아보기 위함이며 발레작품 감상 후 5지선다

형으로 이루어진 질문지로 설정하였다. 그리고 발

레언어를 통해 스토리를 이해했는지 알아보기 위해

시선행동을 알아보는 방법은 AOI(Area of interest)

를 설정해서 시선 응시 과정(Scan path)을 영역별

로 통합한 결과를 최종 응시 시간으로 잡았다. 이를

통해 스토리를 이해하는데 중요단서가 될 만한 것

들을 얼마나 보았는지 시선 주목도를 히트맵으로

처리한 데이터를 수치화 시켰으며 두 독립표본 t 검

증을 실시하여 두 집단의 평균을 구해 비교했다.

4. 실험 결과

4.1 작품 감상시 시선행동 결과

본 연구에서는 발레 작품 <La Sylphide>의 스토

리이해 질문지의 문제를 바탕으로 스토리를 이해하

는 데 필요한 발레 언어가 나타난 장면만을 분석하

는 것이 목적이다. 응시 순서는 배제하고 장면의 중

요 영역에 대한 시선주목도(총 응시 누적 시간)의

변인만을 중심으로 피험자들의 상태 변화를 살폈다.

실험을 수행 후 살펴보니 질문지 15문제 중 4문제

는 한 장면만이 아닌 전반적으로 영상을 잘 관찰 하

였을 때 이해할 수 있는 문제로 시선 변화에 일관성

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 6: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

94

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 7: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

95

(그림 1) 히트맵 결과

이 없다고 판단되어 분석을 하지 않았다. 정리하면

총 11 장면(Q2, Q3, Q4, Q7, Q8, Q9, Q10, Q11,

Q12, Q13, Q14번 문제)을 최종 분석대상으로 선

정했다. 각 장면의 AOI_1은 그 장면에서 스토리를

이해하는데 중요한 단서가 되는 곳을 선정했다.

인물성격, 인물의 관계, 인물사이의 감정에 관한

문항은 히트맵 분석결과 모두 일반아동이 읽기장애

아동에 비해 AOI_1영역에 대해 시선이 집중되는

경향을 보였다. 인물행동에 관한 분석결과 중 스토

리이해 질문지 13, 14번 문제는 정상아동이 읽기장

애아동에 비해 AOI_1영역에 대해 시선이 집중되는

경향을 보였으나 11번 문제는 AOI_2영역이 읽기

장애아동이 일반아동에 비해 시선이 집중되는 경향

을 보였으며 12번 문제는 AOI의 모든 영역에서 유

의한 차이가 없었다.

4.2 스토리텔링에 대한 이해 결과

편집된 <La Sylphide> 20분의 핵심 내용은 스

코틀랜드 농촌을 무대로 하여, 결혼을 앞둔 청년 제

임스에게 공기의 요정인 실피드가 나타나 제임스의

결혼을 파멸로 이끄는 뜻밖의 비극을 가져다준다는

내용이다. 작품의 배경에 1문제, 인물성격 2문제,

인물의 관계에 3문제, 인물사이의 감정에 4문제, 인

물의 행동 4문제, 처음부터 20분까지의 전체 스토

리 이해에 관한 질문 1문제로 총 15문제에 대한 값

을 얻었다. 각 문제당 정답일 경우 1점을 주었고, 오

답은 0점을 주어 15점을 만점으로 하였다. 정답률

을 분석해서 읽기장애아동과 일반아동이 발레 작품

감상 시 스토리 이해 차이를 알아보고자 했으며

t-test를 실시하여 얻은 결과는 다음과 같다.

발레 작품 <La Sylphide>의 스토리이해 질문지

의 결과는 일반아동이 읽기장애 아동보다 높은 것

으로 나타났다. 읽기능력에 따른 발레작품 <La

Sylphide>의 스토리이해의 차이를 알아보기 위해

t-test를 실시한 결과 두 집단의 배경에 관한 문항

[t = -8.336, p < .05], 성격에 관한 문항 [t =

-3.756, p < .05], 인물의 관계에 관한 문항 [t =

-3.131, p < .05], 인물의 감정에 관한 문항 [t =

-3.472, p < .05], 인물의 행동에 관한 문항 [t =

-3.701, p < .05], <La Sylphide>의 처음부터 20

분까지의 전체스토리 이해에 관한 문항 [t =

-4.471, p < .05]으로 모두 유의한 차이가 있으며

15문항 전체의 차이를 알아보기 위해 t-test를 실

시한 결과 읽기장애아동과 일반아동간의 스토리 이

해 [t = -6.332, p < .05]는 통계적으로 유의한

차이가 있는 것으로 나타났다.

(그림 2) 스토리이해 질문지 값

결과적으로 읽기장애 정도와 스토리이해도는 독

립 변인 별 분석과 통합 분석 모두 0.7 전후의 매우

높은 상관관계가 있는 것으로 나타났다. 특히 통합

분석은 0.885로 균일한 결과를 보였다.

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 8: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

96

문제 집단인원평균

표준편차t 자유도

유의

확률평균차

배경

1 20 0.15±0.366 -8.336 31.431 .000 -.800

2 20 0.95±0.244

인물

성격

1 20 .095±0.76 -3.756 37.706 .001 -.750

2 20 1.70±0.47

인물

관계

1 20 1.30±0.98 -3.131 37.060 .003 -.900

2 20 2.20±0.83

인물

감정

1 20 2.05±1.14 -3.472 31.931 .002 -1.050

2 20 3.10±0.72

인물

행동

1 20 2.15±1.30 -3.701 13.358 .001 -1.250

2 20 3.40±0.75

전체

스토리

1 20 0.40±0.50 -4.471 26.237 .000 -.550

2 20 0.95±.022

1-15

전체값

1 20 7.00±3.49 -6.332 24.483 .000 -.5.300

2 20 12.30±1.34

<표 3> 스토리이해 질문지 값

5. 결과 해석

5.1 시선행동의 차이

발레 작품의 스토리를 이해하기 위해서는 시각적

인 부분을 통하여 발레언어들을 제대로 읽어내는

능력이 필요하다. 스토리를 이해하는데 중요한 발

레언어들을 선택적으로 집중해서 잘 읽어냈을 때

발레의 스토리를 이해 할 수 있기 때문이다.

발레의 스토리를 표현하는 발레언어는 비언어적

형태이지만 발레언어와 일반적인 언어와의 유사성

이 많은 연구에서 주장되어오고 있다 [16-18]. 이

러한 발레언어가 과연 일반적인 언어와 같은 언어

적 형태를 가지고 있는 지 살펴보기 위하여 읽기장

애아동과 일반아동이 발레언어를 잘 읽어내는지 살

펴보았다.

읽기장애아동과 일반아동의 발레 작품 <La Syl-

phide>의 시선행동의 차이를 살펴본 결과, 각 장면

의 중요단서가 되는 AOI_1에 해당하는 곳은 11문

제 중 9문제가 일반아동의 시선이 유의미하게 집중

되는 경향을 보였다. 그리고 읽기장애아동이 일반

아동에 비해 유의미한 차이로 시선이 집중되었던

11번 문제의 AOI_2는 중요단서가 되는 곳이 아니

었다.

위의 결과를 토대로 살펴보면 일반적 응시는 관

심에 대한 일방적 표현[9]이며 인간의 눈이 개인적

으로 중요한 개체에 오랫동안 머문다[10]는 연구

결과와 같이 두 집단 간 발레언어들에 시선이 집중

되는 시간이 달랐다. 읽기장애아동은 일반아동에

비해 발레언어들을 제대로 읽어내지 못하였다. 이

것은 시각적 메시지의 해석 및 창작과정은 언어능

력의 읽기 및 쓰기 능력과 같은 것이라고 볼 수 있

다. 이것은 발레가 언어성을 띄며 읽기장애아동만

이 발레언어를 제대로 읽어내지 못하는 것은 이들

이 발레언어의 형태적 측면, 즉 기표를 충실히 소화

하지 못한다는 뜻이 된다. 그러므로 발레작품의 감

상은 읽기장애 아동이 형태적 측면, 기표를 소화하

는 데에도 도움이 된다고 할 수 있다.

(그림 3) 읽기장애와 스토리 이해도 회기 분석

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 9: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

97

5.2 시선행동의 차이

설문지를 통해 드러난 스토리 이해 차이는 일반

아동 집단이 읽기장애아동 집단에 비해 정답률이

[p < .05] 통계적으로 유의하게 높은 것으로 나타

났다. 이를 토대로 읽기장애아동은 발레 공연과 같

이 시각적 자극 중심의 스토리 이해력 또한 떨어짐

을 알 수 있다. 발레 작품의 스토리를 이해하기 위

해서는 발레언어를 잘 읽어내야 한다. 그러나 읽기

장애아동 집단은 발레언어를 읽어내지 못하였으며,

이것은 언어적 형태의 글과 말이 아닌 비언어적 형

태의 발레언어 또한 읽기장애아동이 읽고 이해하기

어려움을 이야기 한다 [19-20]. 즉, 발레언어를

이해하지 못하기 때문에 발레작품의 스토리를 알

수 없는 것이다.

이는 발레가 언어성을 가지고 있으며 언어 처리

능력상의 결함이 전반적인 언어성 지능의 발달을

저해시키는 것으로 보인다는 연구결과를 지지하는

것이다 [21]. 본 연구에서 제시한 가설, 즉 발레가

언어적 구조를 가지고 있다는 점을 지지한다. 본 연

구 결과에서는 글이 없는 상황에서도 일반아동 집

단이 읽기장애아동 집단에 비해 스토리 이해가 더

높았다. 이것은 발레가 언어적인 구조, 즉 기의를 가

지고 스토리를 전달하기 때문이며, 비언어적 형태

인 발레언어를 읽기장애아동 집단이 읽고 이해하지

못했기 때문이라 말할 수 있다.

5.3 연구 의의

무용은 종합예술(Total Theater)이므로 시각적

측면은 무용에 있어 중요한 역할을 한다. 가령

Swan Lake의 Odette와 Odile을 선별하고 인지하

기 위해서는 시각적인 부분을 필요로 하기 때문이

다. 또한 스토리를 가지고 있는 작품은 동작 '구

(Phrases)'와 동작구들로 이루어진 '절(Clause)'

로 구성되어있다. 결국 구와 절의 관찰을 통해서만

이 발레의 스토리를 인지할 수 있다는 것이다. 즉,

발레의 여러 요소들을 시각적인 부분을 통하여 인

지하는 것은 발레감상에 있어 매우 중요한 일이다.

다시 말해 발레작품의 스토리를 알기 위해서는 시

각적인 부분이 중요한 역할을 하며 스토리 이해에

필요한 발레언어들을 선택적으로 집중해서 제대로

읽어 내야 한다는 것이다.

무용을 관찰할 때, 본인이 중요한 정보를 선택

적으로 집중해서 본다는 연구 결과를 찾아볼 수 있

다. 무용을 관찰하는 사람의 숙련성에 따라 시각패

턴이나 시선행동은 달라진다 [22]. 따라서 발레작

품의 감상자 역시 본인이 중요하다고 생각하는 정

보를 선택적으로 집중해서 감상할 것이다. 더불어

시각적 주의를 기울이는 요소와 정도에 따라 스토

리의 이해 정도가 달라질 것이다.

발레의 스토리는 일반적인 언어와는 다른 비언어

적 형태로 전달한다. 비언어적 형태의 무용은 읽기

장애 아동이 부담 없이 접할 수 있다는 장점을 가지

고 있다. 일반적인 문자매체를 읽고 의미를 파악하

는 데 어려움을 갖는 읽기장애[11]는 학습장애의

한 유형으로, 학습장애 중 가장 높은 비율을 차지한

다. 현대인은 끊임없이 학습하며 살아가므로 이러

한 장애를 극복하려는 노력이 꾸준히 이어져 왔고

[23], 이 가운데 예술치료의 인기가 높아지는 추세

이다 [24]. 그 중 무용치료는 일종의 심리치료 요법

으로, 학습장애 아이들의 읽기·쓰기 능력을 개선

하는 데 실제로 도움이 되고 있다 [25].

5.4 결론

본 연구는 발레작품이 언어적 구조를 지니고 스

토리를 전달하는지 알아보고자 하였다. 연구를 통

하여 얻어진 결론은 다음과 같다.

첫째, 발레 작품 <La Sylphide> 감상 시 읽기장

애아동 집단과 일반아동 집단의 시선행동에 차이가

있는 것으로 나타났다. 아이트래커(Eye-Tracker)

로 관찰한 11문제 중 11, 12번 문제를 제외한 9문

제 모두에서, 스토리이해에 중요한 영역인 AOI_1

영역에 대한 일반아동 집단의 시선주목도가 읽기장

애아동 집단에 비해 높게 나타났다. 일반아동 집단

은 중요영역만을 집중해서 보는 반면 읽기장애아동

집단은 중요영역을 중심으로 다른 영역에도 시선이

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 10: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

98

주목되는 것을 알 수 있었다. 12번 문제는 모든 영

역에서 유의한 차이가 없었으며 11번 문제는 스토

리를 이해하는데 중요한 영역인 AOI_1 영역에서

두 집단 간 차이가 없었지만, 스토리를 이해하기 위

해 중요한 영역이 아닌 AOI_2 영역에서 읽기장애

아동 집단이 일반아동 집단에 비해 시선주목도가

높게 나타났다. 이것은 읽기장애아동이 발레 언어

또한 제대로 인지하거나 이해하지 못함을 의미한다.

둘째, 읽기장애여부에 따라 발레 작품 <La

Sylphide>의 스토리를 이해하는 정도에 차이가 나

타났다. 일반아동 집단이 읽기장애아동 집단에 비

해 스토리 이해에 관한 질문지 정답률이 높게 나타

나는 것을 알 수 있었다. 언어를 통해 의미파악이

어려운 읽기장애아동들이 비언어적 형태인 발레 작

품 감상 시에도 이해력이 떨어졌다는 것을 알 수 있

었다.

위의 연구 결과를 토대로, 언어적 형태인 글을 통

하여 이해가 어려운 읽기장애아동은 비언어적 형태

인 발레언어를 읽지 못하며 그로 인하여 발레의 스

토리를 이해하지 못함을 알 수 있다. 이렇듯 일반아

동은 발레언어를 잘 읽고 이해하며 읽기장애아동만

이 읽거나 이해하지 못하는 결과가 나타나는 것은,

발레가 언어적 구조를 지니고 있다는 가설을 뒷받

침한다고 볼 수 있다.

ACKNOWLEDGEMENT

본 연구는 미래창조과학부 및 정보통신산업진흥

원의 IT/SW 창의연구과정의 연구결과로 수행되었

음 (NIPA-2013-H0502-13-1086)

참고문헌

[1] Metscher, T., and Szondi, P. 헤겔미학 입문. (여

동윤, 윤미애 옮김). 종로서 , 1984.

[2] Shannon and Weauer. The Mathematical Theory

of Communucation. Chicago, I11: University of

llinois, 1949.

[3] 진 권. 미학 오디세이, 1-3권. 휴머니스트, 2003.

[4] Denning, S. 스토리텔링으로 성공하라. (안진환 옮김).

을유문화사, 2006

[5] Ripoll, H., Y. Kerlirzin, et al. Analysis of

information processing, decision making, and

visual strategies in complex problem solving

sport situation. Human movement science,

Vol. 14 (3), P. 325-349, 1995

[6] Williams AM, Davids K. Visual search strategy,

selective attention, and expertise in soccer.

Res Q Exerc Sport, 69(2), 111-28, 1995.

[7] Yarbus. Eye movement and vision. Plenum

press, 1967.

[8] Exline, R. v., & Winters, L. c. Affective

relations and mutual glances in dyads. In S.S.

Tomkins & C. E. Izard(eds.), Affect, cognition,

and personality. New York: Springer, 1965.

[9] Remland, Martin. Nonverbal communication in

everday life. New York: Houghton Mifflin,

2000.

[10] Friedman, A., & Liebelt, L. S.. On the time

course of viewing Pictures with a view towards

remembering. In D. F. Fisher, R. A., Monty,

& J. W. Senders(Eds.), Eye Movements:

Cognitin and visual perception, P. 137~154,

1981.

[11] 김동일. 기 학습기능 수행평가(BASA: 읽기검사).

학지사 심리검사 연구소. 2010.

[12] Kavanagh, J.F., & Venezky, R.L. Orthography,

reading, and dyslexia. Baltimore: University

Park Press, 1980.

[13] Kenneth R. Pugh et al. Functional neuroi-

maging studies of reading and reading disability

(Development dyslexia). Mental retardation

and developmental disabilities research

reviews, Vol. 6, P. 207-213, 2000.

[14] Perfetti. C. A. Reading ability. New York:

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM

Page 11: ^ î ® ° p U B | r é ç ° U os ez ëraphe.kaist.ac.kr/publication/2014-시선추적 기법을 활용한 발레의... · fI jásÙví pÑ Å ZâsÝ sîn®u- kq \%uafI ¥w¾b j

www.earticle.net

【논 문】 한국차세대컴퓨팅학회 논문지 2014년 8월

99

Oxford University Press, 1985.

[15] Gough, P., & Tunmer, W. Decoding, reading,

and reading disability. Remedial and Special

Education, Vol. 7 , P. 6-10, 1986.

[16] Collingwood, R. G. The Principles of art.

London, UK: Oxford University Press, 1958.

[17] Hagendoorn, I.G. Dance, language and the

brain. Int. J. Arts and Technology, Vol. 3,

221-234, 2010.

[18] Judith Lynne Hanna. The language of dance.

Journal of Physical Education, Recreation &

Dance. 72 (4), P. 40-53, 2001.

[19] 김승국. 학습장애 아동 교육의 이론과 실제. 교육과학

사, 1997.

[20] Leonard, L., Sabbadini, L., Leonard, J., &

Volterra, V. Specific language impairment in

childen: A cross-linguistic study. Brain and

Language, Vol. 32, P. 233-252, 1987.

[21] Rouke, BP. Nonverbal learning disabilities:

The syndrome and the model. Guildford

Press, New York, P. 12-39, 1989.

[22] Elizabeth Petrakis. Analysis of Visual Search

Patterns of Dance Teachers. Journal of Teaching

in Physical Education, Vol. 6, P. 149-156,

1987.

[23] 홍수진, 이미 , 임철수, 백성욱. 지 장애 아동을

한 콘텐츠 작시스템 설계. 한국차세 컴퓨 학회

논문지, Vol.8 No.6 , P.27-36, 2012년 12월.

[24] Ronen Berger. Nature Therapy-Developing a

Framework for Practice. School of Health and

Social Sciences. University of Abertay, Dundee,

2009.

[25] Katie Overy. Dyslexia and music. Annals New

York Academy of Sciences. 999, P. 497-505,

2003.

[26] 이명수, 하지수. 의복 부착형 하드웨어 디자인 로토

타입 제안. 한국차세 컴퓨 학회 논문지, Vol.4

No.4 , P.38-45, 2008년 12월.

[27] 이창정, 길우, 김정규. Haar Classifier를 활용한

시선추 기반의 간 키보드 제어 시스템, 한국차세

컴퓨 학회 논문지, Vol.7 No.6 , P.44-50, 2011

년 12월.

[28] Goodman. Language of Art 1976. Hackett

Publishing Co. Inc. Indiana, 1968

저자소개

◆ 이경민

∙2006.8. 세종 학교 교육 학원(체육

교육학 석사)

∙2012. 2. 세종 학교 무용과(무용학

박사)

∙ 심분야: 발 언어, 무용 커뮤니 이션

◆ 이용일

∙2011. 1. KAIST 문화기술 학원 (공

학석사)

∙2011. 2.~ 재 KAIST 바이오 뇌

공학과 박사과정

∙ 심분야: 시선추 처리 알고리즘, 감

성분석, 클라우드 컴퓨

◆ 정재승

∙1999. 8. KAIST 물리학과(이학박사)

∙2004. 4.~ 재 KAIST 바이오 뇌

공학과 부교수

∙ 심분야: 의사결정, 뉴로마 , 복잡계,

BCI

◆ 장선희

∙1982. 2. 세종 학교 무용과(BA)

∙1991. 8. NYU Tisch 술 학 무용

과 (MFA)

∙2009. 2. 연세 학교 심리학과(심리학

박사)

∙1993~ 재 세종 학교 무용과 교수

∙ 심분야: 발 언어, Mirror neuron,

Biological motion

[Pro

vide

r:ea

rtic

le] D

ownl

oad

by IP

143

.248

.31.

XX

X a

t O

ctob

er 1

9, 2

017

4:59

PM