계층 구조 Attention 기반 순환 신경망을 이용한 발화 의도 분류 성능 개선

Improving Utterance Intent Classification via Hierarchical Attention-based Recurrent Neural Network
  • 오주민
  • 조수필
  • 임영수
  • 최용석

초록

대화 시스템에 있어, 발화의 의도를 예측하는 것은 중요한 역할을 한다. 본 논문에서는 발화 의도 예측을 위한 계층 구조 Attention 기반 순환 신경망을 제안한다. 제안하는 모델은 단어 단계의 인식기와 발화 단계의 인식기로 이루어진 계층 구조를 가진다. 각 단계의 인식기에서, Attention 메커니즘을 통해 발화 의도 예측에 중요한 역할을 하는 단어와 문장에 집중한다. 우리가 제안하는 모델은 두 가지의 이점을 갖는다. 첫째, 이전 발화에서의 문맥 정보를 이용함으로써 현재 발화의 정보만 이용하는 것보다 의도를 예측함에 있어 높은 성능을 보인다. 둘째, 각 인식기의 Attention 메커니즘을 통해 의미 있는 단어와 문장에 집중함으로써 발화 의도 예측 성능을 높일 수 있다. 우리는 한국 영화 및 드라마 자막 데이터셋을 이용한 실험을 통해 제안한 모델의 성능을 평가하였다. 제안한 모델은 비교 모델들보다 정확도 및 F1-Score에 있어 높은 성능을 보인다. 실험의 결과를 통해, 우리는 제안한 모델이 발화 의도를 분류함에 있어 성능이 개선됨을 보였다.

제목
계층 구조 Attention 기반 순환 신경망을 이용한 발화 의도 분류 성능 개선
제목 (타언어)
Improving Utterance Intent Classification via Hierarchical Attention-based Recurrent Neural Network
저자
오주민조수필임영수최용석
발행일
2018-12
유형
Proceeding
저널명
한국정보과학회 2018 한국소프트웨어종합학술대회 논문집
페이지
575 ~ 577