Listen Attend and Spell End-to End 음성인식 시스템

1. 주요 연구 내용 요약

본 논문에서는 기존 시도를 개선한 Listen, Attend, and Spell (LAS)를 소개하고 있다. 이 네트워크는 오디오 시퀀스 신호를 한 번에 한 문자씩 단어 시퀀스로 전사하는 방법에 대한 연구이고 결과이다. 이전의 접근 방식과 달리 LAS는 라벨 시퀀스에서 독립성 가정을 하지 않으며 HMM에 의존하지 않는 것이 주요 특징이다.

LAS는 어텐션 메커니즘을 사용한 시퀀스 to 시퀀스 학습 프레임워크에 기반하며 리스너라고 불리는 인코더 재귀 신경망(RNN)과 스펠러라고 불리는 디코더 RNN으로 구성된다. 리스너는 낮은 수준의 음성 신호를 더 높은 수준의 기능으로 변환하는 피라미달 RNN이다. 스펠러는 이러한 더 높은 수준의 기능을 어텐션 메커니즘을 사용하여 문자 시퀀스의 확률 분포로 변환하여 출력한다.

해당 논문의 접근 방식의 핵심은 리스너에 대한 피라미달 RNN 모델을 사용하는 것이다. 기존의 CTC와 같은 모델은 프레임 간의 조건부 독립성 가정 때문에 동일한 발화에 대해 이러한 다양한 트랜스크립트를 생성하는 데 어려움이 있다.