중첩 잔여 블록 기반 고해상도 데이터 압축 방법

초록

본 논문에서는 벡터 양자화의 코드북 혼잡도를 유지하면서 고차원 데이터를 효과적으로 압축하는 방법을 제안한다. VQ-VAE는 입력 데이터에 대해 우선적으로 데이터 압축을 진행하기 때문에 오디오, 자연어처리 등과 같은 long context 도메인과 high-dimensional 이미지와 같은 데이터들에 대한 처리를 가능하도록 하며 효과적인 잠재 변수 추출을 돕는다. 제안된 방법은 다양한 확장 범위 및 레이어 개수를 사용하여 실험 하였고, 코드북 붕괴 현상을 막기 위해 각 레이어 마다 배치 정규화를 적용해보았다. 실험 결과 본 논문에서 제안한 방법은 기존의 벡터 양자화 방법에 비해 최대 30%까지 성능 향상을 보였다.