이번 포스팅은 양자화 오차와 디더링에 대해서 설명드리겠습니다. 비트뎁스에 대해 잘 모르시는 분은 관련 문서 참조 부탁드립니다.
Quantize error/ Dithering
Quantization error는 디지털 시스템에서 아날로그 신호를 디지털로 변환할 때 발생하는 오차이다. 아날로그 신호는 연속적인 값을 가지지만, 디지털 시스템에서는 이를 일정한 간격으로 샘플링하여 근사화한다. 이 과정에서 아날로그 신호의 연속성을 잃고 이산화된 값을 가지게 된다.
Quantization error는 아날로그 신호와 디지털화된 값 사이의 차이를 나타낸다. 이 오차는 원래 아날로그 신호에서 디지털화되는 과정에서 발생하는 정밀도 손실에 기인한다. 즉, 아날로그 신호를 무한히 세밀하게 표현할 수 없기 때문에 근사화 과정에서 일어나는 오차이다.
Quantization error는 일반적으로 양자화 단계의 크기에 비례한다. 양자화 단계가 작을수록 (더 세밀한 수준으로 양자화할수록) quantization error는 작아진다. 일반적으로 인간의 청각 시스템은 16비트 이상의 음향 신호를 재생할 때 양자화 오차를 거의 감지하지 못한다.
이러한 양자화 오차는 일종의 잡음으로서 주로 고주파 영역에서 들리는데, 이는 계단 모양의 양자화 잡음이 고주파 성분으로 인식되기 때문이다. 양자화 오차를 최소화 하기 위해 더 높은 비트뎁스를 사용하거나, 신호 처리 기법인 디더링을 적용할 수 있다.
디더링은 양자화 오차를 분산시켜서 효과적으로 감소시키는 방법이다. 작은 무작위 잡음 신호인 디더 신호를 원래 신호에 추가하여 신호의 세부 사항을 보존하고, 양자화 오차가 인간의 청각이나 시각에 덜 인식되도록 한다. 디더링은 양자화 오차의 음향적인 특성을 변화시켜 주로 더 자연스러운 소리나 영상을 제공하는 데 사용된다.
디더링은 일반적으로 비트뎁스를 낮출때(24bit -> 16bit) 적용되며, 음악 제작, 음향 믹싱, 영상 편집 등의 분야에서 품질 향상을 위해 적용될 수 있다. 디더링은 정밀한 계산과 알고리즘을 필요로 하며, 적절한 디더링 기법을 선택하고 적용하는 것이 중요하다.