이번 포스팅에서는 샘플링 레이트를 알기 위해 아주 중요한 나이퀴스트 이론과 안티 앨리어싱에 대해 알아보겠습니다. 샘플레이트에 대해 잘 모르시는 분은 관련 문서를 먼저 읽고 오시는 걸 추천드립니다.
Nyquist theorem
나이퀴스트(Nyquist)는 하버드 대학교의 전기 공학자인 해리 나이퀴스트(Harry Nyquist)의 이름에서 따왔다. 나이퀴스트는 20세기 초반에 신호 처리와 정보 이론 분야에서 중요한 기여를 한 학자이다.
나이퀴스트는 표본화 이론과 정보 이론의 선구자로 알려져 있다. 그는 1928년에 발표한 논문 “Certain Topics in Telegraph Transmission Theory“에서 표본화 주파수에 대한 개념을 제시했고, 이후 이 개념은 “나이퀴스트 이론“이라고 불리게 되었다.
나이퀴스트는 주파수 대역의 한계를 규정하는 이론으로써, 신호를 디지털 형태로 변환하기 위해 필요한 샘플링 주파수에 대한 원리를 제시했다. 그는 디지털 신호 처리에서 신호의 주파수 성분을 재구성하기 위해서는 적어도 최대 주파수 성분의 두 배 이상인 표본화 주파수가 필요하다는 원리를 제시했다.
해리 나이퀴스트의 업적과 이론은 디지털 통신, 디지털 오디오, 정보 이론 등 다양한 분야에 큰 영향을 미쳤으며, 그의 이름은 나이퀴스트 이론을 대표하는 상징적인 용어로 사용되고 있다.
Alias error & Anti – Aliasing
안티 앨리어싱은 아날로그 신호를 디지털로 샘플링할 때 발생하는 문제인 앨리어싱을 방지하기 위한 기술이다. 앨리어싱은 샘플링 주파수가 신호의 최대 주파수를 충분히 샘플링하지 못할 때 발생하는 현상으로, 신호의 일부 주파수 구성 요소가 다른 주파수로 왜곡되거나 추출되는 현상을 말한다. 이는 샘플링 주파수보다 높은 주파수 신호가 샘플링 과정에서 낮은 주파수 신호로 잘못 인식되어 발생한다.
안티 앨리어싱은 주로 샘플링 전에 앨리어싱을 방지하기 위해 신호에 대해 주파수 대역을 제한하는 로우패스 필터를 적용하는 방법을 사용한다. 이를 통해 샘플링 주파수의 1/2 이상인 주파수 영역을 제거하고, 나이퀴스트 주파수 이론에 따라 샘플링 주파수의 2배 이상으로 신호를 샘플링함으로써 안티 앨리어싱을 달성할 수 있다.
앨리어싱 에러는 안티 앨리어싱이 제대로 이루어지지 않거나 샘플링 주파수가 충분하지 않을 때 발생하는 오차를 의미한다. 이는 원래 신호에서 발생한 주파수와 다른 주파수로 인식되는 현상이며, 신호의 왜곡이나 불필요한 주파수 구성 요소의 등장으로 인해 음질 손실이 발생할 수 있다.
안티 앨리어싱 필터는 다양한 유형과 구조를 가지고 있다. 아래는 몇 가지 흔히 사용되는 안티 앨리어싱 필터의 종류이다.
- Brickwall 필터: 주파수 대역을 엄격하게 제한하여 샘플링 주파수의 1/2 이상인 주파수를 차단하는 필터이다. 이 필터는 대역 외의 주파수를 완전히 제거하기 때문에 매우 강력한 앨리어싱 방지 효과를 가지고 있다. 그러나 주파수 대역 제한이 엄격하기 때문에 신호의 일부 주파수 정보를 손실할 수 있다.
- Bessel 필터: 주로 선형 상태 변화를 최소화하여 앨리어싱을 방지하기 위해 사용되는 필터이다. Bessel 필터는 주파수 응답이 부드럽고 상대적으로 평평한 특징을 가지고 있어 신호의 주파수 성분을 왜곡 없이 전달한다. 그러나 대역폭 제한이 상대적으로 크기 때문에 엄격한 앨리어싱 방지에는 적합하지 않을 수 있다.
- Chebyshev 필터: 주파수 대역에서의 전달 특성을 고려하여 설계된 필터로, 주파수 응답에서 허용할 수 있는 최대 리플을 정의할 수 있다. 이 필터는 주파수 대역 외의 주파수에서는 감쇠를 높이고 주파수 대역 내에서는 감쇠를 최소화하여 앨리어싱을 방지한다. 리플*이 있는 주파수 응답을 가지므로 일부 왜곡이 발생할 수 있다.
- Elliptic 필터: Chebyshev 필터와 비슷한 원리로 동작하지만, 주파수 대역 내와 외에서 동시에 리플을 최소화하는 필터입니다. 이 필터는 주파수 대역 내에서 더 큰 감쇠와 좁은 대역폭을 제공하며, 주파수 대역 외에서도 높은 감쇠를 가지므로 앨리어싱 방지에 효과적입니다. 그러나 설계가 복잡하고 연산 비용이 높을 수 있다.
*리플(ripple)은 주파수 응답 그래프에서 파형의 불규칙한 변동을 나타낸다. 주로 스톱밴드(필터가 원하는 주파수 대역 외부의 주파수 범위)나 전달대역에서 파형의 변동이 발생하는 것을 말한다.
주파수 응답 그래프는 필터의 주파수 특성을 표현하는데 사용되며, 필터가 특정 주파수 대역을 얼마나 통과시키는지 또는 차단하는지를 보여준다. 리플은 이 주파수 응답 그래프에서 주파수 대역에서 파형이 움직이거나 변동하는 정도를 의미한다. 리플은 필터의 성능을 나타내는 중요한 요소 중 하나이다. 필터의 주파수 응답에서 높은 리플이 있으면 해당 주파수 대역에서 신호의 왜곡이 발생할 수 있다. 따라서 리플을 허용할 수 있는 최대 한계를 정의하여 필터의 원하는 성능과 리플 사이의 균형을 유지할 수 있다. 일반적으로 리플은 최소화되는 것이 이상적이지만, 특정 응용 분야에서는 리플의 허용 범위를 정의하여 필터의 성능 요구 사항에 맞출 수 있다.
이 외에도 FIR 필터(유한 임펄스 응답 필터), IIR 필터(무한 임펄스 응답 필터), 등 다양한 안티 앨리어싱 필터가 있으며, 각각의 필터는 주어진 애플리케이션과 요구사항에 맞게 선택되고 사용된다.
안티 앨리어싱은 앨리어싱 에러를 최소화하여 정확하고 무손실의 디지털 신호 처리를 위해 필요한 기술이다. 이를 위해 적절한 샘플링 주파수와 필터링 기술을 사용하여 신호의 원본 정보를 최대한 보존하고 왜곡을 방지할 수 있도록 한다.
하지만 안티앨리어싱 필터는 고주파 신호의 앨리어싱을 방지하기 위해 사용되지만, 필터의 한계가 있을 수 있다. 위에서 설명한 것처럼, 필터의 특성에 따라 20kHz 이상의 고주파 신호를 완벽히 제거하기 어려울 수 있다.
버터워쓰 필터와 같은 일반적인 안티앨리어싱 필터는 주파수 응답 곡선에서 특정한 cutoff 주파수 이상의 신호를 감소시키는 기능을 가지고 있다. 그러나 이 필터는 완전한 제로 아웃풋(출력이 0이 되는)을 제공하지 않는다. 필터의 차수가 높아질수록 cutoff 주파수 이상의 신호를 더 많이 감소시킬 수 있지만, 이는 필터의 다른 성능 요소를 저하시킬 수 있다.(phase distortion)
안티앨리어싱 필터의 한계를 극복하기 위해 오버샘플링이 사용될 수 있다. 오버샘플링은 입력 신호의 샘플링 주파수를 증가시킴으로써 필터링 및 샘플링 과정에서 더 많은 공간을 제공하여 aliasing error를 줄일 수 있다. 이를 통해 더 정확한 안티앨리어싱 처리가 가능해지며, 고음질의 디지털 오디오 신호를 얻을 수 있다.