📌 Shannon Capacity 제 1 정리

Shannon 용량 정리(제 1 정리)는 채널 또는 매체(무선, 동축, 트위스터 쌍, 광섬유 등) 및 전송제약조건(전력,대역 등)이 주어진 상태하에 신뢰성 있게 전달할 수 있는 정보의 최대량 또는 데이터 용량을 의미한다. 신호와 잡음의 세기에 따라 해당 채널에서 오류없이 전송가능한 이론상의 최대 용량이다. 초당 비트 수(bps)를 단위로 하는 링크 용량의 상한값을 데시벨(dB)을 단위로 하는 신호 대 잡음비(SNR: Signal-to-noise Raito)로 계산하는 함수이다.

💡 수식

여기서 W는 대역폭이고 SNR = Ps/Pn은 신호 대 잡음비이다. Ps와 Pn은 각각 신호의 전력과 노이즈의 전력에 해당한다. (SNR = S/N)

• 잡음이 없다면 or 신호전력이 크다면 (N -> 0, S/N -> ∞)
  임의 대역폭에서도 채널 용량을 거의 무한으로 할 수 있음
• 잡음이 있다면 or 신호전력이 작다면 (N -> ∞, S/N -> 0)
  대역폭을 아무리 증가시켜도 채널 용량을 크게 할 수가 없다는 것을 의미
• 채널 용량에 대한 Shannon의 증명은 채널 용량 C에 도달하는 방법을 제공하는 것이 아니라 '잡음이 존재하는 곳에서 신뢰할 만한 통신'이라는 이론적 한계치를 제시한 것이다.

📌 제 2정리: 부호화 정리

샤논의 부호화 정리는, 만일 어떤 정보원이 채널용량보다 작은 정보율을 가지고 있다면, 에러/잡음을 최소화할 수 있는 부호화(Coding) 과정이 반드시 존재한다는 정리이다.

💡 과정

정보율 R, 채널용량 C 라고 하면,

• R < C : 적정한 부호화 기술만 사용하면 오류 최소화 가능
  -> 대역이 제한된 채널로 입력되는 정보율이 C(bps)보다 작다면, 부호 메세지 길이를 무한하게하여 에러율을 영(0)으로 접근시키는 부호화가 반드시 존재한다.
• R > C : 어떤 부호화 기술을 사용하더라도 에러 존재
  -> 입력되는 정보율이 C를 초과하면, 에러율은 어떤 유한 값 이하로는 떨어질 수 없다.

※ 만일 어떤 정보원이 채널용량보다 작은 정보율을 가지고 있다면, 에러/잡음을 최소화할 수 있는 부호화(Ccoding) 과정이 존재한다. 즉, 잡음이 존재하더라도 무시할 수 있는 정도의 송수신이 가능할 수 있다.
한편, 정보율이 채널용량 보다 크다면 오류가 나올 확률을 피할 수 없다.