信息论学习笔记之“关于信源信道传输信息能力指标的探讨”

  • Post author:
  • Post category:其他


在通信原理和信息论中我们都学习了信息传输率和信息传输速率,都是用来表征信息携带和传输的能力,虽然在两门课分开学习,但有关联,其中有异有同,笔者在这里谈谈个人的见解。


(1)数字通信系统的有效性



在通信原理课程中我们知道了数字通信系统的有效性用频带利用率来衡量。



定义1.1:



对于数字通信系统,其频带利用率定义为单位带宽内的传输速率。



\eta = \frac{R_{B}}{B}
\left ( Baud/Hz \right )


或:

\eta _{b}= \frac{R_{b}}{B}
\left ( b/(s\cdot Hz) \right )

其中,B是传输带宽,这里的带宽为整个系统的总带宽,一般与信道带宽一致。
R_{B}

R_{b}
分别代表传码率和传信率,下面分别进行探讨。



定义1.2:


单位时间内传输码元的数目定义为码元传输速率,简称为传码率或波特率,单位是波特(Baud)。

R_{B}= \frac{1}{T_{B}}
\left ( Baud \right )

其中,
T_{B}
为每个码元的长度,单位为秒(s),表征每个码元所持续的时间。



定义2.2:


单位时间内传输的平均信息量定义为信息传输速率,简称为传信率或比特率,单位是比特/秒(bit/s)。

R_{b}= I\cdot R_{B}
\left ( bit/s \right )

其中,
I
为码元的平均信息量,表征M进制的码元平均每个码元所携带了多少信息量,单位是比特(bit)。下面进一步探讨
I

不妨设所传送的M进制的码元来自信源
X
,用概率空间表示为:

\binom{X}{P(x)}

那么有每个
X
的任意样值
x_{i}
的自信息为:

I(x_{i})= \log \frac{1}{P(x_{i})}
(bit)

又有:

H(X)= E\left [ I(x) \right ]= \sum_{i}^{}P(x_{i})\log \frac{1}{P(x_{i})}
(bit/symbol)

当码元中所有符号等概率出现时,
H(X)= I(x_{i})= \log M

\left | \left | X \right | \right |= M
)。这里我们不妨设M进制码元中所有符号等概率出现,即
I= H(X)= I(x_{i})= \log M

所以很显然的事实是:

当信源所发出的码元各符号等概率出现时,传信率就等于传码率乘上每个符号携带的信息量(自信息)


(2)信道容量



版权声明:本文为ldy0806原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。