解:
四进制脉表示4消息例:{0 1 2 3}
八进制脉表示8消息例:{0 1 2 3 4 5 6 7}
二进制脉表示2消息例:{0 1}
假设消息发出等概率:
四进制脉均信息量H(X1) log2n log24 2 bitsymbol
八进制脉均信息量H(X2) log2n log28 3 bitsymbol
二进制脉均信息量H(X0) log2n log22 1 bitsymbol
:
四进制八进制脉含信息量分二进制脉信息量2倍3倍
22 居住某区女孩子25学生女学生中75身高160厘米女孩子中身高160厘米占总数半假知身高160厘米某女孩学生消息问获少信息量?
解:
设机变量X代表女孩子学历
X
x1(学生)
x2(学生)
P(X)
025
075
设机变量Y代表女孩子身高
Y
y1(身高>160cm)
y2(身高<160cm)
P(Y)
05
05
已知:女学生中75身高160厘米
:p(y1 x1) 075
求:身高160厘米某女孩学生信息量
:
23 副充分洗乱牌(含52张牌)试问
(1) 特定排列出信息量少?
(2) 中抽取13张牌出点数相少信息量?
解:
(1) 52张牌52种排列方式假设种排列方式出现等概率出信息量:
(2) 52张牌4种花色13种点数抽取13张点数牌概率:
24 设离散记忆信源发出信息(202120130213001203210110321010021032011223210)求
(1) 消息信息量少?
(2) 消息中均符号携带信息量少?
解:
(1) 消息总14013112263消息发出概率:
消息信息量:
(2) 消息中均符号携带信息量:
25 量统计资料知道男性中红绿色盲发病率7女性发病率05果问位男士:否色盲?回答否问两回答中含少信息量均回答中含少信息量?果问位女士答案中含均信息量少?
解:
男士:
女士:
26 设信源求信源熵解释什H(X) > log6满足信源熵极值性
解:
满足极值性原
27 证明:H(X3X1X2) ≤ H(X3X1)说明X1 X2 X3马氏链时等式成立
证明:
28证明:H(X1X2 Xn) ≤ H(X1) + H(X2) + … + H(Xn)
证明:
29 设信源产生01序列信息意时间前发生什符号均P(0) 04P(1) 06概率发出符号
(1) 试问信源否稳?
(2) 试计算H(X2) H(X3X1X2)H∞
(3) 试计算H(X4)写出X4信源中符号
解:
(1)
信源稳记忆信源词语:意时间前发生什符号……
(2)
(3)
210 阶马尔夫信源状态图图示信源X符号集{0 1 2}
(1) 求稳信源概率分布
(2) 求信源熵H∞
解:
(1)
(2)
215黑白气象传真图消息黑色白色两种信源X{黑白}设黑色出现概率P(黑) 03白色出现概率P(白) 07
(1) 假设图黑白消息出现前没关联求熵H(X)
(2) 假设消息前关联赖关系P(白白) 09P(黑白) 01P(白黑) 02P(黑黑) 08求阶马尔夫信源熵H2(X)
(3) 分求述两种信源剩余度较H(X)H2(X)说明物理含义
解:
(1)
(2)
(3)
H(X) > H2(X)
表示物理含义:记忆信源确定度记忆信源确定度记忆信源结构化信息较够进行较程度压缩
21 时掷出两正常骰子面呈现概率16求:
(1) 35时出现事件信息
(2) 两1时出现事件信息
(3) 两点数种组合(序)熵均信息量
(4) 两点数(2 3 … 12构成子集)熵
(5) 两点数中少1信息量
解:
(1)
(2)
(3)
两点数排列:
11
12
13
14
15
16
21
22
23
24
25
26
31
32
33
34
35
36
41
42
43
44
45
46
51
52
53
54
55
56
61
62
63
64
65
66
21种组合:
中112233445566概率
15组合概率
(4)
参考面两点数排列出两点数求概率分布:
(5)
213 某记忆信源符号集{0 1}已知P(0) 14P(1) 34
(1) 求符号均熵
(2) 100符号构成序列求某特定序列(例m0(100 m)1)信息量表达式
(3) 计算(2)中序列熵
解:
(1)
(2)
(3)
214 某城市进行交通忙闲调查天气分成晴雨两种状态气温分成冷暖两状态调查结果联合出现相频度:
频度作概率测度求:
(1) 忙闲条件熵
(2) 天气状态气温状态已知时忙闲条件熵
(3) 天气状态气温状态获关忙闲信息
解:
(1)
根忙闲频率忙闲概率分布:
(2)
设忙闲机变量X天气状态机变量Y气温状态机变量Z
(3)
218 两二元机变量XY联合概率
Y X
x10
x21
y10
18
38
y21
38
18
定义机变量Z XY(般积)试计算:
(1) H(X) H(Y) H(Z) H(XZ) H(YZ)H(XYZ)
(2) H(XY) H(YX) H(XZ) H(ZX) H(YZ) H(ZY) H(XYZ) H(YXZ)H(ZXY)
(3) I(XY) I(XZ) I(YZ) I(XYZ) I(YZX)I(XZY)
解:
(1)
Z XY概率分布:
(2)
(3)
216 两机变量XYZ X + Y(般加法)XY相互独立求证:H(X) ≤ H(Z) H(Y) ≤ H(Z)
证明:
理
217 定声音样值X概率密度拉普拉斯分布求Hc(X)证明样方差正态变量连续熵
解:
218 连续机变量XY联合概率密度:求H(X) H(Y) H(XYZ)I(XY)
(提示:)
解:
219 帧电视图认3Í105素组成素均独立变化素取128亮度电设亮度电等概出现问帧图含少信息量?广播员约10000汉字中选出1000汉字口述电视图试问广播员描述图广播信息量少(假设汉字字汇等概率分布彼赖)?恰描述图广播员口述中少需少汉字?
解:
1)
2)
3)
220 设稳离散记忆信源试证明:
证明:
221 设N维高斯分布连续信源X1 X2 … XN方差分间相关系数试证明:N维高斯分布连续信源熵
证明:
相关系数说明相互独立
222 设连续机变量概率密度函数
(1) 试求信源X熵Hc(X)
(2) 试求Y X + A (A > 0)熵Hc(Y)
(3) 试求Y 2X熵Hc(Y)
解:
1)
2)
3)
31 设信源通干扰信道接收符号Y { y1 y2 }信道转移矩阵求:
(1) 信源X中事件x1事件x2分包含信息量
(2) 收消息yj (j12)获关xi (i12)信息量
(3) 信源X信宿Y信息熵
(4) 信道疑义度H(XY)噪声熵H(YX)
(5) 接收信息Y获均互信息量
解:
1)
2)
3)
4)
5)
32 设二元称信道传递矩阵
(1) P(0) 34 P(1) 14求H(X) H(XY) H(YX)I(XY)
(2) 求该信道信道容量达信道容量时输入概率分布
解:
1)
2)
33 设批电阻阻值分702KΩ305 KΩ瓦分640125W余025W现已知2 KΩ阻值电阻中800125W问通测量阻值关瓦数均信息量少?
解:
题建立数学模型:
求解程:
34 X Y Z三机变量试证明
(1) I(XYZ) I(XY) + I(XZY) I(XZ) + I(XYZ)
证明:
(2) I(XYZ) I(YXZ) H(XZ) – H(XYZ)
证明:
(3) I(XYZ) ≥0仅(X Y Z)马氏链时等式成立
证明:
时等式成立
等式成立条件X Y Z马氏链
35三机变量关系:Z X + Y中XY相互独立试证明:
(1) I(XZ) H(Z) H(Y)
(2) I(XYZ) H(Z)
(3) I(XYZ) H(X)
(4) I(YZX) H(Y)
(5) I(XYZ) H(XZ) H(YZ)
解:
1)
2)
3)
4)
5)
36 二元称信道信道矩阵设该信源1500二元符号秒速度传输输入符号现消息序列14000二元符号设P(0) P(1) 12问消息传输角度考虑10秒钟否消息序列失真传递完?
解:
信道容量计算:
说输入信道符号接收信息量0859特已知信源输入1500二元符号秒秒钟接收信息量:
现需传送符号序列140000二元符号设P(0) P(1) 12计算出符号序列信息量
求10秒钟传完说秒钟传输信息量1400bits超信道秒钟传输力(1288 bits)10秒消息序列失真传递完
37 求列离散信道容量(条件概率P(YX):)
(1) Z信道 (2) 抹信道 (3) 非称信道 (4) 准称信道
解:
1) Z信道
信道般信道利般信道计算方法:
a 公式求βj
b 公式求C
c 公式求p(yj)
d 公式求p(xi)
方程组:
解
s条件转移概率0 ≤ s ≤ 1p(x1)p(x2) ≥ 0保证C存
2) 抹信道
抹信道准称信道信道矩阵分解成两子矩阵:
3) 非称信道
信道般信道利般信道计算方法
a 公式求βj
b 公式求C
c 公式求p(yj)
d 公式求p(xi)
方程组:
解
p(x1)p(x2) ≥ 0保证C存
(4) 准称信道
信道矩阵分解成三子矩阵:
38 已知高斯信道输入信噪(率)3频带3kHz求传输消息率信噪提高15理传送样信息率需频带少?
解:
39 二址接入信道输入X1 X2输出Y条件概率P(YX1X2)表(ε < 12)求容量界限
X1X2 Y
0
1
00
1ε
ε
01
12
12
10
12
12
11
ε
1ε
310 离散广播信道条件概率试计算容量界限(已知)
311 已知离散信源某信道信道矩阵试求:
(1) 输入x3输出y2概率
(2) 输出y4概率
(3) 收y3条件推测输入x2概率
解:
1)
2)
3)
312 证明信道疑义度H(XY) 0充分条件信道矩阵[P]中列非零元素
证明:
[P]列非零元素 〉 H(XY) 0
取[P]第j列设
313 试证明:信道输入X值相应Y值输出X值应Y值相互重合时H(Y) – H(X) H(YX)
证明:
信道输入X值相应Y值输出X值应Y值相互重合种信道描述信道转移矩阵[P]特点列非零元素
取[P]第j列设
314 试求信道矩阵代表信道容量:
(1) [P] (2) [P]
(3) [P]
解:
1)
信道应干扰信道
2)
信道干扰信道
3)
信道扩展干扰信道
315 设二进制称信道记忆信道信道矩阵中:p > 0< 1p + 1>> p试写出N 3次扩展记忆信道信道矩阵[P]
解:
316 设信源XN次扩展信源X X1X2…XN通信道{X P(YX) Y}输出序列Y Y1Y2…YN试证明:
(1) 信源记忆信源时X1 X2 … XN间统计独立时
(2) 信道记忆时
(3) 信源信道记忆时
(4) 熵概念解释三种结果
证明:
1)
2)
3)
果信源信道记忆面证明两等式应时满足:
必然推出果稳分布
4)
流信道信息量信宿收信息量等信源信息确定度减信道干扰造成确定度
信源记忆信道记忆时应题第种情况信源记忆信源确定度等N倍单符号信源确定度信道记忆信道干扰造成确定度N倍单符号信道确定度两部分差值均互信息量N倍单符号均互信息量
信源记忆信道记忆时应题第二种情况信源记忆信源确定度N倍单符号信源确定度信道记忆信道干扰造成确定度等N倍单符号信道确定度两部分差值均互信息量N倍单符号均互信息量
信源记忆信道记忆时应题第三种情况信源记忆信源确定度等N倍单符号信源确定度信道记忆信道干扰造成确定度等N倍单符号信道确定度两部分差值均互信息量等N倍单符号均互信息量
317 设高斯加性信道输入输出噪声机变量X Y N间关系Y X + NE[N2] σ2试证明:信源X均值E[X] 0方差高斯机变量时信道容量达容量C
证明:
根概率中结:n正态分布X正态分布Y X + n正态分布前提取值说取值X均值零正态分布时满足前提条件
318 设加性高斯白噪声信道中信道带宽3kHz设{(信号功率+噪声功率)噪声功率}10dB试计算该信道信息传输速率Ct
解:
319 图片传输中帧约225Í106素重现图分16亮度电假设亮度电等概分布试计算分钟传送帧图片需信道带宽(信噪功率30dB)
解:
320 设电话信号信息率56Í104特秒噪声功率谱N0 5Í106 mWHz限频F限输入功率P高斯信道中传送F4kHz问差错传输需功率P少瓦?F→∞P少瓦?
解:
41 四元称信源接收符号Y {0 1 2 3}失真矩阵求DmaxDmin信源R(D)函数画出曲线(取45点)
解:
n元等概信源率失真函数:
中a 1 n 4 率失真函数:
函数曲线:
中:
42 某记忆信源接收符号失真矩阵求信源失真度失真度求选择种信道达该DmaxDmin失真度
43 某二元信源失真矩阵求信源DmaxDminR(D)函数
解:
二元等概信源率失真函数:
中n 2 率失真函数:
44 已知信源X {0 1}信宿Y {0 1 2}设信源输入符号等概率分布失真函数求信源率失真函数R(D)
45 设信源X {0 1 2 3}信宿Y {0 1 2 3 4 5 6}信源记忆等概率分布失真函数定义
证明率失真函数R(D)图示
46 设信源X {0 1 2}相应概率分布p(0) p(1) 04p(2) 02失真函数
(1) 求信源R(D)
(2) 信源容量C信道传递请画出信道容量C误码率Pk间曲线关系
47 设0 < α β < 1 α + β 1试证明:αR(D’) +βR(D) ≥ R(αD’ +βD)
48 试证明离散记忆N次扩展信源RN(D) NR(D)中N意正整数D ≥ Dmin
49 设某区晴天概率p(晴) 56雨天概率p(雨) 16晴天预报雨天雨天预报晴天造成损失a元设该区天气预报系统晴天预报晴天雨天预报雨天概率均09晴天预报雨天雨天预报晴天概率均01试计算种预报系统信息价值率v(元特)
410 设离散记忆信源失真度汉明失真度
(1) 求DminR(Dmin)写出相应试验信道信道矩阵
(2) 求DmaxR(Dmax)写出相应试验信道信道矩阵
(3) 允许均失真度D 13试问信源信源符号均少二进制符号表示?
解:
411 设信源(p < 05)失真度汉明失真度试问允许均失真度D 05p时信源符号均少需二进制符号表示?
解:
二元信源率失真函数:
中a 1(汉明失真) 二元信源率失真函数:
时
51 设信源
(1) 求信源熵H(X)
(2) 编二进制香农码
(3) 计算均码长编码效率
解:
(1)
(2)
xi
p(xi)
pa(xi)
ki
码字
x1
02
0
3
000
x2
019
02
3
001
x3
018
039
3
011
x4
017
057
3
100
x5
015
074
3
101
x6
01
089
4
1110
x7
001
099
7
1111110
(3)
52 信源编二进制费诺码计算编码效率
解:
xi
p(xi)
编码
码字
ki
x1
02
0
0
00
2
x2
019
1
0
010
3
x3
018
1
011
3
x4
017
1
0
10
2
x5
015
1
0
110
3
x6
01
1
0
1110
4
x7
001
1
1111
4
53 信源编二进制三进制哈夫曼码计算均码长编码效率
解:
二进制哈夫曼码:
xi
p(xi)
编码
码字
ki
s6
1
s5
061
0
s4
039
1
s3
035
0
s2
026
1
x1
02
0
10
2
x2
019
1
11
2
x3
018
0
000
3
x4
017
1
001
3
x5
015
0
010
3
s1
011
1
x6
01
0
0110
4
x7
001
1
0111
4
三进制哈夫曼码:
xi
p(xi)
编码
码字
ki
s3
1
s2
054
0
s1
026
1
x1
02
2
2
1
x2
019
0
00
2
x3
018
1
01
2
x4
017
2
02
2
x5
015
0
10
2
x6
01
1
11
2
x7
001
2
12
2
54 设信源
(1) 求信源熵H(X)
(2) 编二进制香农码二进制费诺码
(3) 计算二进制香农码二进制费诺码均码长编码效率
(4) 编三进制费诺码
(5) 计算三进制费诺码均码长编码效率
解:
(1)
(2)
二进制香农码:
xi
p(xi)
pa(xi)
ki
码字
x1
05
0
1
0
x2
025
05
2
10
x3
0125
075
3
110
x4
00625
0875
4
1110
x5
003125
09375
5
11110
x6
0015625
096875
6
111110
x7
00078125
0984375
7
1111110
x8
00078125
09921875
7
1111111
二进制费诺码:
xi
p(xi)
编码
码字
ki
x1
05
0
0
1
x2
025
1
0
10
2
x3
0125
1
0
110
3
x4
00625
1
0
1110
4
x5
003125
1
0
11110
5
x6
0015625
1
0
111110
6
x7
00078125
1
0
1111110
7
x8
00078125
1
1111111
7
(3)
香农编码效率:
费诺编码效率:
(4)
xi
p(xi)
编码
码字
ki
x1
05
0
0
1
x2
025
1
1
1
x3
0125
2
0
20
2
x4
00625
1
21
2
x5
003125
2
0
220
3
x6
0015625
1
221
3
x7
00078125
2
0
2220
4
x8
00078125
1
2221
4
(5)
55 设记忆二进制信源
先信源序列编成数字012……8换成二进制变长码字表示
(1) 验证码字分离性
(2) 求应数字信源序列均长度
(3) 求应码字信源序列均长度
(4) 计算计算编码效率
(5) 4位信源符号合起编成二进制哈夫曼码求均码长计算编码效率
序列
数字
二元码字
1
0
1000
01
1
1001
001
3
1010
0001
3
1011
00001
4
1100
000001
5
1101
0000001
6
1110
00000001
7
1111
00000000
8
0
56 二元稳马氏链已知p(00) 08p(11) 07求符号熵三符号合成编写二进制哈夫曼码求新符号均码字长度编码效率
57 题56信源进行游程编码0游程长度截值161游程长度截值8求编码效率
58 选择帧长N 64
(1) 0010000000000000000000000000000001000000000000000000000000000000遍LD码
(2) 1000010000101100000000010010000101001000000001110000010000000010遍LD码译码
(3) 0000000000000000000000000000000000000000000000000000000000000000遍LD码
(4) 10100011010111000110001110100110000111101100101000110101011010010遍LD码
(5) 述结果进行讨
文档香网(httpswwwxiangdangnet)户传
《香当网》用户分享的内容,不代表《香当网》观点或立场,请自行判断内容的真实性和可靠性!
该内容是文档的文本内容,更好的格式请下载文档