Giải bài 1 a. Bản tin: congnghethongtin
b. Mô hình nguồn: X = (c, o, n, g, h. e, t, i)
P(X) = (1/16, 2/16, 4/16, 3/16, 2/16, 1/16, 2/16, 1/16)
C, Entropy: H(X) = -1/16 log 1/16 – 2/16 log 2/16 – 4/16 log 4/16 – 3/16
log 3/16 – 2/16 log 2/16 – 1/16 log 1//16 – 2/16 log 2/16 – 1/16 log 1/16
d. Lượng tin của bản tin: Số tin trong bản tin x Lượng tin trung bình chứa
trong một tin của bản tin = 16. H(X) Giải bài 2
Giả sử chữ số cuối của mã số sinh viên là 6, chữ số trược cuối là 7 p0 = 6/10 P1=1-p0 = 4/10 P = 7/10
Để tính lượng tin tương hỗ ta áp dụng công thức
I(X;Y) = ∑p(xi,yj)log (p(xi,yj)/(p(xi)p(yj))) = p(x1,y1)log {p(x1,y1)/(p(x1)p(y1))} + p(x1,y2) log
{p(x1,y2)/Ơp(x1)p(y2)) + p(x2,y1) log {p(x2,y1)/(p(x2)p(y1))}+p(x2,y2) log{Ơp(x2,y2)/(p(x2)p(y2))}
Ta mới có p(X) ={p(xi)} và p(Y/X) = {p(yj/xi)}
Cần phải tính các p(x,y) và các p(y)
Theo công thức xác suất đồng thời p(x,y) =p(x)p(y/x)
• P(x1,y1) =p(x1)p(y1/x1) = p0.(1-p) =6/10 x 3/10
• P(x1,y2) = p(x1)p(y2/x1) =p0 x p = 6/10 x 7/10
• P(x2,y2) = p(x2)p(y1/x2) = p1.p = 4/10 x 7/10
• P(x2,y2) = p(x2) p(y2/x2) = p1(1-p) = 4/10 x 3/10
• P(y1) = ∑p(xi, y1) = p(x1,y1) + p(x2,y1) = 6/10 x 3/10 + 4/10 x 7/10
• P(y2) = ∑p(xi,y2) = p(x1,y2) + p(x2,y2) = 6/10 x 7/10 + 4/10 x 3/10 Giải bài 3
• Lượng tin của bản tin ở bài tập 1 1. Bản tin có 16 tin. Mỗi tin trung
bình chưa lượng tin bang Entropy của nguồn H(X) tính trong bài tập 1.
• Vây lượng của bản tin là I = 16 H(X)
• Lương tin truyền được qua kênh trong 1 đơn vị thời gian (1 giây)là
lương tin tương hỗ nhân với số tin chuyển được qua kênh trong 1
đơn vị thời gian. Số tin này bằng 1 nên lương tin chuyển được qua kênh là I(X;Y)
• Vậy thời gian chuyên hết bản tin bằng t = I/I)(X;Y)