Tóm tắt lý thuyết chương 5 Quy hoạch thực nghiệm - Xác suất thống kê (MI2020) | Trường Đại học Bách khoa Hà Nội

Bài toán: ta cần nghiên cứu một đại lượng y trong một hệ thống nào đó. Giả sử y phụ thuộc vào các yếu tố độc lập và các tác động ngẫu nhiên không điều khiển được

lOMoARcPSD| 45254322
TÓM TẮT CHƯƠNG 5
QUY HOẠCH THỰC NGHIỆM
5.1 Phương ph p b nh phương cực tiểu
Bài toán: ta cần nghiên cứu một đại lượng y trong một hệ thống nào đó. Giả sử y phụ thuộc
vào các yếu tố độc lập và các tác động ngẫu nhiên không điều khiển được .
X t m h nh hồi quy tuyến t nh: y = β
0
+ β
1
x
1
+ … + β
k
x
k
+ ξ, với githiết ξ N(0;σ
2
). Giả sử
ta thc hiện N th nghiệm thu được dliệu như sau:
1 x11 x1k 1 x
21
x
2k
v Y =.
Đặt X =
1 xN1 xNk
C ng thức 1: Ước lượng của β == (X
t
X)
−1
X
t
Y
C ng thức 2: Kim định sự c ý nghĩa của hệ số hồi quy với H
0
: β
j
= 0
b
j
Ti u chuẩn kiểm định l t
bj
= t
d.f
khi H
0
đng.
sb
j
n0
2
j = s
ts
2
(C
−1
)
jj
, với C
1
= (X
t
X)
−1
v s 1
,
1
,…,y
n
0
0) l
trong đ s
b
n0 1 i=1
β
0
β
k
B =
b
0
b
k
y
y
y
y
y
lOMoARcPSD| 45254322
c c gi trị quan s t của y lặp lại ti 1 điểm th nghim; d . f = n
0
− 1
Quy tc kim định: Ta b c bỏ H
0
nếu |t
b
j| > t
d.f;1−α
C ng thức 3: Kim định sự ph hợp của m h nh với H
0
: m h nh ph hợp
2
s
du
Ti u chuẩn kiểm định l F
=
2 F
Nk1;n0
1
khi H
0
đng. sts
N
2
= 1 ∑(y
i
y
i
 )
2
trong đ s
du
N k − 1
i=1
Quy tc kim định: Ta b c bỏ H
0
nếu F >
F
Nk1;n0
1;1−α
5.2 Phương ph p quy hoạch trực giao
1 x11 x1k 1
x
21
x
2k
- Quy hoạch trực giao: l phương ph p quy hoch m ma trận X =
1 xN1 xNk
thom n điều kiện: 2 cột bt kỳ của X trực giao nhau (t ch v hướng của 2 ct bất kỳ của X
= 0).
Khi đ C
1
= (X
t
X)
−1
với (C
−1
)
ij
= 0 nếu i j v (C
−1
)
jj
= x
j
−2
.
< xj,y > Ni=1 xijyi
C ng thức 1: C ng thức t nh hệ số hồi quy b
j
; j = 0, 1, , k
C ng thức 2: Kim định sự c ý nghĩa của hệ số hồi quy với H
0
: β
j
= 0
b
j
Ti u chuẩn kiểm định l t
bj
= t
d.f
khi H
0
đng.
sb
j
2 n
0
v s
1
,
1
,…,y
n
0
0
) l c c gi trị quan
2
j = s
ts
s t trong đ s
b
N
i=1 xij
2
n
0
1
i=1
y
y
y
lOMoARcPSD| 45254322
của y lặp lại tại 1 điểm th nghiệm; d . f = n
0
− 1
Quy tc kim định: Ta b c bỏ H
0
nếu |t
b
j| > t
d.f;1−α
C ng thức 3: Kim định sự ph hợp của m h nh với H
0
: m h nh ph hợp
2
s
du
Ti u chuẩn kiểm định l F
=
2 F
Nk1;n0
1
khi H
0
đng.
sts
1 N du i
i
trong đ s2 =(y y )2
N k − 1
i=1
Quy tc kim định: Ta b c bỏ H
0
nếu F >
F
Nk1;n0
1;1−α
5.2.1 Phương ph p quy hoạch trực giao cấp 1
- Phương ph p quy hoạch trực giao cấp 1: l phương ph p quy hoạch trực giao (tc l 2
cột bt kỳ của X trực giao nhau: t ch v hướng của 2 ct bất kỳ của X = 0) v x
j
2
= N. -
Trong hệ thống x t biến y phụ thuc c c biến độc lập Z
1
,…, Z
k
với Z
i
Z
j
Z
j
. X t th
0
Zi + Zj ; thc nghim ti c c gi trị bi
n Z
i
, Z
j
v lặp lại n
0
lần th nghiệm ti t m Z
j
Zj Zj0 Zj Zi
hiện đổi biến X
j
= với ΔZ
j
= v x t m h nh:
ΔZ
j
2
y = β
0
+ β
1
X
1
+ … + β
k
X
k
+ ξ.
- Khi đ ma trận X thoả m n điều kiện của Quy hoạch trực giao cấp 1.
< xj,y > Ni=1 xijyi
C ng thức 1: C ng thức t nh hệ số hồi quy b
j
; j = 0, 1, , k
N
C ng thức 2: Kim định sự c ý nghĩa của hệ số hồi quy với H
0
: β
j
= 0
b
j
Ti u chuẩn kiểm định l t
bj
= t
d.f
khi H
0
đng.
sb
j
lOMoARcPSD| 45254322
2 n
0
=
s
ts
v s 1
,
1
,…,y
n
0
0
) l c c gi trị quan s
2
j
t ca y trong đ s
b
N n0 1 i=1
lặp lại ti 1 điểm th nghiệm; d . f = n
0
− 1
Quy tc kim định: Ta b c bỏ H
0
nếu |t
b
j| > t
d.f;1−α
C ng thức 3: Kim định sự ph hợp của m h nh với H
0
: m h nh ph hợp
2
s
du
Ti u chuẩn kiểm định l F
=
2 F
Nk1;n0
1
khi H
0
đng. sts
N
2
= 1 ∑(y
i
y
i
 )
2
trong đ s
du
N k − 1
i=1
Quy tc kim định: Ta b c bỏ H
0
nếu F >
F
Nk1;n0
1;1−α
5.2.2 Phương ph p quy hoạch trực giao cấp 2
Trong hệ thống x t biến y phụ thuc c c biến độc lập Z
1
,…, Z
k
với Z
i
Z
j
Z
j
. Thực hiện
Zj Zj0 Zj Zi
đổi biến X
j
= với ΔZ
j
= .
ΔZ
j
2
C c tham số của m h nh:
+) k l số biến độc lp
+) n
0
l số lần lặp th nghiệm ti t m Z
j
0
+) N = 2
k
+ n
0
+ 2k l tổng số th nghiệm: gm 2
k
th nghiệm tại bi n Z
i
, Z
j
; n
0
lần th nghiệm
tại t m v 2k th nghim ti c c trc X
j
với toạ độ l a.
1
k
+ 2a
1
).
1
= 1 ∑(y
i
y
i
)
2
nghĩa (số biến độc
lập trong m h nh), trong đ s
du
N r − 1
y
y
y
k
k
lOMoARcPSD| 45254322
+) tham số a = v λ =(2
N
X t m h nh bc 2 đầy đủ với X
j
= X
j
2
λ:
y = β
0
+ ∑β
j
X
j
+ ∑β
ij
X
i
X
j
+ ∑β
jj
X
j
+ ξ.
Phương ph p quy hoạch trực giao cấp 2: l phương ph p quy hoạch trc giao vi N =
2
k
+ n
0
+ 2k th nghiệm với c c tham số như ở tr n.
Ta c C = X
t
X với C
mn
= < X
m
, X
n
> = 0 nếu m n v
N nếu m = 0
2
k
+ 2a
2
nếu m = 1,...,k
Cmm =k nếu m = ij 2a
4
nếu m = jj
2
< X
m
,y > < X
m
,y >
C ng thức 1: C ng thức t nh hệ số hồi quy b
m
= =
n n
< Xm, Xm > Cmm
y
i
< X
j
,y > < X
i
X
j
,y >
b
0
= = ¯y; b
j
= 2
k
+ 2a
2 , j=1, , k; b
ij
=
2
k
với i < j v
N
< X
j
′, y >
bjj = 4 .
2a
C ng thức 2: Kim định sự c ý nghĩa của hệ số hồi quy với H
0
: β
m
= 0 với
m = 0,1,...,k;ij; jj
b
m
Ti u chuẩn kiểm định l t
bm
=
t
d.f
khi H
0
đng.
sbm
s
2 n
trong đ s
2
=
ts
v
s
1
0
, ,…,y
0
) l
c c gi trị quan s t của y
b
m
1 n0
Cmm n0 1
i=1
i=1 Quy
tắc kim định: Ta b c bỏ H
0
nếu F >
F
Nr1;n0
1;1−α
.
y
y
y
lOMoARcPSD| 45254322
lặp lại ti 1 điểm th nghiệm; d . f = n
0
− 1
Quy tc kim định: Ta b c bỏ H
0
(tức l hệ số b
m
c ý nghĩa ở mức ) nα ếu |t
bm
| > t
d.f;1−α
C
ng thức 3: Kim định sự ph hợp của m h nh vi H
0
: m h nh ph hợp
s
du
2
Ti u chuẩn kiểm định l F = 2 F
Nr1;n0−1
khi H
0
đng với l sr ố hệ số hồi quy c ý sts
N
| 1/6

Preview text:

lOMoAR cPSD| 45254322 TÓM TẮT CHƯƠNG 5
QUY HOẠCH THỰC NGHIỆM
5.1 Phương ph p b nh phương cực tiểu
Bài toán: ta cần nghiên cứu một đại lượng y trong một hệ thống nào đó. Giả sử y phụ thuộc
vào các yếu tố độc lập và các tác động ngẫu nhiên không điều khiển được .
X t m h nh hồi quy tuyến t nh: y = β0 + β1x1 + … + βkxk + ξ, với giả thiết ξ N(0;σ2). Giả sử
ta thực hiện N th nghiệm thu được dữ liệu như sau:
1 x11 … x1k 1 x21 … y
x2k v Y =. ⋮ y Đặt X = ⋮ ⋮ ⋮ ⋮ 1 xN1 … xNk β0 b0
C ng thức 1: Ước lượng của β ==
(XtX)−1XtY B = ⋮ βk bk
C ng thức 2: Kiểm định sự c ý nghĩa của hệ số hồi quy với H0 : βj = 0 b j
Ti u chuẩn kiểm định l tbj = ∼ td.f khi H0 đng. sbj n0 , 2 2 0
j = sts (C−1)jj, với C−1 = (XtX)−1 v s 1
y y y 1,…,yn 0) l trong đ sb n0 − 1 i=1 lOMoAR cPSD| 45254322
c c gi trị quan s t của y lặp lại tại 1 điểm th nghiệm; d . f = n0 − 1
Quy tắc kiểm định: Ta b c bỏ H0 nếu |tbj| > td.f;1−α
C ng thức 3: Kiểm định sự ph hợp của m h nh với H0 : m h nh ph hợp 2 sdu
Ti u chuẩn kiểm định l = F
2 ∼ FNk−1;n0−1 khi H0 đng. sts N 2 =
1 ∑(yi yî )2 trong đ sdu N k − 1 i=1
Quy tắc kiểm định: Ta b c bỏ F
H0 nếu F > Nk−1;n0−1;1−α
5.2 Phương ph p quy hoạch trực giao
1 x11 … x1k 1
x21 … x2k
- Quy hoạch trực giao: l phương ph p quy hoạch m ma trận X = ⋮ ⋮ ⋮ ⋮ 1 xN1 … xNk
thoả m n điều kiện: 2 cột bất kỳ của X trực giao nhau (t ch v hướng của 2 cột bất kỳ của X = 0).
Khi đ C−1 = (XtX)−1 với (C−1)ij = 0 nếu i j v (C−1)jj = ∥xj∥−2. < xj,y > ∑Ni=1 xijyi
C ng thức 1: C ng thức t nh hệ số hồi quy b j ; j = 0, 1, , k
C ng thức 2: Kiểm định sự c ý nghĩa của hệ số hồi quy với H0 : βj = 0 bj
Ti u chuẩn kiểm định l tbj = ∼ td.f khi H0 đng. sbj 2 n0 2 y y j = sts y v 1 , s 0
1,…,yn 0) l c c gi trị quan
s t trong đ sb Ni=1 xij2 n0 − 1 i=1 lOMoAR cPSD| 45254322
của y lặp lại tại 1 điểm th nghiệm; d . f = n0 − 1
Quy tắc kiểm định: Ta b c bỏ H0 nếu |tbj| > td.f;1−α
C ng thức 3: Kiểm định sự ph hợp của m h nh với H0 : m h nh ph hợp 2 sdu
Ti u chuẩn kiểm định l = F
2 ∼ FNk−1;n0−1 khi H0 đng. sts 1 N du i i
trong đ s2 =(y ŷ )2 N k − 1 i=1
Quy tắc kiểm định: Ta b c bỏ F
H0 nếu F > Nk−1;n0−1;1−α
5.2.1 Phương ph p quy hoạch trực giao cấp 1
- Phương ph p quy hoạch trực giao cấp 1: l phương ph p quy hoạch trực giao (tức l 2
cột bất kỳ của X trực giao nhau: t ch v hướng của 2 cột bất kỳ của X = 0) v ∥xj∥2 = N. -
Trong hệ thống x t biến y phụ thuộc c c biến độc lập Z1,…, Zk với Zi Zj Zj. X t th
0 Zi + Zj ; thực nghiệm tại c c gi trị bi
n Zi, Zj v lặp lại n0 lần th nghiệm tại t m Zj Zj Zj0 Zj Zi
hiện đổi biến Xj = với ΔZj = v x t m h nh: ΔZj 2
y = β0 + β1X1 + … + βkXk + ξ.
- Khi đ ma trận X thoả m n điều kiện của Quy hoạch trực giao cấp 1. < xj,y > ∑Ni=1 xijyi
C ng thức 1: C ng thức t nh hệ số hồi quy bj ; j = 0, 1, , k N
C ng thức 2: Kiểm định sự c ý nghĩa của hệ số hồi quy với H0 : βj = 0 bj
Ti u chuẩn kiểm định l tbj = ∼ td.f khi H0 đng. sbj lOMoAR cPSD| 45254322 2 n0 , 2 y j y y = sts v s 1 0
1,…,yn 0) l c c gi trị quan s t của y trong đ sb N n0 − 1 i=1
lặp lại tại 1 điểm th nghiệm; d . f = n0 − 1
Quy tắc kiểm định: Ta b c bỏ H0 nếu |tbj| > td.f;1−α
C ng thức 3: Kiểm định sự ph hợp của m h nh với H0 : m h nh ph hợp 2 sdu
Ti u chuẩn kiểm định l = F
2 ∼ FNk−1;n0−1 khi H0 đng. sts N 2 =
1 ∑(yi yî )2 trong đ sdu N k − 1 i=1
Quy tắc kiểm định: Ta b c bỏ F
H0 nếu F > Nk−1;n0−1;1−α
5.2.2 Phương ph p quy hoạch trực giao cấp 2
Trong hệ thống x t biến y phụ thuộc c c biến độc lập Z1,…, Zk với Zi Zj Z j. Thực hiện Zj Zj0 Zj Zi đổi biến Xj = với ΔZj = . ΔZj 2 C c tham số của m h nh:
+) k l số biến độc lập +) n 0
0 l số lần lặp th nghiệm tại t m Zj
+) N = 2k + n0 + 2k l tổng số th nghiệm: gồm 2k th nghiệm tại bi n Zi, Z j ; n0 lần th nghiệm
tại t m v 2k th nghiệm tại c c trục Xj với toạ độ l ∓a. k k 1 k + 2a1).
1 = 1 ∑(yi yî )2 nghĩa (số biến độc
lập trong m h nh), trong đ sdu N r − 1 lOMoAR cPSD| 45254322
+) tham số a = v λ =(2 N
X t m h nh bậc 2 đầy đủ với X 2
j′ = Xj λ:
y = β0 + ∑βjXj + ∑βijXiXj + ∑βjjXj′ + ξ.
Phương ph p quy hoạch trực giao cấp 2: l phương ph p quy hoạch trực giao với N =
2k + n0 + 2k th nghiệm với c c tham số như ở tr n.
Ta c C = XtX với Cmn = < Xm, Xn > = 0 nếu m n v N nếu m = 0
2k + 2a2 nếu m = 1,...,k Cmm
=k nếu m = ij
2a4 nếu m = jj 2 < Xm,y > < Xm,y >
C ng thức 1: C ng thức t nh hệ số hồi quy bm = = n n
< Xm, Xm > Cmmyi < Xj,y >
< XiXj,y > b0 = = ¯y; bj =
2k + 2a2 , j=1, , k; bij = 2k với i < j v N
< Xj′, y > bjj = 4 . 2a
C ng thức 2: Kiểm định sự c ý nghĩa của hệ số hồi quy với H0 : βm = 0 với
m = 0,1,...,k;ij; jj bm
Ti u chuẩn kiểm định l tbm =
td.f khi H0 đng. sbm s 2 n trong đ 1 s2 = ts v
y y y s 0 , ,…,y0 ) l
c c gi trị quan s t của y bm 1 n0 Cmm n0 − 1 i=1 i=1 Quy
tắc kiểm định: Ta b c bỏ F
H0 nếu F > Nr−1;n0−1;1−α. lOMoAR cPSD| 45254322
lặp lại tại 1 điểm th nghiệm; d . f = n0 − 1
Quy tắc kiểm định: Ta b c bỏ H0 (tức l hệ số bm c ý nghĩa ở mức ) nα ếu |tbm| > td.f;1−α C
ng thức 3: Kiểm định sự ph hợp của m h nh với H0 : m h nh ph hợp sdu2
Ti u chuẩn kiểm định l F =
2 ∼ FNr−1;n0−1 khi H0 đng với l sr
ố hệ số hồi quy c ý sts N