AI VN THI ĐỢT 2 AI VN 17th October 2021
Các bạn có thể trình bày ra giấy, chụp ảnh lại, đặt tên ảnh theo thứ tự và nén thành 1 file để
nộp bài. Ngoài ra các bạn cũng có thể trình bày trên các file tài liệu như doc, latex ...
Lưu ý: Các bạn trình bày các bước giải bao gồm những công thức chính đã sử dụng
(công thức trong khung xanh lá). Những công thức khác ví dụ như giải phương trình bậc 2, bậc
3, ... không cần phải trình bày (Các bài toán về nhân ma trận, vector cũng không cần phải viết công thức). 1 2 1 Statistics 1.1 Mean and Median Mean
• Data: X = {x1, ..., xN } 1 N P • Mean: µ = xi N i=1
Problem1: Cho Data X = {−2, 7, 3, 0, 9, 1, −3, 6, 5, −3} Tìm mean µ của Data X đã cho? Median
• Data: X = {x1, ..., xN } • Median:
– Sort X −→ S (tăng dần)
– If N is odd m = S N + 1 2 1
– If N is even m = (S + S ) 2 N N +1 2 2
Problem2: Cho Data X = {7, 0, 6, 2, 5, 7} Tìm median m của Data X đã cho ở trên? 1.2 Variance Variance
• Data: X = {x1, ..., xN } 1 N P • Mean: µ = xi N i=1 1 N P 2
• Variance: var(X ) = (xi − µ) N i=1
• Standard Deviation: σ = pvar(X )
Problem3: Cho Data X = { 6, 3, 4, 9, 2, 1}. Tìm variance var(X) và σ của Data X đã cho? 3 1.3 Correlation Coefficient Correlation Coefficient
• Random variables X, Y: X = {x1, ..., xN } Y = {y1, ..., yN }
E[(X − µY )(Y − µY )]
• Correlaiton Coefficient: pxy = σxσy n(Σ =
ixiyi) − (Σixi)(Σiyi) pnΣix2 − (Σ − (Σ i
ixi)2pnΣiy2 i iyi)2
Problem4: Cho X = { 7, 15, 10, 12, 8, 6, 15} và Y = { 18, 6, 16, 10, 11, 12, 17}
Tìm correlation coefficient của Data X và Y đã cho? 2 Linear Algebra 2.1
Vector And Matrix Operations Length of a vector
• Vector: v = [v1, v2, ...vn]T
• Length of a vector: k v k= pv2 ... v2 1 + v2 2 + + n
Problem5: Tìm length của vecotr v = [2, 4, 5, 2] ? Dot product  v    1 u1  v2 u2  • Vector: v = u =      ...   ...  vn un
• Dot Product: v · u = v1 ∗ u1 + v2 ∗ u2 + ... + vn ∗ un 1 2 Problem6: 2 3 v =  
u =   Tìm dot product c = v·u ?     3 4 4 5 4
Multiplying a vector by a matrix  a  11 ... a1n ∗ • Matrix: A = , A ∈ Rm n  ... ... ...  am1 ... amn  v  1  v2 • Vector: v = ,   v ∈ Rn  ...  vn  a 
11 ∗ v1 + ... + a1n ∗ vn • c = Av = ... ,  
am1 ∗ v1 + ... + amn ∗ vn c ∈ Rn  4 8 8 1 Problem7: A = v = 0 Tìm c = Av ? 2 7 0   4
Multiplying a matrix by a matrix  a  11 ... a1n ∗ • Matrix A: A = , A ∈ Rm n  ... ... ...  am1 ... amn  b  11 ... b1k • Matrix B: B =
, B ∈ Rn∗k  ... ... ...  bn1 ... bnk  a 
11 ∗ b11 + ... + a1n ∗ bn1 ...
a11 ∗ b1k + a1n ∗ bnk • C = AB = ... ... ... ,  
am1 ∗ b11 + ... + amn ∗ bn1 ...
am1 ∗ b1k + amn ∗ bnk
C ∈ Rm∗k 8 1 8 8 1 Problem8: A = B = 7 1 Tìm C = AB ? 2 7 0   2 8 Matrix inverse a b  • Matrix A: A =
, A ∈ R(2 ∗ 2) c d
• Determinant of A ∈ R2∗2: det(A) = ad − bc
• if det(A) 6= 0 A is invertible 1  d −b 
• Inverse Matrix: A−1 = det(A) −c a 5 4 5 Problem9: A = Tìm A−1 ? 7 1
Eigenvector and eigenvalue
• A ∈ Rn∗n, I(identity matrix) ∈ Rn∗n, v ∈ Rn
• Eigenvalue (λ): det(A − λI) = 0
• Eigenvector (v): Av = λv ⇐⇒ Av − λIv = 0 v vi • Normalize vector: , v k i = v k pΣn1v2i 1 4 Problem10: A =
Tìm Eigenvector (v) đã được normalize và eigenvalue λ của A ? 3 2 Cosine Similarity
• Data (vector x, y): x = {x1, ..., xN } y = {y1, ..., yN } x · y Σn 1 xiyi
• Cosine Similarity: cs(x, y) = = k x kk y k pΣn p 1 x2 Σn i 1 y2 i 1 0  3 3 Problem11:     x =
Tìm Cosine similarity cs(x,y) ?  y = 4 4     3 0 6
Singular Value Decomposition
Có ma trận Am∗n so sánh m và n
• Nếu m > n: có nghĩa dim của U sẽ lớn hơn V. Cần tìm ma trận U trước bằng
cách tìm eigenvectors (sắp xếp các eigenvector theo singular value tương ứng từ lớn
đến bé) của AAT. Sắp xếp các singular values (căn bậc 2 eigenvalue của AAT)
theo thứ tự từ lớn đến bé. Hình thành ma trận đường chéo vuông có kích thuớc là
số lượng singular values khác không, (đường chéo là các singular values vị trí 00,
11, 22, ... các vị trí còn lại = 0). Sau đó padding = 0 để ma trận này có kích thước
= ma trận A. Thu được Σ .Sau đó tìm ma trận V bằng công thức cho từng vector 1 trong V: vi = ATu σ i i
• Nếu m < n: có nghĩa dim của U sẽ bé hơn V. Cần tìm ma trận V trước bằng cách
tìm eigenvectors (sắp xếp các eigenvector theo singular value tương ứng từ lớn đến
bé) của ATA. Sắp xếp các singular values (căn bậc 2 eigenvalue của ATA) theo
thứ tự từ lớn đến bé. Hình thành ma trận đường chéo vuông có kích thuớc là số
lượng singular values khác không, (đường chéo là các singular values vị trí 00, 11,
22, ... các vị trí còn lại = 0). Sau đó padding = 0 để ma trận này có kích thước =
ma trận A. Thu được Σ .Sau đó tìm ma trận U bằng công thức cho từng vector 1 trong U: ui = Av σ i i
• Cách tính determinant của ma trận 3x3 a b c
– C = d e f g h i
– det(C) = a(ei − hf) − b(di − gf) + c(dh − eg) 3 2 2 
Problem12: Tìm Singular Value Decomposition của A =
(U, Σ, VT) 2 3 −2 3 Basic Math 3.1 Derivative Hàm liên tục
• Đạo hàm theo công thức: Ví dụ f (x) = x2 + 2x, f ′(x) = 2x + 2
f (x + ∆x) − f (x)
• Đạo hàm 1 bên: f ′(x) = lim = ∆→0 ∆x ∆x ∆x f (x + ) − f (x − ) 2 2
• Đạo hàm trung tâm:f ′(x) = lim = ∆→0 ∆x
Problem13: Cho f(x) = x3 + 3x2 + 2x tìm f′(3) cho trước ∆x = 0.001: 7
• Đạo hàm theo công thức: f ′(3) ?
• Đạo hàm 1 bên: f ′(3) ?
• Đạo hàm trung tâm: f ′(3) ? Hàm rời rạc
Problem14: Cho hàm rời rạcf(x) có kết quả như sau:
• x = [0, 1, 2, 3, 4, 5, 6, 7]
• f (x) = [10, 15, 24, 30, 40, 45, 56, 60]
Tìm f′(3) với ∆x = 2 sử dụng công thức đạo hàm trung tâm? Gradient Descent
• function f (x, y) • Khởi tạo x và y
• Tính đạo hàm của f (x, y) theo x và y sẽ thu được dx, dy
• Cập nhật x và y theo hướng ngược chiều đạo hàm của dx và dy, theo công thức
x = x − ηdx và y = y − ηdy trong đó η là learning rate
Problem15: Cho function f(x, y) = 2x2 + 3y2, khởi tạo x = 3, y = 2, learning rate η = 0.1.
Thực hiện 1 lần cập nhật x và y theo thuật toán Gradient Descent ở trên (x = x − ηdx và
y = y − ηdy). Biêt rằng ∆x = 0.001 và ∆y = 0.001, dx, dy được tính theo công thức đạo hàm trung tâm? Chain rule d dy dy du
f (g(x)) = f ′(g(x))g′(x) or = dx dx du dx
Problem16: Cho f(x) = x5, g(x) = 5 − 6x, dùng công thức đạo hàm (không dùng xấp xỉ đạo d
hàm 1 bên hoặc trung tâm) và đạo hàm theo chain rule để tìm
f (g(x)) ? dx