Đề cương ôn thi Trí tuệ nhân tạo và Học máy | Môn Khoa Học Quản Lí - Đại Học Kinh Doanh và Công Nghệ Hà Nội

Đề cương ôn thi Trí tuệ nhân tạo và Học máy
Câu 1.Phân biệt Trí tuệ nhân tạo, mô hình học máy và mô hình học sâu ?
1. Trí tuệ nhân tạo (AI - Artificial Intelligence)
- Định nghĩa: AI là một lĩnh vực rộng lớn trong khoa học máy tính, nhằm phát triển các hệ thống
máy tính có thể thực hiện các tác vụ thông minh như con người, bao gồm nhận thức, suy luận,
học hỏi, và ra quyết định.
- Mục tiêu: AI muốn mô phỏng trí tuệ của con người và có thể thực hiện các tác vụ phức tạp như
nhận diện hình ảnh, hiểu ngôn ngữ tự nhiên, chơi game, và ra quyết định.
- Các kỹ thuật sử dụng: AI bao gồm các kỹ thuật truyền thống (như lý thuyết tìm kiếm, logic, hay
hệ chuyên gia) cùng với các kỹ thuật học máy và học sâu.
- Ví dụ: Hệ thống trò chuyện tự động, robot, xe tự lái.
2. Mô hình học máy (Machine Learning)
- Định nghĩa: Học máy là một nhánh của AI, nơi các hệ thống được phát triển để học hỏi từ dữ
liệu và cải thiện hiệu suất của mình mà không cần phải lập trình chi tiết cho mỗi hành động.
- Mục tiêu: Mục tiêu của học máy là xây dựng các mô hình có thể học từ dữ liệu và sau đó đưa ra
các dự đoán hoặc quyết định mà không cần được lập trình rõ ràng cho mỗi tình huống.
- Cách thức: Các thuật toán học máy sử dụng dữ liệu huấn luyện để xây dựng mô hình, sau đó
mô hình này sẽ sử dụng dữ liệu mới để đưa ra dự đoán hoặc phân loại.
- Các kỹ thuật sử dụng: Học có giám sát (supervised learning), học không giám sát (unsupervised
learning), học bán giám sát (semi-supervised learning), và học củng cố (reinforcement learning).
- Ví dụ: Các thuật toán phân loại thư rác, dự đoán giá cổ phiếu, nhận diện hình ảnh.
3. Mô hình học sâu (Deep Learning)
- Định nghĩa: Học sâu là một nhánh con của học máy, sử dụng các mạng nơ-ron nhân tạo với
nhiều lớp (deep neural networks) để mô phỏng cách não bộ con người hoạt động, nhằm học các
biểu diễn trừu tượng từ dữ liệu.
- Mục tiêu: Học sâu nhằm học được các đặc trưng (features) từ dữ liệu một cách tự động, mà
không cần phải làm thủ công như trong học máy truyền thống.
- Cách thức: Mô hình học sâu sử dụng các mạng nơ-ron với nhiều lớp để học các biểu diễn phức
tạp của dữ liệu, từ đó có thể áp dụng trong các tác vụ như nhận diện hình ảnh, xử lý ngôn ngữ tự
nhiên, và nhiều ứng dụng khác.
- Các kỹ thuật sử dụng: Mạng nơ-ron sâu (Deep Neural Networks), mạng nơ-ron tích chập
(CNN), mạng nơ-ron tái hiện (RNN), và mạng GAN.
- Ví dụ: Nhận diện giọng nói, nhận diện hình ảnh, dịch ngôn ngữ tự động
Câu 2.Mô tả một số bài toán cơ bản của mô hình trí tuệ nhân tạo ?
1. Bài toán phân loại (Classification)
- Mô tả: Phân loại là một bài toán trong học máy, nơi mục tiêu là gán nhãn hoặc phân nhóm cho
các đối tượng hoặc sự kiện dựa trên các đặc trưng của chúng. - Ví dụ:
o Phân loại email thành "thư rác" hoặc "không phải thư rác".
o Phân loại hình ảnh thành các nhóm như "chó", "mèo", "chim".
- Thuật toán sử dụng: Decision Trees, K-Nearest Neighbors (KNN), Support Vector Machines
(SVM), Naive Bayes, Neural Networks.
2. Bài toán hồi quy (Regression)
- Mô tả: Hồi quy là bài toán dự đoán một giá trị liên tục dựa trên các đặc trưng đầu vào. - Ví dụ:
o Dự đoán giá trị bất động sản dựa trên các yếu tố như diện tích, vị trí, số phòng.
o Dự đoán mức thu nhập của một người dựa trên tuổi, trình độ học vấn, và kinh nghiệm làm việc.
- Thuật toán sử dụng: Linear Regression, Polynomial Regression, Support Vector Regression.
3. Bài toán tìm kiếm (Search Problems)
- Mô tả: Tìm kiếm trong AI là quá trình tìm ra một hành động hoặc giải pháp tối ưu trong không
gian trạng thái để giải quyết một bài toán. - Ví dụ:
o Tìm kiếm đường đi ngắn nhất từ điểm A đến điểm B (ví dụ, trong bản đồ).
o Chơi cờ vua hoặc cờ vây, tìm kiếm các nước đi tối ưu.
- Thuật toán sử dụng: Thuật toán tìm kiếm theo chiều rộng (Breadth-First Search), thuật toán A*,
thuật toán tìm kiếm theo chiều sâu (Depth-First Search).
4. Bài toán ra quyết định (Decision Making)
- Mô tả: Đây là bài toán liên quan đến việc ra quyết định dựa trên các yếu tố và điều kiện cụ thể,
giúp đạt được mục tiêu nhất định. - Ví dụ:
o Hệ thống khuyến nghị sản phẩm cho người dùng dựa trên lịch sử mua sắm của họ.
o Ra quyết định về hành động tối ưu trong một trò chơi chiến lược (ví dụ, trong trò chơi cờ vua).
- Thuật toán sử dụng: Các phương pháp học củng cố (Reinforcement Learning), cây quyết định, thuật toán Monte Carlo.
5. Bài toán phân cụm (Clustering)
- Mô tả: Phân cụm là bài toán phân nhóm các đối tượng hoặc dữ liệu vào các nhóm sao cho các
đối tượng trong cùng một nhóm có sự tương đồng cao. - Ví dụ:
o Phân nhóm khách hàng trong marketing dựa trên hành vi mua sắm.
o Phân nhóm hình ảnh vào các loại (ví dụ, ảnh của động vật, ảnh phong cảnh).
- Thuật toán sử dụng: K-Means, DBSCAN, Hierarchical Clustering.
6. Bài toán nhận diện hình ảnh (Image Recognition)
- Mô tả: Đây là bài toán trong học máy và học sâu, nơi mục tiêu là xác định và phân loại các đối
tượng hoặc các chi tiết trong một bức ảnh. - Ví dụ:
o Nhận diện khuôn mặt trong ảnh.
o Nhận diện các vật thể như xe cộ, người, động vật trong ảnh hoặc video.
- Thuật toán sử dụng: Mạng nơ-ron tích chập (CNN), mô hình học sâu (Deep Learning).
7. Bài toán xử lý ngôn ngữ tự nhiên (Natural Language Processing - NLP)
- Mô tả: Xử lý ngôn ngữ tự nhiên là một lĩnh vực của AI, nơi mục tiêu là hiểu và xử lý các ngôn ngữ của con người. - Ví dụ:
o Phân tích cảm xúc trong các bài viết hoặc bình luận (dự đoán liệu một bình luận có mang tính tích cực hay tiêu cực).
o Dịch ngôn ngữ tự động (chẳng hạn như dịch tiếng Anh sang tiếng Việt).
o Trả lời câu hỏi hoặc tạo ra văn bản tự động.
- Thuật toán sử dụng: Mô hình n-gram, mạng nơ-ron hồi tiếp (RNN), mô hình Transformer (GPT, BERT).
8. Bài toán tối ưu hóa (Optimization)
- Mô tả: Bài toán tối ưu hóa trong AI là tìm ra giải pháp tối ưu cho một bài toán dựa trên một số
tiêu chí hoặc hàm mục tiêu. - Ví dụ:
o Tìm kiếm cách sắp xếp tối ưu để giảm chi phí vận chuyển trong logistics.
o Tối ưu hóa công suất sử dụng trong các mạng điện.
- Thuật toán sử dụng: Thuật toán tối ưu hóa di truyền, thuật toán rừng ngẫu nhiên, thuật toán gradient descent.
9. Bài toán học củng cố (Reinforcement Learning)
- Mô tả: Học củng cố là một loại học máy trong đó một agent (môi trường học) học cách hành
động tối ưu bằng cách nhận thưởng hoặc phạt từ các hành động của mình trong một môi trường. - Ví dụ:
o Đào tạo robot tự di chuyển trong môi trường mà không cần sự can thiệp.
o Chơi các trò chơi như cờ vua, Go, hoặc các trò chơi video để tối ưu hóa chiến lược.
- Thuật toán sử dụng: Q-Learning, Deep Q-Network (DQN), Policy Gradient.
10. Bài toán nhận diện giọng nói (Speech Recognition)
- Mô tả: Nhận diện giọng nói là bài toán chuyển đổi âm thanh giọng nói thành văn bản, giúp máy
tính hiểu và tương tác với con người qua ngôn ngữ nói. - Ví dụ:
o Trợ lý ảo như Siri, Google Assistant.
o Chuyển giọng nói thành văn bản trong các cuộc họp, bài giảng.
- Thuật toán sử dụng: Mạng nơ-ron hồi tiếp (RNN), mạng nơ-ron tích chập (CNN), mô hình học sâu.
Câu 3: Định nghĩa hồi quy tuyến tính là gì? Mô tả mô hình hồi quy tuyến tính và giải thích cách
nó được sử dụng để dự đoán giá trị của một biến phụ thuộc dựa trên một hoặc nhiều biến độc lập.
Định nghĩa hồi quy tuyến tính:
Hồi quy tuyến tính (Linear Regression) là một kỹ thuật trong học máy và thống kê được sử dụng
để mô hình hóa mối quan hệ giữa một biến phụ thuộc (biến mục tiêu) và một hoặc nhiều biến
độc lập (biến giải thích).
Mô hình hồi quy tuyến tính giả định rằng mối quan hệ giữa các biến này là tuyến tính, tức là có
thể mô tả bằng một đường thẳng.
Trong trường hợp đơn giản, với một biến độc lập, mô hình hồi quy tuyến tính có thể được biểu
diễn dưới dạng phương trình sau:
y=β0+β1x+ y = \beta_0 + \beta_1 x + \epsilony=β0 ϵ +β1x+ϵ Trong đó:
- yyy là biến phụ thuộc (biến cần dự đoán).
- xxx là biến độc lập (biến giải thích).
- β0\beta_0β0 là hằng số (hay còn gọi là intercept), đại diện cho giá trị của yyy khi x=0x = 0x=0.
- β1\beta_1β1 là hệ số góc (slope), biểu thị sự thay đổi của yyy khi xxx thay đổi.
- ϵ ϵ \epsilon là sai số ngẫu nhiên hoặc nhiễu (error term), biểu thị sự khác biệt giữa giá trị thực tế
của yyy và giá trị dự đoán.
Khi có nhiều biến độc lập, mô hình hồi quy tuyến tính mở rộng thành hồi quy tuyến tính bội (Multiple Linear Regression):
y=β0+β1x1+β2x2+⋯+βnxn+ y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \cdots + \beta_n x_n +\ϵ
epsilony=β0+β1x1+β2x2+⋯+βnxn+ϵ Trong đó:
- x1,x2,...,xnx_1, x_2, ..., x_nx1,x2,...,xn là các biến độc lập.
- β1,β2,...,βn\beta_1, \beta_2, ..., \beta_nβ1,β2,...,βn là các hệ số của các biến độc lập tương ứng.
Mô hình hồi quy tuyến tính:
Mô hình hồi quy tuyến tính có thể được hiểu là quá trình tìm ra các hệ số β0,β1,...,βn\beta_0,
\beta_1, ..., \beta_nβ0,β1,...,βn sao cho phương trình hồi quy phù hợp nhất với dữ liệu quan sát
được. Mục tiêu của mô hình là giảm thiểu sai số giữa giá trị thực tế và giá trị dự đoán của biến
phụ thuộc, thường được đo bằng sai số bình phương tổng (Sum of Squared Errors - SSE).
Quá trình tối ưu hóa này thường được thực hiện bằng cách sử dụng phương pháp Giảm dần
Gradient hoặc Phương pháp Bình phương Tối thiểu (Ordinary Least Squares - OLS) để tìm ra
các giá trị tốt nhất cho các hệ số β\betaβ.
Cách sử dụng mô hình hồi quy tuyến tính để dự đoán giá trị:
Khi mô hình hồi quy tuyến tính đã được huấn luyện, tức là các hệ số β0,β1,...,βn\beta_0, \beta_1,
..., \beta_nβ0,β1,...,βn đã được xác định, ta có thể sử dụng mô hình này để dự đoán giá trị của
biến phụ thuộc yyy từ các giá trị của các biến độc lập x1,x2,...,xnx_1, x_2, ..., x_nx1,x2,...,xn. Cách sử dụng như sau:
1. Thu thập dữ liệu: Lấy các giá trị của các biến độc lập (input features).
2. Áp dụng mô hình: Dựa trên các giá trị của x1,x2,...,xnx_1, x_2, ..., x_nx1,x2,...,xn, thay vào
phương trình hồi quy tuyến tính đã được huấn luyện.
3. Dự đoán: Tính toán giá trị dự đoán của yyy từ phương trình hồi quy. Ví dụ:
- Giả sử chúng ta đang dự đoán giá trị của một căn nhà dựa trên diện tích (m2) và số phòng ngủ.
Sau khi huấn luyện mô hình hồi quy tuyến tính, chúng ta có thể áp dụng phương trình hồi quy như sau:
Giaˊ nha =β0+β1×Diện ˋ tı ch+β2×Soˆ ˊ ˊ pho ng ˋ ngủ\text{Giá nhà} = \beta_0 + \beta_1 \times
\text{Diện tích}+ \beta_2 \times \text{Số phòng ngủ}Giaˊ nha =β0 ˋ +β1×Diện tı ch+β2 ˊ ×Soˆˊ pho ng ˋ ngủ
Sau khi xác định được các giá trị β0,β1,β2\beta_0, \beta_1, \beta_2β0,β1,β2, khi có thông tin về
diện tích và số phòng ngủ của một căn nhà mới, ta có thể dự đoán giá trị của căn nhà đó.
Giải thích cách mô hình hồi quy tuyến tính hoạt động:
1. Mô hình hóa mối quan hệ tuyến tính: Hồi quy tuyến tính giả định rằng mối quan hệ giữa biến
phụ thuộc và các biến độc lập là tuyến tính. Tức là nếu bạn vẽ đồ thị với các giá trị của biến độc
lập trên trục hoành và biến phụ thuộc trên trục tung, bạn sẽ có một đường thẳng hoặc mặt phẳng
(trong trường hợp có nhiều biến độc lập).
2. Tối ưu hóa sai số: Mô hình sẽ cố gắng tìm ra các giá trị của các hệ số β\betaβ sao cho tổng các
sai số bình phương (sai số giữa giá trị thực tế và giá trị dự đoán) là nhỏ nhất có thể. Điều này
giúp mô hình có thể dự đoán chính xác hơn.
3. Ứng dụng dự đoán: Sau khi huấn luyện, mô hình có thể được sử dụng để dự đoán các giá trị
mới cho biến phụ thuộc dựa trên các giá trị đầu vào của các biến độc lập. Ví dụ thực tế:
Giả sử bạn là một nhà nghiên cứu đang làm việc với dữ liệu về giá nhà. Bạn có dữ liệu về diện
tích của các căn nhà và giá bán của chúng, và bạn muốn xây dựng một mô hình hồi quy tuyến
tính để dự đoán giá của các căn nhà dựa trên diện tích của chúng.
- Dữ liệu huấn luyện có thể có dạng:
Diện tích (m²) Giá bán (triệu VND) 50 1,000 70 1,400 90 1,800 120 2,400
- Mô hình hồi quy tuyến tính sẽ học mối quan hệ giữa diện tích và giá bán, và có thể tạo ra một phương trình như sau:
Giaˊ ba n=500+20×Diện ˊ tı ch\text{Giá bán} = 500 + 20 \times \text{Diện ˊtích}Giaˊ ba n=500+20×Diện ˊ tı ch ˊ
- Sau khi có phương trình hồi quy, bạn có thể dự đoán giá bán cho một căn nhà có diện tích 85 m²:
Giaˊ ba n=500+20×85=500+1700=2,200 ˊ triệu VND.\text{Giá bán} = 500 + 20 \times 85 = 500
+1700 = 2,200 \text{ triệu VND}.Giaˊ ba n=500+20×85=500+1700=2,200 ˊ triệu VND.
Câu 4. Hệ số hồi quy trong phương trình hồi quy tuyến tính có ý nghĩa gì?
Hệ số hồi quy trong phương trình hồi quy tuyến tính có ý nghĩa quan trọng vì chúng phản ánh
mối quan hệ giữa các biến độc lập và biến phụ thuộc trong mô hình. Mỗi hệ số hồi quy đại diện
cho sự ảnh hưởng của một biến độc lập đối với biến phụ thuộc khi các biến độc lập khác được
giữ cố định. Cụ thể:
Phương trình hồi quy tuyến tính đơn giản:
y=β0+β1x+ y = \beta_0 + \beta_1 x + \epsilony=β0 ϵ +β1x+ϵ Trong đó:
- yyy là biến phụ thuộc (biến mục tiêu cần dự đoán).
- xxx là biến độc lập (biến giải thích).
- β0\beta_0β0 là hệ số chặn (intercept), tức là giá trị của yyy khi x=0x = 0x=0.
- β1\beta_1β1 là hệ số hồi quy (slope), tức là mức độ thay đổi của yyy khi xxx thay đổi một đơn vị.
- ϵ ϵ \epsilon là sai số ngẫu nhiên.
Ý nghĩa của các hệ số hồi quy:
1. Hệ số chặn (β0\beta_0β0):
o Hệ số này cho biết giá trị của yyy khi x=0x = 0x=0, tức là nó là giá trị dự đoán của yyy trong
trường hợp biến độc lập không có ảnh hưởng (ví dụ, khi x=0x = 0x=0).
o Ví dụ: Nếu mô hình hồi quy dự đoán giá nhà (yyy) dựa trên diện tích (xxx), thì β0\beta_0β0
là giá trị của giá nhà khi diện tích bằng 0 (mặc dù trong thực tế không có nhà nào có diện tích
0, nhưng hệ số này vẫn có ý nghĩa trong mô hình toán học).
2. Hệ số hồi quy (β1\beta_1β1):
o Hệ số này biểu thị sự thay đổi của biến phụ thuộc (y) khi biến độc lập (xxx) thay đổi một đơn vị.
o Cụ thể, nếu β1>0\beta_1 > 0β1>0, điều này có nghĩa là khi xxx tăng, yyy cũng tăng (mối
quan hệ đồng biến). Nếu β1<0\beta_1 < 0β1<0, khi xxx tăng, yyy giảm (mối quan hệ nghịch biến).
o Ví dụ: Nếu mô hình dự đoán giá trị nhà (yyy) từ diện tích (xxx) có phương trình y=500+20xy
= 500 + 20xy=500+20x, thì β1=20\beta_1 = 20β1=20 có nghĩa là mỗi khi diện tích tăng lên 1
m², giá trị nhà sẽ tăng lên 20 triệu VND.
Mối quan hệ giữa các hệ số hồi quy và sự thay đổi trong dữ liệu:
- Hệ số β1\beta_1β1 càng lớn (nếu xxx có ảnh hưởng mạnh đến yyy), sự thay đổi trong xxx sẽ có
tác động lớn hơn đến yyy.
- Hệ số β0\beta_0β0 chỉ có ý nghĩa khi xxx có thể đạt giá trị gần bằng 0 trong thực tế, nếu không,
giá trị của β0\beta_0β0 có thể không có nhiều ý nghĩa thực tế nhưng vẫn cần thiết trong mô hình toán học. Một ví dụ cụ thể:
Giả sử bạn xây dựng một mô hình hồi quy tuyến tính để dự đoán giá bán của một căn nhà (yyy)
dựa trên diện tích (xxx) của nó. Sau khi huấn luyện, bạn nhận được phương trình hồi quy tuyến tính:
Giaˊ nha =500+20×Diện ˋ tı ch\text{Giá nhà} = 500 + 20 \times \text{Diện ˊtích}Giaˊ nha =500+20×Diện ˋ tı ch ˊ Trong đó:
- β0=500\beta_0 = 500β0=500 (hệ số chặn): Đây là giá trị dự đoán của giá nhà khi diện tích bằng
0 (có thể không có ý nghĩa thực tế, nhưng trong mô hình là một điểm bắt đầu).
- β1=20\beta_1 = 20β1=20 (hệ số hồi quy): Điều này có nghĩa là mỗi khi diện tích của căn nhà
tăng thêm 1 m², giá trị căn nhà sẽ tăng lên 20 triệu VND. Tóm lại:
- β0\beta_0β0 (hệ số chặn) cho biết giá trị của biến phụ thuộc khi biến độc lập có giá trị bằng 0.
= β1\beta_1β1 (hệ số hồi quy) cho biết mức độ thay đổi của biến phụ thuộc khi biến độc lập thay đổimột đơn vị.
Câu 5. Hàm mất mát trung bình bình phương (MSE) được tính như thế nào và tại sao nó quan trọng?
Hàm mất mát trung bình bình phương (MSE) là gì?
Hàm mất mát trung bình bình phương (Mean Squared Error - MSE) là một chỉ số dùng để đánh
giá độ chính xác của mô hình dự đoán, đặc biệt là trong các bài toán hồi quy (regression). MSE
đo lường mức độ sai lệch giữa giá trị dự đoán và giá trị thực tế của biến phụ thuộc. Nó tính toán
trung bình bình phương của sự khác biệt giữa giá trị thực tế và giá trị dự đoán qua tất cả các mẫu trong tập dữ liệu. Công thức tính MSE:
Giả sử bạn có một bộ dữ liệu với nnn điểm dữ liệu, trong đó yiy_iyi là giá trị thực tế của điểm dữ
liệu thứ iii và y^i\hat{y}_iy^i là giá trị dự đoán của mô hình cho điểm dữ liệu thứ iii. Công thức tính MSE là:
MSE=1n∑i=1n(yi−y^i)2MSE = \frac{1}{n} \sum_{i=1}^{n}
(y_i\hat{y}_i)^2MSE=n1i=1∑n(yi−y^i)2 Trong đó:
- yiy_iyi: Giá trị thực tế của điểm dữ liệu thứ iii.
- y^i\hat{y}_iy^i: Giá trị dự đoán của mô hình cho điểm dữ liệu thứ iii.
- nnn: Số lượng điểm dữ liệu. Giải thích công thức:
1. Sai số (Error) (yi−y^i)(y_i - \hat{y}_i)(yi−y^i): Đo lường sự khác biệt giữa giá trị thực tế và
giá trị dự đoán của mô hình cho mỗi điểm dữ liệu.
2. Bình phương sai số: Việc bình phương sai số giúp loại bỏ dấu âm và tập trung vào độ lớn của
sai số. Đồng thời, điều này làm cho các sai số lớn trở nên quan trọng hơn.
3. Tính trung bình: Sau khi tính bình phương sai số cho tất cả các điểm dữ liệu, chúng ta tính
trung bình để có được một giá trị duy nhất đại diện cho độ chính xác của mô hình. Tại sao MSE quan trọng?
1. Đánh giá độ chính xác của mô hình:
o MSE là một cách đo lường độ chính xác của mô hình. MSE càng nhỏ thì mô hình càng chính
xác, tức là sự khác biệt giữa giá trị dự đoán và giá trị thực tế càng nhỏ.
o Ngược lại, MSE càng lớn thì mô hình càng kém, có nghĩa là mô hình không thể dự đoán đúng giá trị mục tiêu.
2. Khả năng phạt sai số lớn:
o Việc sử dụng bình phương sai số làm cho các sai số lớn được phạt mạnh hơn. Nếu một dự
đoán sai lệch rất nhiều so với giá trị thực tế, sự đóng góp vào MSE của sai số đó sẽ rất lớn.
o Điều này giúp mô hình tránh việc tạo ra những dự đoán sai lệch quá lớn, bởi vì các sai số lớn
sẽ làm tăng MSE rất nhanh.
3. Đơn giản và dễ tính toán:
o MSE dễ tính toán và là một công cụ hiệu quả để tối ưu hóa trong các bài toán hồi quy. Vì
MSE liên tục và khả vi, nó có thể được sử dụng trong quá trình huấn luyện mô hình, đặc biệt
là khi sử dụng các phương pháp tối ưu hóa như Gradient Descent.
4. Đo lường sự phù hợp của mô hình:
o MSE giúp bạn kiểm tra mô hình có phù hợp với dữ liệu huấn luyện hay không. Nếu MSE của
mô hình rất cao, bạn có thể cần phải điều chỉnh mô hình (chẳng hạn như thay đổi tham số
hoặc chọn các đặc trưng khác).
MSE và các vấn đề liên quan:
- MSE không nhạy cảm với các sai số ngoại lệ: Vì MSE phạt các sai số lớn gấp đôi (do bình
phương), nên nếu có các giá trị ngoại lệ (outliers) trong dữ liệu, MSE có thể bị ảnh hưởng rất lớn
bởi chúng. Trong trường hợp này, bạn có thể muốn sử dụng các hàm mất mát khác như Mean
Absolute Error (MAE), mà không phạt các sai số quá lớn như MSE.
- MSE không cung cấp thông tin về sự phân bố sai số: Mặc dù MSE cung cấp thông tin về mức
độ sai lệch, nhưng nó không cung cấp thông tin về sự phân bố của sai số. Điều này có thể là một
yếu tố quan trọng khi bạn muốn hiểu rõ hơn về cách mô hình hoạt động đối với các phần khác nhau của dữ liệu. Ví dụ:
Giả sử bạn có ba điểm dữ liệu với giá trị thực tế y=[3,−0.5,2]y = [3, -0.5, 2]y=[3,−0.5,2] và các
giá trị dự đoán y^=[2.5,0.0,2] \hat{y} = [2.5, 0.0, 2]y^=[2.5,0.0,2]. Tính MSE:
1. Sai số giữa giá trị thực tế và giá trị dự đoán cho mỗi điểm dữ liệu là:
o (3−2.5)2=0.25(3 - 2.5)^2 = 0.25(3−2.5)2=0.25
o (−0.5−0.0)2=0.25(-0.5 - 0.0)^2 = 0.25(−0.5−0.0)2=0.25
o (2−2)2=0(2 - 2)^2 = 0(2−2)2=0
2. Trung bình các bình phương sai số:
MSE=13×(0.25+0.25+0)=0.53=0.167MSE = \frac{1}{3} \times (0.25 + 0.25 + 0)
=\frac{0.5}{3} =0.167MSE=31×(0.25+0.25+0)=30.5=0.167
Câu 6. Gradient Descent là gì? Giải thích phương pháp Gradient descent và cách nó được sử
dụng để tìm các hệ số hồi quy tối ưu trong mô hình hồi quy tuyến tính
1. Phương pháp Gradient Descent là gì?
Gradient Descent là một thuật toán lặp đi lặp lại, được sử dụng để tìm giá trị cực tiểu của một
hàm số (thường là hàm mất mát) bằng cách di chuyển theo hướng giảm dần của đạo hàm của
hàm số đó. Cụ thể, Gradient Descent sẽ tính toán độ dốc (gradient) của hàm mất mát tại một
điểm cụ thể, sau đó cập nhật các tham số của mô hình theo hướng ngược lại với độ dốc để tiến
gần hơn đến điểm cực tiểu.
Các bước cơ bản của Gradient Descent:
1. Khởi tạo các tham số: Bắt đầu với một giá trị ngẫu nhiên cho các tham số (hệ số hồi quy) của mô hình.
2. Tính gradient: Tính đạo hàm của hàm mất mát đối với mỗi tham số để biết hướng thay đổi của hàm mất mát.
3. Cập nhật tham số: Cập nhật các tham số theo công thức: θ=θ−α⋅∇J(θ)\theta = \theta - \alpha
\cdot \nabla J(\ theta)θ=θ−α⋅∇J(θ) Trong đó:
o θ\thetaθ là các tham số của mô hình (hệ số hồi quy),
o α\alphaα là learning rate (tốc độ học), điều chỉnh kích thước bước nhảy,
o ∇J(θ)\nabla J(\theta)∇J(θ) là gradient (đạo hàm của hàm mất mát đối với θ\thetaθ).
4. Lặp lại: Lặp lại các bước trên cho đến khi hàm mất mát hội tụ (không thay đổi nhiều qua các vòng lặp).
2. Gradient Descent trong mô hình Hồi quy tuyến tính
Trong mô hình hồi quy tuyến tính, ta có một hàm mất mát để đo lường độ chính xác của mô
hình, ví dụ như Mean Squared Error (MSE). Mô hình hồi quy tuyến tính có dạng:
y=θ0+θ1x1+θ2x2+⋯+θnxny = \theta_0 + \theta_1 x_1 + \theta_2 x_2 + \dots + \theta_n
x_ny=θ0+θ1x1+θ2x2+⋯+θnxn Trong đó:
- yyy là giá trị dự đoán,
- θ0,θ1,…,θn\theta_0, \theta_1, \dots, \theta_nθ0,θ1,…,θn là các tham số cần được tối ưu,
- x1,x2,…,xnx_1, x_2, \dots, x_nx1,x2,…,xn là các đặc trưng đầu vào.
Hàm mất mát (Loss Function) trong hồi quy tuyến tính
Hàm mất mát phổ biến nhất là Mean Squared Error (MSE), được tính theo công thức:
J(θ)=1m∑i=1m(hθ(x(i))−y(i))2J(\theta) = \frac{1}{m} \sum_{i=1}^{m} (h_\theta(x^{(i)}) -
y^{(i)})^2J(θ)=m1i=1∑m(hθ(x(i))−y(i))2 Trong đó:
- mmm là số lượng mẫu huấn luyện,
- hθ(x(i))h_\theta(x^{(i)})hθ(x(i)) là dự đoán của mô hình cho mẫu iii,
- y(i)y^{(i)}y(i) là giá trị thực tế của mẫu iii.
3. Sử dụng Gradient Descent để tối ưu các hệ số hồi quy
Gradient Descent được sử dụng để tối ưu các tham số θ\thetaθ trong mô hình hồi quy tuyến tính
bằng cách giảm thiểu hàm mất mát. Các bước cụ thể như sau:
1. Khởi tạo tham số: Khởi tạo ngẫu nhiên các tham số θ0,θ1,…,θn\theta_0, \theta_1, \dots, \theta_nθ0,θ1,…,θn.
2. Tính gradient của hàm mất mát: Tính đạo hàm của hàm MSE đối với mỗi tham số θj\theta_jθj.
Gradient của hàm MSE theo θj\theta_jθj được tính bằng công thức:
∂J(θ)∂θj=2m∑i=1m(hθ(x(i))−y(i))xj(i)\frac{\partial J(\theta)}{\partial \theta_j} = \frac{2}{m}
\sum_{i=1}^{m} (h_\theta(x^{(i)}) - y^{(i)}) x_j^{(i)}∂θj∂J(θ)=m2i=1∑m (hθ(x(i))−y(i))xj(i)
3. Cập nhật tham số: Cập nhật giá trị của từng tham số θj\theta_jθj theo công thức:
θj:=θj−α⋅∂J(θ)∂θj\theta_j := \theta_j - \alpha \cdot \frac{\partial J(\theta)}{\partial
\theta_j}θj:=θj−α⋅∂θj∂J(θ)
4. Lặp lại: Lặp lại quá trình tính gradient và cập nhật tham số cho đến khi hàm mất mát hội tụ
hoặc đạt đến số vòng lặp tối đa.
4. Các loại Gradient Descent
Có một số biến thể của phương pháp Gradient Descent:
Batch Gradient Descent: Cập nhật tham số sau mỗi lần tính toán gradient trên toàn bộ tập dữ liệu huấn luyện.
Stochastic Gradient Descent (SGD): Cập nhật tham số sau khi tính gradient với một mẫu dữ liệu ngẫu nhiên.
Mini-batch Gradient Descent: Cập nhật tham số sau khi tính gradient trên một nhóm mẫu nhỏ,
thường được sử dụng trong thực tế vì nó kết hợp ưu điểm của cả hai phương pháp trên.
5. Tầm quan trọng của Gradient Descent
Gradient Descent là phương pháp rất quan trọng trong việc huấn luyện các mô hình học máy, đặc
biệt là trong hồi quy tuyến tính và các mô hình phức tạp hơn như mạng nơ-ron. Bằng cách tìm
kiếm cực tiểu của hàm mất mát, phương pháp này giúp tối ưu hóa các tham số của mô hình, từ
đó cải thiện khả năng dự đoán của mô hình.
Câu 7: Mô tả đặc điểm cơ bản của dữ liệu và vai trò của dữ liệu ?
Dữ liệu là một tập hợp các thông tin, con số, hoặc sự kiện có thể được thu thập, phân tích và sử
dụng để đưa ra quyết định, phát triển mô hình hoặc giải quyết vấn đề. Dữ liệu có thể ở dạng thô
hoặc đã qua xử lý, và nó đóng vai trò quan trọng trong nhiều lĩnh vực như khoa học, công nghệ,
kinh doanh, nghiên cứu và nhiều ngành khác.
Đặc điểm cơ bản của dữ liệu
Dữ liệu có một số đặc điểm cơ bản quan trọng, bao gồm: 1. Loại dữ liệu:
o Dữ liệu định tính (Categorical Data): Là dữ liệu không có thứ tự, chia thành các nhóm hoặc
danh mục. Ví dụ: giới tính (nam, nữ), màu sắc (đỏ, xanh, vàng).
o Dữ liệu định lượng (Quantitative Data): Là dữ liệu có giá trị số và có thể thực hiện các
phép toán số học. Ví dụ: chiều cao, cân nặng, tuổi tác.
o Dữ liệu phân loại (Nominal Data): Là dữ liệu không có thứ tự, chỉ đơn giản là các nhãn
nhóm. Ví dụ: tên quốc gia, loại sản phẩm.
o Dữ liệu thứ tự (Ordinal Data): Là dữ liệu có thứ tự nhưng không nhất thiết có khoảng cách
đều giữa các giá trị. Ví dụ: mức độ hài lòng (rất không hài lòng, không hài lòng, hài lòng, rất hài lòng). 2. Kích thước:
o Dữ liệu lớn (Big Data): Dữ liệu với khối lượng rất lớn, phức tạp và có thể không thể xử lý
được bằng các phương pháp truyền thống.
o Dữ liệu nhỏ (Small Data): Dữ liệu có kích thước nhỏ, dễ xử lý và thường có thể dùng được
trên các máy tính cá nhân. 3. Tính chất dữ liệu:
o Dữ liệu có cấu trúc (Structured Data): Dữ liệu được tổ chức theo một định dạng rõ ràng,
chẳng hạn như bảng cơ sở dữ liệu với các cột và hàng. Ví dụ: dữ liệu trong các bảng tính
(Excel) hoặc cơ sở dữ liệu SQL.
o Dữ liệu không có cấu trúc (Unstructured Data): Dữ liệu không theo một định dạng rõ ràng, như
văn bản tự do, hình ảnh, âm thanh, video.
o Dữ liệu bán cấu trúc (Semi-structured Data): Dữ liệu không hoàn toàn theo cấu trúc như
dữ liệu có cấu trúc, nhưng vẫn có thể dễ dàng phân loại và xử lý. Ví dụ: tệp XML, JSON. 4. Nguồn gốc dữ liệu:
o Dữ liệu sơ cấp (Primary Data): Dữ liệu được thu thập trực tiếp từ nguồn gốc, như khảo sát, phỏng vấn, thí nghiệm.
o Dữ liệu thứ cấp (Secondary Data): Dữ liệu đã được thu thập từ các nghiên cứu trước đó,
báo cáo, tài liệu công cộng hoặc cơ sở dữ liệu. Vai trò của dữ liệu
Dữ liệu đóng vai trò rất quan trọng trong nhiều lĩnh vực và hoạt động khác nhau:
1. Ra quyết định: Dữ liệu cung cấp thông tin nền tảng giúp các cá nhân và tổ chức đưa ra các
quyết định chính xác hơn, dựa trên các phân tích dữ liệu thay vì chỉ dựa vào cảm tính. Ví dụ,
trong kinh doanh, các quyết định về sản phẩm mới, chiến lược marketing, và đầu tư đều được hỗ
trợ mạnh mẽ bởi dữ liệu.
2. Phát triển mô hình và dự đoán: Trong học máy và trí tuệ nhân tạo, dữ liệu là đầu vào quan
trọng để huấn luyện các mô hình và tạo ra các dự đoán. Ví dụ, trong hồi quy tuyến tính, dữ liệu
được sử dụng để tìm kiếm các hệ số tối ưu giúp mô hình dự đoán các giá trị trong tương lai.
3. Phân tích xu hướng và mô hình: Dữ liệu giúp xác định các xu hướng và mẫu trong một tập
hợp thông tin. Phân tích dữ liệu có thể giúp phát hiện các mối quan hệ ẩn giữa các yếu tố, hỗ trợ
trong việc ra quyết định hoặc tối ưu hóa quy trình.
4. Cải thiện hiệu quả và năng suất: Dữ liệu giúp các tổ chức tối ưu hóa quy trình và cải thiện
năng suất. Ví dụ, dữ liệu về sản xuất có thể giúp phát hiện các vấn đề trong dây chuyền sản xuất
và đưa ra các giải pháp cải tiến.
5. Nghiên cứu và phát triển: Dữ liệu là nền tảng cho các nghiên cứu khoa học và công nghệ. Các
nhà khoa học và nghiên cứu sử dụng dữ liệu để kiểm tra giả thuyết, phân tích kết quả thí nghiệm
và phát triển các công nghệ mới.
6. Giám sát và đánh giá: Dữ liệu cũng giúp giám sát và đánh giá các hoạt động, hiệu suất hoặc
tình hình trong các lĩnh vực như giáo dục, y tế, và chính phủ. Ví dụ, trong y tế, dữ liệu bệnh nhân
có thể giúp theo dõi sức khỏe và đưa ra các biện pháp can thiệp kịp thời.
7. Đưa ra các chiến lược marketing hiệu quả: Các doanh nghiệp có thể sử dụng dữ liệu để hiểu rõ
hơn về khách hàng của họ, phân tích hành vi tiêu dùng, và từ đó phát triển các chiến lược
marketing phù hợp, như quảng cáo cá nhân hóa.
Câu 8: Phân tích các bước cơ bản trong quá trình tiền xử lý dữ liệu (làm sạch dữ liệu, chuẩn hóa,
và xử lý dữ liệu thiếu)
Tiền xử lý dữ liệu (data preprocessing) là một bước quan trọng trong quá trình phân tích và xây
dựng mô hình học máy, nhằm chuẩn bị dữ liệu thô thành dữ liệu có chất lượng cao để mô hình
học máy có thể hoạt động hiệu quả. Ba bước cơ bản trong quá trình tiền xử lý dữ liệu bao gồm
làm sạch dữ liệu, chuẩn hóa dữ liệu, và xử lý dữ liệu thiếu. Dưới đây là phân tích chi tiết các bước này:
1. Làm sạch dữ liệu (Data Cleaning)
Làm sạch dữ liệu là quá trình loại bỏ hoặc sửa chữa những dữ liệu không chính xác, không hợp
lệ hoặc không đầy đủ. Đây là bước đầu tiên và quan trọng nhất trong tiền xử lý dữ liệu.
Các công việc trong làm sạch dữ liệu:
- Loại bỏ dữ liệu sai lệch (outliers): Dữ liệu sai lệch là những điểm dữ liệu có giá trị quá cao
hoặc quá thấp so với phần còn lại của dữ liệu và có thể ảnh hưởng xấu đến mô hình học máy. Ví
dụ: một người có chiều cao 3 mét có thể là một ngoại lệ cần được loại bỏ hoặc điều chỉnh.
- Loại bỏ hoặc sửa chữa dữ liệu không hợp lệ: Dữ liệu có thể bị lỗi do nhập liệu sai, ví dụ như
"NaN", "null", hoặc dữ liệu không phù hợp với định dạng mong đợi. Các giá trị này cần được xử
lý để tránh làm sai lệch kết quả phân tích.
- Xử lý các giá trị trùng lặp: Dữ liệu trùng lặp (duplicate data) là khi cùng một mẫu được ghi lại
nhiều lần. Việc có quá nhiều dữ liệu trùng lặp có thể làm giảm độ chính xác của mô hình, vì vậy
chúng cần được phát hiện và loại bỏ.
- Kiểm tra tính nhất quán: Đảm bảo rằng dữ liệu trong các cột là đồng nhất, ví dụ như nếu cột
"giới tính" có thể chứa các giá trị như "Nam", "Nữ", hoặc "M", "F", cần phải chuẩn hóa tất cả
các giá trị về một định dạng duy nhất.
2. Chuẩn hóa dữ liệu (Data Normalization / Standardization)
Chuẩn hóa dữ liệu là bước quan trọng để đảm bảo rằng các tính năng (features) của dữ liệu có
thể được so sánh và xử lý công bằng trong mô hình học máy. Các tính năng có thể có đơn vị hoặc
phạm vi khác nhau, do đó, việc chuẩn hóa giúp loại bỏ sự ảnh hưởng của các đặc tính không
đồng nhất trong dữ liệu.
Các phương pháp chuẩn hóa:
- Chuẩn hóa Min-Max: Phương pháp này đưa giá trị của các đặc tính về một phạm vi cụ thể,
thường là [0, 1]. Công thức chuẩn hóa Min-Max là:
xnormalized=x−min(x)max(x)−min(x)x_{normalized} = \frac{x - \text{min}(x)}{\text{max}(x)
- \text{min}(x)}xnormalized=max(x)−min(x)x−min(x)
Phương pháp này phù hợp khi bạn muốn đưa dữ liệu vào một phạm vi xác định, nhưng cần lưu ý
rằng nó nhạy cảm với các ngoại lệ.
- Chuẩn hóa Z-score (Standardization): Phương pháp này đưa dữ liệu về phân phối chuẩn (mean
=0, standard deviation = 1). Công thức chuẩn hóa Z-score là:
xstandardized=x−μσx_{standardized} = \frac{x - \mu}{\sigma}xstandardized=σx−μ
Trong đó, μ\muμ là trung bình và σ\sigmaσ là độ lệch chuẩn của dữ liệu. Phương pháp này có ưu
điểm là không bị ảnh hưởng bởi các ngoại lệ lớn như Min-Max.
- Chuẩn hóa đối 数 (Log Transformation): Nếu dữ liệu có sự phân phối không đồng đều (như có
những giá trị rất lớn), có thể sử dụng phép biến đổi đối số để làm giảm sự chênh lệch giữa các giá trị.
3. Xử lý dữ liệu thiếu (Missing Data Handling)
Dữ liệu thiếu là một vấn đề phổ biến trong quá trình thu thập dữ liệu, và xử lý dữ liệu thiếu là
một bước quan trọng trong tiền xử lý để đảm bảo rằng mô hình học máy không bị sai lệch do thiếu thông tin.
Các phương pháp xử lý dữ liệu thiếu:
- Loại bỏ mẫu hoặc đặc tính có dữ liệu thiếu: Đây là phương pháp đơn giản nhất, trong đó các
hàng (mẫu) hoặc cột (đặc tính) có dữ liệu thiếu sẽ bị loại bỏ khỏi bộ dữ liệu. Tuy nhiên, nếu dữ
liệu thiếu quá nhiều, phương pháp này có thể làm giảm tính đại diện của bộ dữ liệu.
- Điền dữ liệu thiếu bằng giá trị trung bình, trung vị hoặc mode: Phương pháp này điền các giá trị
thiếu bằng giá trị trung bình (mean), trung vị (median) hoặc giá trị xuất hiện nhiều nhất (mode)
trong cột đó. Đây là phương pháp đơn giản và hiệu quả nếu dữ liệu thiếu không quá nhiều.
o Trung bình (Mean): Sử dụng giá trị trung bình của cột để điền vào các giá trị thiếu (thường dùng cho dữ liệu số).
o Trung vị (Median): Dùng giá trị trung vị nếu dữ liệu bị lệch hoặc có nhiều ngoại lệ.
o Mode: Dùng giá trị xuất hiện nhiều nhất (thường dùng cho dữ liệu phân loại).
- Sử dụng thuật toán học máy để dự đoán giá trị thiếu: Có thể sử dụng các thuật toán học máy để
dự đoán giá trị bị thiếu, ví dụ như k-NN (k-nearest neighbors) hoặc mô hình hồi quy. Các mô
hình này sẽ dựa vào các đặc tính khác có trong bộ dữ liệu để đưa ra dự đoán cho các giá trị thiếu.
- Sử dụng kỹ thuật nội suy (Imputation): Nội suy là kỹ thuật điền giá trị thiếu dựa trên sự kết hợp
của các giá trị lân cận hoặc các mô hình phức tạp hơn. Ví dụ, có thể sử dụng phương pháp nội
suy tuyến tính hoặc các phương pháp phức tạp như Random Forest. Tổng kết
Quá trình tiền xử lý dữ liệu đóng vai trò rất quan trọng trong việc tạo ra bộ dữ liệu chất lượng
cao và đảm bảo mô hình học máy hoạt động hiệu quả. Các bước cơ bản trong tiền xử lý dữ liệu bao gồm:
- Làm sạch dữ liệu: Loại bỏ hoặc sửa chữa dữ liệu không chính xác, không hợp lệ hoặc không đầy đủ.
- Chuẩn hóa dữ liệu: Đưa các đặc tính về một phạm vi hoặc phân phối chung để giúp mô hình
học máy hoạt động chính xác hơn.
- Xử lý dữ liệu thiếu: Xử lý các giá trị thiếu để đảm bảo mô hình có thể sử dụng được toàn bộ dữ
liệu mà không bị sai lệch.
Mỗi bước này giúp cải thiện chất lượng của dữ liệu và giúp mô hình học máy học hiệu quả hơn,
từ đó tạo ra các dự đoán chính xác và đáng tin cậy hơn.
Câu 9: Python có những thư viện nào phổ biến cho phân tích dữ liệu?
Python có nhiều thư viện phổ biến phục vụ cho việc phân tích dữ liệu, mỗi thư viện thường
chuyên biệt cho một số tác vụ nhất định. Dưới đây là những thư viện phổ biến nhất:
1. Thao tác và xử lý dữ liệu
- Pandas: Thao tác và phân tích dữ liệu dạng bảng (DataFrame). Rất hữu ích cho việc làm sạch và chuẩn hóa dữ liệu.
- NumPy: Hỗ trợ tính toán mảng số học và các phép toán đại số tuyến tính.
- Dask: Mở rộng khả năng xử lý dữ liệu lớn vượt quá bộ nhớ RAM trên nhiều máy tính.
2. Trực quan hóa dữ liệu
- Matplotlib: Tạo biểu đồ dạng 2D, biểu đồ cột, đường, scatter, v.v.
- Seaborn: Dựa trên Matplotlib, giúp tạo biểu đồ đẹp mắt với cú pháp đơn giản.
- Plotly: Hỗ trợ biểu đồ tương tác và có thể tạo dashboard.
- Bokeh: Tạo biểu đồ tương tác, phù hợp cho dữ liệu lớn. 3. Phân tích thống kê
- SciPy: Thực hiện các phép tính khoa học và thống kê phức tạp.
- Statsmodels: Phân tích thống kê và hồi quy.
4. Học máy (Machine Learning)
- Scikit-learn: Học máy truyền thống như hồi quy, phân loại, phân cụm.
- TensorFlow: Học sâu (Deep Learning) và mạng nơron.
- PyTorch: Học sâu, linh hoạt cho nghiên cứu và phát triển mô hình.
5. Xử lý dữ liệu lớn (Big Data)
- PySpark: Xử lý dữ liệu lớn sử dụng Apache Spark.
- Vaex: Phân tích dữ liệu lớn mà không cần nạp toàn bộ vào bộ nhớ.
6. Xử lý ngôn ngữ tự nhiên (NLP)
- NLTK: Xử lý văn bản và ngôn ngữ tự nhiên.
- SpaCy: Xử lý văn bản nhanh và hiệu quả.
7. Làm sạch và chuẩn hóa dữ liệu
- OpenCV: Xử lý hình ảnh và video.
- BeautifulSoup: Thu thập và làm sạch dữ liệu từ web.
8. Dashboard và ứng dụng web
- Streamlit: Tạo ứng dụng phân tích dữ liệu nhanh chóng.
- Dash: Tạo dashboard tương tác dựa trên Plotly.
- Flask/Django: Xây dựng backend cho ứng dụng phân tích dữ liệu.
Câu 10: Phân tích cấu trúc cơ bản của một mạng thần kinh nhân tạo?
1. Các Thành Phần Chính của ANN
a. Neuron nhân tạo (Artificial Neuron)
- Là đơn vị cơ bản trong ANN.
- Mỗi neuron nhận đầu vào, thực hiện phép toán, và đưa ra đầu ra. - Công thức toán học:
y=f(∑i=1nwixi+b)y = f(\sum_{i=1}^{n} w_i x_i + b)y=f(i=1∑nwixi+b)
- xix_ixi: Giá trị đầu vào thứ i.
- wiw_iwi: Trọng số (weight) của đầu vào thứ i.
- bbb: Hệ số điều chỉnh (bias).
- fff: Hàm kích hoạt (activation function).
- yyy: Đầu ra của neuron.
b. Các tầng (Layers) trong ANN
Mạng thần kinh nhân tạo bao gồm ba loại tầng chính:
1. Tầng đầu vào (Input Layer)
o Nhận dữ liệu thô từ bên ngoài.
o Mỗi nút (node) trong tầng này đại diện cho một đặc trưng (feature) đầu vào.
2. Tầng ẩn (Hidden Layers)
o Thực hiện các phép toán phức tạp và trích xuất đặc trưng từ dữ liệu.
o Có thể có một hoặc nhiều tầng ẩn.
o Số lượng neuron và tầng ẩn ảnh hưởng đến khả năng học của mô hình.
3. Tầng đầu ra (Output Layer)
o Cung cấp kết quả cuối cùng.
o Số neuron ở tầng này phụ thuộc vào bài toán (phân loại, hồi quy, v.v.).
c. Hàm kích hoạt (Activation Function)
- Giới thiệu tính phi tuyến tính vào mạng. - Phổ biến:
o ReLU (Rectified Linear Unit): f(x)=max(0,x)f(x) = \max(0, x)f(x)=max(0,x)
o Sigmoid: f(x)=11+e−xf(x) = \frac{1}{1 + e^{-x}}f(x)=1+e−x1
o Tanh: f(x)=tanh(x)f(x) = \tanh(x)f(x)=tanh(x)
o Softmax: Dùng cho bài toán phân loại nhiều lớp.
d. Trọng số (Weights) và hệ số điều chỉnh (Bias)
- Weights (Trọng số): Quyết định mức độ ảnh hưởng của mỗi đầu vào.
- Bias (Hệ số điều chỉnh): Giúp mô hình dịch chuyển đường ra quyết định.
- Trong quá trình huấn luyện, các trọng số và bias được điều chỉnh để giảm sai số.
2. Quá Trình Huấn Luyện ANN
1. Lan truyền tiến (Forward Propagation):
o Dữ liệu đi qua các tầng từ đầu vào đến đầu ra. o Dự đoán kết quả.
2. Tính toán sai số (Loss Function):
o So sánh kết quả dự đoán với giá trị thực tế.
o Ví dụ: MSE (Mean Squared Error) cho bài toán hồi quy, Cross-Entropy Loss cho bài toán phân loại.
3. Lan truyền ngược (Backward Propagation):
o Tính toán gradient của sai số đối với các trọng số và bias.
o Điều chỉnh các trọng số và bias dựa trên gradient descent.
4. Tối ưu hóa (Optimization Algorithm):
o Sử dụng các thuật toán như Stochastic Gradient Descent (SGD), Adam Optimizer, v.v.
3. Kiến Trúc Phổ Biến của ANN
- Perceptron: Mạng thần kinh đơn giản nhất (chỉ 1 tầng ẩn).
- Feedforward Neural Network (FNN): Mạng truyền thẳng, phổ biến nhất.
- Convolutional Neural Network (CNN): Chuyên xử lý dữ liệu hình ảnh.
- Recurrent Neural Network (RNN): Xử lý dữ liệu chuỗi thời gian.
- Transformer: Dùng cho NLP và xử lý chuỗi. 4. Ứng Dụng của ANN
- Phân loại hình ảnh (Image Classification)
- Xử lý ngôn ngữ tự nhiên (NLP)
- Phân tích chuỗi thời gian (Time Series Analysis) - Dự đoán tài chính - Nhận diện giọng nói