Nhập môn tối ưu hóa-Trường đại học Văn Lang
Gradient Descent là một thuật toán tối ưu lặp (iterative optimization algorithm) được sử dụng trong các bài toán Machine Learning và Deep Learning (thường là các bài toán tối ưu lồi.Tài liệu giúp bạn tham khảo, ôn tập và đạt kết quả cao.Mời bạn đọc đón xem!
Preview text:
lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101
1. Thuật toán Stochastic Gradient Descent với Python và NumPy
Câu hỏi, trình bày
a) Thuật toán Gradient Descent cơ bản
Gradient Descent là một thuật toán tối ưu lặp (iterative optimization algorithm) được sử
dụng trong các bài toán Machine Learning và Deep Learning (thường là các bài toán tối
ưu lồi — Convex Optimization) với mục tiêu là tìm một tập các biến nội tại (internal
parameters) cho việc tối ưu models.
b) Triển khai Gradient Descent cơ bản
c) Ứng dụng của thuật toán Gradient Descent 1 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101
d) Thuộc bài thực số mấy: thực hành 07 lap 04+05 e) Chạy mã ngồn (Run OK) f) Chép kết quả Tham khảo
https://realpython.com/gradient-descent-algorithm-python/
2.Thuật toán tối ưu hóa trong học máy
Hiểu tối ưu hóa trong học máy
Các loại thuật toán tối ưu hóa trong học máy 1. Thuật toán bậc nhất Gradient Descent a) bài 01 lap 01-02 2 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101
Particle Swarm Optimization (PSO) a) thực hành 11 3 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101 b) 4 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101 c)
2. Thuật toán bậc hai Broyden-
Fletcher-Goldfarb-Shanno a) thực hành 04 lap01+02 b) c)
Tối ưu hóa cho các tác vụ học máy cụ thể 1.
Nhiệm vụ phân loại: Tối ưu hóa hồi quy logistic a) chưa học 5 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101 6 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101
2. Nhiệm vụ hồi quy: Tối ưu hóa hồi quy tuyến tính a) th 08 lap 03 7 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101 b) 8 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101 c)
Những thách thức và hạn chế của thuật toán tối ưu hóa
Câu hỏi, mỗi mục trên đã thực hành thuật toán nào, mỗi thuật toán SV trình bày a)
Thuộc bài thực số mấy: b) Chạy mã ngồn (Run OK) c)
Chép kết quả Tham khảo:
https://www.geeksforgeeks.org/optimization-algorithms-in-machine-learning/
3. Giới thiệu toàn diện về Mạng nơ-ron đồ thị
• Đồ thị trong mạng nơ-ron đồ thị là gì? 9 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101
Đồ thị là loại cấu trúc dữ liệu chứa các nút và cạnh. Một nút có thể là một người, một địa
điểm hoặc một vật và các cạnh xác định mối quan hệ giữa các nút. Các cạnh có thể được
định hướng và vô hướng dựa trên sự phụ thuộc vào hướng Mạng nơ-ron đồ thị mạnh mẽ như thế nào?
Nó tìm hiểu các tính năng bằng cách kiểm tra các nút lân cận. Các vectơ nút tổng hợp
GNN, chuyển kết quả đến lớp dày đặc và áp dụng tính phi tuyến tính bằng cách sử dụng
hàm kích hoạt. Nói tóm lại, nó bao gồm tích chập đồ thị, lớp tuyến tính và chức năng
kích hoạt không phải của người học. Có hai loại GCN chính: Mạng tích chập không gian
và Mạng tích chập quang phổ.
• Mạng nơ-ron có sử dụng lý thuyết đồ thị không?
Mạng nơ-ron có sử dụng lý thuyết đồ thị Mạng
tích chập đồ thị là gì?
Mạng tích chập đồ thị (CNN hoặc ConvNet) là một thuật toán học sâu được thiết kế đặc
biệt cho bất kỳ nhiệm vụ nào mà nhận dạng đối tượng là rất quan trọng như phân loại,
phát hiện và phân đoạn hình ảnh. Nhiều ứng dụng trong đời thực, chẳng hạn như ô tô tự
lái, camera giám sát, v.v., sử dụng CNN.
• Đồ thị trong học sâu là gì?
đồ thị trong học sâu phân tích và giải thích dữ liệu được biểu thị dưới dạng biểu đồ. đồ
thị là một tập hợp các nút (hoặc đỉnh) và các cạnh, trong đó các nút biểu thị các thực thể
và các cạnh biểu thị mối quan hệ hoặc tương tác giữa các thực thể này.
• a) thuộc bài th15 b) 10 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101 c)
Câu hỏi, mỗi mục trên đã thực hành mục nào, mỗi mục SV trình bày
a) Thuộc bài thực số mấy: b) Chạy mã ngồn (Run OK) 11 lOMoARcPSD| 45473628
MaSV:…; Họ Và Tên:…
KIỂM TRA GK LẦN 1 - Môn: Nhập môn tối ưu hóa (71ITAI51403) -
Mã LHP: 233_71ITAI51403_0101 c) Chép kết quả
Tham khảo https://www.datacamp.com/tutorial/comprehensive-introduction-graph-neural- networks-gnnstutorial 12