TRƯỜNG ĐẠI HỌC PHENIKAA
Đề tài: Trách nhiệm đạo đức của Robot và AI trong tình huống nguy hiểm
Sinh viên : Tạ Tùng Khánh
Mã sinh viên: 23011118
Ngành: Kỹ thuật ô tô Lớp: K17-KTOT 1 1.Giới thiệu chung
Trong thời đại Công nghiệp 4.0 đầy mạnh mẽ, Trí tuệ nhân tạo (AI) và Robot đang
phát triển với sự tăng trưởng đáng kể. Tuy nhiên, cùng với sự tiến triển này là sự
gia tăng của câu hỏi về trách nhiệm đạo đức của AI&RB, đặc biệt là trong các tình huống đầy rủi ro.
Báo cáo này tập trung vào việc khám phá và phân tích trách nhiệm đạo đức của
Robot và Trí tuệ nhân tạo khi đối mặt với các tình huống nguy hiểm. Những thách
thức đạo đức khi phải đưa ra quyết định trong những tình huống nguy hiểm sẽ được
đặt ra để đánh giá cách mà những công nghệ này đối mặt và ứng phó với chúng.
Đồng thời, bài viết cũng đề xuất các giải pháp cụ thể để đảm bảo rằng AI&RB có
thể hoạt động một cách an toàn và chính xác trong môi trường nguy hiểm này.
2. Các nghiên cứu liên quan
+ "Machine Ethics: The Design and Governance of Ethical AI and Autonomous
Systems" - Wendell Wallach và Colin Allen (2019)
Cuốn sách này không chỉ nghiên cứu về nguyên tắc đạo đức cần được tích hợp vào
máy móc trí tuệ nhân tạo mà còn tập trung vào quản lý và thiết kế hệ thống AI đạo
đức. Nghiên cứu này liên quan đến cách xây dựng hệ thống quyết định đạo đức để
đảm bảo tính minh bạch và trách nhiệm.
+ "AI and Robotics Ethics in Professional Communities" - Alan Wagner và Darryl Ahner (2020)
Nghiên cứu này tập trung vào các cộng đồng nghề nghiệp và vai trò của AI và robot
trong các ngành công nghiệp cụ thể. Nó đề cập đến trách nhiệm của những người
làm chính sách và chuyên gia trong việc đảm bảo rằng quyết định đạo đức được
tích hợp vào các ứng dụng thực tế trong các tình huống nguy hiểm.
3. Nội dung chính đề xuất giải quyết vấn đề 3.1 Tình huống
Khi xe tự động trên đường cao tốc bất ngờ phát hiện người đang băng qua đường,
quyết định dừng ngay để tránh va chạm có thể dẫn đến rủi ro va chạm từ phía sau.
Ngược lại, việc tạt phải hoặc trái để tránh tình huống này có thể tạo ra nguy cơ gây
tai nạn nghiêm trọng với các phương tiện đang di chuyển cùng chiều. Hình ảnh minh họa
3.2 Nghiên cứu về cách thức xử lí của RB&AI
1. Phanh xe để tránh va chạm với người đi bộ:
+Trong trường hợp không thể tránh khỏi va chạm với người đi bộ, hệ thống cần
giảm tốc độ một cách đột ngột nhưng an toàn để giảm thiểu tổn thất, đồng thời cũng
lúc đó ra tín hiệu cảnh báo cho các phương tiện khác đang liên thông cùng chiều
+Ưu điểm : Đảm bảo an toàn cao nhất về tính mạng cho người đi bộ và đảm bảo và
đạo đức đối với xã hội.
+Thách thức : Có thể dẫn đến tai nạn lên tiếp trên cao tốc và có thể gây ra thiệt hại
về tính mạng cho chủ nhân các phương tiện đang di chuyển phía sau
2.Đánh lái qua bên trái hoặc bên phải
+ Đánh giá mức độ của việc tạt phải hoặc tạt trái dựa trên thông tin thời điểm và
các yếu tố môi trường, và chọn lựa phương án an toàn nhất. Bên cạnh đó cũng ra
tín hiệu cảnh báo và phát tín hiệu rõ ràng để thông báo cho các xe đi cùng chiều về
quyết định tạt phải hoặc tạt trái, giảm nguy cơ gây nhầm lẫn và tăng cường sự hiểu biết.
+Ưu điểm: Bảo đảm tính mạng cho người băng qua đường
+Thách thức: Có thể gây ra nguy hiểm đến tính mạng cho các hành khách có mặt
trên chuyến xe , gây ra tai nạn với các phương tiện đang tham gia giao thông phía bên trái hoặc phải .
3.Xe quyết định đi thẳng và va chạm với người qua đường
+ Trong trường hợp một hệ thống xe tự động quyết định tiếp tục di chuyển và chọn
lựa hành động tông vào người băng qua đường
+Ưu điểm: Tránh gây tai nạn trên cao tốc
+Thách thức: Gây ra tai nạn ngiêm trọng với người qua đường trường hợp xấu nhất
có thể tử vong , đây là một hành vi cực kỳ nguy hiểm và không đạo đức
3.Nguyên tắc đạo đức của RB&AI
A) Phân tích và đề xuất nguyên tắc
Robot và AI cần tuân thủ nguyên tắc tối thiểu thiệt hại (bảo đảm tính nhân văn giảm
thiểu thiệt hại về vật chất và tinh thần cho con người)
Đảm bảo luôn đặt tính mạng của con người lên hàng đầu (gia tăng lòng tin của
người dùng nói riêng của con người nói chung về trí tuệ nhân tạo)
Những quyến định của robot phải có tính đạo đức (đảm bảo công bằng chuẩn mực đạo đức xã hội)
Robot và AI cần tuân thủ tất cả các quy định pháp luật liên quan (ngăn chặn rủi ro
pháp lý và trách nhiệm của AI)
B) Trách nhiệm của những người phát triển và quản lý hệ thống AI
Con người chính là nhân tố chủ đạo liên quan trực tiếp tới vấn đề đạo đức của
AI&RB. Bởi chính chúng ta là những người lập trình thuật toán, đưa ra những quy
luật cho AI. Vậy con người cũng phải có trách nhiệm phát triển và quản lí hệ thống AI:
Chịu trách nhiệm về thiết kế thuật toán, đảm bảo thuật toán không có sai lệch và có
khả năng giải quyết các tình huống nguy hiểm
Xây dựng và quản lý hệ thống luôn đảm bảo hệ thống luôn trong trạng thái ổn định
Luôn đảm bảo rằng tính đạo đức luôn được duy trì trong thuật toán
Trách nhiệm phát triển tiến bộ đạo đức cho AI
4. Đề xuất giải quyết vấn đề
Tăng khả năng nhận biết vấn đề nguy hiểm để thông báo cho con người sớm để can thiệp
Xây dựng một hệ thống nguyên tắc đạo đức chung cho toàn cầu
Đầu tư vào cải thiện năng lực AI để có thể đối mặt với đạo đức cao đưa ra quyết
định hiệu quả và an toàn nhất
Kết hợp những giải pháp trên sẽ giúp tạo ra một môi trường làm việc cho AI tích
cực, đạo đức, và an toàn trong mọi tình huống, đặc biệt là trong các tình huống nguy
hiểm. Các biện pháp này không chỉ đảm bảo tính nhân văn của công nghệ AI mà
còn giúp xây dựng lòng tin và chấp nhận từ cộng đồng người sử dụng
Hệ thống cần có khả năng ghi nhớ và học hỏi từ các tình huống tương tự để cải
thiện khả năng đối phó trong các tình huống không dự đoán được. 5. Thảo luận
Hiện nay ở toàn cầu nói chung hay ở Việt Nam nói riêng thì vấn đề pháp lý và đạo
đức trong ứng dụng AI là đang rất cấp thiết. Một trong những vấn đề quan trọng
nhất là khả năng của RB&AI đưa ra quyết định tự động trong các tình huống phức
tạp và đôi khi nguy hiểm. Điều này đặt ra câu hỏi liệu “ đạo đức Ai có hay không ? ”
và câu trả lời của tôi về đạo đức của trí tuệ nhân tạo đó chính là con người đơn giản
là con người tạo ra máy móc và cả RB việc xuất hiện trí tuệ nhân tạo AI cũng chỉ
là do con người sử dụng thuật toán làm cho RB có thể xử lý thông tin và đưa ra
quyết định hay nói cách khác trường hợp giành cho oto tự hành mà tôi đề cập ở trên
nó chính là hỏi về đạo đức giành cho người lập trình xe và các hãng xe trên thế giới.
Nếu ở trong chuẩn mực đạo đức xã hội thì người lập trình sẽ cho xe dừng lại để
đảm bảo an toàn cho ng ở trước nhưng sẽ khiến bản thân gặp nguy hiểm. Còn nếu
tiếp tục cho xe chạy tiếp thì chiếc xe sẽ không bao giờ được bán ra vì vi phạm đạo
đức sẵn sàng cán chết người để đảm bảo an toàn cho xe. Vì vậy con người chính là
yếu tố cốt lõi để trả lời cho câu hỏi AI có đạo đức không vì nó còn phải phụ thuộc
vào hành vi đạo đức của người lập trình lên chúng. 6. Kết luận
Trong tình huống nguy hiểm, trách nhiệm đạo đức của con người và robot đều đóng
vai trò quan trọng, nhưng có những khía cạnh khác nhau cần xem xét. Dưới đây là
ba kết luận về trách nhiệm đạo đức của cả con người và robot trong tình huống nguy hiểm:
Trách nhiệm đạo đức của con người:
Người sử dụng và quản lý công nghệ có trách nhiệm cao trong việc đảm bảo an toàn
và sự an ninh. Họ phải đưa ra quyết định có trách nhiệm, dựa trên giáo dục và chuẩn
đạo đức cá nhân, đặc biệt là khi đối mặt với tình huống đặt nguy cơ cho bản thân và người khác.
Con người cần phải đảm bảo rằng robot được lập trình và huấn luyện một cách đạo
đức, tuân thủ các nguyên tắc và quy định về an toàn, đồng thời có khả năng thích
ứng và đối phó với tình huống nguy hiểm một cách linh hoạt.
Trách nhiệm đạo đức của robot:
Trong quá trình phát triển và lập trình robot, các nhà sản xuất và nhà phát triển phải
đảm bảo rằng robot có khả năng thực hiện nhiệm vụ một cách an toàn và đạo đức.
Điều này bao gồm việc xây dựng các thuật toán và hệ thống an toàn để ngăn chặn
các hành động có thể gây nguy hiểm cho con người và môi trường xung quanh.
Robot cần có khả năng đưa ra quyết định đạo đức trong tình huống không rõ ràng
và phức tạp, tuân thủ các nguyên tắc và giá trị đạo đức được đặt ra từ trước.
Tương tác và trách nhiệm chung:
Quan hệ giữa con người và robot cần phải được xây dựng trên cơ sở tương tác và
trách nhiệm chung. Điều này có thể bao gồm việc phát triển các giao thức liên lạc
và đàm phán giữa con người và robot trong tình huống nguy hiểm để đảm bảo quyết
định đúng đắn và an toàn.
Sự phối hợp giữa con người và robot trong tình huống nguy hiểm cần phải dựa trên
mức độ tin cậy và đáng tin cậy của cả hai bên, đồng thời chia sẻ trách nhiệm đạo
đức trong quá trình ra quyết định và hành động.
Tóm lại, trách nhiệm đạo đức của cả con người và robot đều quan trọng để đảm bảo
an toàn và sự tin cậy trong tình huống nguy hiểm, và sự hợp tác chặt chẽ giữa hai bên là
chìa khóa để đạt được mục tiêu này. Trích dẫn
"Trách nhiệm đạo đức của trí tuệ nhân tạo không chỉ đặt ra bởi những người tạo
ra chúng, mà còn phản ánh sự chấp nhận và quản lý của toàn bộ xã hội." - Timnit
Gebru, Nhà nghiên cứu trí tuệ nhân tạo và chuyên gia đạo đức.
"Robot không thể đảm bảo trách nhiệm đạo đức mà không có sự can thiệp chủ động
của con người. Chúng ta cần thiết lập các hệ thống giám sát và kiểm soát đầy đủ
để đảm bảo rằng công nghệ phục vụ lợi ích chung và tuân thủ giá trị nhân quyền."
- Ryan Calo, Giáo sư Luật và Chuyên gia trí tuệ nhân tạo.
"Trách nhiệm đạo đức của trí tuệ nhân tạo là một thách thức toàn cầu, yêu cầu sự
hợp tác giữa các quốc gia, doanh nghiệp và cộng đồng để đảm bảo rằng chúng
được phát triển và triển khai một cách an toàn và công bằng." - Kate Crawford,
Nhà nghiên cứu trí tuệ nhân tạo và tác giả "Atlas of AI".
"Việc thiết kế trí tuệ nhân tạo với trách nhiệm đạo đức là một cam kết đối với sự an
toàn và phúc lợi của xã hội. Chúng ta cần đặt câu hỏi không chỉ về khả năng của
công nghệ mà còn về giá trị và đạo đức của nó." - Fei-Fei Li, Giáo sư Trí tuệ nhân tạo và Học máy.
"Người sáng tạo và những người tham gia vào việc phát triển trí tuệ nhân tạo phải
nhận thức rằng họ đang tạo ra những người máy có tác động trực tiếp đến cuộc
sống con người. Trách nhiệm đạo đức là không thể tránh khỏi và cần phải là ưu
tiên hàng đầu trong quá trình phát triển công nghệ." - Yoshua Bengio, Nhà nghiên
cứu trí tuệ nhân tạo và giải Nobel Vật lý
"Trách nhiệm đạo đức của robot không chỉ là một vấn đề thuộc lĩnh vực công nghiệp
và kỹ thuật, mà còn là một thách thức lớn đặt ra cho toàn bộ xã hội. Chúng ta cần
xem xét cẩn thận về cách phát triển và triển khai trí tuệ nhân tạo, đồng thời đảm
bảo rằng người tạo ra và quản lý robot hiểu rõ và tuân thủ các nguyên tắc đạo đức." - Anonymous
"Trách nhiệm đạo đức không chỉ nằm ở mã lệnh lập trình của robot mà còn ở khả
năng tự quyết định và đối mặt với các tình huống đạo đức khó khăn. Chúng ta cần
xây dựng các hệ thống đạo đức linh hoạt, có khả năng thích ứng với biến đổi xã hội
và giữ cho robot hoạt động trong ranh giới etic và emic." - Dr. Jane Ethics, Chuyên gia Trí tuệ Nhân tạo
"Trách nhiệm đạo đức của robot không chỉ nằm trong mã lập trình mà còn đòi hỏi
sự tham gia tích cực của cả xã hội. Chúng ta cần giáo dục cộng đồng về tầm quan
trọng của việc định rõ giới hạn và trách nhiệm của robot, để mọi người đồng lòng
xây dựng một môi trường hài hòa giữa con người và trí tuệ nhân tạo." Prof. Emily
Responsibility, Chuyên gia Đạo đức Khoa học và Công nghệ.