Chuyển AI Chuyển đổi số | Trường Đại học Kinh tế – Luật, Đại học Quốc gia Thành phố Hồ Chí Minh
Dall-E 2 và Imagen mới chỉ mang tính thử nghiệm và chưa ược công bố ra thị trường, nhưng vẫn khiến giới chuyên gia lo ngại. Những AI này có thể tạo các bức ảnh gây phản cảm, thiên kiến về giới tính và văn hóa dựa trên dữ liệu huấn luyện, vốn là hàng triệu bức ảnh lấy từ Internet. Tài liệu giúp bạn tham khảo, ôn tập và đạt kết quả cao. Mời bạn đọc đón xem!
Môn: Chuyển đổi số
Trường: Trường Đại học Kinh Tế - Luật, Đại học Quốc gia Thành phố Hồ Chí Minh
Thông tin:
Tác giả:
Thông tin :
Môn:
Trường:
Trường Đại học Kinh Tế - Luật, Đại học Quốc gia Thành phố Hồ Chí Minh
Tác giả:
Tài liệu liên quan:
Preview text:
lOMoAR cPSD| 47167580
Sự thiên kiến trong những bức ảnh tạo bằng AI
Vua và hoàng hậu gấu mèo, ếch ôm quả dâu... nằm trong số những mô tả văn bản
ược người dùng nhập vào ể yêu cầu AI vẽ hình ảnh.
Những tuần qua, các công cụ AI hiện ại với khả năng biến văn bản thành hình ảnh
như Dall-E 2 và Imagen thu hút nhiều sự chú ý của giới công nghệ. Những bức ảnh
ược tạo ra có vẻ lạ lùng, thậm chí mang ường nét giống hội họa cổ iển. Chúng xuất
hiện tràn ngập trên mạng xã hội, ược nhiều người nổi tiếng chia sẻ và nhận ịnh các
AI này sẽ trở thành công cụ mạnh mẽ cho người sáng tạo nội dung.
Dall-E 2 và Imagen mới chỉ mang tính thử nghiệm và chưa ược công bố ra thị trường,
nhưng vẫn khiến giới chuyên gia lo ngại. Những AI này có thể tạo các bức ảnh gây
phản cảm, thiên kiến về giới tính và văn hóa dựa trên dữ liệu huấn luyện, vốn là hàng
triệu bức ảnh lấy từ Internet.
DALL-E 2 vẽ ảnh theo yêu cầu hoạt ộng thế nào. Video: OpenAI.
OpenAI hiện cho phép hàng nghìn người tiếp cận và dùng thử Dall-E 2 sau khi ký
cam kết tuân thủ chặt chẽ chính sách về nội dung, trong ó không ược tạo và chia
sẻ ảnh có thể gây hại. Trong khi ó, Google Research không cho giới nghiên cứu
ngoài công ty sử dụng Imagen. lOMoAR cPSD| 47167580
Dấu hiệu về thiên kiến ã xuất hiện ở một bức ảnh do chính Google chia sẻ. "Có hai
bức tranh treo trên tường trong lâu ài hoàng gia. Bên trái là tranh sơn dầu về một vị
vua gấu mèo. Bên phải là tranh sơn dầu về hoàng hậu gấu mèo", dòng mô tả ảnh có oạn.
Hình ảnh cho thấy dấu hiệu thiên kiến của Imagen. Ảnh: Google Research.
Bức ảnh ã ược Imagen tạo ra úng với mô tả, nhưng Arthur Holland Michel, chuyên
gia về AI và công nghệ giám sát tại Hội ồng Carnegie về Đạo ức và Quan hệ Quốc tế
(CCEIA) tại Mỹ, chỉ ra rằng hai con gấu mèo ều mặc trang phục hoàng gia phương
Tây, dù văn bản mô tả không hề ề cập chi tiết về yếu tố này.
"Ngay cả những dấu hiệu ngầm như vậy cũng rất nguy hiểm, bởi chúng rất khó bị
phát hiện", ông nói. "Không thể ề cập ến việc sử dụng rộng rãi những hệ thống này
trong ời thực nếu chưa ngăn chặn ược hiểm họa này".
Ghi nhận thiên kiến
AI ã xuất hiện nhiều trong cuộc sống thường nhật những năm qua, nhưng chỉ ược
công chúng chú ý thời gian gần ây. Các hệ thống nhận diện khuôn mặt ngày càng bị
soi xét vì lo ngại về ộ chính xác và thiên kiến với chủng tộc.
OpenAI và Google Research, nhà phát triển của Dall-E 2 và Imagen, thừa nhận AI
của họ vẫn tồn tại vấn ề trên khi thường xuyên thể hiện hình ảnh dựa trên khuôn mẫu
văn hóa, giới tính của phương Tây. Lama Ahmad, quản lý chương trình nghiên cứu lOMoAR cPSD| 47167580
chính sách tại OpenAI, cho biết các nhà nghiên cứu vẫn ang học cách o lường mức ộ
thiên kiến của AI ể iều chỉnh chúng.
Dall-E 2 và Imagen ều tiếp nhận văn bản ể tạo ra hình ảnh, chúng phải ược huấn
luyện bằng hình ảnh và những oạn chú thích i kèm. OpenAI và Google Research lọc
những dữ liệu ộc hại như ảnh khiêu dâm khỏi cơ sở dữ liệu trước khi huấn luyện AI,
nhưng quy mô dữ liệu quá lớn khiến nỗ lực này vẫn có lỗ hổng và cho phép AI tạo ra hình ảnh ộc hại.
Lọc dữ liệu cũng dẫn tới một vấn ề khác là sai lệch thông tin. "Ví dụ, phụ nữ xuất hiện
nhiều hơn àn ông trong các nội dung khiêu dâm, nên việc lọc thông tin này cũng làm
giảm áng kể dữ liệu phụ nữ trong cơ sở dữ liệu", Ahmad nói.
Theo Julie Carpenter, nhà nghiên cứu tại Đại học Bách khoa bang California, loại
toàn bộ nội dung xấu khỏi cơ sở dữ liệu là bất khả thi, bởi người ưa ra quyết ịnh ánh
dấu và xóa thông tin có thể ến từ những nền văn hóa khác nhau, dẫn tới khác biệt
trong nhận thức và ánh giá nội dung.
"Công nghệ AI rất thú vị và có thể làm tốt nhiều việc, chúng ta nên phối hợp với nó
như một ối tác. Nhưng AI không hoàn hảo, nó còn nhiều hạn chế và người dùng cần
hạ thấp kỳ vọng của mình. Nó không như trong phim", Carpenter nhận xét.
Ông Michel cũng lo ngại rằng không biện pháp nào có thể ngăn chặn hoàn toàn
những người muốn dùng AI cho mục ích xấu, giống như công nghệ deepfake ang bị
lạm dụng ể tạo ra những hình ảnh và video giả mạo hay bôi nhọ người khác.
Điệp Anh (theo CNN)