OpenAI, công ty nghiên cứu trí tuệ nhân tạo (AI) nổi tiếng với công cụ ChatGPT, đang phải đối mặt với nhiều chỉ trích từ các nhà hoạt động và phụ huynh về khả năng trẻ em dễ dàng tiếp cận và sử dụng công cụ này. Để giải quyết vấn đề này, OpenAI vừa thành lập một đội an toàn trẻ em mới.

Đội an toàn trẻ em OpenAI: Hỗ trợ và bảo vệ người dùng vị thành niên

Theo thông tin tuyển dụng trên trang web của công ty, đội an toàn trẻ em của OpenAI sẽ hợp tác với các nhóm chính sách nền tảng, pháp lý và điều tra nội bộ, cũng như các đối tác bên ngoài để quản lý “quy trình, sự cố và đánh giá” liên quan đến người dùng dưới độ tuổi vị thành niên.

OpenAI thành lập đội an toàn dành cho trẻ em (Ảnh: Internet)
OpenAI thành lập đội an toàn dành cho trẻ em (Ảnh: Internet)

Đội ngũ này đang tìm kiếm chuyên gia thực thi an toàn trẻ em, người sẽ chịu trách nhiệm áp dụng chính sách của OpenAI vào nội dung do AI tạo ra và xử lý các đánh giá liên quan đến nội dung nhạy cảm (có thể liên quan đến trẻ em).

Việc OpenAI tuyển dụng chuyên gia an toàn trẻ em không quá ngạc nhiên, đặc biệt là khi công ty dự đoán lượng người dùng trẻ tuổi sẽ tăng đáng kể trong tương lai. (Điều khoản sử dụng hiện tại của OpenAI yêu cầu sự đồng ý của phụ huynh đối với trẻ em từ 13 đến 18 tuổi và cấm sử dụng cho trẻ em dưới 13 tuổi.)

Tuy nhiên, việc thành lập đội ngũ mới này, diễn ra vài tuần sau khi OpenAI hợp tác với Common Sense Media để xây dựng hướng dẫn AI thân thiện với trẻ em, cũng cho thấy sự lo ngại của OpenAI về việc vi phạm chính sách liên quan đến việc trẻ em sử dụng AI và những phản hồi tiêu cực từ dư luận.

GenAI: Giúp đỡ hay gây hại cho trẻ em?

Trẻ em và thanh thiếu niên ngày càng sử dụng các công cụ GenAI không chỉ để học tập mà còn giải quyết các vấn đề cá nhân. Theo một cuộc thăm dò của Trung tâm Dân chủ và Công nghệ, 29% trẻ em cho biết đã sử dụng ChatGPT để giải quyết lo lắng hoặc các vấn đề sức khỏe tâm thần, 22% cho các vấn đề với bạn bè và 16% cho các mâu thuẫn gia đình.

Tuy nhiên, một số người lại nhìn nhận đây là một rủi ro ngày càng tăng. Mùa hè năm ngoái, các trường học và cao đẳng đã nhanh chóng cấm ChatGPT vì lo ngại về đạo văn và thông tin sai lệch. Kể từ đó, một số đã gỡ bỏ lệnh cấm. Nhưng không phải ai cũng tin vào tiềm năng tốt đẹp của GenAI, họ dẫn chứng các cuộc khảo sát từ Trung tâm Internet An toàn của Vương quốc Anh, cho thấy hơn một nửa trẻ em (53%) cho biết đã thấy người cùng tuổi sử dụng GenAI theo cách tiêu cực – chẳng hạn như tạo thông tin giả mạo hoặc hình ảnh giả mạo được sử dụng để làm phiền người khác.

Mùa hè năm ngoái, các trường học và cao đẳng đã nhanh chóng cấm ChatGPT (Ảnh: Internet)
Mùa hè năm ngoái, các trường học và cao đẳng đã nhanh chóng cấm ChatGPT (Ảnh: Internet)

GenAI trong giáo dục: Nhu cầu cấp thiết về quy định và hướng dẫn

Tháng 9 năm ngoái, OpenAI đã công bố tài liệu hướng dẫn sử dụng ChatGPT trong các lớp học với các gợi ý và câu hỏi thường gặp để cung cấp cho giáo viên hướng dẫn về cách sử dụng GenAI như một công cụ giảng dạy. Trong một trong những bài viết hỗ trợ, OpenAI thừa nhận rằng các công cụ của họ, cụ thể là ChatGPT, “có thể tạo ra nội dung không phù hợp với tất cả đối tượng hoặc mọi lứa tuổi” và khuyên nên “cẩn thận” khi cho trẻ em tiếp xúc – ngay cả với những trẻ em đáp ứng yêu cầu về độ tuổi.

OpenAI đã công bố tài liệu hướng dẫn sử dụng ChatGPT trong các lớp học (Ảnh: Internet)
OpenAI đã công bố tài liệu hướng dẫn sử dụng ChatGPT trong các lớp học (Ảnh: Internet)

Việc cần nhiều hơn những quy định và hướng dẫn cách trẻ em sử dụng công cụ GenAI đang ngày càng tăng. Tổ chức Giáo dục, Khoa học và Văn hóa của Liên hợp quốc (UNESCO) vào cuối năm ngoái đã thúc đẩy các chính phủ điều chỉnh việc sử dụng GenAI trong giáo dục, bao gồm thực hiện giới hạn độ tuổi cho người dùng và các biện pháp bảo vệ dữ liệu và quyền riêng tư của người dùng. “GenAI có thể là một cơ hội to lớn cho sự phát triển của con người, nhưng nó cũng có thể gây hại và thành kiến”, Audrey Azoulay, Tổng Giám đốc UNESCO, cho biết trong một thông cáo báo chí. “Nó không thể được tích hợp vào giáo dục mà không có sự tham gia của xã hội và các biện pháp bảo vệ và quy định cần thiết từ chính phủ.”

Xem thêm

Liệu bạn đã thấy thiết kế mới của nút "Like"?

Biểu tượng nút like vừa được Facebook khoác lên mình một chiếc áo mới. Đây là lần thứ hai Facebook thay đổi biểu tượng nút "Like" trên mạng xã hội của mình.
Theo dõi bình luận
Thông báo về
guest
1 Bình luận
Bình chọn nhiều nhất
Mới nhất Cũ nhất
Phản hồi nội tuyến
Xem tất cả bình luận