(Hình ảnh minh diễn, SBS)

AUSTRALIA - Chính phủ liên bang đã công bố kế hoạch tăng cường nghĩa vụ của các công ty trực tuyến trong việc bảo vệ trẻ em và những người dùng khác khỏi tài liệu độc hại, và phim ảnh đồi trụy giả bằng công nghệ AI.

Bộ trưởng Truyền thông Michelle Rowland đề xuất một số tu chính đối với các nhà cung cấp dịch vụ trực tuyến, bao gồm cả dịch vụ truyền thông xã hội.

Những thay đổi được đề xuất được đưa ra sau khi những người ủng hộ sự an toàn của trẻ em cáo buộc chính phủ liên bang chưa làm đủ để đảm bảo an toàn cho trẻ em khi trực tuyến.

Bộ trưởng đề xuất rằng các quy tắc mở rộng để bao gồm các thuật toán, AI tổng hợp và bảo đảm rằng lợi ích tốt nhất của trẻ em là ưu tiên hàng đầu khi thiết kế bất kỳ dịch vụ nào được chúng sử dụng hoặc có thể truy cập được.

Trong bài phát biểu trước Câu lạc bộ Báo chí Quốc gia hôm thứ Tư 22/11, bà Rowland nêu lý do tại sao trẻ em nên được ưu tiên thiết kế nội dung mà trẻ em có thể tiếp cận.

Bà nói “Chúng tôi biết trẻ em đặc biệt dễ bị ảnh hưởng bởi một số loại tác hại trực tuyến và điều quan trọng là lợi ích tốt nhất của chúng phải được ưu tiên trong suốt vòng đời thiết kế và triển khai dịch vụ.”

Loại bỏ nội dung phim ảnh đồi trụy làm bằng AI

Vào tháng Tám, ủy viên của eSafety, Julie Inman Grant đã kêu gọi giám sát theo quy định đối với ngành công nghệ truyền thông, để bảo đảm an toàn được tích hợp vào các sản phẩm của mình và cho biết văn phòng của bà đã nhận được khiếu nại về việc trẻ em sử dụng máy tính để tạo ra hình ảnh khiêu dâm của bạn bè cùng trang lứa nhằm bắt nạt các bạn.

eSafety nêu rõ rằng các nhà cung cấp dịch vụ phải thực hiện “các bước hợp lý” để chủ động giảm thiểu mức độ mà khả năng AI tạo ra vật liệu hoặc tạo điều kiện cho hoạt động bất hợp pháp hoặc có hại, trong đó có phim ảnh giả mạo nhờ AI.

Xác minh độ tuổi

Ủy viên eSafety trước đây đã cảnh báo rằng cần có quy trình xác minh độ tuổi mạnh mẽ hơn trên các trang web được trẻ em sử dụng để giúp ngăn chặn việc chúng bị ép buộc tạo tài liệu hoặc nội dụng lạm dụng tình dục.

Phân tích từ ủy viên của hơn 1.300 báo cáo về tài liệu lạm dụng tình dục trẻ em cho thấy rằng cứ 8 trẻ thì có 1 trẻ là "tự tạo" ra nội dung đó, lý do là vì chính những “kẻ săn mồi” đã ép trẻ quay phim và chụp ảnh các em thực hiện các hành vi khiêu dâm.

Thực tế, trẻ em dễ dàng bỏ qua việc xác minh độ tuổi trực tuyến.

Những thay đổi được đề xuất sẽ đặt ra kỳ vọng bảo vệ trẻ em trong môi trường riêng tư và an toàn, thực hiện các cơ chế bảo đảm độ tuổi "phù hợp" và cải thiện các quy trình ngăn chặn trẻ em tiếp cận tài liệu và nội dung “người lớn”.

Quá trình tham vấn về đề xuất một số tu chính đối với các nhà cung cấp dịch vụ trực tuyến, bao gồm cả dịch vụ truyền thông xã hội, sẽ kết thúc vào tháng Hai năm sau.