Deepfakes thường đi kèm với doxxing, nơi thông tin cá nhân được chia sẻ trực tuyến. Nguồn: Getty/globalmoments/iStockphoto

AUSTRALIA - Những người sống sót và các nhóm vận động đã kêu gọi các hình phạt cứng rắn hơn đối với sự gia tăng của các hình ảnh và video khiêu dâm được làm giả mạo bằng AI nhằm vào phụ nữ.

Việc tạo và chia sẻ hình ảnh khiêu dâm, giả mạo có thể sớm bị chế tài khi cơ quan quản lý trực tuyến nhắm vào các ứng dụng có những yếu tố chủ yếu nhắm vào phụ nữ.

Thế hệ "deepfakes" – Dùng công nghệ AI để làm giả hình ảnh trên mạng, đang phát triển nhanh chóng cùng với công nghệ được hỗ trợ bởi trí thông minh nhân tạo (AI).

Deepfakes liên quan đến hình ảnh được thay đổi bằng kỹ thuật số của một người hoặc cơ thể của họ và AI có thể được sử dụng để tạo ra hình ảnh dựa trên một bức ảnh hoặc ghép khuôn mặt lên tài liệu khiêu dâm.

Một số chuyên gia đã trình bày chi tiết về những tác hại tiềm ẩn trong phiên điều trần quốc hội hôm thứ Ba.

Nicole Lambert, từ Hiệp hội Dịch vụ Chống Bạo lực Tình dục Quốc gia cho biết những người trẻ tuổi đã tự kết liễu đời mình sau khi trở thành nạn nhân của tài liệu deepfake.

Kêu gọi hình phạt cứng rắn hơn đối với các công ty công nghệ.

Rachel Burgin, từ Nghiên cứu và Vận động cho nạn nhân bị hiếp dâm và tấn công tình dục đã phác thảo một cuộc khảo sát về thủ phạm.

Nhiều người được hỏi thừa nhận biện pháp ngăn chặn lớn nhất đối với hành vi lạm dụng sẽ là hình phạt hình sự.

Bà nói với ủy ban: “Những gì chúng ta đang làm để phòng ngừa ở Úc không có tác dụng, đó là lý do tại sao chúng ta chứng kiến hơn 50 phụ nữ bị giết dưới tay đàn ông trong năm nay”.

‘Deepfakes’ thường đi kèm với ‘doxxing’, tức là thủ đoạn đưa thông tin cá nhân lên chia sẻ trực tuyến.

Cô nói, điều này khiến mọi người lo sợ cho sự an toàn của mình vì bạo lực tình dục là tiền thân của tội giết người.

Thúc đẩy loại bỏ các ứng dụng hình ảnh 'khỏa thân'

Ủy viên An toàn Điện tử cho biết hoan nghênh quyền hạn cho phép cơ quan này gỡ bỏ các ứng dụng chủ yếu tồn tại nhằm chia sẻ hình ảnh “khỏa thân" của phụ nữ hoặc tạo tài liệu lạm dụng tình dục trẻ em.

Bà Julie Inman Grant nói trong phiên điều trần: “Một số người có thể thắc mắc tại sao những ứng dụng như thế này lại được phép tồn tại, vì mục đích chính của chúng là khiêu dâm, làm nhục, làm tổn hại tinh thần, gièm pha và tạo ra tài liệu lạm dụng tình dục trẻ em”.

Những ứng dụng này khiến cho thủ phạm chỉ cần thực hiện một số thao tác đơn giản và không tốn kém, trong khi cái giá mà nạn nhân phải trả là sự tàn phá dai dẳng và khôn lường.

Việc sử dụng deepfake để kiểm soát phụ nữ trong các mối quan hệ lạm dụng cũng đã được khám phá.

Phụ nữ thường là mục tiêu nhắm tới

Cuộc điều tra cho thấy hơn 96% các vụ deepfake nhắm vào phụ nữ.

Giáo sư luật Rebecca Delfino cho biết, một sự cố xảy ra vào năm 2020 bao gồm hơn 680.000 phụ nữ mà hình ảnh khỏa thân của họ được tạo ra và chia sẻ bởi một chatbot AI.

Bà Delfino cho biết, một công ty an ninh mạng theo dõi các video deepfake đã phát hiện 90 đến 95% là video khiêu dâm không có sự đồng thuận.

Ca nhạc sĩ người Mỹ Taylor Swift là người nổi tiếng nhất trở thành mục tiêu của những hình ảnh deepfake không có sự đồng thuận vào tháng 1.

Trong cùng tháng đó, dân biểu Đảng Công lý Động vật Victoria Georgie Purcell đã bị thay đổi hình ảnh kỹ thuật số trong một chương trình phát sóng tin tức Channel Nine mà mạng tuyên bố là "vô tình bị thay đổi bởi Photoshop".

Đề xuất xử phạt hình sự

Chính phủ Albanese muốn hình sự hóa việc truyền tải tài liệu tình dục liên quan đến người lớn mà không có sự đồng ý của họ.

Các hành vi phạm tội sẽ bao gồm lưu giữ các tài liệu, nội dung được sản xuất bằng công nghệ 'deepfake'.

Ủy ban cho biết những thay đổi về mặt lập pháp của vấn đề này sẽ bao gồm việc chế tài hành động tạo ra các hình ảnh và các mối đe dọa, khi sản xuất những tài liệu như vậy.

Bộ trưởng Tư pháp Mark Dreyfus lập luận rằng chính quyền liên bang có các giới hạn pháp lý đối với những gì có thể giải quyết, nhưng đối tác quản lý của Marque Lawyers, Michael Bradley tin rằng chính phủ có quyền mở rộng dự luật của mình.

Ủy ban sẽ báo cáo trước ngày 8 tháng Tám.

Nếu quý vị hoặc ai đó quý vị biết bị ảnh hưởng bởi hành vi tấn công tình dục, hãy gọi 1800RESPECT theo số 1800 737 732 hoặc truy cập 1800RESPECT.org.au.
 

Trong trường hợp khẩn cấp, hãy gọi 000.
 

Độc giả đang tìm kiếm sự hỗ trợ khi khủng hoảng có thể liên hệ với Lifeline theo số 13 11 14, Dịch vụ gọi lại tự tử theo số 1300 659 467 và Đường dây trợ giúp trẻ em theo số 1800 55 1800 (dành cho thanh thiếu niên từ 25 tuổi trở xuống). Thông tin thêm và hỗ trợ về sức khỏe tâm thần có sẵn tại Beyond Blue.org.au và theo số 1300 22 4636.
 

Embrace Multicultural Mental Health hỗ trợ mọi người có nguồn gốc văn hóa và ngôn ngữ đa dạng.