Hình ảnh con cái của bạn có đang được sử dụng để đào tạo trí thông minh nhân tạo không? Nguồn: SBS

AUSTRALIA - Những bức ảnh của trẻ em Úc đã được sử dụng trong một bộ dữ liệu khổng lồ dùng để đào tạo trí thông minh nhân tạo. Các chuyên gia nghiên cứu của Tổ chức Theo dõi Nhân quyền đã phát hiện ra điều này sau một cuộc điều tra về chuỗi cung ứng liên quan đến việc phát hành những bức ảnh giả của 50 nữ sinh tại một trường trung học ở Melbourne vào tháng trước.

Một báo cáo mới của Tổ chức Theo dõi Nhân quyền đã tiết lộ rằng những bức ảnh cá nhân của trẻ em Úc đang được sử dụng để đào tạo các công cụ trí thông tin nhân tạo mà trẻ em hoặc gia đình chúng không hề hay biết.

Phân tích của Tổ chức Theo dõi Nhân quyền đã phát hiện ra rằng một bộ dữ liệu được sử dụng để đào tạo các công cụ AI mạnh mẽ, được xây dựng bằng cách thu thập dữ liệu từ Internet, có chứa các liên kết đến các bức ảnh có thể nhận dạng của trẻ em Úc.

Ảnh của con bạn có đang bị lạm dụng?

Hye Jung Han là chuyên gia nghiên cứu công nghệ và quyền trẻ em của Tổ chức Theo dõi Nhân quyền; cô nói với SBS rằng nhiều bức ảnh họ phát hiện trong bộ dữ liệu là những khoảnh khắc thân mật của gia đình.

"Những bức ảnh này không dành cho bất kỳ ai ngoài gia đình và bạn bè xem, đó là những giây đầu tiên một đứa trẻ được sinh ra, các bác sĩ đang bế đứa bé trong tay họ và đứa trẻ được che chắn. Đứa bé được che phủ và nước ối vẫn kết nối với mẹ.”

“Đây không phải là bức ảnh mà một thành viên trong gia đình chụp để trở thành công cụ cho AI sau đó, được vũ khí hóa để chống lại những đứa trẻ khác, để tạo ra những trò giả mạo tình dục sâu sắc."

Đầu năm nay, khoảng 50 nữ sinh ở một trường trung học ở Melbourne là nạn nhân của việc tạo ra các tác phẩm giả mạo khiêu gợi mà không có sự đồng thuận bằng cách sử dụng công cụ hình ảnh AI.

Bộ trưởng Tư pháp Mark Dreyfus gần đây đã đưa ra các cải tổ trong quốc hội, cấm tạo ra hoặc chia sẻ những nội dung giả mạo rõ ràng về tình dục của người lớn.

"Tài liệu khiêu dâm được tạo ra bằng công nghệ kỹ thuật số và được chia sẻ mà không có sự đồng ý, đây là một hình thức lạm dụng gây tổn hại và đau khổ sâu sắc. Hành vi ác độc này hạ thấp, sỉ nhục và mất nhân tính với nạn nhân.”

Những cải cách này lưu ý rằng những hình ảnh như vậy về trẻ em tiếp tục bị coi là tài liệu lạm dụng trẻ em theo Bộ luật Hình sự.

Quyền riêng tư của người sử dụng Internet ở đâu?

Hye Jung Han cho biết cách tiếp cận này bỏ sót vấn đề sâu xa hơn, đó là dữ liệu cá nhân của trẻ em vẫn không được bảo vệ khỏi việc lạm dụng.

“Trẻ em và các gia đình hoàn toàn có quyền đăng tải những khoảnh khắc vui vẻ trong cuộc sống của mình lên mạng, đồng thời, họ hoàn toàn có quyền mong đợi rằng hình ảnh cá nhân của mình sẽ được pháp luật bảo vệ, được chính phủ bảo vệ trước bất kỳ hình thức nào.”

Vì vậy, thật không công bằng khi kỳ vọng trẻ em và cha mẹ phải cố gắng tự bảo vệ mình trước một công nghệ mà về căn bản là không thể bảo vệ được. Trách nhiệm của chính phủ là cuối cùng phải thông qua luật bảo mật dữ liệu trẻ em toàn diện, mà họ nói sẽ sớm thực hiện vào tháng Tám. Điều đó sẽ thực sự bảo vệ quyền riêng tư về dữ liệu của trẻ em."

Tổ chức Theo dõi Nhân quyền cho biết trong một số bức ảnh có tên đầy đủ và tuổi của trẻ em, một số dữ liệu thậm chí còn bao gồm tên trường học hoặc trường mầm non mà các em theo học.

Các phát hiện cho thấy hầu hết những bức ảnh này không có ở bất kỳ nơi nào khác trên Internet, có nghĩa là chúng có thể được lấy từ các trang web riêng tư như blog cá nhân, trang đăng tải ảnh trường học và các trang chia sẻ ảnh riêng tư khác.

Simon Lucey là giám đốc Australian Institute for Machine Learning tại Đại học Adelaide, ông cho biết các công cụ quét web hiện thu thập lượng dữ liệu khổng lồ, khiến việc theo dõi càng khó khăn hơn.

 "Thật không may, đôi khi bản chất của một số mô hình này được xây bằng cách thu thập thông tin web, về cơ bản giống như truy cập Internet và thu thập hình ảnh, văn bản. AI càng thu được nhiều dữ liệu thì kết quả càng tốt. Vì vậy, chúng ta đang ở trong một tình huống khó khăn, chẳng hạn như 10 năm trước, việc kiểm tra một tập dữ liệu sẽ dễ dàng hơn nhiều vì quy mô nhỏ hơn. Nhưng với những tập dữ liệu này, nó cực kỳ lớn."

Một phát hiện đáng lo ngại khác trong báo cáo của Tổ chức Theo dõi Nhân quyền là việc sử dụng hình ảnh của trẻ em Thổ dân ở Úc.

Hye Jung Han cho biết nhiều bức ảnh đã được lấy lại từ các phần trên Internet mà mọi người thường không thể truy cập được và việc sử dụng ảnh trẻ em của các Quốc gia Bản địa trong bộ dữ liệu sẽ gây ra những tác hại cụ thể cho cộng đồng Các Quốc gia Bản địa.

"Một ​​số bức ảnh này đến từ các trang web của trường học, muốn chia sẻ với phụ huynh và học sinh những hình ảnh họ đã chụp tại các sự kiện của trường. Họ đã đăng những hình ảnh này của trẻ em lên trang web mà công chúng không thể truy cập được. Tuy nhiên, tập dữ liệu này bị AI lấy được.”

“Điều tương tự đã xảy ra, cho dù đó là trên YouTube hay Flickr, hoặc các nền tảng chia sẻ video và ảnh khác. Một điều nữa thực sự đáng kinh ngạc với tôi là lần đầu tiên có người báo cáo rằng hình ảnh của người dân các Quốc gia Thứ nhất bị đưa vào các bộ dữ liệu này. Tất nhiên, điều này đặc biệt gây hại cho trẻ em của các Quốc gia thứ nhất."

Tổ chức Theo dõi Nhân quyền cho biết sau khi dữ liệu được thu thập, ngay cả khi người thu thập dữ liệu ban đầu xóa dữ liệu đó khỏi tập dữ liệu của họ, mô hình AI đã được đào tạo về dữ liệu đó và sẽ không loại bỏ thông tin.

Điều đáng lo ngại hơn nữa là khả năng sử dụng các công cụ AI trong việc tạo ra và thao túng hình ảnh khiêu dâm về trẻ em.

Simon Lucey nói rằng ngay cả khi các công ty nói rằng họ bảo vệ dữ liệu, thì quy mô mở rộng nhanh chóng trong không gian AI đồng nghĩa với việc thường xuyên xảy ra rò rỉ và sử dụng sai dữ liệu.

"Gần đây có một số nghiên cứu xoay quanh việc các mô hình AI mới này có khả năng rò rỉ dữ liệu như thế nào. Tôi nghĩ rất nhiều người trong lĩnh vực AI đứng đằng sau bức tường này và nghĩ về cơ bản chúng ta việc lấy số liệu thống kê là những thứ trung bình, nên không có cách nào để các hình ảnh riêng lẻ bị rò rỉ ra ngoài. Và đã có một số nghiên cứu thú vị cho thấy rằng trong một số trường hợp điều đó có thể xảy ra."

Simon Lucey cho biết vấn đề có thể trở nên tồi tệ hơn do thực tế là luật pháp về công nghệ mới thường chậm trễ, với các biện pháp phòng ngừa và giảm thiểu tác hại chỉ có thể giải quyết đầy đủ các vấn đề khi nhận ra được những tác hại tiềm ẩn.

Ông nói rằng nếu Úc muốn đối phó một cách hiệu quả với sự trỗi dậy của AI thì không thể đơn giản lùi lại và đi theo sự dẫn dắt của người khác.

"Chúng ta thực sự phải thúc đẩy phần đổi mới về vấn đề này, phải tích cực đầu tư vào AI, nghiên cứu AI có trách nhiệm, bảo đảm rằng AI được sử dụng một cách có trách nhiệm, Bởi vì một phần của việc này là chúng ta không thể tắt nó đi. Chúng ta muốn bảo đảm rằng  AI đang thực sự tiếp nhận dữ liệu và sử dụng theo cách quyền riêng tư của mọi người được bảo vệ.”

“Nhưng chúng ta cũng đang nhận được một số lợi ích, tìm ra các liệu pháp thuốc mới, những cách mới để tạo ra chất xúc tác và pin để chống lại biến đổi khí hậu. Vì vậy, xã hội trên thế giới sẽ thực sự nghèo hơn nếu chúng ta tạm dừng tất cả những điều này, nhưng đó phải là một cách tiếp cận cân bằng giữa pháp luật và đổi mới.” 

Chính phủ đang xem xét thực hiện các thay đổi với Đạo luật quyền riêng tư để bảo vệ trẻ em tốt hơn.

Vì vậy, mặc dù các phát hiện của báo cáo làm dấy lên nhiều lo ngại của các bậc cha mẹ về quyền riêng tư của con họ trên mạng, Hye Jung Han cho biết hứa hẹn về luật mới trong những tháng tới hy vọng sẽ bảo đảm sự bảo vệ tốt hơn.