Nhận định mới chỉ ra rằng hàng trăm video deepfake rõ ràng với nữ ngôi sao, nữ diễn viên và nữ nhạc sĩ được tải lên các trang web khiêu dâm lớn nhất thế giới mỗi tháng. Những video không đồng ý này thu hút hàng triệu lượt xem và các công ty khiêu dâm vẫn không thể loại bỏ chúng khỏi trang web của họ.
Lên đến 1,000 video deepfake được tải lên các trang web khiêu dâm mỗi tháng khi chúng trở nên ngày càng phổ biến trong năm 2020, con số từ công ty phát hiện deepfake Sensity cho thấy. Những video tiếp tục thoát khỏi cộng đồng khiêu dâm deepfake dành riêng và lan sang cộng đồng rộng lớn.
Video deepfake được lưu trữ trên ba trang web khiêu dâm lớn nhất, XVideos, Xnxx và xHamster, đã được xem hàng triệu lần. Những video bị bao quanh bởi quảng cáo, giúp kiếm tiền cho các trang web. XVideos và Xnxx, cả hai đều thuộc sở hữu của cùng một công ty quản lý Czech, là hai trang web khiêu dâm lớn nhất thế giới, xếp hạng trong top 10 trang web lớn nhất trên toàn bộ web. Mỗi trang web có, hoặc vượt qua, số lượng lượt truy cập như Wikipedia, Amazon và Reddit.
Một video 30 giây, xuất hiện trên tất cả ba trang web trên và sử dụng khuôn mặt của nữ diễn viên Emma Watson, đã được xem hơn 23 triệu lần—được xem 13 triệu lần trên Xnxx. Các video deepfake khác, có hàng trăm nghìn hoặc triệu lượt xem, bao gồm các ngôi sao như Natalie Portman, Billie Eilish, Taylor Swift và nữ diễn viên Ấn Độ Anushka Shetty. Nhiều người nổi tiếng này liên tục là mục tiêu của deepfakes kể từ khi chúng xuất hiện lần đầu vào năm 2018.
“Tư duy của những trang web này là họ thực sự không coi đây là một vấn đề,” nói Giorgio Patrini, Giám đốc điều hành và nhà khoa học chính tại Sensity, cho đến gần đây được gọi là DeepTrace. Video khiêu dâm deepfake rộng rãi được coi là nhằm vào, gây hại và làm nhục phụ nữ đứng ở trung tâm của chúng. Patrini thêm rằng Sensity ngày càng thấy deepfakes được tạo ra cho những người ở trong lĩnh vực công cộng, chẳng hạn như người ảnh hưởng trên Instagram, Twitch và YouTube, và anh lo lắng rằng sự tiến bộ của công nghệ deepfake sẽ không thể tránh khỏi việc nhắm vào công dân.
“Cho đến khi có lý do mạnh mẽ cho [các trang web khiêu dâm] cố gắng gỡ bỏ và lọc chúng, tôi mạnh mẽ tin rằng không có gì sẽ xảy ra,” Patrini nói. “Mọi người vẫn sẽ tự do tải lên loại nội dung này mà không có bất kỳ hậu quả nào đối với những trang web này mà hàng trăm triệu người xem.”
Nhiều video đang ẩn mình ngay trước mắt—chúng được tải lên để xem, sau tất cả. Một số video bao gồm từ “giả mạo” hoặc “deepfake” trong tiêu đề của chúng và được gắn thẻ là deepfake. Ví dụ, các trang XVideos và Xnxx liệt kê hàng trăm video như vậy.
Tuy nhiên, quy mô đầy đủ của vấn đề trên các trang web khiêu dâm là không biết. Có lẽ sẽ không bao giờ có một bức tranh thực sự về số lượng video này được tạo ra mà không có sự cho phép của người dùng.
Mặc dù đã cố gắng liên hệ nhiều lần với đại diện của XVideos và Xnxx, nhưng chủ sở hữu không trả lời yêu cầu để bình luận về quan điểm và chính sách của họ đối với deepfakes.
Alex Hawkins, Phó Chủ tịch của xHamster, cho biết công ty không có chính sách cụ thể về deepfakes nhưng xử lý chúng "như bất kỳ nội dung không đồng ý nào khác." Hawkins cho biết quy trình kiểm duyệt của công ty bao gồm nhiều bước khác nhau, và nó sẽ loại bỏ video nếu hình ảnh của người khác được sử dụng mà không có sự cho phép.
"Chúng tôi hoàn toàn hiểu lo ngại về deepfakes, vì vậy chúng tôi làm cho nó dễ dàng để gỡ bỏ," Hawkins nói. "Nội dung được tải lên mà không có sự cho phép cần thiết là vi phạm Điều khoản Sử dụng của chúng tôi và sẽ được loại bỏ khi được xác định." Hawkins thêm rằng các video deepfake xuất hiện trên xHamster, được MINPRICE nhấn mạnh, đã được chuyển đến đội kiểm duyệt để được xem xét.
Các con số tải lên deepfake mà MINPRICE nhìn thấy không bao gồm Pornhub, trang web khiêu dâm lớn thứ hai và mặc dù đã cấm deepfakes từ năm 2018 vẫn gặp vấn đề với các video.
"Phải có một loại suy nghĩ về chúng ta sẽ làm gì về điều này khi phụ nữ bị xấu hổ, nhục nhã và bị hạ thấp như vậy trên internet, và đó thực sự là một vấn đề về quyền riêng tư và an ninh," nói Nina Schick, một phát thanh viên chính trị và tác giả cuốn Deepfakes and the Infocalypse.
Kể từ khi deepfakes đầu tiên xuất hiện từ Reddit vào đầu năm 2018, công nghệ trí tuệ nhân tạo cần thiết để tạo ra chúng đã tiến triển. Việc làm video deepfake trở nên rẻ hơn và dễ dàng hơn đối với mọi người. Trong một ví dụ gần đây, một nhà nghiên cứu bảo mật sử dụng phần mềm mã nguồn mở và chỉ tốn dưới $100 đã có thể tạo ra video và âm thanh giả mạo Tom Hanks.
Các tiến bộ trong công nghệ đã làm tăng lo ngại rằng deepfakes sẽ được sử dụng để manipulize cuộc trò chuyện chính trị. Mặc dù có một số ví dụ sớm về điều này xảy ra, nhưng mối đe doạ lớn chủ yếu đã không xuất hiện. Tuy nhiên, deepfake khiêu dâm, nơi công nghệ được phát minh lần đầu tiên, đã phát triển mạnh mẽ. Nữ diễn viên Hollywood Kristen Bell nói cô đã "sốc" khi cô đầu tiên biết deepfakes được tạo ra bằng cách sử dụng hình ảnh của mình. “‘Ngay cả khi nó được đặt nhãn là, ‘Ồ, đây không phải là cô ấy thực sự,’ thì khó mà nghĩ về điều đó. Tôi đang bị khai thác,” cô nói với Vox vào tháng 6.
Số lượng deepfakes trực tuyến đang tăng theo cấp số nhân. Một báo cáo từ Sensity phát hành năm ngoái cho thấy có 14,678 video deepfake trực tuyến vào tháng 7 năm 2019—96% trong số đó là khiêu dâm và gần như tất cả đều tập trung vào phụ nữ. Đến tháng 6 năm nay, số lượng deepfakes đã tăng lên 49,081.
Đa số deepfake khiêu dâm được tìm thấy và tạo ra bởi các cộng đồng cụ thể. Bốn trang web deepfake khiêu dâm hàng đầu đã nhận được hơn 134 triệu lượt xem trong năm ngoái, theo phân tích của Sensity năm 2019. Một trang web deepfake khiêu dâm đầy đủ video với các ngôi sao và chứa các video của nữ diễn viên Ấn Độ đã được xem hàng triệu lần. Một số video cho biết chúng đã được yêu cầu, trong khi những người tạo ra chúng nói họ có thể nhận thanh toán bằng bitcoin.
“Một số công nghệ này đang phát triển rất nhanh, vì có nhiều năng lượng và động lực, không may, từ phía người tạo,” Patrini nói. “Tôi nghĩ chúng ta sẽ sớm thấy nó được áp dụng với ý định lớn hơn đối với cá nhân tư.” Anh tin rằng khi công nghệ trở nên dễ sử dụng cho bất kỳ ai, sẽ có một “điểm quay” khi các nhà lập pháp sẽ nhận thức về vấn đề.
Clare McGlynn, một giáo sư tại Trường Luật Durham chuyên về quy định khiêu dâm và hình ảnh lạm dụng tình dục, đồng ý. “Điều này cho thấy là vấn đề lớn sắp tới cho những người nổi tiếng,” cô nói. “Đây là một vấn đề nghiêm trọng đối với người nổi tiếng và những người khác ở trong tâm điểm của công chúng. Nhưng mối lo âu lâu dài của tôi, nói chung với những người sống sót không phải là người nổi tiếng, là nguy cơ của những gì sắp xảy ra.”
Hiện tại, các lựa chọn pháp lý cho những người xuất hiện trong video deepfake đã không theo kịp với công nghệ. Trên thực tế, nó chưa bao giờ chuẩn bị cho ảnh hưởng của khiêu dâm được tạo ra bằng trí tuệ nhân tạo. “Nếu một hình ảnh hoặc video khiêu dâm của bạn được đăng lên trực tuyến, lựa chọn pháp lý của bạn để loại bỏ nó thay đổi rất nhanh chóng,” Aislinn O'Connell, một giảng viên luật tại Đại học Royal Holloway ở London nói.
Mọi người có thể tìm kiếm những video đăng lên mà không được sự đồng thuận với lý do nói xấu, theo luật về quyền con người, khiếu nại bản quyền và các hình thức khác. Tuy nhiên, hầu hết những quy trình này đều phức tạp, tốn nhiều nguồn lực và hầu hết thường không áp dụng cho deepfakes. “Chúng ta cần nhiều giải pháp hơn và tốt hơn ngay bây giờ,” O'Connell nói.
Một số luật về deepfake đã được thông qua ở các tiểu bang Hoa Kỳ, nhưng chúng chủ yếu tập trung vào chính trị và không chú ý đến ảnh hưởng mà deepfake đã gây ra cho cuộc sống của mọi người. Ở Vương quốc Anh, Ủy ban Luật đang tiến hành đánh giá về việc chia sẻ hình ảnh thân mật trực tuyến, bao gồm cả deepfakes, nhưng dự kiến sẽ mất nhiều năm cho đến khi có thể thực hiện bất kỳ thay đổi nào. O'Connell đề xuất rằng Anh nên áp dụng luật quyền ảnh để mọi người có thể bảo vệ bản thân mình một cách đúng đắn.
Tuy nhiên, trong khi các nhà lập pháp không giải quyết được vấn đề, công nghệ sẽ trở nên rẻ hơn và dễ sử dụng hơn cho tất cả mọi người. “Tôi nhìn thấy sự tiến triển của deepfakes trong không gian khiêu dâm thực sự là báo hiệu của các vấn đề tự do dân sự lớn hơn sẽ nảy sinh,” Schick nói.
“Công nghệ này đang tồn tại và nó đang phát triển với tốc độ nhanh hơn nhiều so với xã hội có thể theo kịp,” cô thêm. “Chúng ta không sẵn sàng cho thời đại của truyền thông tổng hợp, nơi thậm chí video cũng trở thành điều mà hầu như bất kỳ ai cũng có thể làm xấu đi.” Để chống lại điều này, Schick nói, nhiều người cần tham gia - các nhà kỹ thuật, công dân, chuyên gia chuyên ngành, các quan chức chính sách và nhà lập pháp. Nhưng ngay bây giờ, điều đó không xảy ra.
Câu chuyện này ban đầu xuất hiện trên MINPRICE UK.
- 📩 Muốn cập nhật tin tức công nghệ, khoa học và nhiều hơn nữa không? Đăng ký nhận bản tin của chúng tôi ngay bây giờ!
- Tuần của tôi với sự minh bạch cực độ tại một hội thảo kinh doanh Trung Quốc
- Bên trong cuộc đua để đồng bộ gen ong giết người
- 9 ứng dụng để tăng cường bảo mật và quyền riêng tư cho điện thoại của bạn
- Làm thế nào một cuộc đột nhập vào toà án đưa hai hacker trắng áo vào tù
- Mẹo để giữ mát mẻ mà không cần điều hòa không khí
- 🎧 Âm thanh không phát ra đúng? Kiểm tra tai nghe không dây, thanh âm và loa Bluetooth yêu thích của chúng tôi