Tìm kiếm của Taylor Swift bị chặn bởi X trong bối cảnh lan truyền các Deepfakes

(SeaPRwire) –   Nền tảng truyền thông xã hội X, trước đây là Twitter, đã chặn tìm kiếm tên của Taylor Swift nhằm ngăn chặn sự lan truyền của những bức ảnh giả mạo tình dục rõ ràng của ngôi sao nhạc pop, tiết lộ những thách thức trong việc xử lý loại nội dung như vậy.

“Đây là hành động tạm thời và được thực hiện với sự cẩn trọng tuyệt đối khi ưu tiên an toàn về vấn đề này,” Joe Benarroch, giám đốc điều hành kinh doanh của X, cho biết TIME qua email vào Chủ nhật. Tính đến thời điểm xuất bản, việc tìm kiếm tên Taylor Swift trên X vẫn bị không thể truy cập.

Vào thứ Sáu, tài khoản An toàn của X trên nền tảng đã đăng rằng hình ảnh khỏa thân không đồng ý rõ ràng bị cấm hoàn toàn và công ty có một “Đội ngũ đang hoạt động loại bỏ tất cả hình ảnh đã xác định và thực hiện hành động phù hợp chống lại các tài khoản chịu trách nhiệm đăng chúng,” thông báo đọc. “Chúng tôi cam kết duy trì môi trường an toàn và tôn trọng cho tất cả người dùng.”

TIME đã liên hệ với người phát ngôn của Swift để lấy bình luận.

Những bức ảnh giả mạo Swift đã làm nổi bật vấn đề về khiêu dâm do trí tuệ nhân tạo, nơi khuôn mặt của một cá nhân bị ghép vào một bức ảnh hoặc video khiêu dâm rõ ràng mà không được sự đồng ý, và như quy định vẫn đang cố gắng theo kịp công nghệ. Như X thừa nhận, cấm tìm kiếm chỉ là biện pháp tạm thời. Mặc dù nó đã được sử dụng hiệu quả trong trường hợp cụ thể này, nhưng đó không phải là giải pháp lâu dài cho vấn đề rộng lớn hơn.

Chín mươi sáu phần trăm tất cả những bức ảnh giả mạo trực tuyến năm 2019 là khiêu dâm không đồng ý, gần như toàn bộ là phụ nữ, chuyên gia phân tích truyền thông Sensity , và FBI cho rằng nội dung này có thể được sử dụng cho mục đích tội phạm và lợi nhuận tài chính bất hợp pháp.

“Điều đó rất đáng báo động,” Phó Thư ký báo chí Nhà Trắng Karine Jean-Pierre nói khi được hỏi về những bức ảnh giả mạo Swift. “Trong khi các công ty truyền thông xã hội đưa ra quyết định độc lập về quản lý nội dung, chúng tôi tin rằng họ đóng một vai trò quan trọng trong việc thực thi quy tắc của chính họ để ngăn chặn sự lan truyền của thông tin sai lệch và hình ảnh cá nhân không đồng ý.”

Trong khi 10 tiểu bang hình sự hóa những bức ảnh giả mạo, luật liên bang không, và các nghị sĩ tại Quốc hội đang tăng cường nỗ lực nhằm cấm nội dung này.

Đại biểu Joe Morelle, một dân biểu đảng Dân chủ từ New York, đã giới thiệu dự luật năm ngoái, nhưng dự luật vẫn chưa được thông qua. Một dân biểu Dân chủ New York khác, Yvette Clarke, đã giới thiệu dự luật năm ngoái nhằm bảo vệ chống lại mối đe dọa an ninh quốc gia và cung cấp phương tiện pháp lý cho nạn nhân.

Tháng 1, các nghị sĩ đã giới thiệu dự luật nhằm bảo vệ người Mỹ khỏi những thao túng tiếng nói và hình ảnh của họ bằng trí tuệ nhân tạo.

Đối với câu hỏi của phóng viên về luật đề xuất, Jean-Pierre nói “nên có luật pháp, rõ ràng, để xử lý vấn đề này,” nhưng chỉ ra rằng Tổng thống Joe Biden đã hành động bằng cách soạn thảo một văn bản về cách chính quyền của ông sẽ điều hành trí tuệ nhân tạo tạo ra và thành lập một nhóm công tác để.