Sora của OpenAI nhấn mạnh mối đe dọa ngày càng tăng của deepfake

(SeaPRwire) –   Khi OpenAI phát hành ứng dụng tạo video AI của mình, Sora, vào tháng 9, họ đã tuyên bố rằng “bạn có toàn quyền kiểm soát hình ảnh của mình từ đầu đến cuối.” Ứng dụng cho phép người dùng đưa bản thân và bạn bè của họ vào video thông qua một tính năng gọi là “cameos”—ứng dụng sẽ quét khuôn mặt của người dùng và thực hiện kiểm tra độ sống động, cung cấp dữ liệu để tạo video về người dùng và để xác thực sự đồng ý của họ cho bạn bè sử dụng hình ảnh của họ trên ứng dụng.

Nhưng Reality Defender, một công ty chuyên xác định deepfake, cho biết họ đã có thể vượt qua các biện pháp bảo vệ chống mạo danh của Sora trong vòng 24 giờ. Các nền tảng như Sora mang lại “cảm giác an toàn hợp lý,” CEO của Reality Defender, Ben Colman, nói, bất chấp thực tế rằng “bất kỳ ai cũng có thể sử dụng các công cụ có sẵn hoàn toàn” để vượt qua xác thực với tư cách là người khác.

Các nhà nghiên cứu của Reality Defender đã sử dụng các đoạn phim công khai của những cá nhân nổi tiếng, bao gồm các CEO và nghệ sĩ giải trí, từ các cuộc gọi báo cáo thu nhập và phỏng vấn truyền thông. Công ty đã thành công trong việc phá vỡ các biện pháp bảo vệ với mọi hình ảnh mà họ cố gắng mạo danh. Colman lập luận rằng “bất kỳ học sinh lớp 10 thông minh nào” cũng có thể tìm ra các công cụ mà công ty của ông đã sử dụng.

Một phát ngôn viên của OpenAI cho biết trong một tuyên bố gửi qua email tới TIME rằng “các nhà nghiên cứu đã xây dựng một hệ thống deepfake tinh vi về các CEO và nghệ sĩ giải trí để cố gắng vượt qua các biện pháp bảo vệ đó, và chúng tôi đang liên tục tăng cường Sora để làm cho nó kiên cường hơn trước kiểu lạm dụng này.” 

Việc phát hành Sora, và việc nhanh chóng vượt qua các cơ chế xác thực của nó, là một lời nhắc nhở rằng xã hội chưa chuẩn bị sẵn sàng cho làn sóng deepfake ngày càng chân thực và cá nhân hóa. Khoảng cách giữa công nghệ tiên tiến và quy định còn chậm trễ khiến các cá nhân phải tự mình điều hướng một không gian thông tin không chắc chắn—và tự bảo vệ mình khỏi các hành vi lừa đảo và quấy rối có thể xảy ra.

“Các nền tảng hoàn toàn biết điều này đang xảy ra, và hoàn toàn biết rằng họ có thể giải quyết nếu họ muốn. Nhưng cho đến khi các quy định bắt kịp—chúng tôi đang thấy điều tương tự trên tất cả các nền tảng mạng xã hội—họ sẽ không làm gì,” Colman nói.

Sora đã đạt 1 triệu lượt tải xuống trong vòng chưa đầy năm ngày—nhanh hơn ChatGPT, vốn vào thời điểm đó là ứng dụng tiêu dùng phát triển nhanh nhất—mặc dù yêu cầu người dùng phải có lời mời, theo Bill Peebles, người đứng đầu Sora của OpenAI. Việc phát hành của OpenAI đã đi sau một sản phẩm tương tự từ Meta có tên Vibes, được tích hợp vào ứng dụng Meta AI.

Việc deepfake ngày càng dễ tiếp cận đã khiến một số nhà quan sát lo ngại. “Thực tế là việc phát hiện [deepfake] bằng mắt thường đang trở nên gần như không thể, với những tiến bộ nhanh chóng trong khả năng chuyển văn bản thành hình ảnh, văn bản thành video và nhân bản âm thanh,” Jennifer Ewbank, cựu phó giám đốc đổi mới kỹ thuật số tại CIA, cho biết trong một email gửi tới TIME.

Các nhà quản lý đã phải vật lộn với cách giải quyết deepfake kể từ ít nhất năm 2019, khi Tổng thống Trump ký ban hành một luật yêu cầu Giám đốc Tình báo Quốc gia điều tra việc các chính phủ nước ngoài sử dụng deepfake. Tuy nhiên, khi khả năng tiếp cận deepfake tăng lên, trọng tâm của luật pháp đã chuyển sang trong nước. Vào tháng 5 năm 2025, Đạo luật Take It Down đã được ban hành thành luật liên bang, cấm công bố trực tuyến “các mô tả hình ảnh riêng tư” của trẻ vị thành niên và người lớn không đồng ý, đồng thời yêu cầu các nền tảng gỡ bỏ nội dung vi phạm trong vòng 48 giờ kể từ khi có yêu cầu—nhưng việc thực thi sẽ chỉ bắt đầu vào tháng 5 năm 2026.

Luật cấm deepfake có thể đầy rủi ro. “Thực ra điều này rất phức tạp, về mặt kỹ thuật và pháp lý, vì có những lo ngại về Tu chính án thứ nhất liên quan đến việc gỡ bỏ một số phát ngôn nhất định,” Jameson Spivack, phó giám đốc chính sách Hoa Kỳ tại Future of Privacy Forum, cho biết. Vào tháng 8, một thẩm phán liên bang đã bác bỏ luật deepfake của California, nhằm mục đích hạn chế nội dung deepfake do AI tạo ra trong các cuộc bầu cử, sau khi X của Elon Musk kiện bang này với lý do luật vi phạm các biện pháp bảo vệ của Tu chính án thứ nhất. Do đó, các yêu cầu dán nhãn nội dung do AI tạo ra phổ biến hơn là các lệnh cấm hoàn toàn, Spivack nói.

Một cách tiếp cận đầy hứa hẹn khác là các nền tảng áp dụng các chương trình “biết khách hàng của bạn” (know-your-customer) tốt hơn, Fred Heiding, một nghiên cứu viên tại Harvard University’s Defense, Emerging Technology, and Strategy Program, cho biết. Các chương trình biết khách hàng của bạn yêu cầu người dùng các nền tảng như Sora đăng nhập bằng nhận dạng đã được xác minh, tăng cường trách nhiệm giải trình và cho phép các nhà chức trách theo dõi hành vi bất hợp pháp. Nhưng ở đây cũng có sự đánh đổi. “Vấn đề là chúng tôi thực sự coi trọng tính ẩn danh ở phương Tây,” Heiding nói. “Điều đó tốt, nhưng ẩn danh có một cái giá, và cái giá là những điều này thực sự khó thực thi.”

Trong khi các nhà lập pháp đang vật lộn với sự phổ biến và tính chân thực ngày càng tăng của deepfake, các cá nhân và tổ chức có thể thực hiện các bước để tự bảo vệ mình. Spivack khuyến nghị sử dụng phần mềm xác thực như C2PA, được phát triển bởi Coalition for Content Provenance and Authenticity, phần mềm này thêm siêu dữ liệu về nguồn gốc vào hình ảnh và video. Máy ảnh từ Leica và Canon hỗ trợ hình mờ này, cũng như Adobe Photoshop. Sử dụng xác thực như vậy làm tăng niềm tin vào hình ảnh thật và làm suy yếu các hình ảnh giả mạo.

Khi bối cảnh thông tin trực tuyến thay đổi, khiến chúng ta khó tin tưởng vào những gì chúng ta thấy và nghe trực tuyến hơn, các nhà lập pháp và cá nhân đều phải xây dựng khả năng phục hồi của xã hội trước các phương tiện truyền thông giả mạo. “Chúng ta càng nuôi dưỡng khả năng phục hồi đó, thì càng khó để bất kỳ ai độc quyền sự chú ý của chúng ta và thao túng lòng tin của chúng ta,” Ewbank nói.