Mối đe dọa từ ảnh vệ tinh deepfake

(SeaPRwire) –   Bạn mở mạng xã hội và thấy một hình ảnh vệ tinh đáng kinh ngạc: một căn cứ quân sự đang bốc cháy. Nhưng liệu nó có thật không?

Sự trỗi dậy của AI đã khiến việc tạo ra các hình ảnh giả mạo trở nên dễ dàng hơn bao giờ hết. Kể từ đó, những hình ảnh chụp từ không gian đã đóng vai trò là phương pháp xác minh cho truyền thông, chính phủ và công chúng. Giờ đây, công nghệ đã đặt nguồn thông tin tưởng chừng như không thể chối cãi này vào vòng nguy hiểm.

Một hình ảnh vệ tinh do AI tạo ra được đăng trên mạng xã hội khó có thể tự mình châm ngòi một cuộc chiến hay đánh lừa quân đội của một quốc gia có nguồn lực tốt như Hoa Kỳ—quốc gia có thể kiểm tra chéo bất kỳ tuyên bố nào bằng đội vệ tinh riêng của mình. Tuy nhiên, chúng vẫn có thể là những công cụ mạnh mẽ để gây ảnh hưởng đến dư luận theo những cách làm suy yếu hệ sinh thái thông tin của chúng ta.

Chỉ riêng trong năm nay đã có nhiều trường hợp hình ảnh vệ tinh deepfake.

Vào tháng 6, của Ukraine đã sử dụng máy bay không người lái để tấn công các máy bay ném bom tầm xa quý giá của Nga. Những bức ảnh độ phân giải cao về kết quả này đã lan truyền nhanh chóng trên mạng xã hội: nhiều máy bay ném bom của Nga bị phá hủy (và một máy bay vận tải) nằm trong đống đổ nát cháy xém. Nhưng cuộc tấn công quân sự táo bạo của Ukraine cũng đi kèm với những cho thấy một chiến dịch thành công hơn so với 10 máy bay chiến đấu của Nga bị phá hủy.

Một trường hợp khác xuất hiện vào cuối tháng đó sau các cuộc tấn công của Hoa Kỳ và Israel vào các cơ sở liên quan đến chương trình hạt nhân của Iran. Một mô tả đám đông tụ tập quanh một máy bay chiến đấu F-35 của Israel bị phá hủy, và một video lừa dối khác đã giả mạo được quay từ cảm biến trên tên lửa của Iran. Những hình ảnh này cho thấy phản ứng quân sự mạnh mẽ hơn của Iran đối với so với những gì Tehran thực sự có thể huy động.

Đã có những sau cuộc xung đột bốn ngày giữa Ấn Độ và Pakistan vào tháng 5. Cả người dùng Ấn Độ và Pakistan trên mạng xã hội đã chia sẻ hình ảnh vệ tinh giả mạo để gợi ý rằng quân đội của các quốc gia họ đã gây ra nhiều thiệt hại hơn so với thực tế.

Với hơn một nửa dân số toàn cầu sử dụng mạng xã hội, của các hình ảnh vệ tinh bị thao túng có thể rất lớn và tác động của chúng gần như ngay lập tức. Chúng ta đã thấy trước cách một hình ảnh giả mạo cá nhân có thể tác động đến thế giới thực: ví dụ, khi một hình ảnh giả mạo một vụ cháy gần Lầu Năm Góc năm ngoái, thị trường chứng khoán đã cho đến khi chính quyền địa phương đó là một trò lừa bịp.

Và trong khi những người trong lĩnh vực này đã cảnh báo về những rủi ro , thì những hình ảnh giả mạo ngày nay ngày càng khó phân biệt với thực tế và dễ tạo ra hơn.

Trong những năm trước, các mô hình đằng sau các công cụ trực tuyến đã cung cấp một con đường để tạo ra hình ảnh vệ tinh cơ bản do AI tạo ra. Nhưng chúng bị hạn chế, và sản phẩm cuối cùng là những bức ảnh mờ, phóng to. Để tạo ra những hình ảnh giả mạo chất lượng cao ngày nay, tất cả những gì bạn cần là phần mềm miễn phí và khả năng gõ một lời nhắc để hướng dẫn AI mà bạn chọn.

Đó là lý do tại sao cuộc chiến chống lại hình ảnh vệ tinh giả mạo nên là một sáng kiến của toàn xã hội. Các chính phủ và cơ quan truyền thông sử dụng hình ảnh, cùng với các nhà cung cấp thương mại, nên giúp khán giả của họ nhận biết các dấu hiệu lừa dối.

Trong giới truyền thông, các cơ quan dựa vào hình ảnh vệ tinh trong các tin tức của họ nên đưa vào hoặc liên kết đến một giải thích về cách họ đã xác minh nó, một thực tiễn đã bởi một số người. Việc nêu rõ cách họ khớp hình ảnh vệ tinh với các chi tiết từ thực địa có thể giúp củng cố lòng tin của độc giả vào báo cáo đáng tin cậy.

Về phần mình, các nhà cung cấp thương mại nên cung cấp, nếu có thể, các công cụ hoặc đội ngũ để xác minh hình ảnh được cho là có nguồn gốc từ họ là thật hay không. Phần mềm của bên thứ ba để phát hiện hình ảnh do AI tạo ra tồn tại, nhưng nó không hoàn hảo và đang trong cuộc chạy đua vũ trang chống lại các mô hình không ngừng cải tiến có thể tạo ra những bức ảnh siêu thực.

Các thông điệp về cách các tác nhân độc hại sẽ sử dụng sự lừa dối cũng có thể được đưa vào tài liệu của chính phủ. Cuốn sách nhỏ của chính phủ Thụy Điển, “,” mô tả cách các cường quốc nước ngoài có thể sử dụng thông tin sai lệch trong thời kỳ xung đột và đưa ra lời khuyên về cách chống lại những nỗ lực này. Chính phủ Phần Lan có một hướng dẫn với nhiều về các hoạt động gây ảnh hưởng và các công cụ để phân tích ảnh và video bạn thấy trong thời điểm khủng hoảng.

Các quốc gia khác nên làm theo. Hướng dẫn Chuẩn bị Khẩn cấp của U.S. Department of Defense có một vài về nhận thức truyền thông, nhưng chưa đầy đủ trong việc mô tả những hình ảnh giả mạo mà đối thủ có thể tạo ra.

Rõ ràng, nội dung gây hiểu lầm do AI tạo ra đang , và hình ảnh vệ tinh sẽ chiếm một phần ngày càng tăng trong đó. Đã đến lúc nhiều người hơn cần chú ý đến loại thông tin sai lệch và thông tin sai lệch này.