Tại sao kiểm duyệt trực tuyến thường thất bại trong thời kỳ xung đột

Chúng ta đã thấy sự gia tăng của nội dung thu hút sự chú ý, gây chia rẽ và sai sự thật trực tuyến liên quan đến cuộc xung đột giữa Israel và Hamas. Để phản hồi, các nhà báo, người quản lý, chính trị gia và nhóm xã hội dân sự đã đẩy mạnh các công ty mạng xã hội tăng cường nỗ lực kiểm duyệt nội dung, bao gồm việc tìm kiếm và xử lý các trường hợp cụ thể vi phạm chính sách nền tảng. Trong hơn 4 năm làm việc tại Meta, tôi đã tham gia cải thiện tác động của nền tảng đến nhiều xung đột. Kể từ khi rời đi, tôi tập trung vào thiết kế nền tảng, một phần vì giới hạn của kiểm duyệt nội dung càng trở nên rõ ràng hơn khi mức độ nghiêm trọng cao hơn. Hiển nhiên vẫn tồn tại nội dung cần kiểm duyệt và chắc chắn các nền tảng có thể làm tốt hơn trong những trường hợp đó, nhưng kiểm duyệt sẽ không bao giờ ảnh hưởng đến hơn một phần nhỏ nội dung có hại và do đó tập trung vào nó sẽ không cải thiện đáng kể diễn đàn trực tuyến.

Đây là một ví dụ về nội dung từ cuộc xung đột hiện tại được nhấn mạnh là sai trên tờ New York Times.

Đối với bài đăng như thế này, các quan chức nhà thờ đã đưa ra tuyên bố rằng “Nhà thờ Thánh Porphyrius ở Gaza vẫn còn nguyên vẹn”, nhưng chỉ có thể làm được điều đó vì cáo buộc là cụ thể và sau đó một vài ngày (nhà thờ thực sự bị không kích). Phổ biến hơn trong cuộc đối thoại trực tuyến là các tuyên bố tổng quát hơn như bài đăng gợi ý về việc sử dụng rộng rãi và không phân biệt bom phốt pho trắng hoặc lạm dụng tình dục bởi phía bên kia. Những loại tuyên bố gây hoảng sợ tổng quát như vậy là không thể kiểm duyệt hiệu quả bởi:

Bạn không thể chứng minh một điều tiêu cực tổng quát. Làm thế nào để chứng minh rằng điều gì đó chưa bao giờ xảy ra, khi không có yêu cầu cụ thể về bất kỳ trường hợp nào? Phản bác chỉ có thể xảy ra khi người đăng đưa ra tuyên bố cụ thể hoặc sử dụng hình ảnh tái chế, nhưng nhiều người sẽ không làm như vậy.
Bạn không muốn kiểm duyệt nội dung quan trọng. Những tuyên bố này có thể là vi phạm nhân quyền và quan trọng để ghi lại. Mọi người cũng có thể sử dụng thông tin như vậy để đảm bảo an toàn – nếu họ có thể tin tưởng nó. Việc loại bỏ sai lầm những nội dung như vậy có thể gây hậu quả nghiêm trọng.
Mọi người động cơ để lan truyền loại nội dung như vậy. Trong bối cảnh xung đột, việc lan truyền thông tin gây kích động về phía bên kia là một chiến thuật mà tất cả các bên sẽ tự nhiên tham gia. Loại nội dung như vậy sẽ thường xuyên được đăng và lan truyền nhanh chóng bởi những người muốn hỗ trợ phía mình, không đủ thời gian để xác minh sự thật trước khi nó được đọc rộng rãi.
Mọi người mong muốn thông tin mới nhất. Sự thèm khát thông tin mới nhất có nghĩa là những người không có thông tin hoặc quan điểm về xung đột vẫn sẽ động lực để thu hút sự chú ý, người theo dõi và doanh thu quảng cáo bằng cách cạnh tranh để trở thành người đầu tiên cung cấp thông tin mới nhất, thuyết phục nhất. Họ có rất ít động cơ quan tâm đến việc thông tin đó đúng, sai hoặc có thể xấu cho thế giới. Nếu một cái gì đó bị gỡ bỏ, họ có thể đơn giản thử lại, có thể với tài khoản mới.

Để làm rõ, tôi không muốn nói rằng kiểm duyệt nội dung không làm được một số công việc tốt và quan trọng. Nhưng khi yêu cầu các công ty cố gắng hơn về kiểm duyệt, như Liên minh châu Âu đã làm với Meta và Twitter, sẽ có tác dụng rất hạn chế, vì phần lớn nội dung có hại sẽ không vi phạm chính sách và thường xảy ra cùng với biểu đạt chính trị chính đáng. Trích dẫn tài liệu nội bộ của Facebook:”Một phần đáng kể các loại nội dung có hại, chẳng hạn như câu chuyện cá nhân, câu hỏi dẫn dắt hoặc chế giễu, thường hoàn toàn không thể thực thi. Khi công việc về tính toàn vẹn của FB trưởng thành và trở nên quen thuộc hơn, các nhân tố gây hại sẽ chuyển sang những khoảng trống này.” Và trong những khoảng trống đó, các nền tảng đã thừa nhận rằng nội dung thường được thưởng bằng phân phối nhiều hơn khi tiếp cận ranh giới của thông tin sai lệch và thù địch.

Thực tế, khi các nền tảng dựa vào kiểm duyệt nội dung, chúng thường tạo ra các vấn đề mới. Chúng ta biết từ kinh nghiệm trước đây rằng việc tăng cường thực thi trong cuộc xung đột Israel-Palestine đã dẫn đến báo cáo đáng tin cậy về kiểm duyệt và thành kiến. Khi áp dụng cẩn thận đối với các trường hợp rõ ràng về nội dung có hại (ví dụ hình ảnh bị hiểu lầm), kiểm duyệt là công cụ quan trọng. Nhưng h