Dung túng cho nhóm ngoài cùng bên phải QAnon

Vào mùa hè năm 2019, một người tên Carol Smith bắt đầu lên Facebook để đăng ký tài khoản mới.Tài khoản này tuyên bố quan tâm đến chính trị, nuôi dạy con cái và nội dung Cơ đốc giáo, đồng thời theo dõi nhiều tài khoản, chẳng hạn như Tin tức Fox Sau đó là Tổng thống Donald Trump.

Mặc dù chưa bao giờ bày tỏ sự quan tâm đến các thuyết âm mưu, nhưng trong vòng hai ngày, Facebook đã đề nghị Smith tham gia các nhóm liên quan đến QAnon – nhóm cực hữu truyền bá lý thuyết rằng thế giới bị kiểm soát bởi các phe phái nơi những kẻ ấu dâm tôn thờ Satan. QAnon tổ chức các hoạt động phá hoại quy mô lớn, phát tán thông tin sai lệch và đe dọa sử dụng bạo lực với đối thủ.

Tài khoản Smith không cố ý theo dõi nhóm QAnon được gợi ý nhưng thuật toán Facebook vẫn hiển thị nội dung này. Trong vòng một tuần, nguồn cấp tin tức của Smith chứa đầy các nhóm và trang vi phạm các quy tắc riêng của Facebook.

Smith không phải là người thật. Nhóm nghiên cứu được Facebook tuyển dụng, những người đã tạo tài khoản này và hàng trăm tài khoản “người dùng thử nghiệm” khác vào năm 2019 và 2020 để đánh giá các cơ chế mà mạng xã hội cung cấp thông tin sai lệch và chia tách, cũng như thông qua hệ thống khuyến nghị của nền tảng.

Do đó, nhóm nghiên cứu tin rằng trải nghiệm của Smith trên Facebook là “chủ nghĩa cực đoan lan rộng, âm mưu và nội dung tiêu cực.” Mạng xã hội thậm chí đã đẩy một số người dùng vào các thuyết âm mưu bạo lực. Tuy chỉ là một bộ phận nhỏ nhưng con số lên tới hàng triệu người.

Nội dung nghiên cứu trên là một trong số hàng nghìn trang tài liệu do Hoogen sưu tầm. Báo cáo “Carol’s Journey to QAnon” đã được đệ trình lên Ủy ban Chứng khoán và Giao dịch Hoa Kỳ và Quốc hội Hoa Kỳ.Thông tin này cũng được gửi đến NBC News tuần trước.

Theo các tài liệu nội bộ, các nhóm và trang liên quan đến thuyết âm mưu cũng tăng vọt trong năm 2019 và 2020. Chỉ tính riêng mùa hè năm ngoái, đã có hàng nghìn nhóm và fanpage của QAnon ở chế độ riêng tư, với hàng triệu người hâm mộ. Sau khi FBI phân loại các nhóm này là mối đe dọa khủng bố tiềm ẩn, Facebook bắt đầu đàn áp. Nhóm nghiên cứu của mạng xã hội này từ lâu đã biết các thuật toán và hệ thống khuyến nghị nội dung đẩy một số người dùng đến chỗ cực đoan. Tuy nhiên, các nhà quản lý và điều hành vẫn phớt lờ các cảnh báo nội bộ, khiến các nhóm phản đối vắc xin, thuyết âm mưu và thông tin sai lệch sử dụng sự khoan dung này để “đe dọa sức khỏe cộng đồng, an toàn cá nhân và an toàn”. Con người và nền dân chủ.

“Nghiên cứu của Facebook cho thấy một nhóm nhỏ người dùng có thể dễ dàng chiếm quyền điều khiển nền tảng”, Renée DiResta, giám đốc Đài quan sát Internet Stanford nhận xét. NBC News“Nó trả lời câu hỏi về vai trò của Facebook trong sự phát triển của thông tin sai lệch.”

Một đại diện của Facebook phản bác: “Đây là một nghiên cứu người dùng giả định, nhưng nó là một ví dụ hoàn hảo về những gì chúng tôi đã làm để cải thiện hệ thống và giúp đưa ra quyết định loại bỏ QAnon khỏi nền tảng”.

Giám đốc điều hành Mark Zuckerberg cũng tuyên bố rằng kế hoạch nghiên cứu của công ty là “xác định các vấn đề quan trọng và giải quyết chúng”. Anh bày tỏ sự thất vọng với những bình luận của Hoogen.

Nhân viên Facebook không hài lòng với bạo loạn ở Capitol

Như Hoogen đã tiết lộ, khi đám đông đột nhập rào chắn và tấn công cảnh sát trên Đồi Capitol vào ngày 6/1, một số nhân viên Facebook đã bày tỏ sự tức giận. Tuy nhiên, vấn đề này không được công ty chú ý.

“Tôi muốn giá trị của mình phù hợp với công việc ở đây”, một nhân viên nói và cuộc bạo loạn tiếp tục diễn ra vào chiều ngày 6/1. “Tôi ở đây để sử dụng ảnh hưởng của mình để góp phần thay đổi và cải thiện xã hội, nhưng những gì tôi thấy là sự từ bỏ sự hẹp hòi và trách nhiệm.”

“Tất cả những điều này đã được tôn trọng đúng mức, nhưng chúng tôi không có đủ thời gian để tìm ra cách quản lý ngôn ngữ trên nền tảng mà không có bạo lực”, một nhân viên khác cho biết. “Chúng tôi đã châm ngòi cho ngọn lửa này, và chúng tôi không nên ngạc nhiên nếu nó vượt quá tầm kiểm soát.”

tài liệu chứng nhận Bloomberg Có một góc nhìn mới trên Facebook: Công ty công nghệ có lãi nhưng tinh thần xuống thấp, nhân viên xảy ra mâu thuẫn.

Một ngày sau cuộc bạo loạn, một số nhân viên Facebook tiếp tục họp nội bộ để thảo luận thẳng thắn về việc kiểm soát nền tảng này trong cuộc bầu cử. Nhiều nhân viên cho rằng Facebook đã thất bại trong việc có hành động mạnh mẽ đối với các nhóm phát tán thông tin sai lệch rằng cựu Tổng thống Trump thắng cử. Ngoài ra, các nhà lãnh đạo công ty cũng bị chỉ trích vì đã không khiến họ trở nên “chiến đấu” hơn và những nhân viên có kinh nghiệm hơn để hạn chế hoàn toàn tin tức giả.

Theo báo cáo của Facebook, phân tích nội bộ của Facebook về cuộc bạo loạn ngày 6 tháng 1 cho thấy các chính sách và thủ tục của công ty không đủ để ngăn chặn sự phát triển của các nhóm liên quan đến “ngừng ăn cắp”. CNN“Ngừng ăn cắp” là một trong những nhóm phát triển nhanh nhất trong lịch sử mạng xã hội. Vào cuối năm ngoái, tổ chức này đã thu hút 320.000 người kêu gọi phản đối trong 48 giờ trước khi bị loại bỏ.

Vẫn chú ý Thời báo New York, Kể từ cuối năm ngoái, nhiều nhân viên đã cố gắng cảnh báo về thông tin sai lệch và nội dung xúc phạm trên nền tảng này. Họ thúc giục công ty hành động, nhưng không thành công hoặc rất khó giải quyết vấn đề.

Đồng thời, Facebook phản hồi Bloomberg Nó thực hiện chiến dịch thông tin cử tri lớn nhất trong lịch sử của Hoa Kỳ và thực hiện các biện pháp hạn chế nội dung ảnh hưởng đến cuộc bầu cử, bao gồm đình chỉ tài khoản của Donald Trump và xóa nội dung vi phạm chính sách bầu cử. 40 nhóm kiểm soát đã xóa hơn 5 tỷ tài khoản giả mạo và hơn 265.000 bài đăng trên Facebook và Instagram vi phạm chính sách can thiệp cử tri của Hoa Kỳ.

Kích động bạo lực ở Ấn Độ

Trích dẫn các tài liệu khác do Haugen cung cấp, Thời báo New York với Tạp chí Phố Wall Mô tả chi tiết về lời nói căm thù và phổ biến nội dung kích động bạo lực ở Ấn Độ đã được đăng trên ứng dụng Facebook.

Cụ thể, các nội dung độc hại liên tục được khuyến cáo cho người dùng Ấn Độ. Vào ngày 4 tháng 2 năm 2019, một nhà nghiên cứu của Facebook đã tạo một tài khoản mới để hiểu trải nghiệm mạng xã hội của những người sống ở Kerala.

Trong ba tuần, tài khoản đã tuân theo một quy tắc đơn giản: làm theo tất cả các đề xuất do thuật toán tạo, tham gia nhóm, xem video và khám phá các trang mới trên trang web. Do đó, vô số lời nói căm thù, tin tức giả mạo và kích động bạo lực đã được ghi lại trong các báo cáo nội bộ của Facebook.

Nhà nghiên cứu đã viết: “Theo nguồn cấp dữ liệu của người dùng thử nghiệm, tôi đã thấy nhiều ca tử vong hơn trong ba tuần qua so với những gì tôi đã thấy trước đây”.

Đồng thời, độc thân Tạp chí Phố Wall Theo tài liệu, nhóm Hindu Bajrang Dal đã sử dụng WhatsApp để kích động bạo lực. Báo cáo khuyến nghị “hủy niêm yết”, nhưng nhóm vẫn tiếp tục hoạt động trên mạng xã hội mà không bị can thiệp.

Theo thống kê của các nhà nghiên cứu nội bộ, kể từ tháng 12 năm 2019, nội dung phản cảm trên Facebook đã tăng 300% so với trước đây. Đây cũng là thời kỳ các cuộc biểu tình tôn giáo càn quét đất nước đông dân thứ hai thế giới.

Ngoài ra, theo báo cáo, những tin đồn và lời kêu gọi bạo lực lan truyền trên dịch vụ nhắn tin WhatsApp được cho là một trong những nguyên nhân làm gia tăng bạo lực trong cộng đồng kể từ tháng 2/2020, khiến 53 người chết ở Delhi. Ngoài ra, người dùng Hindu và Hồi giáo cho biết họ phải đối mặt với “rất nhiều nội dung thúc đẩy xung đột, thù hận và bạo lực trên Facebook và WhatsApp”.

Người phát ngôn của Facebook, Andy Stone từ chối bình luận về hoạt động của các nhóm theo đạo Hindu trên mạng xã hội. Tuy nhiên, ông nhấn mạnh rằng công ty đã cấm các nhóm hoặc cá nhân có liên quan “sau khi tuân theo các thủ tục thận trọng, nghiêm ngặt và đa phương.” Ấn Độ có hơn 300 triệu người dùng Facebook và hơn 400 triệu người dùng WhatsApp. Năm ngoái, công ty cho biết đã đầu tư 5,7 tỷ USD để mở rộng hoạt động kinh doanh tại thị trường này.

Quyết định “song phương”

Ngoài Hoogen, một cựu nhân viên khác cũng cáo buộc công ty thường xuyên xảy ra bất đồng giữa các tuyên bố công khai và các quyết định nội bộ. Ví dụ: liên quan đến cáo buộc của Nga can thiệp vào cuộc bầu cử tổng thống Hoa Kỳ năm 2016, một mặt, các đại diện truyền thông của Facebook đã nói về những nỗ lực để dập tắt tranh cãi chính trị. Mặt khác, công ty nói với những người trong cuộc rằng mọi thứ sẽ sớm ổn định, “chúng tôi sẽ kiếm được nhiều tiền.”

Người tố cáo cũng đề cập đến dự án Internet.org. Trên các phương tiện truyền thông, đại diện Facebook đã công bố mục tiêu của dự án là kết nối mọi người ở “các nước đang phát triển”. Tuy nhiên, mục đích thực sự là cho phép Facebook có được chỗ đứng, đồng thời trở thành “nguồn duy nhất” của họ để thu thập dữ liệu thị trường chưa được khai thác.

Cựu nhân viên này cũng phản hồi những lo ngại của Haugen về tác động của nền tảng Instagram đối với thanh thiếu niên, cơ chế phổ biến thông tin sai lệch và việc xử lý hạn chế thông tin sai lệch bên ngoài Hoa Kỳ.

Một đại diện của Facebook đã phủ nhận vấn đề này, nói rằng đây là nguồn thông tin một chiều và không đáng tin cậy.

Baolin Sợi tổng hợp