Vào ngày 4 tháng 2 năm 2019, một nhà nghiên cứu của Facebook đã tạo một tài khoản người dùng mới để xem trải nghiệm trang web truyền thông xã hội với tư cách là một người sống ở Kerala, Ấn Độ sẽ như thế nào.

Trong ba tuần tiếp theo, tài khoản hoạt động theo một quy tắc đơn giản: Làm theo tất cả các đề xuất do thuật toán của Facebook tạo ra để tham gia nhóm, xem video và khám phá các trang mới trên trang web.

Kết quả là vô số lời nói căm thù, thông tin sai lệch và ăn mừng bạo lực, đã được ghi lại trong một báo cáo nội bộ của Facebook được công bố vào cuối tháng đó.

Nhà nghiên cứu Facebook viết: “Theo dõi News Feed của người dùng thử nghiệm này, tôi đã thấy nhiều hình ảnh về những người đã chết hơn trong ba tuần qua so với những gì tôi đã thấy trong toàn bộ cuộc đời mình”.

Báo cáo là một trong hàng chục nghiên cứu và bản ghi nhớ được viết bởi các nhân viên của Facebook đang vật lộn với những tác động của nền tảng này đối với Ấn Độ. Họ cung cấp bằng chứng rõ ràng về một trong những lời chỉ trích nghiêm trọng nhất mà các nhà hoạt động nhân quyền và chính trị gia chống lại công ty trên toàn thế giới: Nó di chuyển vào một quốc gia mà không hiểu đầy đủ về tác động tiềm tàng của nó đối với văn hóa và chính trị địa phương và không triển khai các nguồn lực để hành động về các vấn đề khi chúng xảy ra.

Với 340 triệu người sử dụng các nền tảng truyền thông xã hội khác nhau của Facebook, Ấn Độ là thị trường lớn nhất của công ty. Và các vấn đề của Facebook ở tiểu lục địa này là một phiên bản khuếch đại của các vấn đề mà Facebook phải đối mặt trên toàn thế giới, trở nên tồi tệ hơn do thiếu nguồn lực và thiếu chuyên môn về 22 ngôn ngữ được công nhận chính thức của Ấn Độ.

Các tài liệu nội bộ, được thu thập bởi một tập đoàn các tổ chức tin tức bao gồm The New York Times, là một phần của kho tài liệu lớn hơn được gọi là The Facebook Papers. Chúng được thu thập bởi Frances Haugen, một cựu giám đốc sản phẩm của Facebook, người đã trở thành người thổi còi và gần đây đã làm chứng trước một tiểu ban của Thượng viện về công ty và các nền tảng truyền thông xã hội của nó. Các tài liệu tham khảo về Ấn Độ nằm rải rác trong các tài liệu do bà Haugen đệ trình lên Ủy ban Chứng khoán và Giao dịch trong một đơn khiếu nại hồi đầu tháng.

Các tài liệu bao gồm các báo cáo về cách các chương trình và tài khoản giả mạo liên quan đến đảng cầm quyền của đất nước và các nhân vật đối lập đã tàn phá các cuộc bầu cử quốc gia như thế nào. Họ cũng nêu chi tiết cách mà Mark Zuckerberg, giám đốc điều hành của Facebook, ủng hộ một kế hoạch tập trung vào “các tương tác xã hội có ý nghĩa”, hoặc trao đổi giữa bạn bè và gia đình, đã dẫn đến nhiều thông tin sai lệch hơn ở Ấn Độ, đặc biệt là trong thời kỳ đại dịch.

Facebook không có đủ nguồn lực ở Ấn Độ và không thể đối mặt với các vấn đề mà họ đã đưa ra ở đó, bao gồm các bài đăng chống Hồi giáo, theo các tài liệu của nó. Tám mươi bảy phần trăm ngân sách toàn cầu của công ty dành cho việc phân loại thông tin sai lệch được dành cho Hoa Kỳ, trong khi chỉ 13 phần trăm được dành cho phần còn lại của thế giới – mặc dù người dùng Bắc Mỹ chỉ chiếm 10 phần trăm mạng xã hội. người dùng hoạt động hàng ngày, theo một tài liệu mô tả việc phân bổ tài nguyên của Facebook.

Andy Stone, phát ngôn viên của Facebook, cho biết các số liệu này không đầy đủ và không bao gồm các đối tác kiểm tra thông tin xác thực bên thứ ba của công ty, hầu hết đều ở bên ngoài Hoa Kỳ.

Sự tập trung lệch lạc đó vào Hoa Kỳ đã gây ra hậu quả ở một số quốc gia ngoài Ấn Độ. Các tài liệu của công ty cho thấy Facebook đã cài đặt các biện pháp để hạ cấp thông tin sai lệch trong cuộc bầu cử vào tháng 11 ở Myanmar, bao gồm cả thông tin sai lệch được chia sẻ bởi quân đội Myanmar.

Công ty đã rút lại các biện pháp đó sau cuộc bầu cử, mặc dù nghiên cứu cho thấy họ đã giảm 25,1% số lượt xem các bài đăng có nội dung phản cảm và các bài đăng ảnh chứa thông tin sai lệch xuống 48,5%. Ba tháng sau, quân đội thực hiện một cuộc đảo chính bạo lực trong nước. Facebook nói rằng sau cuộc đảo chính, nó đã thực hiện một chính sách đặc biệt để xóa bỏ những lời khen ngợi và ủng hộ bạo lực trong nước, và sau đó đã cấm quân đội Myanmar khỏi Facebook và Instagram.

Ở Sri Lanka, mọi người có thể tự động thêm hàng trăm nghìn người dùng vào các nhóm Facebook, khiến họ tiếp xúc với nội dung kích động bạo lực và thù hận. Tại Ethiopia, một nhóm dân quân thanh niên theo chủ nghĩa dân tộc đã phối hợp thành công các cuộc kêu gọi bạo lực trên Facebook và đăng các nội dung phản cảm khác.

Ông Stone cho biết Facebook đã đầu tư đáng kể vào công nghệ để tìm kiếm lời nói căm thù bằng nhiều ngôn ngữ khác nhau, bao gồm cả tiếng Hindi và tiếng Bengali, hai trong số những ngôn ngữ được sử dụng rộng rãi nhất. Ông nói thêm rằng Facebook đã giảm một nửa số lượng ngôn từ kích động thù địch mà mọi người nhìn thấy trên toàn cầu trong năm nay.

Ông Stone nói: “Lời nói căm thù chống lại các nhóm bị gạt ra bên lề xã hội, bao gồm cả người Hồi giáo, đang gia tăng ở Ấn Độ và trên toàn cầu. “Vì vậy, chúng tôi đang cải thiện việc thực thi và cam kết cập nhật các chính sách của mình khi ngôn từ kích động thù địch phát triển trực tuyến.”

Ở Ấn Độ, “chắc chắn có một câu hỏi về nguồn cung ứng” cho Facebook, nhưng câu trả lời không phải là “chỉ ném thêm tiền vào vấn đề”, Katie Harbath, người đã có 10 năm làm việc tại Facebook với tư cách là giám đốc chính sách công và đã làm việc trực tiếp. về đảm bảo các cuộc bầu cử quốc gia của Ấn Độ. Bà cho rằng Facebook cần phải tìm ra một giải pháp có thể áp dụng cho các quốc gia trên thế giới.

Các nhân viên của Facebook đã chạy nhiều thử nghiệm khác nhau và thực hiện các nghiên cứu thực địa ở Ấn Độ trong vài năm. Công việc đó đã tăng lên trước cuộc bầu cử quốc gia năm 2019 của Ấn Độ; vào cuối tháng 1 năm đó, một số ít nhân viên của Facebook đã đến đất nước này để gặp gỡ các đồng nghiệp và nói chuyện với hàng chục người dùng Facebook địa phương.

Theo một bản ghi nhớ được viết sau chuyến đi, một trong những yêu cầu quan trọng từ người dùng ở Ấn Độ là Facebook “thực hiện hành động đối với các loại thông tin sai lệch có liên quan đến tác hại trong thế giới thực, cụ thể là chính trị và căng thẳng nhóm tôn giáo”.

Mười ngày sau khi nhà nghiên cứu mở tài khoản giả để nghiên cứu thông tin sai lệch, một vụ đánh bom liều chết ở khu vực biên giới tranh chấp Kashmir đã gây ra một đợt bạo lực và gia tăng các cáo buộc, thông tin sai lệch và âm mưu giữa công dân Ấn Độ và Pakistan.

Sau cuộc tấn công, nội dung chống Pakistan bắt đầu lan truyền trong các nhóm do Facebook đề xuất mà nhà nghiên cứu đã tham gia. Nhiều nhóm, cô lưu ý, có hàng chục nghìn người dùng. Một báo cáo khác của Facebook, được công bố vào tháng 12 năm 2019, cho thấy người dùng Facebook ở Ấn Độ có xu hướng tham gia các nhóm lớn, với quy mô nhóm trung bình của đất nước là 140.000 thành viên.

Các bài đăng đồ họa, bao gồm meme cho thấy cảnh chặt đầu một công dân Pakistan và những xác chết được quấn trong tấm vải trắng trên mặt đất, được lưu hành trong các nhóm mà cô ấy tham gia.

Sau khi nhà nghiên cứu chia sẻ nghiên cứu điển hình của cô ấy với đồng nghiệp, các đồng nghiệp của cô ấy nhận xét về báo cáo được đăng rằng họ lo ngại về thông tin sai lệch về cuộc bầu cử sắp tới ở Ấn Độ.

Hai tháng sau, sau khi cuộc bầu cử quốc gia của Ấn Độ bắt đầu, Facebook đã thực hiện một loạt các bước để ngăn chặn luồng thông tin sai lệch và lời nói căm thù ở nước này, theo một tài liệu nội bộ có tên là Nghiên cứu Trường hợp Bầu cử Ấn Độ.

Nghiên cứu điển hình đã vẽ nên một bức tranh lạc quan về những nỗ lực của Facebook, bao gồm việc bổ sung thêm nhiều đối tác xác minh thông tin – mạng lưới bên thứ ba mà Facebook làm việc để thuê ngoài xác minh thông tin – và làm tăng lượng thông tin sai lệch mà Facebook đã loại bỏ. Nó cũng lưu ý cách Facebook đã tạo ra một “danh sách trắng chính trị để hạn chế rủi ro PR”, về cơ bản là một danh sách các chính trị gia được miễn kiểm tra thực tế đặc biệt.

Nghiên cứu không lưu ý đến vấn đề to lớn mà công ty phải đối mặt với bot ở Ấn Độ, cũng như các vấn đề như đàn áp cử tri. Trong cuộc bầu cử, Facebook đã chứng kiến ​​sự gia tăng đột biến số bot – hoặc tài khoản giả mạo – được liên kết với các nhóm chính trị khác nhau, cũng như nỗ lực truyền bá thông tin sai lệch có thể ảnh hưởng đến sự hiểu biết của mọi người về quy trình bỏ phiếu.

Trong một báo cáo riêng biệt được đưa ra sau cuộc bầu cử, Facebook phát hiện ra rằng hơn 40% lượt xem hoặc số lần hiển thị hàng đầu ở bang Tây Bengal của Ấn Độ là “giả mạo / không xác thực”. Một tài khoản không xác thực đã tích lũy được hơn 30 triệu lần hiển thị.

Một báo cáo được công bố vào tháng 3 năm 2021 cho thấy nhiều vấn đề được nêu ra trong cuộc bầu cử năm 2019 vẫn tồn tại.

Trong tài liệu nội bộ có tên Adversarial Harmful Networks: India Case Study, các nhà nghiên cứu của Facebook đã viết rằng có các nhóm và trang “chứa đầy nội dung chống Hồi giáo gây hiểu lầm và gây hiểu lầm” trên Facebook.

Báo cáo cho biết có một số bài đăng mang tính chất nhân văn so sánh người Hồi giáo với “lợn” và “chó”, và thông tin sai lệch cho rằng Kinh Qur’an, cuốn sách thánh của Hồi giáo, kêu gọi đàn ông hãm hiếp các thành viên nữ trong gia đình của họ.

Phần lớn tài liệu được lưu hành xung quanh các nhóm Facebook quảng bá Rashtriya Swayamsevak Sangh, một nhóm cực hữu và dân tộc chủ nghĩa của Ấn Độ có quan hệ chặt chẽ với Đảng Bharatiya Janata cầm quyền của Ấn Độ, hoặc BJP. biên giới, và xuất bản các bài đăng trên Facebook kêu gọi loại bỏ các nhóm người Hồi giáo khỏi Ấn Độ và thúc đẩy luật kiểm soát dân số Hồi giáo.

Báo cáo chỉ ra rằng Facebook biết rằng những bài đăng có hại như vậy đã gia tăng trên nền tảng của mình và họ cần phải cải thiện “bộ phân loại”, tức là các hệ thống tự động có thể phát hiện và xóa các bài đăng chứa ngôn ngữ bạo lực và kích động. Facebook cũng do dự chỉ định RSS là một tổ chức nguy hiểm vì “tính nhạy cảm chính trị” có thể ảnh hưởng đến hoạt động của mạng xã hội trong nước.

Trong số 22 ngôn ngữ được công nhận chính thức của Ấn Độ, Facebook cho biết họ đã đào tạo 5 hệ thống AI của mình. (Nó cho biết nó có những người đánh giá con người cho một số người khác.) Nhưng bằng tiếng Hindi và tiếng Bengali, nó vẫn không có đủ dữ liệu để cảnh sát nội dung một cách đầy đủ và phần lớn nội dung nhắm vào người Hồi giáo “không bao giờ bị gắn cờ hoặc hành động”, báo cáo của Facebook cho biết .

Năm tháng trước, Facebook vẫn đang vật lộn để xóa bỏ lời nói căm thù người Hồi giáo một cách hiệu quả. Một công ty khác báo cáo chi tiết nỗ lực của Bajrang Dal, một nhóm cực đoan có liên hệ với BJP, để xuất bản các bài đăng có chứa các bài tường thuật chống Hồi giáo trên nền tảng này.

Facebook đang xem xét chỉ định nhóm này là một tổ chức nguy hiểm vì nó “kích động bạo lực tôn giáo” trên nền tảng, tài liệu cho thấy. Nhưng nó vẫn chưa làm được như vậy.

“Tham gia nhóm và giúp điều hành nhóm; tăng số lượng thành viên của nhóm, bạn bè, ”một bài đăng tìm kiếm tuyển dụng trên Facebook để lan truyền thông điệp của Bajrang Dal. “Chiến đấu cho sự thật và công lý cho đến khi những kẻ bất công bị tiêu diệt.”

Ryan Mac, Cecilia Kang và Mike Isaac báo cáo đóng góp.