Cách đây 5 năm, ngoài nút like truyền thống, Facebook còn bổ sung 5 biểu tượng cảm xúc để người dùng tương tác với các bài viết trên news feed, bao gồm tim, haha, ngạc nhiên, buồn bã và tức giận.

Mạng xã hội này cũng xây dựng một thuật toán để xác định nội dung nào sẽ hiển thị trên tường của người dùng, sử dụng biểu tượng cảm xúc để đánh giá và quảng bá nội dung cảm xúc, bao gồm cả sự tức giận. Các tài liệu nội bộ bị rò rỉ cho thấy kể từ năm 2017, thuật toán xếp hạng của Facebook đã đánh giá giá trị của biểu tượng cảm xúc cao gấp 5 lần so với các nút thích thông thường.

Các quy tắc để áp dụng thuật toán này rất đơn giản. Các bài đăng thu hút một lượng lớn biểu tượng cảm xúc sẽ dẫn đến sự tham gia của nhiều người dùng hơn, đây là cốt lõi trong hoạt động kinh doanh của Facebook.

Các nhà nghiên cứu của Facebook cũng nhanh chóng phát hiện ra một lỗ hổng nghiêm trọng. “Các bài đăng ưu tiên gây tranh cãi, bao gồm cả nội dung gây khó chịu cho người dùng, có thể mở ra cánh cửa cho các bài đăng spam, lạm dụng hoặc câu khách”, một nhân viên Facebook yêu cầu giấu tên cho biết.

Cảnh báo này đã được chứng minh là đúng. Các nhà khoa học dữ liệu của Facebook đã xác nhận vào năm 2019 rằng các bài đăng thu hút một số lượng lớn các biểu tượng giận dữ thường đi kèm với tin tức giả mạo, nội dung độc hại và tin tức chất lượng thấp.

Điều này có nghĩa là Facebook đã cố tình quảng bá nội dung có hại trên nền tảng của mình trong ba năm để làm cho nội dung đó xuất hiện nhiều hơn trong nguồn cấp dữ liệu của người dùng và lan truyền nó đến nhiều đối tượng hơn. Sức mạnh của thuật toán đã làm thất vọng nỗ lực của nhóm đánh giá, những người phải chiến đấu chống lại nội dung độc hại.

“Sự tức giận và thù hận là cách dễ dàng nhất để phát triển trên Facebook”, cựu quản lý Francis Haogen cho biết vào ngày 25/10.

Noah Giansiracusa, giáo sư tại Đại học Bentley ở Massachusetts, nói rằng thuật toán của Facebook “trông vừa bí ẩn vừa đáng sợ” vì nó được phát triển dựa trên công nghệ máy học tinh vi để dự đoán cách người dùng tương tác. Ông nói: “Tuy nhiên, vẫn chỉ có một kết quả duy nhất có thể dự đoán được, và kết quả này là do con người quyết định.

Người phát ngôn của Facebook, Dani Lever, cho biết: “Chúng tôi vẫn đang nghiên cứu nội dung nào sẽ gây ra trải nghiệm tiêu cực để giảm mức độ lan truyền của nó, bao gồm cả nội dung gây ra nhiều phản ứng giận dữ.

Sự tức giận chỉ là một trong nhiều yếu tố mà các kỹ sư của Facebook sử dụng để định hình luồng tin tức và truyền thông trên mạng xã hội lớn nhất thế giới. Tất cả những điều này đều được thuật toán thêm vào điểm số của bài viết trên nguồn cấp dữ liệu tin tức của mỗi người dùng và quyết định vị trí hiển thị chúng.

Facebook đã không tiết lộ thông số nào mà thuật toán đã sử dụng, cũng như không tiết lộ hơn 10.000 “tín hiệu” có thể được sử dụng để dự đoán mức độ tương tác của bài đăng. Công ty từ chối tiết lộ hoạt động của các thuật toán với lý do kẻ xấu có thể sử dụng chúng.

Nhiều tín hiệu trong số này không được người dùng chú ý, chẳng hạn như số lượng bình luận dài trên một bài báo, video được quay hoặc phát, việc sử dụng bình luận văn bản thuần túy hoặc nhân vật hoạt hình … Thuật toán thậm chí còn tính đến nguồn điện của thiết bị máy tính Tín hiệu Internet được kết nối với người dùng. Một điều chỉnh nhỏ trong thuật toán cũng ảnh hưởng đến toàn bộ hệ thống, dẫn đến tin tức xuất hiện trên tường của người dùng.

Tài liệu cho thấy điểm trung bình của một bài báo thường là vài trăm điểm, nhưng một chuyên gia dữ liệu của Facebook đã phát hiện ra vào năm 2019 rằng hệ thống tính điểm không có giới hạn.

Nếu thuật toán coi một bài báo có chất lượng kém, hệ thống sẽ giảm một nửa số điểm và đưa bài viết đó đi sâu hơn vào nguồn cấp tin tức. Tuy nhiên, một số bài viết có thể đạt 1 tỷ điểm vì chúng vẫn xuất hiện trên trang nhất của người dùng nên việc cắt giảm gần như vô ích.

Facebook đã giảm tác động của biểu tượng giận dữ lần đầu tiên vào năm 2018, nhưng nó vẫn xứng đáng nhận được bốn lời khen ngợi. Kể từ tháng 4 năm 2019, Facebook đã triển khai cơ chế “hạ cấp” nội dung nhận được lượng lớn phẫn nộ đột ngột, nhưng các tài liệu nội bộ do Haugen phát hành không nêu rõ tính năng này được sử dụng ở đâu và hiệu quả ra sao. Kết quả ra sao.

Vài tháng sau, một số nhân viên Facebook đề nghị giảm giá trị của biểu tượng cảm xúc xuống tương đương với nút thích hoặc loại bỏ chúng khỏi cơ chế tính điểm. Lý do không chỉ là sự tức giận, mà các ký hiệu như “wow” và “haha” cũng thường xuất hiện trong các nội dung độc hại và tin tức giả mạo.

Facebook đã hạ giá trị của biểu tượng giận dữ xuống 0 vào tháng 9 năm 2020, trong khi trái tim và nỗi buồn giữ hai lượt thích tương đương, vì nó an toàn hơn. Đây là một phần trong nỗ lực cải thiện các tín hiệu ảnh hưởng đến thuật toán hiển thị của Facebook.

Phó chủ tịch cho biết: “Giống như tất cả các tối ưu hóa, sẽ luôn có những cách bị lạm dụng. Đó là lý do tại sao chúng tôi có một nhóm chính trực để theo dõi việc lạm dụng thuật toán và hạn chế chúng một cách hiệu quả”. Lars Backstrom, trưởng bộ phận công nghệ của Facebook cho biết.

Các nhà khoa học dữ liệu của Facebook xác nhận rằng kể từ khi điểm số tức giận giảm xuống 0, người dùng bắt đầu nhận được ít tin tức giả mạo hơn và nhiều nội dung phản cảm hơn. Biện pháp này sẽ không buộc các mạng xã hội phải đánh đổi. Không, khi hoạt động của người dùng trên Facebook hoàn toàn không bị ảnh hưởng.

Dupuan (theo dõi Bưu điện Washington)