Thuật toán của Câu chuyện trên Instagram, một phần của gã khổng lồ Meta, tâng lo ngại về sự an toàn của trẻ vị thành niên. Một cuộc điều tra của Wall Street Journal tiết lộ rằng bằng cách theo dõi một số tài khoản nhất định của những người có ảnh hưởng trẻ tuổi, thuật toán bắt đầu đề nghị nội dung không phù hợp e tình dục, bên cạnh những quảng cáo từ các thương hiệu lớn. Tóm lại, Instagram hiển thị nội dung người lớn ngay cả với những người không nên xem.
Thuật toán Instagram gây tranh cãi hiển thị nội dung người lớn (bị cấm) ngay cả với trẻ vị thành niên
Cuộc thử nghiệm được thực hiện bởi Wall Street Journal, trong đó có sự tham gia của tạo các tài khoản nhằm mục đích theo dõi những người có ảnh hưởng trẻ tuổi như vận động viên thể dục và hoạt náo viên, cho thấy thuật toán Instagram đã bắt đầu đề xuất nội dung người lớn, bao gồm các video khiêu dâm liên quan đến người lớn và trẻ vị thành niên cũng như quảng cáo từ các thương hiệu nổi tiếng của Hoa Kỳ.
Cuộc điều tra cho thấy một xu hướng đáng báo động: các tài khoản theo dõi những người trẻ tuổi này đang phải đối mặt với một xu hướng đáng báo động. sự kết hợp đáng lo ngại của nội dung khiêu dâm và tài liệu kích dục trẻ em. Các chuyên gia về hệ thống đề xuất thuật toán đã nhấn mạnh cách nội dung "thích hợp" như vậy có thể cung cấp tín hiệu mạnh hơn so với những nội dung được quan tâm chung, thúc đẩy thuật toán hướng nội dung không phù hợp tới người dùng.
Đọc thêm: Bí mật của Pulcinella được tiết lộ: hàng triệu người dùng chưa đủ tuổi vị thành niên trên Instagram
Vấn đề tổng hợp nội dung người lớn trên Instagram nó đã được biết đến trong nội bộ và việc ngăn chặn sự lây lan như vậy đòi hỏi những thay đổi đáng kể đối với các thuật toán đề xuất. Tuy nhiên, tài liệu của công ty cho thấy rằng nhân viên an ninh phần lớn bị cấm thực hiện các thay đổi đối với nền tảng điều đó có thể làm giảm số lượng người dùng hoạt động hàng ngày.
Đáp lại, Meta cho biết họ đang đầu tư hàng tỷ USD vào các giải pháp an toàn, bảo mật và phù hợp với thương hiệu, đồng thời thừa nhận nhu cầu cải tiến hơn nữa. Nhiều công ty khác nhau, trong đó có Trận đấu Nhóm e Kêu vo vo, họ đã đình chỉ hoặc giảm quảng cáo của họ trên Câu chuyện và các nền tảng Meta khác sau những khám phá này. Những người khác, như Disney e Ngài, đang thúc giục Meta tránh những vị trí đặt quảng cáo như vậy và bày tỏ lo ngại về sự liên kết thương hiệu của họ với nội dung như vậy.
