Thử thách độc hại ‘French scar’ khiến TikTok bị điều tra

Giới chức lo ngại rằng TikTok đã không xây dựng hệ thống kiểm duyệt thông tin an toàn, đặc biệt là với những người dùng dễ bị tổn thương như trẻ em, trẻ vị thành niên. Ảnh: DR.

Hôm 21/3, Cơ quan Quản lý Cạnh tranh Italy (AGCM) tuyên bố sẽ mở cuộc điều tra TikTok liên quan đến cáo buộc đăng tải những nội dung mang tính nguy hiểm như tự sát, ngược đãi bản thân và nhịn ăn, tự bỏ đói trên nền tảng.

Trào lưu tự làm hại bản thân

Cụ thể, một trào lưu có tên “French scar” đang bùng nổ trên TikTok. Trong video, những người tham gia dùng tay véo mạnh vào mặt để tạo ra những vết lằn đỏ, trông giống vết sẹo.

Theo AGCM, TikTok đã thiếu sót trong hệ thống kiểm duyệt thông tin do người dùng đăng tải, đồng thời không tuân thủ điều khoản dịch vụ đã nêu ra trước đó như gỡ bỏ nội dung nguy hiểm liên quan đến tự sát, ngược đãi bản thân, rối loạn ăn uống.

Cuộc điều tra của AGCM chủ yếu sẽ nhắm đến chi nhánh Ireland TikTok Technology Limited ở Ireland, chuyên phụ trách mảng quản trị khách hàng ở khu vực châu Âu, cũng như doanh nghiệp ủy quyền TikTok ở Anh và Italy. AGCM cũng cho biết sẽ mở cuộc điều tra đối với trụ sở TikTok ở Italy với sự hỗ trợ của Đội đặc nhiệm chống độc quyền Guardia di Finanza.

TikTok đã nhiều lần vướng phải kiện cáo về các nội dung độc hại trên nền tảng. Ảnh: Reuters.

Theo cơ quan Italy, họ sẽ điều tra về TikTok dựa trên loạt video có cảnh người tham gia có biểu hiện tự gây hại cho bản thân, bao gồm cả trào lưu véo mặt “French scar”. Nhiều chuyên gia sức khỏe đã cảnh báo hành vi này sẽ dẫn đến những vết thương hoặc ửng đỏ vĩnh viễn.

AGCM cho biết họ lo ngại rằng TikTok đã không xây dựng hệ thống kiểm duyệt thông tin an toàn, đặc biệt là với những người dùng dễ bị tổn thương như trẻ em, trẻ vị thành niên.

Cơ quan quản lý của Italy cũng cho rằng TikTok đã không xóa những nội dung nguy hiểm như hãng đã khẳng định trong điều khoản dịch vụ. Bên cạnh đó, họ cũng muốn điều tra về vai trò của trí tuệ nhân tạo (AI) TikTok trong việc hiển thị các trào lưu gây hại cộng đồng.

Lo ngại về thuật toán đề xuất

TikTok vốn nổi tiếng là một nền tảng chia sẻ video ngắn dùng thuật toán đề để xuất trên trang chủ “For You”. Những video ngắn xuất hiện trên “For You” được cá nhân hóa cho mỗi người dùng dựa trên dữ liệu mà TikTok đã theo dõi trước đó như lượt like, tương tác của người dùng với những nội dung tương tự.

Tuy nhiên, việc thuật toán này hoạt động và được quản lý như thế nào vẫn còn là vấn đề còn bỏ ngỏ. Theo TechCrunch, câu hỏi được đặt ra là liệu thuật toán này có thể bị lợi dụng để lan truyền những thử thách, trào lưu độc hại hay không.

Thử thách "French scar" trên TikTok. Ảnh: Xiaomi Today.

Nói với TechCrunch, TikTok cho biết đã nhận được thông báo về cuộc điều tra. Họ khẳng định đã thuê hơn 40.000 chuyên gia để bảo đảm cộng đồng người dùng an toàn, đặc biệt là bảo vệ nhóm đối tượng trẻ em.

“Chúng tôi không cho phép hiển thị hay lan truyền những hành vi, thử thách nguy hiểm như tự sát, ngược đãi bản thân và ăn uống thiếu lành mạnh”, nền tảng video ngắn khẳng định. Bên cạnh đó, quy tắc đề xuất hiển thị sẽ giúp đảm bảo nội dung phù hợp cho đại chúng, đồng thời đại diện TikTok cũng hợp tác với chính quyền để tuân thủ mọi quy tắc tại khu vực.

Trong đó, liên quan đến thử thách “French scar”, TikTok cho biết đội An toàn và Tin tưởng của họ đã đánh giá độ an toàn và chặn mọi nội dung nguy hiểm liên quan đến hành vi véo mặt, gây hại bản thân. Chỉ có người dùng 18 tuổi trở lên mới có thể xem những nội dung tương tự và chúng sẽ không xuất hiện ở mục đề xuất, hãng công nghệ cho biết thêm.

Theo TechCrunch, đây không phải lần đầu tiên các lo ngại về an ninh của TikTok khiến các nhà làm luật ở Italy bắt tay vào cuộc.

Năm 2021, Cơ quan giám sát quyền riêng tư dữ liệu Italy đã yêu cầu TikTok chặn tài khoản người dùng chưa được xác minh, đồng thời cam kết cấm trẻ em dưới 13 tuổi đăng ký tài khoản.

Động thái này được đưa ra sau khi một bé gái tham gia "Thử thách bất tỉnh" trên TikTok bị chết não. Thử thách này yêu cầu người tham gia phải tự làm nghẹt thở và ngất xỉu trong vài giây rồi đăng video lên TikTok.

Tháng 7/2022, các quan chức Italy cũng từng yêu TikTok tạm dừng chính sách thu thập dữ liệu mới tại châu Âu. Trước đó, ứng dụng này đã công bố thực hiện chính sách mới cho phép thu thập dữ liệu từ những người sử dụng ứng dụng này từ 18 tuổi tại châu Âu bất kể họ có đồng ý hay không.