ByteDance, công ty mẹ của nền tảng TikTok phổ biến, đã thực hiện những thay đổi đáng kể trong cách tiếp cận quản lý nội dung, dẫn đến việc chấm dứt hàng trăm vị trí kiểm duyệt trên toàn thế giới. Các báo cáo cho biết khoảng 500 vị trí đã bị cắt giảm, với phần lớn ở Malaysia. ByteDance có một lực lượng lao động đáng kể, với hơn 110.000 nhân viên toàn cầu.
Quá trình chuyển đổi này liên quan đến việc chuyển sang một hệ thống kiểm duyệt nội dung được điều khiển bởi trí tuệ nhân tạo. Hiện tại, AI xử lý khoảng 80% các nhiệm vụ quản lý nội dung, mà công ty khẳng định là cần thiết để nâng cao cơ cấu hoạt động của họ. Nhằm tăng cường các sáng kiến về niềm tin và an toàn, ByteDance cam kết đầu tư khoảng 2 tỷ đô la vào năm 2024.
Cấu trúc lại này diễn ra trong bối cảnh tăng cường giám sát quy định ở các khu vực đang trải qua sự gia tăng nội dung độc hại và thông tin sai lệch, cần một chiến lược quản lý nội dung mạnh mẽ hơn. Song song đó, sự cạnh tranh trên các mạng xã hội đang gia tăng, như đã thấy trong những vấn đề gần đây mà Instagram phải đối mặt. Adam Mosseri, người đứng đầu Instagram, gần đây đã thảo luận về những thách thức mà nền tảng này gặp phải, cho rằng một số vấn đề với tài khoản người dùng là do lỗi con người trong việc kiểm duyệt.
Ông nhấn mạnh rằng không phải mọi vấn đề đều xuất phát từ các kiểm duyệt viên, chỉ ra một công cụ không hoạt động giúp nhân viên không có được bối cảnh cần thiết trong khi đánh giá nội dung. Khi các nền tảng điều hướng qua những phức tạp của việc quản lý nội dung, sự chú ý đối với việc tích hợp AI vẫn tiếp tục gia tăng, định hình tương lai của việc quản lý mạng xã hội.
Sự Chuyển Đổi Của ByteDance Sang Kiểm Duyệt Nội Dung Bằng AI: Cơ Hội Và Thách Thức
ByteDance, công ty mẹ của TikTok, đang thực hiện một bước nhảy vọt táo bạo trong việc sử dụng trí tuệ nhân tạo (AI) cho quy trình kiểm duyệt nội dung của mình. Sự chuyển đổi chiến lược này, bao gồm việc sa thải khoảng 500 kiểm duyệt viên nội dung, phản ánh một xu hướng rộng lớn hơn trong ngành công nghệ hướng tới tự động hóa trong nhiều công việc vận hành. Khi ByteDance chuyển sang AI, nhiều câu hỏi quan trọng nảy sinh.
Động lực chính đằng sau sự chuyển đổi sang kiểm duyệt nội dung bằng AI của ByteDance là gì?
Động lực chính bao gồm nhu cầu về khả năng mở rộng và hiệu quả trong việc quản lý nội dung do người dùng tạo ra, điều này đã tăng đáng kể với số lượng người dùng ngày càng tăng của TikTok và các công ty liên kết. Với AI hiện đang xử lý khoảng 80% các nhiệm vụ kiểm duyệt, ByteDance nhằm giảm thiểu lỗi của con người, nâng cao tốc độ, và đáp ứng nhanh chóng với nhu cầu gia tăng về giám sát nội dung theo thời gian thực. Hơn nữa, cam kết đầu tư 2 tỷ đô la cho các sáng kiến về niềm tin và an toàn vào năm 2024 của công ty nhấn mạnh sự tận tâm của họ trong việc cải thiện an toàn cho người dùng và tuân thủ quy định.
Những thách thức chính mà ByteDance phải đối mặt trong quá trình chuyển đổi này là gì?
Một trong những thách thức lớn nhất là đảm bảo độ chính xác và hiệu quả của việc kiểm duyệt bằng AI. Trong khi AI có thể xử lý một lượng lớn dữ liệu một cách hiệu quả, nó có thể gặp khó khăn với bối cảnh và các sắc thái mà các kiểm duyệt viên con người có thể hiểu. Giới hạn này có thể dẫn đến việc phân loại sai nội dung, có thể gây ra sự không hài lòng của người dùng hoặc thậm chí phản ứng tiêu cực từ các cơ quan quản lý. Hơn nữa, vẫn có những tranh cãi liên quan đến các tác động đạo đức của việc giảm bớt giám sát của con người trong việc kiểm duyệt nội dung, vì những thành kiến trong các thuật toán AI có thể làm lan truyền nội dung độc hại hoặc nhắm mục tiêu không công bằng đến một số nhóm người dùng nhất định.
Có những tranh cãi nào xung quanh việc chuyển sang kiểm duyệt bằng AI không?
Có, việc chuyển sang kiểm duyệt bằng AI đã dấy lên tranh cãi về tính minh bạch và trách nhiệm. Các nhà phê bình cho rằng việc phụ thuộc quá nhiều vào AI có thể dẫn đến việc kiểm duyệt quá mức hoặc không giải quyết được các vấn đề nhạy cảm về bối cảnh. Người dùng thường tìm kiếm sự rõ ràng về cách các quyết định kiểm duyệt được đưa ra và yêu cầu trách nhiệm khi xảy ra sai sót. Việc thiếu sự xem xét của con người có thể làm tăng cường những lo ngại này, đặc biệt là trong các trường hợp có liên quan đến các chủ đề nhạy cảm. Hơn nữa, việc sa thải hàng trăm kiểm duyệt viên đặt ra câu hỏi về thực tiễn tuyển dụng trong ngành công nghệ và giá trị đặt lên những đóng góp của con người trong quá trình kiểm duyệt.
Các ưu điểm và nhược điểm của việc sử dụng AI cho kiểm duyệt nội dung là gì?
*Ưu điểm:*
– **Khả năng mở rộng**: AI có thể xử lý một khối lượng nội dung lớn hơn nhiều so với các kiểm duyệt viên con người, giúp việc quản lý các nền tảng lớn như TikTok dễ dàng hơn.
– **Tốc độ**: Các hệ thống tự động có thể nhanh chóng báo cáo hoặc xóa nội dung độc hại, giảm thiểu thời gian người dùng tiếp xúc với nội dung này.
– **Giảm chi phí**: Bằng cách giảm thiểu số lượng kiểm duyệt viên con người, ByteDance có thể tiết kiệm chi phí vận hành về lâu dài.
*Nhược điểm:*
– **Thiếu hiểu biết bối cảnh**: Các hệ thống AI có thể hiểu sai nội dung, đặc biệt khi có các sắc thái văn hóa hoặc bối cảnh liên quan.
– **Thiên lệch thuật toán**: AI có thể duy trì các thành kiến hiện có có trong dữ liệu, dẫn đến việc đối xử không công bằng với các nhóm hoặc loại nội dung cụ thể.
– **Mất việc làm**: Việc chuyển sang tự động hóa thường dẫn đến việc mất việc làm, dấy lên những lo ngại đạo đức về sự thay thế lực lượng lao động.
Tóm lại, sự chuyển đổi của ByteDance sang AI cho kiểm duyệt nội dung đại diện cho một thời điểm quan trọng trong sự phát triển của việc quản lý mạng xã hội, kết hợp giữa cơ hội về hiệu quả và khả năng mở rộng với những thách thức và cân nhắc đạo đức đáng kể. Khi ngành công nghiệp thích nghi với những thay đổi này, việc theo dõi cách những phát triển này ảnh hưởng đến người dùng và cộng đồng rộng lớn hơn là rất quan trọng.
Để biết thêm thông tin về những phát triển đang diễn ra trong ngành công nghệ, bạn có thể truy cập ByteDance hoặc theo dõi những tác động của AI trên các nền tảng mạng xã hội tại TikTok.
The source of the article is from the blog elektrischnederland.nl