TikTok bắt đầu gắn nhãn nội dung AI

Theo công ty, TikTok sẽ đánh dấu những người dùng đăng tải nội dung được AI tạo ra (AIGC) lên trang mạng xã hội, trở thành trang web video lớn đầu tiên tự động gắn nhãn nội dung này cho người dùng.

Nội dung được tạo bằng công cụ AI của riêng TikTok đã được tự động đánh dấu từ trước và công ty đã yêu cầu người sáng tạo thêm các chú thích tương tự vào nội dung của họ theo cách thủ công, nhưng cho đến nay họ vẫn có thể lách luật bằng cách tạo nội dung AI từ các nền tảng khác. Giờ đây, công ty sẽ bắt đầu sử dụng chữ ký kỹ thuật số được tạo bởi Liên minh Chứng minh và Xác thực Nội dung (C2PA) để xác định và gắn nhãn nhiều AIGC nhất có thể.

“AI mang lại nhiều cơ hội sáng tạo đáng kinh ngạc, nhưng nó có thể gây nhầm lẫn hoặc đánh lừa người xem nếu họ không biết nội dung là do AI tạo ra. Việc gắn nhãn giúp làm rõ ngữ cảnh - đó là lý do tại sao chúng tôi đánh dấu AIGC được tạo bằng các hiệu ứng AI của TikTok và đã yêu cầu người sáng tạo gắn nhãn AIGC trong hơn một năm”, ông Adam Presser, người quản lý an ninh của TikTok cho biết.

Không chỉ vậy, TikTok sẽ bắt đầu áp dụng công nghệ chữ ký kỹ thuật số, được gọi là Thông tin Xác thực Nội dung, cho các video được tải xuống từ chính nền tảng của nó. Điều này cho phép các nền tảng khác xác định “thời gian, địa điểm và cách nội dung được tạo hoặc chỉnh sửa”, ông Presser nói. Tuy nhiên, chỉ những nội dung được tạo bởi các nền tảng mà cũng là thành viên của C2PA mới có thể được gắn nhãn, bao gồm hầu hết công ty dẫn đầu trong lĩnh vực AI như Microsoft, Google và Adobe.

C2PA không tính OpenAI là một thành viên, nhưng công ty nghiên cứu này đã gia nhập ban chỉ đạo vào thứ Ba (7/5). Họ cũng bắt đầu sử dụng công nghệ Thông tin Xác thực Nội dung vào đầu năm nay và có kế hoạch đưa nó vào AI tạo video của mình, Sora, sau khi nó được phát hành ra công chúng.

Nhưng các công ty AI nhỏ hơn, ít cẩn trọng hơn và ít tập trung vào thương mại hơn vẫn sẽ tiếp tục sản xuất nội dung không được gắn nhãn trong thời gian tới. Các công cụ nguồn mở như Stable Diffusion luôn có thể được điều chỉnh để loại bỏ chữ ký hình ảnh (mặc dù Stability.AI, một trong những nhóm tạo ra Stable Diffusion và nhà phát triển hiện tại của công cụ này, là thành viên của liên minh). Công ty khởi nghiệp AI Midjourney, một trong những công cụ tạo hình ảnh phổ biến nhất, hoàn toàn vắng mặt trong danh sách thành viên.

Kế hoạch đánh dấu của TikTok theo bước Meta, công ty sở hữu Facebook và Instagram đã đưa ra thông báo tương tự vào tháng Hai. Nhưng những nỗ lực gắn nhãn này khó có thể ngăn chặn sự phổ biến rộng rãi của hình ảnh AI, đặc biệt trên Facebook, khiến một số người gọi trang này là “Internet zombie”.

Các ứng dụng truyền thông xã hội khác xuất phát chậm hơn: Snapchat cũng bắt đầu gắn nhãn nội dung do AI tạo ra bằng công cụ của riêng họ, nhưng cảnh báo người dùng rằng “hình ảnh được tạo bằng các sản phẩm không phải của Snap có thể không được gắn nhãn”, trong khi X, trước đây được gọi là Twitter, hoàn toàn không có hệ thống gắn nhãn tự động, thay vào đó dựa vào “ghi chú cộng đồng” do người dùng gửi để đánh dấu hình ảnh giả mạo.