Theo Jiefang Daily (Thượng Hải), việc seeding – phát tán nội dung trên không gian mạng đang bùng nổ với sự hỗ trợ của trí tuệ nhân tạo (AI). Các mô hình AI mới nổi này cho phép tạo ra hơn 4.000 tin nhắn độc hại mỗi ngày, thao túng quan điểm và quyết định của người dùng Internet thông qua hàng loạt bình luận giả mạo.
AI đã xâm nhập vào mọi giai đoạn của seeding, từ việc đăng ký hàng loạt tài khoản mạng xã hội, vượt qua hệ thống tên thật, đến việc duy trì tài khoản và kiếm tiền từ các bài đăng.
Sự phát triển nhanh chóng của các mô hình AI quy mô lớn trong những năm gần đây đã giúp những kẻ tung tin đồn trực tuyến tăng cường khả năng ngụy trang. Chúng dễ dàng giả dạng thành người dùng Internet bình thường và tạo ra các bài đăng, bình luận mang tính kích động hơn cả người thật. Giám đốc tiếp thị Diệp Tinh từ Geetest (nhà cung cấp dịch vụ bảo mật Internet) cho biết họ đã chiến đấu chống lại lĩnh vực “ngầm” này suốt 12 năm và chặn được tổng cộng 2,17 tỷ cuộc tấn công do “đội quân mạng” được hỗ trợ bởi AI khởi xướng.
Ông Diệp Tinh phân tích thêm, những kẻ tung tin đồn có thể tạo ra các đoạn script tự động để sản xuất nội dung hàng loạt. Chúng cố tình thao túng dư luận bằng cách sử dụng các mô hình AI với chi phí thấp nhưng hiệu quả cao, có khả năng hoạt động 24/7 và thực hiện đa nhiệm. Trước đây, việc tạo ra 1.000 bình luận hoặc bài đăng có thể mất hàng giờ của nhiều người làm việc bán thời gian. Nhưng nay, AI có thể hoàn thành nhiệm vụ này chỉ trong vài phút, theo lời Dương Băng (bút danh), một cựu nhân viên studio. Cô Dương Băng cho biết những người đăng bài trả tiền có thể được thuê bởi các nhà đầu tư phim hoặc người hâm mộ diễn viên. Nội dung họ đăng tải chỉ nhằm mục đích đạt được mục tiêu của người thuê, tạo ra sự cường điệu hoặc tấn công đối thủ.
Vào tháng 6/2024, cảnh sát Nam Xương (Giang Tây) đã điều tra một vụ án liên quan đến việc lan truyền tin đồn và thông tin bịa đặt gây rối trật tự công cộng. Các nghi phạm đã tạo ra một lượng lớn bài viết với tốc độ chóng mặt, lên tới 4.000 đến 7.000 bài mỗi ngày bằng phần mềm AI. Theo báo cáo của Đài Truyền hình Trung ương Trung Quốc, ước tính sơ bộ doanh thu của chúng vượt quá 10.000 nhân dân tệ (1.382 USD) mỗi ngày.
Giáo sư Từ Tiểu Kha tại Trung tâm Nghiên cứu Truyền thông Tính toán (Chu Hải), Trường Báo chí và Truyền thông, Đại học Sư phạm Bắc Kinh nhận định trước đây việc phân biệt người đăng bài thật và AI khá dễ dàng dựa trên IP điện thoại và vị trí địa lý. Tuy nhiên, những phương pháp này không còn hiệu quả với các đối tượng sử dụng thuật toán để tạo nội dung hàng loạt và mô phỏng hành vi của người dùng thật.
Để đối phó với tình trạng này, Trung Quốc đã ban hành bộ hướng dẫn về việc gắn nhãn nội dung Internet do AI tạo ra, có hiệu lực từ ngày 1/9. Hướng dẫn này yêu cầu các nhà cung cấp phải thêm nhãn rõ ràng vào nội dung ở các vị trí thích hợp trong suốt quá trình sản xuất và phổ biến. Các tài khoản mạng xã hội do thuật toán AI đăng ký cũng phải được gắn nhãn rõ ràng. Các nền tảng mạng xã hội có trách nhiệm giám sát nội dung do các tài khoản này đăng tải và nhanh chóng xác định, gắn nhãn nội dung giả mạo hoặc bất hợp pháp.
Kể từ năm 2024, các cơ quan quản lý không gian mạng của Trung Quốc đã tăng cường nỗ lực chống lại hoạt động đăng bài trả tiền. Họ đã điều tra các vấn đề như tuyển dụng, quảng cáo, thao túng lượt truy cập và kiểm soát đánh giá. Hơn 400 trang web và nền tảng đã bị đóng cửa hoặc gỡ bỏ, 4,82 triệu nội dung bất hợp pháp bị xóa, 2,39 triệu tài khoản và cửa hàng trực tuyến cùng 52.000 nhóm trực tuyến bị xử lý.