Google dùng tác nhân AI truy vết mạng lưới nội dung rác

Trong bài nghiên cứu dài ba trang có tựa đề The Synthetic Gap: Automating Forensic Investigation of AI Slop with the Scaled Abuse Forensics Examiner (SAFE), nhóm tác giả của Google cho biết AI tạo sinh đang giúp các nhóm lạm dụng dựng nên những mạng lưới kênh chuyên tải lên “AI slop”, tức nội dung chất lượng thấp sản xuất đại trà. Các nhóm này liên tục sửa câu lệnh tạo nội dung để lách bộ phân loại.

Google gọi khoảng thời gian từ lúc một kiểu tấn công bằng AI tạo sinh xuất hiện đến lúc có biện pháp đối phó là “khoảng trống tổng hợp” (synthetic gap) và coi đây là lỗ hổng nghiêm trọng, vì điều tra thủ công không theo kịp khối lượng nội dung. SAFE ra đời để thu hẹp khoảng trống này. Thay vì chỉ trả về một điểm xác suất như bộ phân loại truyền thống, hệ thống mô phỏng cách một nhà điều tra suy luận.

SAFE gồm bốn tác nhân. Root Agent giữ vai trò điều phối: nhận diện một cụm kênh đáng ngờ, giao việc cho ba tác nhân chuyên trách, kiểm tra kết quả rồi tổng hợp bằng chứng để kết luận đó là tấn công có phối hợp hay hoạt động tự nhiên.

Content Understanding Agent tìm dấu hiệu của nội dung do AI tạo ra và vi phạm chính sách. Tác nhân này dùng một mô hình ngôn ngữ lớn (LLM) được tinh chỉnh riêng để bắt các vi phạm đã biết, cùng một LLM học từ vài ví dụ (few-shot) để bắt nội dung không phạm quy tắc cụ thể nào nhưng vẫn đi ngược “tinh thần” chính sách của nền tảng.

Behavior Understanding Agent soi tín hiệu hạ tầng và nhịp hoạt động, như nhiều kênh tải lên cùng lúc hoặc đăng dồn dập theo đợt. Bài nghiên cứu nêu ví dụ một kết luận của tác nhân này: 100% kênh trong cụm dùng cùng phiên bản hệ điều hành và tải lên trong cùng khoảng 5 giây.

Cuối cùng, Channel Cluster Understanding Agent dùng hệ thống quan hệ dạng đồ thị để lần ra mối liên kết giữa các kênh, giúp SAFE thấy cả chiến dịch thay vì xử lí từng kênh riêng lẻ.

Theo bài nghiên cứu, Google đã đưa SAFE vào sử dụng. “Kết quả triển khai ban đầu cho thấy SAFE tăng tốc đáng kể việc phát hiện các mối đe dọa tổng hợp mới, rút ngắn thời gian điều tra so với quy trình có con người tham gia”, nhóm tác giả viết. Tài liệu không công bố số liệu kiểm thử nào, chỉ liệt kê các thước đo dự kiến như độ khớp với kết luận của chuyên viên và thời gian xử lí trung bình.

Bài nghiên cứu chủ yếu nói về video và cụm kênh, nhưng không khẳng định SAFE chỉ dành cho video. Trang Search Engine Journal cho rằng đây là hệ thống thứ hai trong năm 2026 của Google nhắm vào nội dung rác do AI tạo ra, sau Scalable Cluster Termination System (S-CTS), và có thể là một phần của đợt cập nhật chống spam tháng 09/2026. Tuy nhiên, bản thân bài nghiên cứu không nhắc tới Google Search hay các đợt cập nhật này.

Liệu Google có dùng SAFE cho kết quả tìm kiếm trên Google Search hay không vẫn là câu hỏi bỏ ngỏ vì chính bài nghiên cứu chỉ nói về video và cụm kênh.