Các doanh nghiệp có nền tảng tạo ra lượng lớn nội dung từ người dùng (user-generated content) luôn đối mặt với thách thức kiểm duyệt ở quy mô lớn. Việc này đòi hỏi sự cân bằng giữa việc phát hiện chính xác các vi phạm chính sách và tránh gắn cờ nhầm các bài đăng hợp lệ. Trong một công bố ngày 18/05/2026, AWS đã giới thiệu một giải pháp hiệu quả sử dụng Amazon Nova 2 Lite, một mô hình ngôn ngữ lớn (LLM) chi phí thấp và tốc độ inference nhanh, cho phép doanh nghiệp xây dựng hệ thống kiểm duyệt linh hoạt chỉ bằng cách chỉnh sửa prompt, thay vì phải fine-tuning (tinh chỉnh) lại toàn bộ mô hình.
Bài viết này, dựa trên tiêu chuẩn MLCommons AILuminate, trình bày cách sử dụng prompt với Amazon Nova 2 Lite để giải quyết bài toán trên. Các kỹ thuật này có thể áp dụng với chính sách kiểm duyệt tùy chỉnh của từng doanh nghiệp.
Luồng xử lý kiểm duyệt nội dung với Amazon Nova 2 Lite
AWS đề xuất một quy trình kiểm duyệt nội dung điển hình được xây dựng trên Amazon Nova 2 Lite và Amazon Bedrock. Với chi phí thấp và tốc độ inference nhanh, Nova 2 Lite rất phù hợp cho các pipeline kiểm duyệt có lưu lượng xử lý cao.
Quy trình này gồm bốn giai đoạn chính:
- Tiếp nhận nội dung: Nội dung do người dùng tạo (văn bản, bình luận, đánh giá) được đưa vào hệ thống.
- Xây dựng Prompt: Hệ thống tự động ghép nối nội dung cần kiểm duyệt với các yếu tố khác như vai trò hệ thống, định nghĩa chính sách, và các ví dụ few-shot (học qua vài ví dụ) để tạo thành một prompt hoàn chỉnh.
- Suy luận (Inference): Prompt được gửi đến Amazon Nova 2 Lite trên Amazon Bedrock. Mô hình sẽ trả về kết quả kiểm duyệt, bao gồm cờ vi phạm (có/không), các danh mục vi phạm và giải thích (tùy chọn).
- Hành động: Dựa trên kết quả, hệ thống sẽ tự động cho phép, gắn cờ, xóa hoặc chuyển nội dung đến người duyệt thủ công.
Các kỹ thuật Prompting hiệu quả
AWS đã giới thiệu hai phương pháp prompting chính: có cấu trúc và tự do.
Prompt có cấu trúc (XML/JSON)
Doanh nghiệp nên sử dụng prompt có cấu trúc như XML hoặc JSON khi pipeline kiểm duyệt cần đầu ra định dạng sẵn để tích hợp vào các hệ thống tự động. Kỹ thuật few-shot learning, tức là cung cấp một vài cặp ví dụ đầu vào-đầu ra trong prompt, giúp mô hình “học” được định dạng phản hồi mong muốn và tăng độ chính xác.
Prompt dạng tự do
Prompt dạng tự do hữu ích khi cần các định dạng đầu ra đa dạng hoặc khi tác vụ kiểm duyệt không dễ dàng gói gọn trong một cấu trúc cố định. Cách tiếp cận này linh hoạt, cho phép mô hình điều chỉnh định dạng và mức độ chi tiết của phản hồi dựa trên câu hỏi. Ví dụ, một câu hỏi có/không sẽ nhận được câu trả lời nhị phân ngắn gọn, trong khi yêu cầu xếp hạng mức độ nghiêm trọng sẽ cho ra phản hồi có cấu trúc nhiều phần. Điều này rất phù hợp cho các quy trình có sự tham gia của con người (human-in-the-loop).
Đánh giá hiệu năng của Amazon Nova 2 Lite
AWS đã đánh giá Amazon Nova 2 Lite so với một số foundation model (FM) khác trên ba bộ dữ liệu benchmark công khai. Tất cả các mô hình đều sử dụng cùng một định dạng prompt XML có cấu trúc và chạy ở chế độ non-reasoning mode để tối ưu chi phí và độ trễ.
Các chỉ số đánh giá chính bao gồm:
- F1 Score: Là trung bình điều hòa của Precision và Recall, đo lường sự cân bằng giữa việc phát hiện chính xác vi phạm và tránh báo động giả. Đây là chỉ số quan trọng nhất trong kiểm duyệt nội dung.
- Precision (Độ chính xác): Tỷ lệ các nội dung được gắn cờ là vi phạm một cách chính xác.
- Recall (Độ bao phủ): Tỷ lệ các nội dung vi phạm thực tế mà mô hình phát hiện được.
Kết quả
Trong số bốn mô hình được thử nghiệm, Amazon Nova 2 Lite đạt điểm F1 trung bình cao nhất là 75.70% trên cả ba benchmark. Về mặt thực tế, điều này có nghĩa là Nova 2 Lite phát hiện được nhiều vi phạm hơn trong khi vẫn duy trì tỷ lệ báo động giả thấp hơn so với các mô hình khác được thử nghiệm.
Ví dụ, trên benchmark Aegis, Nova 2 Lite đạt F1 85.84% với sự cân bằng gần như hoàn hảo giữa Precision (86.02%) và Recall (85.66%). Sự cân bằng này rất quan trọng. Một mô hình khác (Model B) tuy đạt Precision cao hơn (91.16%) nhưng Recall chỉ có 71.64%, nghĩa là nó bỏ sót gần 30% các vi phạm thực tế.
Mở rộng sang kiểm duyệt đa phương tiện (Multimodal)
Ngoài văn bản, Amazon Nova 2 cũng hỗ trợ kiểm duyệt nội dung hình ảnh và các khung hình video. Doanh nghiệp có thể truyền một hình ảnh cùng với prompt văn bản, sử dụng cùng các định nghĩa chính sách và định dạng đầu ra đã mô tả để kiểm duyệt nội dung hình ảnh về bạo lực, tự hại, hoặc nội dung người lớn.
Các phương pháp hay nhất (Best Practices)
Dựa trên các đánh giá, AWS khuyến nghị các phương pháp sau để triển khai kiểm duyệt nội dung với Amazon Nova 2 Lite:
- Định nghĩa chính sách rõ ràng: Chính sách mơ hồ sẽ dẫn đến kết quả không nhất quán.
- Sử dụng ví dụ few-shot: Cung cấp ít nhất một cặp ví dụ đầu vào-đầu ra trong prompt để cải thiện tính nhất quán của kết quả.
- Chọn định dạng prompt phù hợp: Dùng prompt có cấu trúc (XML/JSON) cho hệ thống tự động và prompt tự do cho quy trình có người duyệt.
- Yêu cầu giải thích: Thêm yêu cầu giải thích vào prompt để giúp người duyệt hiểu lý do mô hình đưa ra quyết định, hữu ích cho việc kiểm tra và kiểm toán.
- Thử nghiệm các chế độ: Thử nghiệm cả chế độ reasoning và non-reasoning để tìm ra sự cân bằng phù hợp giữa độ chính xác và thông lượng cho trường hợp sử dụng cụ thể.
- Liên tục cải tiến prompt: Thử nghiệm với các mẫu nội dung thực tế và tinh chỉnh định nghĩa chính sách dựa trên các lỗi của mô hình.
- Xây dựng quy trình bảo vệ: Kết hợp con người để xem xét các trường hợp phức tạp và định kỳ kiểm tra hiệu suất của mô hình.
Kết luận
Kỹ thuật prompting với Amazon Nova 2 Lite cung cấp một giải pháp mạnh mẽ, linh hoạt và hiệu suất cao cho việc xây dựng các hệ thống kiểm duyệt nội dung tùy chỉnh. Doanh nghiệp có thể áp dụng các mẫu prompt này với bộ chính sách riêng để đáp ứng các yêu cầu kiểm duyệt đặc thù của mình trên nền tảng Amazon Bedrock.
