Khách hàng tiềm năng để lại dấu vết trên nhiều nền tảng: từ một câu hỏi trên Reddit, một dự án nổi bật trên GitHub, đến một màn ra mắt sản phẩm trên Hacker News. Việc kết nối các tín hiệu rời rạc này để tìm ra cơ hội kinh doanh là một thách thức lớn. AWS đã giới thiệu một giải pháp sử dụng hệ thống đa agent AI, xây dựng trên Strands Agents và Amazon Bedrock, để tự động hóa toàn bộ quy trình này. Công ty Thrad.ai đã áp dụng thành công, giảm thời gian nghiên cứu mỗi khách hàng từ 45 phút xuống còn vài phút.
Bài viết này phân tích cách Thrad.ai triển khai hệ thống đa agent để tự động hóa việc tìm kiếm khách hàng, so sánh hai mô hình điều phối là Swarm và Graph, đồng thời đưa ra các kết quả đo lường thực tế về độ trễ, chi phí và chất lượng.
Bài toán: Tín hiệu rời rạc, quy trình thủ công
Thrad.ai, một công ty xây dựng hạ tầng quảng cáo cho AI, đối mặt với bài toán tìm kiếm khách hàng từ vô số tín hiệu trên mạng xã hội. Đội ngũ kinh doanh của họ từng phải dành 30-45 phút để nghiên cứu mỗi khách hàng tiềm năng trên sáu nguồn dữ liệu khác nhau trước khi viết một email tiếp cận. Quy trình thủ công này không thể mở rộng và các email gửi đi thường thiếu bối cảnh cần thiết để thu hút sự chú ý.
Một AI agent đơn lẻ không thể giải quyết vấn đề này do sự đa dạng của tín hiệu, sự khác biệt giữa các API của nguồn dữ liệu và sự phức tạp trong phân tích. Giải pháp là sử dụng một hệ thống đa agent, trong đó mỗi agent chuyên trách một nhiệm vụ cụ thể (ví dụ: thu thập dữ liệu từ một nguồn) và một agent phân tích tổng hợp sẽ kết hợp các kết quả để tìm ra các mẫu liên kết.
Giải pháp: Hệ thống đa agent trên Amazon Bedrock
Kiến trúc giải pháp của Thrad.ai biến các tín hiệu thô trên mạng xã hội thành email tiếp cận được cá nhân hóa một cách tự động. Hệ thống bao gồm bốn agent chuyên biệt đảm nhận các vai trò: khám phá, làm giàu dữ liệu, chấm điểm và tạo email. Mỗi agent sử dụng bộ công cụ riêng và có định dạng đầu ra được xác thực chặt chẽ.
- Trend Research Agent: Truy vấn sáu nguồn (Hacker News, YouTube, dev.to, ProductHunt, Reddit, Stack Overflow) để tìm các sản phẩm mới ra mắt và tín hiệu mua hàng.
- Search Specialist Agent: Làm giàu dữ liệu về khách hàng tiềm năng từ Wikipedia, GitHub, Lobste.rs và Stack Overflow.
- Analysis Agent: Sau khi hai agent trên hoàn thành, agent này sẽ chấm điểm mỗi cặp “khách hàng – xu hướng” trên thang điểm 100, sử dụng mô hình Claude Sonnet 4.6 trên Amazon Bedrock.
- Email Generation Agent: Soạn thảo email cá nhân hóa cho các khách hàng có điểm số cao và xác thực nội dung email theo quy chuẩn thương hiệu.
Điểm cốt lõi của hệ thống là khả năng signal triangulation (đối chiếu tín hiệu): một khách hàng tiềm năng cần có bằng chứng tương quan từ ít nhất hai nguồn độc lập. Hệ thống cũng áp dụng cơ chế chấm điểm dựa trên 5 tiêu chí có trọng số và áp dụng temporal decay (giảm trọng số theo thời gian): tín hiệu dưới 24 giờ được nhân 1.5x trọng số, trong khi tín hiệu hơn 7 ngày chỉ còn 0.5x.
Hai mô hình điều phối: Swarm và Graph
Strands Agents cung cấp hai mô hình điều phối để các agent phối hợp với nhau. Thrad.ai đã xây dựng và so sánh cả hai mô hình trên cùng một workload gồm 50 khách hàng tiềm năng.
Swarm: Linh hoạt và tự chủ
Trong mô hình Swarm (bầy đàn), các agent tự động chuyển giao quyền kiểm soát cho nhau một cách linh hoạt. Ví dụ, Trend Research Agent sau khi tìm thấy khách hàng sẽ chuyển cho Search Specialist Agent để làm giàu dữ liệu. Nếu dữ liệu mỏng, Analysis Agent có thể chuyển ngược lại cho Trend Research Agent để yêu cầu thêm bối cảnh. Các agent chia sẻ một bộ nhớ làm việc chung.
Swarm hoạt động tốt nhất khi độ phức tạp của bài toán thay đổi và các agent cần khả năng tương tác linh hoạt. Tuy nhiên, luồng thực thi khó dự đoán hơn và chi phí token cao hơn do các bước suy luận để chuyển giao tác vụ.
Graph: Luồng công việc có cấu trúc
Với mô hình Graph (đồ thị), các agent tuân theo một luồng công việc có cấu trúc, định trước. Trend Research Agent và Search Specialist Agent chạy song song để thu thập dữ liệu. Analysis Agent sẽ đợi cả hai hoàn thành rồi mới bắt đầu. Một cạnh có điều kiện sẽ quyết định việc kích hoạt Email Generation Agent, chỉ khi điểm số của khách hàng từ 60 trở lên.
Graph tỏa sáng khi luồng công việc có tính lặp lại và khả năng kiểm toán là quan trọng. Mọi lượt chạy đều theo cùng một đường dẫn, giúp dễ dàng tái tạo lỗi. Hạn chế của nó là không thể tự động quay lại các bước trước đó nếu không có các cạnh phản hồi được định nghĩa rõ ràng.
Kết quả thực tế: So sánh hiệu năng và chi phí
Cả hai mô hình đều được chạy thử nghiệm 3 lần với 50 khách hàng tiềm năng từ Hacker News. Kết quả cho thấy:
- Chi phí và Tốc độ: Mô hình Graph có chi phí thấp hơn 25% cho mỗi khách hàng và có độ trễ (latency) ổn định hơn. Ước tính với một lô 1.000 khách hàng, Graph tiết kiệm khoảng 3,6 giờ xử lý và 20 USD chi phí token so với Swarm.
- Chất lượng: Mô hình Swarm tạo ra các email có chất lượng cao hơn một chút (điểm trung bình 8.2 so với 7.6) vì các agent có thể quay lại để tìm thêm bối cảnh khi dữ liệu ban đầu còn ít.
Thrad.ai đã quyết định sử dụng Graph cho các tác vụ xử lý hàng loạt vào ban đêm và Swarm cho các phân tích chuyên sâu hàng tuần đối với các khách hàng tiềm năng có giá trị cao.
“Làm việc với đội ngũ AWS PACE đã giúp chúng tôi biến một bài toán đa nguồn dữ liệu phức tạp thành một giải pháp có thể vận hành trong môi trường production. Với Strands Agents và Amazon Bedrock AgentCore, chúng tôi đã giảm thiểu đáng kể công việc nghiên cứu thủ công, đồng thời cải thiện tính kịp thời và mức độ phù hợp của các hoạt động tiếp cận khách hàng.
Điều đặc biệt hữu ích trong thực tế là khả năng sử dụng cả hai mô hình Graph và Swarm tùy thuộc vào tác vụ. Graph cho phép chúng tôi xử lý các lô lớn một cách nhanh chóng và tiết kiệm chi phí, trong khi Swarm giúp chúng tôi đi sâu hơn vào các khách hàng tiềm năng có giá trị cao, nơi bối cảnh bổ sung thực sự tạo ra sự khác biệt.”
– Marco Visentin, Đồng sáng lập & CTO của Thrad.ai
Triển khai và quản trị trong môi trường production
Để đưa vào vận hành thực tế, hệ thống cần các yếu tố như cô lập phiên làm việc, quản lý tài nguyên và khả năng quan sát (observability). Amazon Bedrock AgentCore cung cấp các dịch vụ được quản lý để giải quyết các vấn đề này:
- Runtime: Chạy các agent trong các microVM cô lập với xác thực IAM và kiểm soát vòng đời.
- Gateway: Cung cấp một endpoint duy nhất cho tất cả các công cụ của agent.
- Memory: Lưu trữ bối cảnh ngắn hạn trong phiên và dữ liệu ngữ nghĩa dài hạn.
- Observability: Ghi lại các trace phân tán thông qua OpenTelemetry, tích hợp với Amazon CloudWatch.
Bên cạnh đó, hệ thống cũng tích hợp các cơ chế quản trị như cổng chính sách (policy gates) để kiểm soát luồng công việc, giới hạn quyền truy cập công cụ cho từng agent, và các giới hạn an toàn để ngăn chặn các vòng lặp vô hạn và chi phí token không kiểm soát.
Áp dụng cho các bài toán khác
Kiến trúc đa agent này không chỉ giới hạn ở việc tìm kiếm khách hàng. Doanh nghiệp có thể áp dụng các mô hình tương tự cho nhiều bài toán khác:
- Phân tích đối thủ cạnh tranh: Thay thế các công cụ tìm kiếm khách hàng bằng các công cụ theo dõi đối thủ.
- Tìm kiếm ứng viên: Phân tích các hoạt động trên GitHub, Stack Overflow và các blog công nghệ để tìm kiếm nhân tài.
- Quản lý và đề xuất nội dung: Sử dụng các tín hiệu về ý định để xác định chủ đề mà khán giả đang quan tâm.
