monday.com, nền tảng quản lý công việc hàng đầu, đã triển khai thành công các agentic AI (AI có khả năng tự chủ hành động) ở quy mô sản phẩm thực tế trên nền tảng Amazon Bedrock. Bằng cách xây dựng các “đồng nghiệp AI” tích hợp sâu vào quy trình làm việc, công ty đã ghi nhận năng suất pull request (PR) trên mỗi kỹ sư tăng hơn 50%, một con số ấn tượng cho thấy tiềm năng to lớn của AI trong việc tối ưu hóa hoạt động phát triển phần mềm.
“Đồng nghiệp AI”: Không chỉ là công cụ, mà là thành viên trong đội
Khác với cách tiếp cận thông thường coi AI chỉ là công cụ, monday.com đã xây dựng Sphera, một hệ thống nội bộ nơi các AI agent được xem như những thành viên thực thụ trong đội ngũ. Mỗi agent có hồ sơ, người quản lý, phạm vi công việc và điểm hiệu suất rõ ràng. Ví dụ, Atlas là một agent có vai trò “Kỹ sư phần mềm”, nhận nhiệm vụ từ backlog chung, tự viết code, tạo PR và bàn giao sản phẩm giống như bất kỳ kỹ sư con người nào.
Cách tiếp cận này không chỉ là hình thức. Mỗi agent có một danh tính ổn định trên các nền tảng như Slack, GitHub và monday.com, cho phép các thành viên khác trong đội gắn thẻ, giao việc, review code hoặc thậm chí vô hiệu hóa chúng như một đồng nghiệp bình thường. Việc coi agent là thành viên trong đội đảm bảo chúng luôn gắn liền với công việc thực tế và chịu trách nhiệm về kết quả cuối cùng.
Kiến trúc kỹ thuật đằng sau các AI Agent trên AWS
Để vận hành các AI agent ở quy mô lớn, monday.com đã xây dựng một kiến trúc vững chắc trên nền tảng AWS, kết hợp nhiều dịch vụ để đảm bảo tính ổn định, khả năng mở rộng và bảo mật.
Kiến trúc tổng quan
Hệ thống nhận các yêu cầu từ nhiều nguồn (Slack, monday.com, GitHub) thông qua Amazon SNS và Amazon SQS. Các yêu cầu này sau đó được xử lý bởi các agent runner chạy trên Amazon EKS.
Các thành phần chính trong kiến trúc bao gồm:
- Xử lý sự kiện: Mô hình Pub/sub kết hợp hàng đợi (queue) giúp hệ thống có khả năng thử lại (retries), xử lý lỗi, chịu được áp lực khi có sự tăng đột biến về yêu cầu và dễ dàng phát lại các sự kiện để gỡ lỗi.
- Quản lý trạng thái và bộ nhớ: monday.com sử dụng kết hợp nhiều dịch vụ lưu trữ. Amazon ElastiCache được dùng cho trạng thái tức thời (live state) với tốc độ đọc dưới mili giây. Amazon EFS đóng vai trò là hệ thống file chia sẻ, cho phép các agent tiếp tục công việc dang dở ngay cả khi được chuyển sang một pod khác. Amazon S3 được dùng để lưu trữ các bản ghi lâu dài, tạo thành một dấu vết kiểm toán (audit trail) hoàn chỉnh.
- Nền tảng mô hình AI: Amazon Bedrock là trung tâm xử lý các lệnh gọi đến mô hình ngôn ngữ lớn (LLM). Bedrock cho phép monday.com theo dõi chi phí, đảm bảo an toàn, quản lý dung lượng và giữ cho toàn bộ lưu lượng truy cập mô hình nằm trong VPC thông qua AWS PrivateLink.
5 cải tiến then chốt để AI Agent hoạt động hiệu quả trong codebase cũ
Việc tích hợp AI vào một codebase đã tồn tại cả thập kỷ là một thách thức lớn. monday.com đã thực hiện 5 cải tiến quan trọng để các agent có thể làm việc hiệu quả:
- Đánh giá (Evals) tự động trước khi nâng cấp model: Thay vì chỉ review thủ công, monday.com đã xây dựng hai lớp đánh giá: các chỉ số định lượng (số PR được merge, tỷ lệ revert) và đánh giá bằng LLM dựa trên 5 tiêu chí. Việc này giúp cải thiện hiệu suất của agent một cách có hệ thống.
- Bộ nhớ là file, không phải vector store: Thay vì các giải pháp agentic-RAG phức tạp, monday.com nhận thấy rằng việc sử dụng một file
MEMORY.mdđơn giản trên EFS cho mỗi agent là cách hiệu quả nhất để chúng “ghi nhớ” công việc từ phiên này sang phiên khác. - Sandbox từ xa trước khi review: Mỗi PR của agent được tự động deploy vào một môi trường sandbox riêng, nơi các bài kiểm thử và traffic mô phỏng từ sản phẩm thực tế được chạy. Điều này giúp phát hiện các lỗi chỉ xuất hiện trong môi trường thực tế trước khi cần đến sự can thiệp của con người.
- PR Guardrails (Rào cản bảo vệ PR): monday.com đã tự động hóa toàn bộ các tiêu chuẩn kỹ thuật của mình thành một hệ thống reviewer tự động gọi là Guardrails. Hệ thống này kiểm tra hàng chục nghìn PR mỗi tháng, đảm bảo chất lượng code và giảm tải đáng kể cho các reviewer con người.
- Builders CoWORK: Để giải quyết vấn đề các agent làm việc trong “silo”, monday.com đã tạo ra không gian làm việc CoWORK. Tại đây, các tác vụ, trạng thái và blocker của agent được hiển thị trên cùng một bảng monday.com với đội ngũ, giúp việc theo dõi và quy trách nhiệm trở nên minh bạch.
Các agent làm việc trong một không gian cộng tác.
Các agent là đồng nghiệp bạn có thể yêu cầu chia sẻ thông tin hoặc thực hiện tác vụ, giống như bất kỳ thành viên nào trong đội.
Từ nút thắt cổ chai đến tự động hóa hoàn toàn
Vào cuối Quý 1 năm 2026, nút thắt cổ chai lớn nhất không còn là việc tạo code mà là quá trình review của con người. Để giải quyết vấn đề này, monday.com đã phát triển Morphex, agent kỹ thuật hoàn toàn tự động đầu tiên của họ.
Morphex có khả năng merge 19 trên 20 PR mà không cần sự can thiệp của con người. Tỷ lệ này đạt được không phải bằng cách bỏ qua review, mà bằng cách vượt qua tất cả các cổng kiểm tra tự động. Để quyết định PR nào an toàn để merge tự động, monday.com đã phát triển một “điểm tin cậy” (confidence score) dựa trên bốn tín hiệu: kết quả từ Guardrails, quỹ đạo điểm đánh giá của agent, tỷ lệ revert lịch sử và kết quả từ môi trường sandbox.
Kỹ thuật AI không phải là tạo ra các agent hoàn hảo. Đó là về việc xây dựng các vòng lặp phản hồi cho phép các agent không hoàn hảo được tin cậy một cách an toàn trong khi tiết kiệm thời gian cho con người.
Mục tiêu của monday.com trong hai quý tới là tăng tỷ lệ PR của agent được merge mà không cần reviewer con người, trong khi vẫn giữ tỷ lệ revert không đổi hoặc cải thiện.
Bài học kinh nghiệm từ monday.com
Thành công của monday.com không nằm ở việc chọn một runtime AI cụ thể, mà ở cách họ xây dựng một “bộ khung” (harness) tích hợp sâu vào hệ sinh thái hiện có của công ty:
- Sử dụng bảng monday.com làm lớp trạng thái chia sẻ.
- Tận dụng máy chủ MCP nội bộ làm nền tảng cho Guardrails.
- Tích hợp với hệ thống xác thực và định danh của monday.com.
- Sử dụng pipeline CI/CD hiện có để deploy code của agent.
Cách tiếp cận này giúp hệ thống có thể được kiểm toán, đảo ngược và đáng tin cậy ngay từ đầu. Nhìn lại, monday.com chia sẻ ba bài học chính: nên xây dựng hệ thống đánh giá (evals) ngay từ ngày đầu, giải pháp bộ nhớ đơn giản (file trên EFS) hiệu quả hơn các phương pháp phức tạp, và việc tích hợp agent vào luồng công việc chính của con người nên là quyết định ưu tiên hàng đầu.
