Mobileye, công ty tiên phong về công nghệ lái xe tự hành, đã ứng dụng thành công Amazon Bedrock AgentCore để xây dựng một AI Support Agent (Agent AI hỗ trợ). Giải pháp này giúp giảm 90% thời gian phản hồi, tự động hóa 66% lượng ticket hỗ trợ nội bộ và đạt độ chính xác trên 95%, qua đó giải phóng các kỹ sư chuyên môn khỏi các tác vụ lặp đi lặp lại và không cần quản lý hạ tầng.
Thành công này đã thúc đẩy Mobileye chuyển đổi AgentCore thành một nền tảng tự phục vụ, cho phép các nhóm trong toàn công ty tự triển khai các AI agent của riêng mình. Bài viết này sẽ phân tích cách Mobileye triển khai giải pháp AI agent này, từ việc xác định vấn đề, thử nghiệm (proof of concept) cho đến kiến trúc hybrid kết nối hệ thống on-premises với dịch vụ cloud của AWS.
Từ nút thắt thủ công đến hỗ trợ bằng AI
Khi pipeline thu thập và xử lý dữ liệu của Mobileye mở rộng, 66% số ticket hỗ trợ là các yêu cầu kiểm tra trạng thái thông thường. Để xử lý mỗi yêu cầu, các kỹ sư phải thực hiện thủ công khoảng 15 cú nhấp chuột qua nhiều hệ thống backend khác nhau. Quy trình tốn thời gian này đã làm các kỹ sư có tay nghề cao bị sao lãng khỏi các vấn đề phức tạp, trong khi người dùng nội bộ phải chờ đợi lâu hơn.
Các phương pháp tự động hóa truyền thống như kịch bản (scripting), quy trình công việc tĩnh và cây quyết định dựa trên quy tắc đã tỏ ra không hiệu quả. Chúng có thể xử lý các truy vấn có thể dự đoán được nhưng thiếu khả năng hiểu ngữ cảnh cần thiết để diễn giải sự đa dạng của các yêu cầu hỗ trợ trong thực tế. Vì vậy, đội ngũ đã quyết định xây dựng một AI agent có khả năng hiểu ngữ cảnh và thích ứng với các dạng truy vấn khác nhau.
Thử nghiệm và lựa chọn giải pháp
Trước khi triển khai toàn diện, đội ngũ của Mobileye đã tiến hành một buổi thử nghiệm (proof of concept – PoC) với mục tiêu đạt độ chính xác 95% trong việc phân loại ticket và thời gian phản hồi dưới 2 phút.
Agent này sử dụng các foundation model của Anthropic Claude, được truy cập thông qua LLM Gateway nội bộ của Mobileye, cung cấp quyền truy cập có quản trị và giới hạn vào các mô hình trên Amazon Bedrock. Yếu tố then chốt là Model Context Protocol (MCP), cho phép agent truy cập real-time vào các API của nền tảng xử lý dữ liệu, giúp nó truy vấn trạng thái, lấy log xử lý và thông tin chẩn đoán trong quá trình inference.
Sau khi PoC thành công, Mobileye cần đưa agent vào vận hành chính thức. Họ đã chọn Amazon Bedrock AgentCore, một nền tảng được quản lý hoàn toàn để xây dựng, kết nối và tối ưu hóa các AI agent ở quy mô lớn. Quyết định này dựa trên năm yếu tố chính:
- Hạ tầng Serverless: Sẵn sàng cho các workload cấp doanh nghiệp.
- Thời gian giải quyết nhanh: Giảm đáng kể thời gian xử lý các yêu cầu hỗ trợ.
- Tích hợp sẵn Observability: Cung cấp khả năng quan sát toàn diện.
- Hỗ trợ nhiều framework: Tương thích với nhiều agentic framework.
- Kiến trúc Hybrid: Dễ dàng tích hợp với hệ thống ticketing on-premises hiện có.
Kiến trúc sản xuất: Cầu nối giữa on-premise và cloud
Sau PoC, Mobileye đã chuyển sang sản xuất với một kiến trúc hybrid phức tạp, phân định rõ vai trò của các thành phần trong hai môi trường on-premises và AWS cloud.
Luồng công việc tự động diễn ra theo quy trình bốn bước:
- Local Orchestrator (bộ điều phối cục bộ) trích xuất các ticket mới và gửi chúng đến AI Support Agent chạy trên AgentCore Runtime.
- AI Support Agent xử lý toàn bộ ticket: phân loại yêu cầu, truy vấn hệ thống sản xuất live thông qua MCP Server để lấy dữ liệu real-time, và truy cập Claude thông qua AI LLM Gateway để tạo ra một phản hồi hoàn chỉnh.
- Local Orchestrator nhận phản hồi đã hoàn thành và đăng lại vào hệ thống Ticketing nội bộ với các bình luận và nhãn phù hợp.
- AgentCore Observability ghi lại hoạt động của agent—chỉ số phiên, latency, lượng token sử dụng và các trace—để giám sát và gỡ lỗi liên tục.
Kết quả ấn tượng và lợi ích chiến lược
Việc triển khai AI Support Agent trên AgentCore đã mang lại những kết quả vượt ngoài mong đợi:
- Tỷ lệ thành công chung: 98% (vượt mục tiêu 95% ban đầu).
- Thời gian phản hồi: Giảm từ vài giờ xuống còn ~1 phút (cải thiện 90%).
- Khối lượng hỗ trợ được tự động hóa: 66% tổng khối lượng ticket.
- Thông lượng hàng tháng: Xử lý hơn 100 ticket.
Lợi ích chiến lược lớn nhất là các kỹ sư hỗ trợ được giải phóng để tập trung vào công việc phức tạp hơn. Đội ngũ cũng không phải tự xây dựng hạ tầng vì AgentCore đã cung cấp sẵn.
“Amazon Bedrock AgentCore đã cho phép chúng tôi xây dựng một AI agent cấp sản xuất, mang lại giá trị kinh doanh có thể đo lường được trong khi vẫn duy trì các tiêu chuẩn bảo mật và vận hành mà doanh nghiệp của chúng tôi yêu cầu. AI Support Agent đã thay đổi hoạt động hỗ trợ của chúng tôi, tiết kiệm hàng trăm giờ cho các kỹ sư và giải phóng họ để tập trung vào những gì họ làm tốt nhất.”
– Shay Margalit, Principal Engineer, Mobileye
Mở rộng tầm nhìn: Từ một agent đến nền tảng cho toàn doanh nghiệp
Với thành công của AI Support Agent, Mobileye đã xây dựng một nền tảng triển khai agent nội bộ. Dịch vụ được quản lý này cho phép các lập trình viên của Mobileye triển khai các AI agent cấp sản xuất mà không cần chuyên môn về AWS hay quyền truy cập vào cloud.
Quá trình triển khai được đơn giản hóa tối đa. Các nhóm chỉ cần cung cấp mã agent và chỉ định các tính năng AgentCore cần thiết. Đội ngũ Cloud Infra sẽ cấp phát toàn bộ hạ tầng cần thiết. Việc triển khai chỉ cần một lệnh duy nhất: agentcore deploy.
Những gì bắt đầu như một PoC đơn lẻ đã phát triển thành một nền tảng toàn doanh nghiệp, nơi các nhóm có thể triển khai các agent an toàn, được giám sát và theo dõi chi phí chỉ trong vài phút thay vì vài tuần. Câu chuyện của Mobileye cho thấy con đường từ quy trình thủ công đến tự động hóa thông minh có thể ngắn hơn chúng ta nghĩ, và kết quả có thể phi thường.
