Jefferies, một ngân hàng đầu tư toàn cầu, đã hợp tác cùng AWS để triển khai một trợ lý AI tác tử (agentic AI), giúp các nhà giao dịch (trader) tại bộ phận giao dịch trực tiếp tối ưu hóa hoạt động. Giải pháp này cho phép trader truy vấn và phân tích hàng triệu dòng dữ liệu bằng ngôn ngữ tự nhiên, nhận về thông tin chi tiết theo thời gian thực mà không cần biết lập trình. Điều này giúp tăng hiệu suất đáng kể và cho phép họ ra quyết định nhanh chóng hơn dựa trên dữ liệu.
Thách thức trong vận hành giao dịch tài chính
Đối với các bộ phận giao dịch trực tiếp tại các ngân hàng đầu tư, thách thức lớn nhất là nhu cầu khai thác thông tin chi tiết theo thời gian thực từ khối lượng dữ liệu khổng lồ về hành vi khách hàng, mô hình giao dịch và xu hướng thị trường để đưa ra quyết định trong tích tắc. Tuy nhiên, các trader thường không có thời gian hoặc kỹ năng lập trình để xây dựng và duy trì các hệ thống có khả năng cung cấp những thông tin đó.
Với hàng triệu dòng dữ liệu nằm rải rác trên nhiều công cụ trực quan hóa, việc có được một cái nhìn toàn diện là rất khó khăn. Các phương pháp truyền thống buộc trader phải dựa vào các chuyên gia để phân tích và phối hợp với đội ngũ IT để xây dựng các dashboard tùy chỉnh, một quy trình có thể mất nhiều ngày hoặc nhiều tuần. Kết quả là tạo ra một khoảng cách ngày càng lớn giữa dữ liệu sẵn có và các quyết định cần được đưa ra.
Nhận thấy thách thức này, Jefferies đã ứng dụng AI tác tử để tối ưu hóa hoạt động của các bộ phận giao dịch cổ phiếu. Bằng cách xây dựng một trợ lý giao dịch AI trên nền tảng AWS, Jefferies đặt mục tiêu trao quyền phân tích dữ liệu thời gian thực trực tiếp vào tay các trader mà không yêu cầu lập trình, không phải chờ đợi IT và không ảnh hưởng đến độ chính xác.
Tổng quan giải pháp Trợ lý Giao dịch AI
Giải pháp này được xây dựng dựa trên Strands Agents, một SDK mã nguồn mở để xây dựng các agent AI có khả năng suy luận, lập kế hoạch và hành động bằng cách điều phối các lệnh gọi đến các mô hình nền tảng (foundation models) và công cụ bên ngoài. Giải pháp sử dụng các mô hình ngôn ngữ lớn (LLM) trên Amazon Bedrock và Amazon Bedrock Knowledge Bases. Nó cũng sử dụng Model Context Protocol (MCP), một tiêu chuẩn mở giúp các agent AI kết nối an toàn với các nguồn dữ liệu và công cụ đa dạng thông qua một giao diện hợp nhất.
Trợ lý giao dịch này đại diện cho một sự thay đổi trong cách các trader cổ phiếu tương tác với dữ liệu. Cốt lõi của giải pháp là một agent chuyên biệt cho lĩnh vực tài chính, có khả năng trò chuyện với trader thông qua ngôn ngữ tự nhiên. Một bộ công cụ MCP cho phép agent kết nối với các nguồn dữ liệu, bao gồm kho dữ liệu giao dịch, tệp tin nhắn FIX (Financial Information Exchange) và cơ sở dữ liệu trong bộ nhớ (in-memory database).
Khi một trader gửi một câu hỏi, Amazon Bedrock sẽ gọi một LLM (Anthropic Claude) để diễn giải ý định, tạo ra câu lệnh SQL tương ứng và chạy nó trên các nguồn dữ liệu để trả về kết quả. Giao diện đối thoại cho phép các trader đi sâu vào các chủ đề và khám phá dữ liệu một cách tự nhiên, đồng thời duy trì ngữ cảnh cuộc trò chuyện để cung cấp thông tin chi tiết và đề xuất phù hợp trong suốt phiên làm việc.
Cách thức hoạt động của giải pháp
Giải pháp tích hợp với cơ sở hạ tầng giao dịch hiện có của Jefferies thông qua một quy trình tám bước được mô tả trong sơ đồ kiến trúc dưới đây. Về mặt bảo mật, giải pháp sử dụng Amazon Bedrock Guardrails để kiểm duyệt nội dung, lọc thông tin nhận dạng cá nhân (PII) và áp dụng quyền truy cập dữ liệu cấp hàng (row-level) để ngăn chặn truy cập trái phép.
- UI Widget: Trader tương tác với Trợ lý Giao dịch thông qua một widget được nhúng trong hệ thống Business Intelligence (BI) nội bộ của Jefferies.
- Dịch vụ xác thực: Sử dụng Amazon Elastic Kubernetes Service (Amazon EKS), dịch vụ này xác minh chỉ những trader được phép mới có thể truy cập dữ liệu giao dịch nhạy cảm.
- Bot Service: Xây dựng và quản lý phiên làm việc của người dùng, duy trì ngữ cảnh qua nhiều câu hỏi.
- Query Agent (Strands): Lớp điều phối thông minh của giải pháp. Khi nhận câu hỏi, agent truy vấn Amazon Bedrock Knowledge Bases để lấy ngữ cảnh về schema cơ sở dữ liệu, sau đó dùng mô hình Claude Sonnet để suy luận và tạo ra câu lệnh SQL chính xác.
- Amazon Bedrock: Cung cấp cho Query Agent quyền truy cập vào LLM để lập kế hoạch và thực thi các bước. Nền tảng này cũng mang lại sự linh hoạt để lựa chọn các LLM khác nhau trong tương lai.
- Amazon Bedrock Knowledge Bases: Cung cấp một pipeline RAG (Retrieval Augmented Generation) được quản lý để lưu trữ siêu dữ liệu của mô hình dữ liệu (schema bảng, định nghĩa cột, mẫu truy vấn).
- Query Executor: Thực thi câu lệnh SQL trên nguồn dữ liệu phù hợp sau khi Query Agent đã xác định. Nó cũng chèn các bộ lọc SQL để cung cấp bảo mật cấp hàng.
- Kho dữ liệu: Các nguồn dữ liệu thực tế được truy vấn, bao gồm cơ sở dữ liệu in-memory, SQL và các tệp tin nhắn FIX.
Xử lý dữ liệu đa nguồn
Kiến trúc dựa trên công cụ MCP mang lại ba lợi thế chính: khả năng mở rộng (dễ dàng thêm nguồn dữ liệu mới), tách biệt các mối quan tâm (dễ bảo trì và kiểm thử), và tính linh hoạt (agent tự động chọn công cụ phù hợp cho từng truy vấn).
Giải pháp cung cấp trải nghiệm người dùng trực quan. Một trader có thể gõ một câu hỏi như “Cho tôi xem phân tích ngành cho các giao dịch ở Mỹ.” Phía sau, trợ lý sử dụng LLM để tạo truy vấn SQL, chạy nó trên lưới dữ liệu in-memory và trả về kết quả ngay lập tức. Trợ lý còn có thể tạo ra các biểu đồ trực quan hóa động, chẳng hạn như biểu đồ tròn so sánh hoạt động giao dịch theo ngành giữa hôm nay và hôm qua, giúp dễ dàng phát hiện các xu hướng và bất thường.
Các bài học kinh nghiệm
Trong quá trình triển khai, đội ngũ Jefferies đã rút ra một số bài học quan trọng:
- Giảm thiểu hiện tượng ảo giác (hallucination): Nhóm đã áp dụng phương pháp hybrid, trong đó LLM xử lý việc hiểu ngôn ngữ tự nhiên và tạo truy vấn, trong khi các công cụ trực quan hóa chuyên dụng sẽ render biểu đồ. Điều này đảm bảo tính chính xác của dữ liệu.
- Tối đa hóa tốc độ phản hồi: Việc sử dụng cơ sở dữ liệu in-memory là lựa chọn kiến trúc quan trọng để giảm độ trễ, đáp ứng yêu cầu thông tin chi tiết trong tích tắc của các trader.
- Hành vi người dùng sẽ phát triển: Thực tế cho thấy các trader tương tác với hệ thống theo những cách không ngờ tới. Việc đầu tư vào khả năng quan sát (observability) và các vòng lặp phản hồi từ người dùng là rất cần thiết để thích ứng nhanh chóng.
- Chiến lược ngôn ngữ lập trình có chủ đích: Nhóm đã sử dụng Python cho các tương tác với LLM và thử nghiệm nhanh, đồng thời triển khai các xử lý nghiệp vụ phức tạp bằng Java để tận dụng hiệu năng xử lý dữ liệu thông lượng cao.
Tác động kinh doanh và lộ trình tương lai
Kể từ khi ra mắt, giải pháp trợ lý giao dịch đã mang lại hiệu quả đo lường được, cho phép các trader dành nhiều thời gian hơn cho mối quan hệ với khách hàng và ra quyết định chiến lược thay vì xử lý dữ liệu thủ công. Giải pháp cũng giảm đáng kể thời gian và công sức của bộ phận IT, giải phóng họ để tập trung vào các sáng kiến chiến lược có giá trị cao hơn.
Đáng chú ý nhất, khả năng truy vấn an toàn hàng triệu dòng dữ liệu giao dịch bằng ngôn ngữ tự nhiên đã dân chủ hóa quyền truy cập dữ liệu, thúc đẩy văn hóa ra quyết định dựa trên phân tích thời gian thực thay vì trực giác hay các báo cáo có độ trễ.
Jefferies có kế hoạch triển khai Trợ lý Giao dịch trên toàn cầu cho nhiều loại sản phẩm và bộ phận khác nhau, tăng cường khả năng kiểm toán và bổ sung các tính năng Amazon Bedrock AgentCore. Những khoản đầu tư này cho thấy cam kết mở rộng các khả năng do AI cung cấp trên toàn tổ chức, định vị Jefferies ở vị trí tiên phong trong đổi mới giao dịch dựa trên AI.
