Flo Health, ứng dụng chăm sóc sức khỏe phụ nữ, đã xây dựng thành công hệ thống AI trên nền tảng Amazon Bedrock, giúp giảm 60% thời gian duyệt và tăng gấp ba lần sản lượng nội dung mà không cần mở rộng đội ngũ y tế. Giải pháp này chuyển đổi một bằng chứng khái niệm (PoC) thành một hệ thống sản xuất hoàn chỉnh, hoạt động như một trợ lý AI đắc lực cho các chuyên gia, đảm bảo tính chính xác và an toàn cho hàng triệu người dùng.
Thách thức trong việc mở rộng quy mô duyệt nội dung y tế
Tại Flo Health, việc tạo ra các nội dung đa dạng từ bài viết, câu chuyện trong ứng dụng đến tài liệu marketing đều phải tuân thủ các tiêu chuẩn chính xác y khoa nghiêm ngặt. Mặc dù AI đã giúp tăng tốc quá trình sáng tạo cho biên tập viên và nhà thiết kế, khâu duyệt nội dung y tế vẫn là một nút thắt cổ chai nghiêm trọng.
Trung bình, các chuyên gia y tế của Flo Health mất bảy ngày làm việc cho mỗi bài viết để xác minh thông tin, kiểm tra nguồn tham khảo và đảm bảo tuân thủ danh sách 10 điểm về độ chính xác y khoa. Quy trình kỹ lưỡng này, dù cần thiết, lại hạn chế khả năng mở rộng sản xuất nội dung.
Việc mở rộng đội ngũ chuyên gia y tế cũng gặp nhiều khó khăn: nhân sự có chuyên môn và kinh nghiệm về nội dung rất khan hiếm, quá trình tuyển dụng tốn kém và không bền vững về mặt kinh tế. Hơn nữa, các công cụ AI thông thường có nguy cơ tạo ra thông tin sai lệch không có cơ sở, thường được gọi là hiện tượng hallucination (ảo giác), điều không thể chấp nhận được trong lĩnh vực y tế.
Xây dựng hệ thống “AI Judge” chuyên biệt trên Amazon Bedrock
Để giải quyết thách thức, Flo Health đã triển khai một hệ thống xác thực ba lớp. Đầu tiên, hệ thống kiểm tra nội dung dựa trên các hướng dẫn y tế nội bộ. Tiếp theo, nó xác thực thông tin với các nguồn y tế uy tín bên ngoài. Cuối cùng, các chuyên gia y tế sẽ xem xét nội dung đã được AI chú thích.
Điểm cốt lõi của giải pháp là một bộ các “AI Judge” (giám khảo AI), mỗi “judge” là một mô hình LLM được tùy chỉnh với prompt riêng để tập trung vào một khía cạnh cụ thể: độ chính xác y khoa, tuân thủ pháp lý, văn phong thương hiệu, v.v.
Flo Health đã thử nghiệm từng “AI Judge” với các mô hình khác nhau và chọn ra mô hình phù hợp nhất dựa trên các tiêu chí về chất lượng, mức độ rủi ro, độ trễ và chi phí vận hành. Ví dụ, các tác vụ kiểm tra an toàn y tế ưu tiên độ chính xác, trong khi các tác vụ rủi ro thấp hơn có thể sử dụng mô hình nhẹ hơn để tối ưu chi phí. Cách tiếp cận này cho phép cải tiến từng “judge” một cách độc lập mà không gây ảnh hưởng đến các thành phần khác.
Tích hợp AI vào quy trình: Con người vẫn là trung tâm
Thay vì thay thế hoàn toàn, chiến lược của Flo Health là tăng cường năng lực cho các chuyên gia. Công cụ AI Review được tích hợp trực tiếp vào giao diện của Contentful CMS mà đội ngũ đang sử dụng.
Khi một đoạn nội dung được đưa vào, các “AI Judge” sẽ phân tích và đưa ra các đề xuất cải thiện. Những đề xuất này được hiển thị rõ ràng, làm nổi bật các thay đổi để biên tập viên và chuyên gia y tế có thể xem xét, lựa chọn phiên bản phù hợp hoặc giữ lại bản gốc. Con người vẫn là người ra quyết định cuối cùng, trong khi AI đóng vai trò như một trợ lý chuyên gia.
Pipeline xử lý
Toàn bộ các giai đoạn của AI Review được kết nối thành một luồng xử lý tự động. Kết quả của mỗi bước được tải ngay khi sẵn sàng, giúp người dùng không phải chờ đợi lâu và có thể bắt đầu xem xét ngay lập tức.
Tự động hóa tạo nội dung với RAG và kiến trúc đa tầng
Bên cạnh việc duyệt nội dung, Flo Health còn ứng dụng Amazon Bedrock để tăng tốc quá trình tạo nội dung mới. Pipeline tạo nội dung sử dụng phương pháp prompting chain-of-thought (chuỗi tư duy), chia tác vụ thành nhiều giai đoạn nhỏ.
Một tối ưu hóa quan trọng là sử dụng các mô hình AI khác nhau cho các công việc khác nhau. Mô hình Claude Haiku nhanh và chi phí thấp được dùng cho các tác vụ phân loại đơn giản. Trong khi đó, các mô hình mạnh hơn như Claude Sonnet được dùng cho các tác vụ phức tạp như soạn thảo giải thích y khoa chi tiết.
Để đảm bảo nội dung luôn dựa trên kiến thức y khoa tin cậy, Flo Health đã áp dụng kỹ thuật RAG (Retrieval Augmented Generation) – một phương pháp giúp AI truy xuất và sử dụng thông tin từ một cơ sở tri thức có sẵn. Cơ sở tri thức này bao gồm các hướng dẫn nội bộ, quy tắc, mẫu nội dung và cả các nguồn y tế của bên thứ ba như tạp chí khoa học và ấn phẩm của các cơ quan quản lý. Hệ thống sẽ lưu lại danh sách các nguồn đã sử dụng để chuyên gia y tế có thể dễ dàng xác minh.
Kiến trúc hệ thống
Kiến trúc tổng thể được xây dựng trên các dịch vụ của AWS. Người dùng khởi tạo yêu cầu từ ứng dụng Contentful. Yêu cầu này được chuyển qua Amazon API Gateway đến AWS Step Functions, dịch vụ điều phối toàn bộ pipeline.
Pipeline bao gồm 3 bước chính do các hàm AWS Lambda thực thi:
- Truy xuất RAG: Hệ thống tìm kiếm thông tin y tế liên quan từ cơ sở tri thức trên Amazon S3 bằng cách sử dụng Amazon Bedrock.
- Tạo nội dung: Các mô hình Claude trên Bedrock tạo ra nội dung theo từng bước, sử dụng các mẫu có sẵn trên S3.
- Xác thực: Nội dung được tạo ra sẽ được kiểm tra lại về độ chính xác y khoa và tuân thủ thương hiệu bằng Amazon Bedrock. Amazon DynamoDB được sử dụng để quản lý trạng thái và metadata trong suốt quá trình.
Bài học kinh nghiệm và kết quả thực tiễn
Quá trình triển khai đã mang lại nhiều bài học quý giá cho đội ngũ kỹ sư của Flo Health:
- Ví dụ tốt hơn quy tắc: Thay vì chỉ đưa ra các quy tắc, việc cung cấp các ví dụ cụ thể (few-shot examples) giúp mô hình AI hiểu rõ yêu cầu và giảm đáng kể lỗi.
- AI là trợ lý thông minh, không phải sự thay thế: Chiến lược sản xuất tập trung vào việc tăng cường, chứ không phải thay thế, chuyên môn của con người ở các giai đoạn quan trọng.
- Vòng lặp phản hồi có cấu trúc: Bằng cách ghi lại mọi chỉnh sửa của chuyên gia thành các quy tắc và ví dụ có thể tái sử dụng, hệ thống trở nên thông minh hơn sau mỗi chu kỳ duyệt. Cách tiếp cận này đã giảm hơn 70% các lỗi lặp lại.
Nhờ hệ thống này, Flo Health đã giảm 60% thời gian duyệt trung bình cho mỗi nội dung, giảm 80% các chỉnh sửa tuân thủ thông thường, và quan trọng nhất là tăng gấp ba lần sản lượng nội dung mà không cần mở rộng đội ngũ y tế. Đối với các doanh nghiệp đang xem xét triển khai các giải pháp tương tự, Flo Health khuyến nghị nên bắt đầu với các tiêu chuẩn rõ ràng, thiết kế cho việc học hỏi liên tục, và tập trung vào trải nghiệm người dùng để xây dựng lòng tin.
