AWS vừa công bố một giải pháp hiệu quả để số hóa tài liệu quét ở quy mô lớn, giúp doanh nghiệp giảm tới 2/3 chi phí so với các phương pháp truyền thống. Giải pháp này sử dụng một pipeline hai mô hình trên Amazon Bedrock, kết hợp sức mạnh của Amazon Nova 2 Lite cho tác vụ trích xuất và Claude Sonnet 4.6 của Anthropic cho suy luận không gian phức tạp.
Trong một thử nghiệm trên 336 trang kỷ yếu, pipeline này đã tạo ra 3.122 liên kết giữa tên và khuôn mặt với độ tin cậy cao, trong đó 93% đạt điểm tin cậy từ 0.95 trở lên. Cách tiếp cận này không chỉ tối ưu về chi phí mà còn đảm bảo độ chính xác cao, mở ra nhiều ứng dụng thực tiễn cho các doanh nghiệp cần xử lý kho tài liệu lớn.
Tổng quan giải pháp pipeline hai mô hình
Pipeline xử lý tài liệu này bao gồm hai giai đoạn, mỗi giai đoạn sử dụng một mô hình AI chuyên biệt được lựa chọn cho tác vụ cụ thể của nó.
-
Giai đoạn 1: Trích xuất đa phương thức với Amazon Nova 2 Lite. Mô hình này xử lý đầu vào là hình ảnh trang tài liệu quét. Với khả năng hiểu đa phương thức (multimodal) nguyên bản, chỉ cần một lệnh gọi API duy nhất, Nova 2 Lite có thể thực hiện đồng thời nhiều tác vụ: phát hiện và phân loại ảnh với bounding box (khung giới hạn), đọc các tên xuất hiện trên trang và trả về tọa độ tương đối, cùng với việc trích xuất siêu dữ liệu (metadata) của trang.
-
Giai đoạn 2: Suy luận không gian với Claude Sonnet 4.6. Dữ liệu đầu ra từ Nova (tọa độ của tên và ảnh) được chuyển đến Claude. Mô hình này thực hiện suy luận không gian để xác định tên nào tương ứng với khuôn mặt nào, dựa trên bố cục của trang. Khả năng này đặc biệt quan trọng khi xử lý các tài liệu có bố cục không đồng nhất.
Cách tiếp cận này giúp tối ưu hóa chi phí bằng cách chỉ yêu cầu Nova 2 Lite trích xuất các thông tin cần thiết (tên và ảnh) thay vì thực hiện OCR toàn bộ văn bản trên trang, giúp giảm đáng kể lượng token đầu ra.
Tối ưu chi phí với mô hình định giá mới của Nova 2 Lite
Một thay đổi quan trọng trong cách tính phí của Amazon Nova 2 Lite giúp chi phí xử lý tài liệu trở nên dễ dự đoán hơn, đặc biệt khi doanh nghiệp cần xử lý hàng trăm nghìn trang tài liệu.
Định giá cố định trên mỗi hình ảnh: Amazon Nova 2 Lite áp dụng mức giá cố định cho mỗi hình ảnh hoặc trang tài liệu đầu vào, bất kể độ phân giải hay kích thước tệp. Trước đây, chi phí token hình ảnh thay đổi theo độ phân giải, gây khó khăn cho việc dự toán ngân sách. Với mô hình định giá mới, chi phí đầu vào hình ảnh tăng tuyến tính với số lượng trang, giúp việc lập kế hoạch tài chính cho các dự án lớn trở nên đơn giản và minh bạch.
Nâng cao độ chính xác với “Adaptive Thinking” của Claude
Claude trên Amazon Bedrock hỗ trợ adaptive thinking (tư duy thích ứng), một tính năng cho phép mô hình tự quyết định mức độ suy luận nội bộ cần thiết dựa trên độ phức tạp của đầu vào. Doanh nghiệp có thể kích hoạt tính năng này trong cấu hình API.
Khi được bật, Claude sẽ tự động điều chỉnh độ sâu suy luận. Với một trang có bố cục đơn giản (ví dụ: lưới chân dung với tên đặt ngay ngắn bên dưới), mô hình sẽ đưa ra câu trả lời trực tiếp với ít suy luận. Ngược lại, với một trang phức tạp có nhiều ảnh nhóm và chú thích chung, mô hình sẽ kích hoạt phân tích không gian từng bước để đảm bảo kết quả chính xác.
Tính năng này giúp đạt được độ chính xác cao trên nhiều loại bố cục khác nhau mà không cần kỹ sư phải tinh chỉnh prompt cho từng trường hợp, tiết kiệm thời gian và công sức đáng kể. Tuy nhiên, doanh nghiệp cần lưu ý rằng các token suy luận được tính vào chi phí token đầu ra, do đó cần theo dõi để quản lý ngân sách hiệu quả.
Kết quả thực tế và phân tích chi phí
AWS đã xử lý 336 trang kỷ yếu quét qua pipeline này và thu được kết quả ấn tượng:
- Tổng cộng 3.122 liên kết tên-với-khuôn mặt được tạo ra.
- 93,3% trong số đó đạt điểm tin cậy từ 0.95 trở lên (mức tin cậy cao).
- Chỉ 0,3% có điểm tin cậy dưới 0.90.
So sánh chi phí
Việc phân chia tác vụ giữa hai mô hình giúp giảm chi phí đáng kể so với việc sử dụng một mô hình duy nhất (ví dụ: Claude) để thực hiện tất cả công việc (OCR, phát hiện ảnh, và khớp nối không gian). Bảng dưới đây so sánh chi phí ước tính trên mỗi trang:
| Phương pháp | Chi phí ước tính mỗi trang | Chi phí cho 100.000 trang |
|---|---|---|
| Pipeline 2 mô hình (Nova + Claude) | ~$0.033 | ~$3,300 |
| Pipeline 1 mô hình (chỉ Claude) | ~$0.098 | ~$9,800 |
Như vậy, với khối lượng 100.000 trang, doanh nghiệp có thể tiết kiệm khoảng 6.500 USD. Ngoài ra, kiến trúc này còn cho phép nâng cấp hoặc tinh chỉnh từng giai đoạn một cách độc lập mà không ảnh hưởng đến phần còn lại.
Các doanh nghiệp có thể tối ưu chi phí hơn nữa bằng cách sử dụng Amazon Bedrock batch inference (giảm 50% chi phí cho các tác vụ không cần thời gian thực) và prompt caching (giảm tới 90% chi phí token cho các prompt lặp lại).
Ứng dụng cho doanh nghiệp
Mô hình pipeline này không chỉ giới hạn ở việc xử lý kỷ yếu. Nó có thể được áp dụng cho bất kỳ loại tài liệu nào chứa hình ảnh và văn bản liên quan, chẳng hạn như:
- Kho lưu trữ tài liệu lịch sử
- Danh bạ nhân sự
- Hồ sơ bất động sản
- Danh mục sản phẩm
Bằng cách kết hợp khả năng trích xuất hiệu quả của Nova 2 Lite và năng lực suy luận không gian của Claude Sonnet 4.6, doanh nghiệp có thể xây dựng các giải pháp số hóa tài liệu vừa chính xác, vừa tiết kiệm chi phí trên nền tảng AWS. Toàn bộ mã nguồn và ví dụ có sẵn trên kho lưu trữ AWS Samples trên GitHub.
