Elastic Load Balancing

Author: Nguyễn Đức Hùng

Lợi ích của cân bằng tải

Bộ cân bằng tải phân phối khối lượng công việc trên nhiều tài nguyên máy tính, chẳng hạn như máy chủ ảo. Sử dụng bộ cân bằng tải làm tăng tính khả dụng và khả năng chịu lỗi của các ứng dụng của bạn.

Bạn có thể thêm và xóa tài nguyên máy tính khỏi bộ cân bằng tải khi nhu cầu của bạn thay đổi mà không làm gián đoạn luồng yêu cầu tổng thể đến các ứng dụng của bạn.

Bạn có thể định cấu hình kiểm tra tình trạng, theo dõi tình trạng của tài nguyên máy tính, để bộ cân bằng tải chỉ gửi yêu cầu đến những tài nguyên lành mạnh. Bạn cũng có thể giảm tải công việc mã hóa và giải mã cho bộ cân bằng tải để các tài nguyên máy tính của bạn có thể tập trung vào công việc chính của chúng.

Các tính năng của Cân bằng tải đàn hồi

Cân bằng tải đàn hồi hỗ bao gồm các bộ cân bằng tải sau: Bộ cân bằng tải ứng dụng, Bộ cân bằng tải mạng, Bộ cân bằng tải Gateway và Bộ cân bằng tải cổ điển. Bạn có thể lựa chọn loại cân bằng tải phù hợp nhất với nhu cầu của mình.

 

Tổng quan về Cân bằng tải cổ điển

Bộ cân bằng tải phân phối lưu lượng ứng dụng đến trên nhiều phiên bản EC2 trong nhiều Vùng khả dụng. Điều này làm tăng khả năng chịu lỗi của các ứng dụng của bạn. Cân bằng tải đàn hồi phát hiện các trường hợp không hoạt động và chỉ định tuyến lưu lượng truy cập đến các trường hợp hoạt động.

Bộ cân bằng tải của bạn đóng vai trò là một đầu mối liên hệ duy nhất cho khách hàng. Điều này làm tăng tính khả dụng của ứng dụng của bạn. Bạn có thể thêm và xóa các phiên bản khỏi bộ cân bằng tải khi nhu cầu của bạn thay đổi mà không làm gián đoạn luồng yêu cầu tổng thể đối với ứng dụng của bạn. Cân bằng tải đàn hồi cân bằng bộ cân bằng tải của bạn khi lưu lượng truy cập vào ứng dụng của bạn thay đổi theo thời gian. Cân bằng tải đàn hồi có thể tự động mở rộng đến phần lớn khối lượng công việc.

Trình lắng nghe kiểm tra các yêu cầu kết nối từ máy khách, sử dụng giao thức và cổng mà bạn định cấu hình và chuyển tiếp yêu cầu đến một hoặc nhiều phiên bản đã đăng ký bằng giao thức và số cổng mà bạn định cấu hình. Bạn thêm một hoặc nhiều người nghe vào bộ cân bằng tải của mình.

Bạn có thể định cấu hình kiểm tra sức khỏe , được sử dụng để theo dõi tình trạng của các phiên bản đã đăng ký để bộ cân bằng tải chỉ gửi yêu cầu đến các phiên bản đang hoạt động.



                    Bộ cân bằng tải định tuyến lưu lượng truy cập từ máy khách đến các phiên bản EC2 của bạn.

 

Để đảm bảo rằng các phiên bản đã đăng ký của bạn có thể xử lý tải yêu cầu trong mỗi Vùng khả dụng, điều quan trọng là phải giữ số lượng các phiên bản trong mỗi Vùng khả dụng được đăng ký với bộ cân bằng tải là điều quan trọng. Ví dụ: nếu bạn có mười phiên bản trong Vùng khả dụng us-west-2a và hai phiên bản ở us-west-2b, các yêu cầu được phân bổ đồng đều giữa hai Vùng khả dụng. Do đó, hai trường hợp ở us-west-2b phục vụ cùng một lượng lưu lượng truy cập như mười trường hợp ở us-west-2a. Thay vào đó, bạn nên có sáu phiên bản trong mỗi Vùng khả dụng.

Theo mặc định, bộ cân bằng tải phân phối đồng đều lưu lượng truy cập trên các Vùng khả dụng mà bạn bật cho bộ cân bằng tải của mình. Để phân phối đồng đều lưu lượng truy cập trên tất cả các phiên bản đã đăng ký trong tất cả các Vùng khả dụng được bật, hãy bật cân bằng tải giữa các vùng trên bộ cân bằng tải của bạn. Tuy nhiên, chúng tôi vẫn khuyên bạn nên duy trì số lượng phiên bản xấp xỉ tương đương trong mỗi Vùng khả dụng để có khả năng chịu lỗi tốt hơn.

 

Tổng quan về Cân bằng tải mạng

Chức năng Cân bằng tải mạng ở lớp thứ tư của mô hình Kết nối Hệ thống Mở (OSI). Nó có thể xử lý hàng triệu yêu cầu mỗi giây. Sau khi bộ cân bằng tải nhận được yêu cầu kết nối, nó sẽ chọn một mục tiêu từ nhóm mục tiêu cho quy tắc mặc định. Nó cố gắng mở một kết nối TCP tới đích đã chọn trên cổng được chỉ định trong cấu hình trình nghe.

Khi bạn bật Vùng khả dụng cho bộ cân bằng tải, Cân bằng tải đàn hồi sẽ tạo một nút cân bằng tải trong Vùng khả dụng. Theo mặc định, mỗi nút cân bằng tải chỉ phân phối lưu lượng truy cập trên các mục tiêu đã đăng ký trong Vùng khả dụng của nó. Nếu bạn bật cân bằng tải vùng chéo, mỗi nút cân bằng tải sẽ phân phối lưu lượng truy cập trên các mục tiêu đã đăng ký trong tất cả các Vùng khả dụng được bật.

Nếu bạn bật nhiều Vùng sẵn sàng cho bộ cân bằng tải của mình và đảm bảo rằng mỗi nhóm đối tượng có ít nhất một mục tiêu trong mỗi Vùng sẵn sàng được bật, điều này sẽ tăng khả năng chịu lỗi cho các ứng dụng của bạn. Ví dụ: nếu một hoặc nhiều nhóm mục tiêu không có mục tiêu phù hợp trong Vùng khả dụng, chúng tôi xóa địa chỉ IP cho mạng con tương ứng khỏi DNS, nhưng các nút cân bằng tải trong Vùng khả dụng khác vẫn có sẵn để định tuyến lưu lượng truy cập. Nếu một ứng dụng khách không tuân theo thời gian tồn tại (TTL) và gửi yêu cầu đến địa chỉ IP sau khi nó bị xóa khỏi DNS, các yêu cầu sẽ không thành công.

Đối với lưu lượng TCP, bộ cân bằng tải chọn mục tiêu bằng cách sử dụng thuật toán băm luồng dựa trên giao thức, địa chỉ IP nguồn, cổng nguồn, địa chỉ IP đích, cổng đích và số thứ tự TCP. Các kết nối TCP từ một máy khách có các cổng nguồn và số thứ tự khác nhau, và có thể được định tuyến đến các mục tiêu khác nhau. Mỗi kết nối TCP riêng lẻ được định tuyến đến một mục tiêu duy nhất trong thời gian tồn tại của kết nối.

Đối với lưu lượng UDP, bộ cân bằng tải chọn mục tiêu bằng cách sử dụng thuật toán băm luồng dựa trên giao thức, địa chỉ IP nguồn, cổng nguồn, địa chỉ IP đích và cổng đích. Luồng UDP có cùng nguồn và đích, vì vậy nó được định tuyến nhất quán đến một mục tiêu trong suốt thời gian tồn tại của nó. Các luồng UDP khác nhau có địa chỉ IP nguồn và cổng khác nhau, vì vậy chúng có thể được định tuyến đến các mục tiêu khác nhau.

Cân bằng tải đàn hồi tạo ra một giao diện mạng cho từng Vùng khả dụng mà bạn bật. Mỗi nút cân bằng tải trong Vùng sẵn sàng sử dụng giao diện mạng này để lấy địa chỉ IP tĩnh. Khi bạn tạo bộ cân bằng tải giao diện Internet, bạn có thể tùy chọn kết hợp một địa chỉ IP đàn hồi cho mỗi mạng con.

Khi bạn tạo một nhóm mục tiêu, bạn chỉ định loại mục tiêu của nó, xác định xem bạn có đăng ký mục tiêu theo ID phiên bản hay địa chỉ IP hay không. Nếu bạn đăng ký mục tiêu theo ID phiên bản, địa chỉ IP nguồn của các máy khách sẽ được giữ nguyên và cung cấp cho các ứng dụng của bạn. Nếu bạn đăng ký mục tiêu theo địa chỉ IP, thì địa chỉ IP nguồn là địa chỉ IP riêng của các nút cân bằng tải.

Bạn có thể thêm và xóa mục tiêu khỏi bộ cân bằng tải khi nhu cầu của bạn thay đổi mà không làm gián đoạn luồng yêu cầu tổng thể đến ứng dụng của bạn. Cân bằng tải đàn hồi cân bằng bộ cân bằng tải của bạn khi lưu lượng truy cập vào ứng dụng của bạn thay đổi theo thời gian. Cân bằng tải đàn hồi có thể tự động mở rộng đến phần lớn khối lượng công việc.

Bạn có thể định cấu hình kiểm tra sức khỏe, được sử dụng để theo dõi tình trạng của các mục tiêu đã đăng ký để bộ cân bằng tải chỉ có thể gửi yêu cầu đến các mục tiêu khỏe mạnh.

Các thành phần của Bộ cân bằng tải mạng

Bộ cân bằng tải đóng vai trò là điểm liên lạc duy nhất cho các khách hàng. Bộ cân bằng tải phân phối lưu lượng truy cập đến trên nhiều mục tiêu, chẳng hạn như các phiên bản Amazon EC2. Điều này làm tăng tính khả dụng của ứng dụng của bạn. Bạn thêm một hoặc nhiều người nghe vào bộ cân bằng tải của mình.

Trình lắng nghe kiểm tra các yêu cầu kết nối từ các máy khách, sử dụng giao thức và cổng mà bạn định cấu hình và chuyển tiếp các yêu cầu đến một nhóm mục tiêu.

Mỗi nhóm mục tiêu định tuyến các yêu cầu đến một hoặc nhiều mục tiêu đã đăng ký, chẳng hạn như phiên bản EC2, sử dụng giao thức TCP và số cổng mà bạn chỉ định. Bạn có thể đăng ký một mục tiêu với nhiều nhóm mục tiêu. Bạn có thể định cấu hình kiểm tra sức khỏe trên cơ sở từng nhóm đối tượng. Kiểm tra tình trạng được thực hiện trên tất cả các mục tiêu đã đăng ký cho một nhóm mục tiêu được chỉ định trong quy tắc lắng nghe cho bộ cân bằng tải của bạn.

Lợi ích của việc di chuyển từ Bộ cân bằng tải cổ điển

Sử dụng Bộ cân bằng tải mạng thay vì Bộ cân bằng tải cổ điển có những lợi ích sau:

  • Khả năng xử lý khối lượng công việc dễ bay hơi và mở rộng đến hàng triệu yêu cầu mỗi giây.

  • Hỗ trợ địa chỉ IP tĩnh cho bộ cân bằng tải. Bạn cũng có thể chỉ định một địa chỉ IP đàn hồi cho mỗi mạng con được kích hoạt cho bộ cân bằng tải.

  • Hỗ trợ đăng ký mục tiêu theo địa chỉ IP, bao gồm mục tiêu bên ngoài VPC cho bộ cân bằng tải.

  • Hỗ trợ định tuyến các yêu cầu đến nhiều ứng dụng trên một phiên bản EC2. Bạn có thể đăng ký từng phiên bản hoặc địa chỉ IP với cùng một nhóm mục tiêu bằng cách sử dụng nhiều cổng.

  • Hỗ trợ cho các ứng dụng được đóng gói. Amazon Elastic Container Service (Amazon ECS) có thể chọn một cổng không sử dụng khi lên lịch tác vụ và đăng ký tác vụ với nhóm mục tiêu bằng cách sử dụng cổng này. Điều này cho phép bạn sử dụng hiệu quả các cụm của mình.

  • Hỗ trợ theo dõi tình trạng của từng dịch vụ một cách độc lập, vì kiểm tra sức khỏe được xác định ở cấp nhóm mục tiêu và nhiều chỉ số Amazon CloudWatch được báo cáo ở cấp nhóm mục tiêu. Việc gắn một nhóm mục tiêu vào một nhóm Tự động mở rộng quy mô cho phép bạn mở rộng quy mô động từng dịch vụ dựa trên nhu cầu.

 

Tổng quan về Cân bằng tải ứng dụng

Bộ cân bằng tải ứng dụng hoạt động ở lớp ứng dụng, lớp thứ bảy của mô hình Kết nối Hệ thống Mở (OSI). Sau khi bộ cân bằng tải nhận được một yêu cầu, nó sẽ đánh giá các quy tắc của trình xử lý theo thứ tự ưu tiên để xác định quy tắc nào sẽ áp dụng và sau đó chọn một mục tiêu từ nhóm mục tiêu cho hành động quy tắc. Bạn có thể cấu hình quy tắc lắng nghe để định tuyến các yêu cầu đến các nhóm mục tiêu khác nhau dựa trên nội dung của lưu lượng ứng dụng. Định tuyến được thực hiện độc lập cho từng nhóm đối tượng, ngay cả khi một mục tiêu được đăng ký với nhiều nhóm đối tượng. Bạn có thể định cấu hình thuật toán định tuyến được sử dụng ở cấp nhóm mục tiêu. Thuật toán định tuyến mặc định là round robin; cách khác, bạn có thể chỉ định thuật toán định tuyến các yêu cầu ít tồn tại nhất.

Bạn có thể thêm và xóa mục tiêu khỏi bộ cân bằng tải khi nhu cầu của bạn thay đổi mà không làm gián đoạn luồng yêu cầu tổng thể đến ứng dụng của bạn. Cân bằng tải ứng dụng sẽ cân bằng lưu lượng truy cập vào ứng dụng của bạn thay đổi theo thời gian. Cân bằng tải ứng dụng có thể mở rộng đến phần lớn khối lượng công việc một cách tự động.

Bạn có thể định cấu hình kiểm tra sức khỏe, được sử dụng để theo dõi tình trạng của các mục tiêu đã đăng ký để bộ cân bằng tải chỉ có thể gửi yêu cầu đến các mục tiêu khỏe mạnh.

Các thành phần của Bộ cân bằng tải ứng dụng

Bộ cân bằng tải đóng vai trò là điểm liên lạc duy nhất cho các khách hàng. Bộ cân bằng tải phân phối lưu lượng ứng dụng đến trên nhiều mục tiêu, chẳng hạn như phiên bản EC2, trong nhiều Vùng khả dụng. Điều này làm tăng tính khả dụng của ứng dụng của bạn. Bạn thêm một hoặc nhiều người nghe vào bộ cân bằng tải của mình.

Trình lắng nghe kiểm tra các yêu cầu kết nối từ máy khách, sử dụng giao thức và cổng mà bạn định cấu hình. Các quy tắc mà bạn xác định cho trình lắng nghe xác định cách bộ cân bằng tải định tuyến các yêu cầu đến các mục tiêu đã đăng ký của nó. Mỗi quy tắc bao gồm một mức độ ưu tiên, một hoặc nhiều hành động và một hoặc nhiều điều kiện. Khi các điều kiện cho một quy tắc được đáp ứng, thì các hành động của quy tắc đó sẽ được thực hiện. Bạn phải xác định một quy tắc mặc định cho mỗi người nghe và bạn có thể tùy ý xác định các quy tắc bổ sung.

Mỗi nhóm mục tiêu định tuyến các yêu cầu đến một hoặc nhiều mục tiêu đã đăng ký, chẳng hạn như các phiên bản EC2, sử dụng giao thức và số cổng mà bạn chỉ định. Bạn có thể đăng ký một mục tiêu với nhiều nhóm mục tiêu. Bạn có thể định cấu hình kiểm tra sức khỏe trên cơ sở từng nhóm đối tượng. Kiểm tra tình trạng được thực hiện trên tất cả các mục tiêu đã đăng ký cho một nhóm mục tiêu được chỉ định trong quy tắc lắng nghe cho bộ cân bằng tải của bạn.

Sơ đồ sau minh họa các thành phần cơ bản. Lưu ý rằng mỗi bộ nghe chứa một quy tắc mặc định và một bộ nghe chứa một quy tắc khác định tuyến các yêu cầu đến một nhóm mục tiêu khác. Một mục tiêu được đăng ký với hai nhóm đối tượng.



                Các thành phần của Bộ cân bằng tải ứng dụng cơ bản

Lợi ích của việc di chuyển từ Bộ cân bằng tải cổ điển

Sử dụng Bộ cân bằng tải ứng dụng thay vì Bộ cân bằng tải cổ điển có những lợi ích sau:

  • Hỗ trợ cân bằng tải theo đường dẫn (Path) . Bạn có thể định cấu hình các quy tắc cho trình lắng nghe của mình để chuyển tiếp các yêu cầu dựa trên URL trong yêu cầu. Điều này cho phép bạn cấu trúc ứng dụng của mình dưới dạng các dịch vụ nhỏ hơn và định tuyến các yêu cầu đến đúng dịch vụ dựa trên nội dung của URL.

  • Hỗ trợ cân bằng tải theo các máy chủ . Bạn có thể định cấu hình các quy tắc cho trình lắng nghe của mình để chuyển tiếp các yêu cầu dựa trên trường máy chủ trong tiêu đề HTTP. Điều này cho phép bạn định tuyến các yêu cầu đến nhiều miền bằng cách sử dụng một bộ cân bằng tải.

  • Hỗ trợ định tuyến dựa trên các trường trong yêu cầu, chẳng hạn như điều kiện và phương thức tiêu đề trong đường link HTTP , tham số truy vấn và địa chỉ IP nguồn.

  • Hỗ trợ định tuyến các yêu cầu đến nhiều ứng dụng trên một phiên bản EC2. Bạn có thể đăng ký từng phiên bản hoặc địa chỉ IP với cùng một nhóm mục tiêu bằng cách sử dụng nhiều cổng.

  • Hỗ trợ chuyển hướng yêu cầu từ URL này sang URL khác.

  • Hỗ trợ trả lại phản hồi HTTP tùy chỉnh.

  • Hỗ trợ đăng ký mục tiêu theo địa chỉ IP, bao gồm mục tiêu bên ngoài VPC cho bộ cân bằng tải.

  • Hỗ trợ đăng ký các chức năng Lambda làm mục tiêu.

  • Hỗ trợ bộ cân bằng tải để xác thực người dùng ứng dụng của bạn thông qua danh tính công ty hoặc xã hội của họ trước khi yêu cầu định tuyến.

  • Hỗ trợ cho các ứng dụng được đóng gói. Amazon Elastic Container Service (Amazon ECS) có thể chọn một cổng không sử dụng khi lên lịch tác vụ và đăng ký tác vụ với nhóm mục tiêu bằng cách sử dụng cổng này. Điều này cho phép bạn sử dụng hiệu quả các cụm của mình.

  • Hỗ trợ theo dõi tình trạng của từng dịch vụ một cách độc lập, vì kiểm tra sức khỏe được xác định ở cấp nhóm mục tiêu và nhiều chỉ số CloudWatch được báo cáo ở cấp nhóm mục tiêu. Việc gắn một nhóm mục tiêu vào một nhóm Tự động mở rộng quy mô cho phép bạn mở rộng quy mô động từng dịch vụ dựa trên nhu cầu.

  • Nhật ký truy cập chứa thông tin bổ sung và được lưu trữ ở định dạng nén.

  • Cải thiện hiệu suất cân bằng tải.

Category : Network and Content Delivery
Các tin khác
CMC TELECOM & AWS
CMC TELECOM VÀ AWS HỖ TRỢ NGÀNH SẢN XUẤT ỨNG DỤNG ĐIỆN TOÁN ĐÁM MÂY TRONG CHUYỂN ĐỔI SỐ
CMC TELECOM VÀ AWS HỖ TRỢ NGÀNH SẢN XUẤT ỨNG DỤNG ĐIỆN TOÁN ĐÁM MÂY TRONG CHUYỂN ĐỔI SỐ

CMC Telecom là đối tác chiến lược và là một trong những nhà cung cấp giải pháp AWS hàng đầu tại thị trường Việt Nam. Với lợi thế về chủ động đường truyền kết nối toàn cầu và Data Center tiêu chuẩn quốc tế, CMC Telecom hợp tác với AWS đưa đến cho khách hàng các dịch vụ chuyển đổi số chuyên nghiệp, tin cậy và bảo mật cao cấp. Đội ngũ nhân sự CMC Telecom sở hữu chứng chỉ kỹ thuật, giải pháp từ AWS đảm bảo chuyên môn cao tập trung vào các ngành nghiệp vụ như khối Tài chính Ngân hàng Bảo hiểm; Khối dịch vụ Công nghệ Thông tin, Khối Sản xuất, Bán lẻ,Thương mại Điện tử, Logistic và các khối Chính phủ, Giáo dục, Y tế

Khám phá ngay
Elastic Load Balancing
Elastic Load Balancing

Cân bằng tài đàn hồi (Elastic Load Balancing) tự động phân phối lưu lượng truy cập của bạn đến nhiều đích khác nhau, chẳng hạn như máy ảo EC2, containers và địa chỉ IP, trong một hoặc nhiều Zone của AWS. Cân bằng tải đàn hồi giám sát tình trạng của các điểm đích đã đăng ký và chỉ định tuyến lưu lượng đến các điểm đích lành mạnh. Cân bằng tải đàn hồi sẽ cân bằng tải của bạn khi lưu lượng truy cập đến của bạn thay đổi theo thời gian. Nó có thể tự động mở rộng đến phần lớn khối lượng công việc.

Khám phá ngay
Amazon DynamoDB - Dịch vụ cơ sở dữ liệu NoSQL nhanh và linh hoạt cho mọi quy mô
Amazon DynamoDB - Dịch vụ cơ sở dữ liệu NoSQL nhanh và linh hoạt cho mọi quy mô

Hiện nay, khi làm việc với Database chúng ta quá quen với những SQLServer, MySQL, PostgreSQL … Điểm chung của những database này là sử dụng ngôn ngữ SQL để truy vấn dữ liệu. Nhưng có một dạng Database với những sự phát triển rất mạnh mẽ cũng như rất nhiều quan tâm là NoSQL - một dạng Database linh hoạt và rất nhanh với mọi quy mô hệ thống. Để hỗ trợ khách hàng sử dụng dễ dàng một hệ thống NoSQL với những tính năng tuyệt vời, Amazon Web Service đã đưa ra dịch vụ Amazon DynamoDB vào năm 2012. Vậy DynamoDB có gì đặc biệt?

Khám phá ngay