Vì sao điện toán biên có thể giảm độ trễ xử lý?

Điểm quan trọng là điện toán biên không làm mọi tác vụ tự động nhanh hơn. Lợi ích về độ trễ xuất hiện khi thời gian truyền dữ liệu qua mạng chiếm phần đáng kể trong tổng thời gian phản hồi. Vì vậy, muốn hiểu vì sao điện toán biên giảm độ trễ, cần nhìn vào toàn bộ đường đi của một yêu cầu từ lúc dữ liệu được tạo ra đến khi kết quả quay trở lại thiết bị

Điện toán biên là gì?

Điện toán biên là cách tổ chức hệ thống trong đó một phần năng lực tính toán, lưu trữ hoặc phân tích được đặt tại hoặc gần nơi dữ liệu phát sinh. Nguồn dữ liệu có thể là camera, cảm biến IoT, máy móc công nghiệp, điện thoại, phương tiện hoặc các thiết bị kết nối khác

Trong mô hình xử lý tập trung, thiết bị thường gửi dữ liệu qua mạng đến một hệ thống xử lý ở xa, nhận kết quả rồi tiếp tục thực hiện hành động. Với điện toán biên, một phần xử lý được chuyển đến một nút biên gần thiết bị hơn. Nút này có thể thực hiện phân tích, lọc, suy luận hoặc xử lý dữ liệu trước khi chỉ gửi phần kết quả cần thiết đến hệ thống trung tâm

Điều đó tạo ra một kiến trúc phân tán thay vì phụ thuộc hoàn toàn vào một trung tâm xử lý duy nhất. Điện toán biên vì thế thường được sử dụng cùng điện toán đám mây, chứ không nhất thiết thay thế đám mây

Độ trễ xử lý đến từ những đâu?

Độ trễ của một ứng dụng không chỉ là thời gian máy chủ thực hiện phép tính. Trong một hệ thống kết nối mạng, tổng thời gian phản hồi có thể bao gồm nhiều thành phần: thời gian dữ liệu đi từ thiết bị đến hệ thống xử lý, thời gian xử lý tại các nút mạng, thời gian máy chủ tính toán và thời gian kết quả quay trở lại thiết bị

Có thể hình dung đơn giản:

Tổng độ trễ ≈ Độ trễ truyền đi Độ trễ xử lý mạng Độ trễ tính toán Độ trễ truyền kết quả

Khi dữ liệu phải đi từ một thiết bị đến trung tâm dữ liệu ở xa, phần độ trễ mạng có thể trở thành một thành phần đáng kể. ETSI phân biệt nhiều dạng độ trễ, trong đó có độ trễ đường lên, đường xuống, độ trễ đầu-cuối và độ trễ vòng; điều này cho thấy “độ trễ” không phải một con số duy nhất mà phụ thuộc vào điểm bắt đầu, điểm kết thúc và cách đo

Vì vậy, tối ưu hóa độ trễ không chỉ là tăng tốc CPU. Nếu thời gian truyền dữ liệu vẫn lớn, một máy chủ có tốc độ xử lý cao hơn chưa chắc tạo ra phản hồi nhanh hơn đáng kể

Vì sao xử lý dữ liệu gần nguồn phát sinh có thể giảm độ trễ?

Cơ chế cốt lõi nằm ở việc rút ngắn đường đi của dữ liệu

Khi một camera cần phân tích hình ảnh, chẳng hạn, hệ thống tập trung có thể phải gửi luồng dữ liệu về máy chủ ở xa, chờ kết quả rồi truyền phản hồi trở lại. Với điện toán biên, một nút xử lý gần camera có thể phân tích ngay tại khu vực phát sinh dữ liệu. Kết quả cần thiết sau đó mới được gửi tiếp đến hệ thống trung tâm nếu cần

Điều này tạo ra ba tác động chính

Giảm khoảng cách truyền dữ liệu

Khoảng cách vật lý và vị trí mạng giữa nguồn dữ liệu với nơi xử lý được rút ngắn. Dữ liệu không nhất thiết phải đi qua toàn bộ đường truyền đến trung tâm dữ liệu xa rồi mới quay trở lại

Giảm số chặng mạng

Một yêu cầu đi qua nhiều thành phần mạng có thể phát sinh thêm thời gian truyền, xử lý và chờ đợi. Đưa năng lực tính toán đến gần nguồn dữ liệu giúp rút ngắn đường đi trong nhiều kiến trúc triển khai

Giảm lượng dữ liệu phải truyền về trung tâm

Không phải dữ liệu nào cũng cần được gửi nguyên trạng lên đám mây. Nút biên có thể lọc, tổng hợp hoặc phân tích dữ liệu tại chỗ rồi chỉ gửi kết quả cần thiết

Ví dụ, một camera có thể tạo ra lượng dữ liệu hình ảnh liên tục nhưng ứng dụng chỉ cần biết “có người xâm nhập” hoặc “có vật thể bất thường”. Nếu việc nhận diện được thực hiện tại biên, hệ thống không nhất thiết phải truyền toàn bộ dữ liệu thô về trung tâm chỉ để nhận một kết quả đơn giản

Giảm độ trễ không đồng nghĩa mọi xử lý đều nhanh hơn

Điện toán biên có lợi thế về khoảng cách và mạng, nhưng hiệu quả thực tế còn phụ thuộc vào cách hệ thống được thiết kế

Nếu nút biên có năng lực tính toán quá thấp, thời gian xử lý tại chính nút đó có thể trở thành điểm nghẽn. Tương tự, nếu ứng dụng vẫn phải gửi dữ liệu lớn về đám mây trước khi có thể đưa ra quyết định, lợi ích từ việc đặt một phần xử lý ở biên có thể bị hạn chế

ETSI cũng lưu ý rằng độ trễ đầu-cuối gồm nhiều thành phần mạng khác nhau. Trong một số trường hợp công nghiệp, yêu cầu có thể rất chặt chẽ; chẳng hạn, một trường hợp điều khiển vòng kín được mô tả với yêu cầu độ trễ cho mỗi chu kỳ dưới 10 ms, trong khi các trường hợp khác có ngưỡng cao hơn. Những con số này là yêu cầu của từng ứng dụng, không phải mức độ trễ cố định mà mọi hệ thống điện toán biên đều đạt được

Do đó, câu trả lời chính xác không phải là “điện toán biên luôn có độ trễ thấp”, mà là: điện toán biên có khả năng giảm phần độ trễ do truyền dữ liệu bằng cách đưa xử lý đến gần nguồn dữ liệu

Khi nào điện toán biên đặc biệt có giá trị?

Điện toán biên phù hợp nhất khi ứng dụng cần phản hồi nhanh, dữ liệu phát sinh liên tục hoặc việc truyền toàn bộ dữ liệu về trung tâm gây ra chi phí và độ trễ đáng kể

Một số tình huống tiêu biểu gồm:

·         Hệ thống điều khiển máy móc cần phản hồi nhanh

·         Camera cần phân tích hình ảnh gần như theo thời gian thực

·         Thiết bị IoT phát sinh dữ liệu liên tục

·         Phương tiện cần xử lý dữ liệu cảm biến trong thời gian ngắn

·         Ứng dụng thực tế tăng cường hoặc thực tế ảo nhạy cảm với độ trễ

·         Các hệ thống cần tiếp tục hoạt động khi kết nối đến trung tâm không ổn định

Giá trị của điện toán biên không chỉ nằm ở việc “đặt máy chủ gần hơn”. Kiến trúc còn có thể giảm lượng dữ liệu phải di chuyển, hỗ trợ xử lý tại chỗ và cho phép hệ thống đưa ra quyết định ở nơi dữ liệu vừa được tạo ra

Điện toán biên và điện toán đám mây có thay thế nhau không?

Không. Hai mô hình thường bổ sung cho nhau

Điện toán biên phù hợp với các tác vụ cần phản hồi nhanh hoặc cần xử lý dữ liệu ngay gần nguồn. Điện toán đám mây vẫn có lợi thế khi cần năng lực tính toán tập trung, lưu trữ quy mô lớn, quản lý dữ liệu dài hạn hoặc xử lý những tác vụ không nhạy cảm với độ trễ

Một kiến trúc thực tế có thể phân chia công việc theo nhiều tầng:

Thiết bị → Nút biên → Đám mây

Thiết bị tạo dữ liệu và thực hiện những tác vụ đơn giản; nút biên xử lý các tác vụ cần phản hồi nhanh; đám mây đảm nhận những công việc cần tài nguyên tập trung hoặc phân tích trên phạm vi lớn

Cách phân chia này cho phép hệ thống cân bằng giữa độ trễ, năng lực tính toán, lưu trữ và lượng dữ liệu phải truyền qua mạng

Điểm mấu chốt của điện toán biên là đưa xử lý đến gần nơi dữ liệu phát sinh. Khi một phần quyết định được thực hiện tại hoặc gần nguồn dữ liệu, hệ thống có thể rút ngắn đường truyền, giảm thời gian chờ mạng và hạn chế việc gửi dữ liệu thô qua những tuyến mạng dài

Vì vậy, điện toán biên có thể giảm độ trễ không phải do bản thân “biên” làm cho phép tính nhanh hơn, mà chủ yếu vì nó thay đổi vị trí xử lý. Khi phần độ trễ truyền thông được cắt giảm đủ lớn và nút biên có năng lực xử lý phù hợp, tổng thời gian từ lúc dữ liệu phát sinh đến lúc hệ thống phản hồi có thể được rút ngắn đáng kể