Tác nhân AI thực hiện mục tiêu qua lập kế hoạch thế nào?

Tác nhân AI là một hệ thống trong đó mô hình AI không chỉ tạo câu trả lời mà còn có khả năng tự điều phối quá trình thực hiện nhiệm vụ và sử dụng công cụ để đạt một mục tiêu được giao. Điểm quan trọng nằm ở khả năng quyết định bước tiếp theo dựa trên tình trạng hiện tại của nhiệm vụ, thay vì chỉ phản hồi một lần cho một câu hỏi.

Một chatbot thông thường có thể nhận câu hỏi → tạo câu trả lời → kết thúc. Tác nhân AI có thể vận hành theo chuỗi:

Mục tiêu → Lập kế hoạch → Hành động → Quan sát kết quả → Điều chỉnh → Hành động tiếp → Hoàn thành

Vì vậy, “tác nhân” không đơn thuần là một mô hình ngôn ngữ mạnh hơn. Nó là sự kết hợp giữa mô hình AI, ngữ cảnh, công cụ, trạng thái thực thi và cơ chế kiểm soát.

Điểm khác biệt cũng cần được làm rõ với workflow AI. Workflow thường có các bước được lập trình trước và đi theo đường xử lý tương đối cố định. Tác nhân AI có nhiều quyền quyết định hơn: mô hình có thể xác định cần dùng công cụ nào, thực hiện bước nào trước và có cần thay đổi kế hoạch hay không.

Tuy nhiên, tác nhân không nhất thiết phải hoàn toàn tự trị. Trong những nhiệm vụ có rủi ro, hệ thống có thể yêu cầu con người phê duyệt trước một hành động quan trọng.

Tác nhân AI nhận mục tiêu và chuyển nó thành kế hoạch như thế nào?

Mục tiêu của người dùng thường được diễn đạt ở mức kết quả, chẳng hạn: “Tìm các lựa chọn phù hợp và lập báo cáo so sánh”. Để thực hiện được, tác nhân phải biến mục tiêu đó thành một chuỗi nhiệm vụ có thể xử lý.

Quá trình thường gồm bốn lớp:

1. Hiểu mục tiêu

Tác nhân xác định người dùng muốn đạt kết quả nào, điều kiện nào phải được đáp ứng và đâu là giới hạn của nhiệm vụ.

2. Xác định trạng thái ban đầu

Tác nhân xem xét dữ liệu đã có, thông tin còn thiếu, công cụ được phép sử dụng và những điều kiện có thể ảnh hưởng đến kết quả.

3. Phân rã nhiệm vụ

Một mục tiêu lớn được chia thành các bước nhỏ hơn. Ví dụ, với nhiệm vụ nghiên cứu có thể cần:

·         Xác định tiêu chí nghiên cứu

·         Thu thập dữ liệu

·         Kiểm tra dữ liệu

·         So sánh các lựa chọn

·         Tổng hợp phát hiện

·         Tạo kết quả cuối cùng

4. Xác định thứ tự và điều kiện chuyển bước

Một số bước có thể thực hiện tuần tự; một số bước có thể chạy song song; một số bước chỉ được thực hiện nếu kết quả của bước trước thỏa điều kiện nhất định.

Điểm đáng chú ý là kế hoạch của tác nhân không nhất thiết phải bất biến. Nếu kết quả thực tế khác dự kiến, tác nhân có thể điều chỉnh kế hoạch thay vì tiếp tục mù quáng theo chuỗi bước ban đầu.

Tác nhân AI thực hiện hành động bằng công cụ ra sao?

Kế hoạch chỉ trở thành hành động khi tác nhân có quyền truy cập vào các công cụ phù hợp. Công cụ có thể cho phép tác nhân đọc dữ liệu, tìm kiếm thông tin hoặc thực hiện thay đổi trong một hệ thống bên ngoài.

Có thể hình dung ba nhóm công cụ chính:

·         Công cụ dữ liệu: Tìm kiếm, đọc tài liệu, truy vấn cơ sở dữ liệu hoặc lấy thông tin từ hệ thống

·         Công cụ hành động: Gửi thông báo, cập nhật dữ liệu, tạo tài liệu hoặc thực hiện một thao tác được cấp quyền

·         Công cụ điều phối: Chuyển một nhiệm vụ cho tác nhân hoặc thành phần chuyên biệt khác

Ví dụ, nếu được giao nhiệm vụ “kiểm tra một bộ hồ sơ và lập báo cáo”, tác nhân có thể:

1.    Đọc các tệp được cung cấp

2.    Xác định thông tin còn thiếu

3.    Sử dụng công cụ tìm kiếm hoặc truy xuất dữ liệu nếu được phép

4.    Phân tích kết quả

5.    Tạo báo cáo

6.    Kiểm tra lại báo cáo trước khi hoàn thành

Do đó, năng lực hành động của tác nhân phụ thuộc trực tiếp vào bộ công cụ và quyền hạn được cấp. Một mô hình có khả năng suy luận nhưng không được kết nối với dữ liệu hoặc công cụ hành động vẫn bị giới hạn ở việc tạo đầu ra bằng ngôn ngữ.

Vì sao tác nhân AI phải quan sát kết quả rồi lập kế hoạch lại?

Đây là phần tạo nên tính “agentic” rõ nhất.

Sau khi thực hiện một hành động, tác nhân nhận được kết quả từ môi trường. Kết quả đó có thể:

·         Xác nhận bước vừa làm thành công

·         Cho thấy dữ liệu không đủ

·         Trả về một lỗi

·         Tạo ra thông tin mới

·         Khiến kế hoạch ban đầu không còn phù hợp

Tác nhân sử dụng kết quả này để quyết định bước tiếp theo.

Ví dụ:

Mục tiêu: Tìm thông tin về một thị trường và tạo báo cáo

→ Tìm kiếm dữ liệu

→ Phát hiện một số số liệu chưa có nguồn đủ tin cậy

→ Tìm thêm nguồn phù hợp

→ Đối chiếu dữ liệu

→ Phát hiện hai nguồn có kết quả khác nhau

→ Kiểm tra điều kiện và thời điểm của từng nguồn

→ Chọn cách trình bày phù hợp

→ Hoàn thành báo cáo

Như vậy, chu trình không phải:

Lập kế hoạch một lần → thực hiện hết kế hoạch

mà gần với:

Lập kế hoạch → hành động → quan sát → đánh giá → điều chỉnh kế hoạch → hành động tiếp

Khả năng lặp lại chu trình này giúp tác nhân xử lý những nhiệm vụ mà các bước cần thiết không thể biết chính xác ngay từ đầu.

Tác nhân AI cần giới hạn nào để hành động an toàn?

Khả năng tự quyết định và thực hiện hành động cũng tạo ra rủi ro. Nếu tác nhân hiểu sai mục tiêu hoặc sử dụng công cụ không đúng cách, nó có thể tạo ra hậu quả ngoài ý muốn.

Vì vậy, một tác nhân thực tế cần có các giới hạn như:

·         Giới hạn phạm vi: Chỉ thực hiện những việc thuộc mục tiêu được giao

·         Giới hạn công cụ: Chỉ được gọi những công cụ cần thiết

·         Giới hạn quyền: Không tự ý thực hiện hành động có mức độ tác động cao

·         Điểm phê duyệt: Yêu cầu con người xác nhận trước hành động nhạy cảm

·         Điều kiện dừng: Dừng khi hoàn thành, gặp lỗi không thể xử lý hoặc vượt số vòng lặp cho phép

·         Kiểm tra kết quả: Đánh giá đầu ra trước khi coi nhiệm vụ là hoàn tất

Điều này đặc biệt quan trọng vì tác nhân có thể hoạt động qua nhiều bước và tác động trực tiếp đến hệ thống bên ngoài. Các hệ thống tác nhân hiện đại vì thế thường kết hợp công cụ với cơ chế kiểm soát, quan sát và đánh giá.

Một nguyên tắc thực tế là không trao cho tác nhân nhiều quyền hơn mức cần thiết để hoàn thành nhiệm vụ. Với nhiệm vụ đơn giản, một workflow cố định có thể phù hợp hơn một tác nhân tự chủ, vì workflow dễ dự đoán và kiểm soát hơn.

Một chu trình tác nhân AI hoàn chỉnh diễn ra như thế nào?

Có thể cô đọng toàn bộ cơ chế thành chu trình sau:

1. Nhận mục tiêu

Tác nhân xác định kết quả cần đạt và các ràng buộc liên quan

2. Hiểu bối cảnh

Thu thập dữ liệu, trạng thái và nguồn lực cần thiết

3. Lập kế hoạch

Chia mục tiêu thành các nhiệm vụ và xác định bước tiếp theo

4. Chọn công cụ

Quyết định công cụ hoặc nguồn dữ liệu phù hợp với nhiệm vụ hiện tại

5. Thực hiện hành động

Gọi công cụ và thực hiện thao tác được phép

6. Quan sát

Đọc kết quả thực tế từ môi trường

7. Đánh giá

Xác định bước vừa thực hiện có đưa hệ thống tiến gần mục tiêu hay không

8. Điều chỉnh

Nếu kế hoạch không còn phù hợp, tác nhân thay đổi bước tiếp theo

9. Kiểm tra điều kiện kết thúc

Hoàn thành khi đạt mục tiêu hoặc chuyển cho con người khi gặp điều kiện cần can thiệp

Điểm cốt lõi là tác nhân AI không chỉ “biết câu trả lời” mà còn điều phối một quá trình để đi từ trạng thái hiện tại đến trạng thái mục tiêu. Lập kế hoạch giúp xác định hướng đi; công cụ giúp tác nhân tác động lên môi trường; quan sát giúp nó biết điều gì thực sự đã xảy ra; còn vòng lặp điều chỉnh giúp xử lý những tình huống không thể dự đoán hoàn toàn từ đầu.

Vì thế, khi đánh giá một hệ thống có thực sự mang tính tác nhân hay không, câu hỏi quan trọng không chỉ là “mô hình này thông minh đến đâu?”, mà là: nó có thể nhận mục tiêu, tự xác định các bước cần thiết, sử dụng công cụ trong phạm vi được cấp, quan sát kết quả và điều chỉnh hành động để tiến tới mục tiêu hay không?