Workflow, Agent hay Multi-agent Framework?

Anthropic đề xuất đi từ augmented LLM đến prompt chaining, routing, parallelization, orchestrator-workers rồi mới tới autonomous agent. Mỗi nấc đổi latency, cost và failure surface. Nếu task phân rã ổn định, workflow code thường dễ test và vận hành hơn agent tự lập kế hoạch.

Multi-agent phù hợp khi subtasks thật sự độc lập hoặc cần context/role chuyên biệt. Nếu các worker liên tục chia sẻ mutable state hoặc sửa cùng artifact, coordination overhead có thể lớn hơn lợi ích song song.

LangGraph tập trung graph state, durable execution và human-in-the-loop cho workflow dài. Semantic Kernel cung cấp agent abstraction, plugins và các orchestration pattern. AutoGen có đóng góp lớn về event-driven multi-agent, nhưng repository hiện khuyến nghị dự án mới xem Microsoft Agent Framework. CrewAI đưa role/task/crew lên abstraction cao hơn.

Không framework nào loại bỏ nhu cầu định nghĩa tool schema, permission, state ownership, termination và eval. Framework chỉ quyết định phần boilerplate nào được đóng gói và phần behavior nào trở nên implicit.

OpenAI Swarm minh họa hai primitive dễ hiểu: agent và handoff. Repository tự ghi rõ đây là educational/experimental và đã được thay thế cho production bởi OpenAI Agents SDK. Một source catalog tốt phải lưu cả status này, không chỉ URL.

Bài học tổng quát: luôn kiểm tra maintenance mode, migration note, experimental label và ngày cập nhật trước khi biến sample thành nền tảng kiến trúc.

Vẽ state machine không phụ thuộc vendor trước: run, step, observation, checkpoint, approval, cancel và terminal states. Sau đó đánh giá framework theo durability, replay, tracing, interrupt/resume, TypeScript support, deployment model và khả năng thoát framework.

Các hệ sinh thái lớn đang hội tụ ở cùng một nguyên tắc: giữ model ở nơi cần semantic judgment, còn validation, permission, retry, state transition và artifact verification nằm trong code hoặc runtime. OpenAI gọi rõ ranh giới giữa direct tool calls và programmatic tool calling; Anthropic khuyến nghị tăng complexity theo nhu cầu; LangGraph và AutoGen đưa state, termination và coordination thành primitive quan sát được.

Một stack hiệu quả thường có bốn lớp: skills hoặc dynamic context để chỉ nạp expertise cần thiết; tools/MCP để chuẩn hóa capability; durable workflow để checkpoint và resume; eval/trace để chứng minh accuracy, efficiency và side effect. Multi-agent chỉ là topology tùy chọn ở trên bốn lớp này, không phải đích đến mặc định.