Đằng sau một AI product thật là gì?
Series "AI: Từ Neuron Đến LLM" dạy bạn toán học và kiến trúc đứng sau một mô hình. Series "Kỹ Sư AI Thực Chiến" dạy bạn cách dùng một agent để giải quyết việc thật. Nhưng cả hai đều dừng lại trước một câu hỏi lớn hơn: một tổ chức thật sự vận hành AI ở quy mô sản phẩm như thế nào? Ai chịu trách nhiệm dữ liệu, ai quyết định rollback khi model tệ đi, và khi cần nhiều hơn một agent — làm sao chúng phối hợp mà không giẫm chân nhau?
Lộ trình này lấp đúng khoảng trống đó qua 3 mạch nội dung xuyên suốt: Track A — hậu trường công nghiệp thật sự tạo ra một AI product (data pipeline, huấn luyện phân tán, RLHF, red-team, versioning); Track C — tự tay viết một framework agent thu nhỏ từ con số 0 (tool-calling, memory, ReAct loop); và Track B — kiến trúc điều phối nhiều agent cùng lúc (blackboard, deadlock, orchestration). Bài cuối ghép cả ba thành một "AI Ops Center" mô phỏng hoàn chỉnh.
Về Series này
Toàn bộ 13 bài dùng chung một bộ engine JS thuần tự viết — Agent Orchestra Console — mô phỏng "LLM" bằng luật tất định (không cần API key, không cần GPU), nhưng dạy đúng cơ chế thật: ReAct loop, tool schema, blackboard, deadlock giữa nhiều tiến trình. Series này không có mục quiz — toàn bộ không gian dành cho nội dung sâu, ví dụ thật và case study.
Trước khi bắt đầu
Bảng thuật ngữ nền tảng (Glossary)
Hãy ghi nhớ các định nghĩa kỹ thuật cơ bản dưới đây để dễ dàng tiếp cận các bài học:
| Thuật ngữ | Dịch nghĩa | Định nghĩa ngắn gọn |
|---|---|---|
| RLHF (Reinforcement Learning from Human Feedback) | Học tăng cường từ phản hồi con người | Kỹ thuật căn chỉnh model theo sở thích con người bằng reward model + policy optimization. |
| Red-teaming | Đội đỏ / tấn công thử | Quy trình chủ động thử tấn công/jailbreak model để tìm lỗ hổng trước khi phát hành. |
| Reward Model | Mô hình chấm điểm | Model phụ học cách chấm điểm chất lượng câu trả lời từ dữ liệu so sánh (preference) của con người. |
| Canary Deploy | Triển khai thử nghiệm dần | Phát hành phiên bản mới cho một phần nhỏ lưu lượng trước khi rollout toàn bộ. |
| Tool-calling | Gọi công cụ | Cơ chế agent gọi hàm/API ngoài (tool) để lấy dữ liệu hoặc thực hiện hành động model không tự làm được. |
| ReAct Loop | Vòng lặp Suy luận-Hành động | Mẫu hình agent lặp Thought → Action → Observation cho tới khi hoàn thành nhiệm vụ. |
| Blackboard Pattern | Mẫu hình bảng chung | Kiến trúc AI cổ điển: nhiều "chuyên gia" (agent) cùng đọc/ghi một không gian trạng thái chung. |
| Orchestration | Điều phối | Quá trình điều khiển thứ tự, vai trò và giao tiếp giữa nhiều agent trong một hệ thống. |
| Deadlock | Khoá chết | Trạng thái 2+ agent/tiến trình chờ nhau vô thời hạn, không tiến trình nào có thể tiếp tục. |
| Data Parallelism | Song song hoá theo dữ liệu | Chia batch dữ liệu cho nhiều worker huấn luyện song song, đồng bộ gradient sau mỗi bước. |
| Dedup (Deduplication) | Khử trùng lặp | Loại bỏ tài liệu trùng/gần trùng khỏi tập dữ liệu trước khi huấn luyện, thường bằng near-dup hashing. |
| Data Drift | Trôi dạt dữ liệu | Phân bố dữ liệu thực tế thay đổi theo thời gian so với dữ liệu lúc huấn luyện model. |
| Class Imbalance | Mất cân bằng nhóm | Số lượng mẫu chênh lệch lớn giữa các nhóm/nhãn trong tập dữ liệu ngay từ khi thu thập. |
| All-Reduce | Đồng bộ tổng hợp | Thuật toán để mọi worker trong huấn luyện phân tán đạt cùng 1 giá trị gradient trung bình. |
| PPO (Proximal Policy Optimization) | Tối ưu chính sách cận biên | Thuật toán RL phổ biến để cập nhật policy theo reward model, có ràng buộc KL giữ policy gần bản gốc. |
| Semantic Versioning | Đánh version theo ngữ nghĩa | Quy ước MAJOR.MINOR.PATCH áp dụng cho model/weight để theo dõi mức độ thay đổi giữa các phiên bản. |
Lộ trình 13 bài học chi tiết
Bài 1: Vòng Đời Một AI Product Thật
Toàn cảnh 6 giai đoạn (data → train → RLHF → eval → deploy → monitor), ai làm gì ở mỗi giai đoạn, chi phí thật nằm ở đâu. Timeline SVG tương tác click từng giai đoạn.
Bài 2: Thu Thập & Làm Sạch Dữ Liệu
Nguồn dữ liệu & vấn đề pháp lý, dedup & lọc chất lượng, data drift, cạm bẫy over-filtering. Demo Data Quality Filter Lab.
Bài 3: Huấn Luyện Phân Tán (Khái Niệm)
Data/Model/Pipeline parallelism, đồng bộ gradient, checkpoint, sharding & overhead giao tiếp. Demo Distributed Training Simulator.
Bài 4: RLHF & Alignment
Vì sao SFT chưa đủ, preference dataset & reward model, PPO khái niệm, cạm bẫy reward hacking. Demo Reward Model Trainer.
Bài 5: Red-Teaming & Đánh Giá Benchmark
Adversarial prompt & jailbreak, quy trình red-team có hệ thống, cạm bẫy Goodhart's Law. Demo Red-Team Console.
Bài 6: Model Versioning, Rollback & Chi Phí Hạ Tầng
Semantic versioning cho model, canary/A-B deploy, tiêu chí rollback, ước lượng chi phí GPU-hour. Demo Fleet Dashboard.
Bài 7: Tool-Calling — Thiết Kế Interface Tool
Vì sao agent cần tool, tool schema JSON, validate input & sandbox side-effect, tool registry pattern. Demo Tool Registry Playground.
Bài 8: Memory & Prompt Template Engine
Short-term vs long-term memory, mô phỏng vector recall bằng từ khoá, prompt template engine. Demo Memory & Template Lab.
Bài 9: ReAct Loop, Callback & Streaming — Tự Viết Runtime Agent
Vòng lặp Thought→Action→Observation, event emitter streaming, retry/backoff, giới hạn số bước. Demo ReAct Runtime.
Bài 10: Kiến Trúc Multi-Agent — Vai Trò & Giao Tiếp
Phân vai Planner/Executor/Critic, message passing, điều phối tập trung vs phi tập trung. Demo Planner–Coder–Critic.
Bài 11: Blackboard Pattern & Shared State
Kiến trúc blackboard cổ điển, so sánh CrewAI/AutoGen, race condition khi nhiều agent ghi cùng lúc. Demo Blackboard Lab.
Bài 12: Orchestration Nâng Cao — Xung Đột & Deadlock
Deadlock & livelock giữa agent, timeout/circuit-breaker, AutoGen (group chat) vs CrewAI (hierarchical). Demo Deadlock & Circuit Breaker Simulator.
Bài 13: Dự Án — AI Ops Center Mới
Ghép pipeline + framework + orchestration thành 1 hệ thống: agent tự giám sát & tự rollback. Demo AI Ops Center Dashboard.