Thẻ: LLM

Kế toán token cho AI agent: hiểu token, cửa sổ ngữ cảnh và cache từ gốc

Model không có trí nhớ - mọi thứ trông giống trí nhớ đều do code của bạn gửi lại. Hiểu đúng một câu đó là hiểu toàn bộ chuyện token, cửa sổ ngữ cảnh và prompt caching, và vì sao hoá đơn của một agent lại phình lên.

23 thg 9, 2026