Stream LLM đứng 11s trên prod: bốn lớp buffer cần tắt
This story is from 2026-09-14. It is preserved in the archive; the latest stories are on the live feed.
Originally published on NextFuture Report của bạn stream mượt như máy đánh chữ khi chạy local: 0,4 giây là có ký tự đầu tiên. Deploy lên production, trang đứng im mười một giây rồi đổ toàn bộ 1.800 token vào DOM trong một frame — cùng code, cùng model, cùng prompt. Thủ phạm gần như luôn nằm giữa ap…
Read the full story at DEV Community — AI ↗
Timeline · 1 report
- 2026-09-14 17:00 · DEV Community — AI
Stream LLM đứng 11s trên prod: bốn lớp buffer cần tắt