vLLM Decision 3.0 地端實測

This story is from 2026-10-19. It is preserved in the archive; the latest stories are on the live feed.

讓 LLM 做分類或路由判斷時，是不是也常常等待 JSON 慢慢吐字，甚至有時候還會遇到格式解析失敗？ vLLM 官方 Semantic Router 專案近期推出的 Decision 3.0 (d3) 打破了這個痛點，作為一款開源的多模態基礎決策模型，它的最大特色是「完全不生成文字」，而是直接在單次 Forward Pass 中輸出 Choice、Yes/No 與 Score 的校準機率分佈，這不僅免去了文字生成的延遲，更徹底根絕了格式錯誤的問題。下面的文章我們將實測如何在單張 24GB VRAM 的地端環境中，利用 d3 解決 DevOps 事故自動分流，甚至挑戰高難度的醫療影像結構化…