2026-10-25

別再用聊天模型硬湊答案！2026 專用 AI 決策模型實戰解析：Fastino GLiDE、Perplexity Decider、Jev 1.14 與多源路由選型指南

2026 專用 AI 決策模型架構與多源路由比較插畫

如果你曾經把結構化的系統狀態塞進通用聊天大模型，叫它在四個動作裡選一個並給出「0 到 100% 的信心分數」，你一定踩過這些坑：模型不管怎麼問都愛回答「85% 信心」、把選項 A 跟 B 對調位置答案就跟著翻盤，甚至為了吐出一小段 JSON 理由，耗掉幾百毫秒延遲與昂貴的輸出 Token 費用。

到了 2026 年，真正需要高頻率、多條件權衡與嚴格機率分佈的生產系統，早就不再拿通用聊天模型硬湊答案，而是轉向專門為「結構化選擇」訓練的 AI 決策模型（Specialized Decision Models）。這篇文章不談泛用聊天模型，我們將 100% 聚焦在專用決策模型的底層協定、17 款真實決策模型的價格與能力差異，以及我們在實戰中建構跨平台自動備援路由的踩坑經驗。

為什麼不能拿通用聊天模型當決策引擎？

一般的大型語言模型（LLM）核心任務是「預測下一個文字 Token」，當你要求它在文字裡寫出一個機率數字時，它其實只是在模仿人類語氣寫出「看起來很合理」的數字，而不是真正經過統計校準（Calibration）的機率分佈。

專用 AI 決策模型（Decision Models，又常被稱為 System One 模型） 則徹底改變了輸入與輸出的契約：

底層架構差異（Single Forward Pass 零文字生成）：自從 TypeSafe AI 的創辦人（前 OpenAI 研究員 Diogo Almeida）於 2026 年 9 月推出 Jev 與 System One 架構以來，決策模型確立了與傳統自回歸「System Two」聊天模型完全不同的路線。決策模型大多以高品質基礎模型（如 Qwen 27B/9B 或 Liquid 架構）為骨幹，但透過專門的讀出頭（Readout Head）與遮罩設計，在單次前向傳播（Single Forward Pass）中直接從第一層輸出的 Logits 提煉出各選項的校準機率，完全跳過逐字解碼（Autoregressive Decoding）。
結構化狀態與四大問題原語（Typed Question Primitives）：你不需撰寫冗長的聊天開場白，而是直接傳入一份包含文字、JSON 甚至圖片的環境狀態（state），並在同一筆請求中同時附上數十道結構化問題（questions）。主流協定支援三到四種標準問題型別：
- choice（多選一）：在自訂的候選清單（criteria）中挑選勝出選項（choice），並回傳總和嚴格等於 1 的機率分佈（probabilities）。
- noul（是非題）：針對二元陳述句直接回傳 0 到 1 的成立機率。
- score（量表評分）：依照有序評分標準（Rubric）回傳各級距機率與期望分數。
- box（畫面定位，Jev 1.14 新增）：傳入 UI 截圖或圖片狀態，直接回傳目標元件的四邊座標與信心分數。
消除選項位置偏誤（Position Bias）：專用決策模型在訓練與推論階段針對候選清單做過對稱性處理，不會因為某個選項排在第一個或最後一個就獲得額外偏愛。
輸出 Token 完全免費、毫秒級低延遲：因為模型只需要在最後一層直接計算各選項的分佈，完全不生成廢話文字，幾乎所有決策模型 API 都採取 只收輸入 Token 費用、輸出 Token 0 元 的計價模式，成本與延遲往往只有通用推理模型的十分之一到百分之一。

決策模型的統一請求格式長什麼樣？

以目前主流的 TypeSafe SystemOne、Perplexity Decisions API 與 OpenRouter Decisions API 為例，一筆標準的決策請求結構非常乾淨：

{
  "model": "pplx-decider-v1.2",
  "state": {
    "systemLoad": 0.78,
    "budgetRemainingUsd": 120.5,
    "recentErrorRate": 0.012
  },
  "questions": {
    "route_action": {
      "type": "choice",
      "instructions": "根據目前系統負載與剩餘預算，選擇下一輪的最佳調度動作。",
      "criteria": {
        "scale_up": "立即擴充節點以降低負載",
        "hold": "維持現有節點數量繼續觀察",
        "throttle": "啟動限流保護核心服務"
      }
    }
  }
}

模型回傳的結果則是直接可進程式邏輯的精確機率：

{
  "model": "pplx-decider-v1.2",
  "answers": {
    "route_action": {
      "type": "choice",
      "choice": "hold",
      "confidence": 0.61,
      "probabilities": {
        "scale_up": 0.18,
        "hold": 0.74,
        "throttle": 0.08
      }
    }
  }
}

單次請求通常支援同時塞入 64 到 128 道問題，每個問題可包含 2 到 255 個選項。這代表你可以把整個系統所有待決策的子任務打包成一次 API 呼叫，共用同一份 state 輸入成本，一次拿回所有判斷。

2026 年 17 款專用 AI 決策模型完整評比表

我們排除所有通用聊天模型，整理目前在各評測基準與 原生供應商、Vercel AI Gateway、OpenRouter、Cloudflare Workers AI 與 自架／本機端 實際可用的 17 款專用決策模型（資料與價格查核截至 2026-10-25）：

模型名稱	研發團隊／基底	主要呼叫入口	輸入單價（每百萬 Tokens）	輸出單價	核心特色與實戰定位
GLiDE v1.2	Fastino Labs（28B 適應性推理）	Fastino API / 權重開源	US$0.04	免費	Jev Decision Index 高分代表（71.5 分），首創 Fast/Deep 雙路徑適應性思考
Baseten Mammoth-1 (27B)	Base Labs（Qwen3.5-27B 微調）	Vercel / Baseten / MIT 開源	促銷免費（依平台牌價）	免費	Artificial Analysis 評測高分（65.9 分），針對複雜多因子情境設計
Liquid d1-ultra	Liquid AI（多模態）	Vercel / Liquid / OpenRouter	US$0.042	免費	支援圖文輸入與 32K 上下文，在長狀態權衡與多模態場景表現穩定
Perplexity Decider V1.2	Perplexity（27B 多模態）	Vercel / Perplexity / 權重開源	US$0.02	免費	支援文字與圖片輸入，綜合校準度與性價比最均衡的主力決策模型
Perplexity Decider Flash V1.2	Perplexity（4B 輕量版）	Vercel / Perplexity / 權重開源	US$0.01	免費	4B 參數超低延遲與極致低價，適合高頻率初步篩選與意圖路由
Perplexity Decider V1.1 (27B)	Perplexity（Qwen 27B 微調）	Perplexity 原生 / Ollama	US$0.02	免費	穩定運作的 27B 基準版，適合與 V1.2 做平行版本對照
Jev 1.14.0	TypeSafe AI	Vercel / TypeSafe 原生	US$0.042	免費	SystemOne 開創者，支援 262K 長上下文、圖片輸入與 Box 座標定位
OpenJev Flash 9B	開源社群（MLX 量化）	本機 oMLX（Apple Silicon）	US$0（本機電力）	免費	4-bit MLX 量化版，JevBench 達 80.5%，Mac 離線推論零 API 成本
Liquid d1	Liquid AI	Vercel / OpenRouter	US$0.02	免費	非傳統 Transformer 架構的高效決策核心，與 Qwen 系模型互補性強
Baseten Elephant-1 (9B)	Base Labs（Qwen3.5-9B 微調）	Vercel / Baseten / MIT 開源	促銷免費（依平台牌價）	免費	百萬級決策樣本後訓練的 9B 輕快核心，MIT 授權可商用自架
GPT-6 Luna Decisions	OpenAI	Vercel / OpenRouter	US$0.10	免費	OpenAI 基於 gpt-6-luna 打造的專用 Decisions 端點，判斷果斷
Microsoft Decision-1	Microsoft（Qwen 基底微調）	Vercel / Foundry / OpenRouter	US$0.042	免費	微軟針對單次前向計分特化的高速模型，風控與合規表現突出
Mercury Decide	Inception	OpenRouter	依路由計價	免費	Mercury 擴散式生態系衍生出的快速決策模型，適合極低延遲迴圈
Drex v1.5 (9B)	Nace AI	OpenRouter / 權重開源	依路由計價	免費	9B 參數開源權重決策模型，擅長多選機率評估與高吞吐量任務
Cloudflare Clef (27B)	Cloudflare	Cloudflare Workers AI	US$0.24（含每日免費額度）	免費	開源多模態決策模型（另有 Clef-Flash），搭配每日免費 Neurons 零成本
Laya	Convai Innovations（ModernBERT）	Hugging Face（Apache 2.0）	自架硬體成本	免費	基於 ModernBERT 架構的超輕量開源決策模型，適合企業內網微調與無網路環境
Kev 系列	開源社群（Qwen 基底微調）	Hugging Face（開源權重）	自架硬體成本	免費	從 Sub-1B 到 27B 的開源 SystemOne 相容模型家族，適合低資源 PoC 自架

決策模型怎麼跑分？認識三大權威評測基準

傳統大模型的 MMLU 或 HumanEval 根本測不出「單次前向傳播的機率校準度」。在 2026 年底挑選決策模型時，業界主要看以下三個專用排行榜：

Jev Decision Index：追蹤數百款開源權重微調版與商業 API 的綜合排行榜。其中 Fastino Labs 的 GLiDE v1.2（Generalized Lightweight Decision Engine，約 71.5 分） 與 Baseten Mammoth-1 (27B)、Perplexity Decider V1.2 並列最受矚目的領先群。
Artificial Analysis Decision Index（v1.0）：由知名獨立評測機構 Artificial Analysis 建立，將分數平均拆為四大支柱（各佔 25%）：知識與抗幻覺（AA-Omniscience-Decision）、複雜推理（HLE-MultiChoice）、工具呼叫判斷（NVIDIA When2Call） 與 安全分類（WildGuardTest）。在此榜單中，Fastino GLiDE 在 When2Call 工具呼叫（約 84 分）與 WildGuardTest 安全分類（約 95 分）表現優異，而 **Baseten Mammoth-1 (27B)**（總分約 65.9 分）與 Liquid d1-ultra 則穩居綜合表現第一梯隊。
JevBench（Benchmark Heaven）：專門針對相容 System One 協定的決策系統所設計的獨立評測框架，同時衡量 結構化決策準確率、機率校準度（Calibration，模型說 80% 把握時是否真的有 80% 答對）、P50/P95 延遲 與 推論成本（商業 API 榜單上除了 GLiDE 與 Jev 外，Levanto Labs 的 Sage 1.3.0 也是高分代表）。

值得注意的是，最新學術研究（如 JEVal 評測報告）也提醒工程團隊：傳統單次前向（Single-Pass）決策模型在「證據明確的模式識別與多條件路由」上擁有壓倒性的速度與成本優勢，但在遇到算術、日期換算或跨越多步驟的複雜邏輯時容易失準——這也促成了 GLiDE v1.2 這類具備思考路徑的架構誕生。

主流決策模型深度剖析：誰適合放在哪個位置？

在生產環境中，我們強烈建議不要只綁死單一顆模型，而是把不同架構的決策模型組合成「多核心決策委員會」，原因在於每顆模型的訓練基底與風險偏好截然不同。

1. Fastino GLiDE v1.2：引入適應性推理的思考型決策模型

Fastino Labs 推出的 GLiDE v1.2（Generalized Lightweight Decision Engine，28B 規模） 在 Jev Decision Index（71.5 分）與 JevBench（能力分達 84.5）表現亮眼，其核心關鍵在於解決了第一代決策模型常見的短板：「純單次前向傳播無法應對多步驟數學與符號邏輯」。

GLiDE v1.2 採用了 適應性推理（Adaptive Reasoning） 雙路徑設計：

快速路徑（Fast Path）：每一筆決策請求都先跑極速的單次前向評估。如果模型對答案已經具備高度把握（實測約三分之二的常規路由題目會走這條路），就直接毫秒級回傳結構化機率。
深度路徑（Deep Path）：當模型偵測到題目涉及算術比較、日期計算、程式碼邏輯或多事實交叉驗證且不確定性較高時，會自動觸發內部的適應性思考步驟（Thinking Step），再將推理結果折算回最終的校準機率分佈。

它的 API 定價約為每百萬輸入 Token 0.04 美元（與 Jev 1.14 的 0.042 美元相當），適合對複雜邏輯判斷有嚴格要求的單元；不過目前它主要透過 Fastino 官方 API 與 Hugging Face 提供，若要整合進 Vercel 或 OpenRouter 統一閘道，需留意平台路由上架進度與限流條件。

2. Perplexity Decider 系列（V1.2 / Flash V1.2 / V1.1）

Perplexity Decisions API 是目前商業落地成熟度最高的選擇之一。最新的 pplx-decider-v1.2 每百萬輸入 Token 只要 0.02 美元，而輕量化的 pplx-decider-flash-v1.2 更殺到每百萬輸入 Token 0.01 美元，且兩者除了 Perplexity 官方端點（https://api.perplexity.ai/v1/decisions）之外，也都能直接在 Vercel AI Gateway 呼叫。

實務上，如果你原本使用 pplx-decider-v1.1-27b，升級 V1.2 時建議採用「新舊版本平行對照」：讓 V1.1 與 V1.2 同時接收一模一樣的狀態包與提示詞，累積至少 30 筆以上的真實決策結果後，再依據雙方的實際期望值完成交接，不要盲目直接覆蓋核心。

3. TypeSafe AI：Jev 1.14.0 與本機神器 OpenJev Flash 9B

TypeSafe AI 是結構化決策介面（**/v1/systemone）的先驅。其主力模型 jev-1.14.0（每百萬輸入 Token 0.042 美元）在面對多欄位表格對齊、複雜條件交叉比對時，有著非常穩定的表現。需要注意的一個技術細節是：從 Jev 1.14 起，回傳的機率值只取到小數點後兩位**（例如 0.33、0.33、0.34），解碼驗證時必須容許每個選項最多 0.005 的捨入誤差。

更令人驚喜的是開源社群與本機部署生態：如果你手上有 Apple Silicon 的 Mac，透過 oMLX 推理伺服器（預設跑在 http://127.0.0.1:8000/v1/systemone）載入 4-bit 量化的 openjev-flash-9b，不僅在 JevBench 基準測試能跑出 80.5% 的高分，而且完全免 API 費用。唯一的限制是 oMLX 單題選項數上限為 26 個（A 到 Z），但對絕大多數業務決策來說綽綽有餘。此外，若需要在企業內網微調或極低資源環境自架，也可以評估 Convai Innovations 基於 ModernBERT 推出的 Laya（Apache 2.0 授權）以及開源社群的 Kev 模型家族。

4. Liquid AI（d1 與 d1-ultra）與 Baseten（Mammoth-1 與 Elephant-1）

如果你擔心所有模型都是同質化的 Transformer，Liquid AI 的 liquid/d1（US$0.02/M）與 liquid/d1-ultra（US$0.042/M）是極佳的異質核心選擇。d1-ultra 支援到 32,768 Tokens 的上下文，當你的狀態包裡包含大量歷史摘要與多維度序列指標時，它能維持相當優秀的全局穩定度。

而 Baseten 在 Vercel AI Gateway 推出的 baseten/mammoth-1 與 baseten/elephant-1（皆為 16,384 上下文）則是兩顆性格鮮明的專用模型：Mammoth-1 適合處理需要耐心等待訊號收斂的多條件權衡，Elephant-1 則在短週期、快節奏的狀態分類上反應極快。

5. OpenAI、Microsoft、Inception 與 Nace AI 的決策專精版

許多人不知道 OpenAI 與 Microsoft 也有針對結構化決策推出的專用端點模型：openai/gpt-6-luna-decisions（US$0.10/M）與 microsoft/microsoft-decision-1（US$0.042/M）。這兩顆模型加上 Inception 的 inception/mercury-decide 以及 Nace AI 的 nace-ai/drex-v1.5，都可以透過 OpenRouter Decisions API（https://openrouter.ai/api/alpha/decisions）統一呼叫，非常適合做成一個「輪值池」或針對不同子任務分派專精角色。

6. Cloudflare Workers AI 的免費額度奇兵：Clef (27B)

Cloudflare Workers AI 上的 @cf/cloudflare/clef 雖然牌價標示每百萬輸入 Token 0.24 美元，但因為 Cloudflare 提供每日固定的免費 Neurons 額度，只要在程式端實作一個簡單的本地額度閘門（Quota Gate），在免費額度內呼叫、用完即自動休眠到隔天重置，就能白嫖一顆 27B 等級的高品質決策模型作為系統的常駐輔助席次。

實戰踩坑：跨平台整合決策模型的三個工程關鍵

當我們實際把上述十幾顆決策模型接進同一套生產系統時，發現不同供應商的端點規格有三個必須處理的工程細節：

第一：機率捨入誤差與正規化（Normalization）

嚴格的決策系統會檢查「所有選項機率加總是否等於 1」以及「勝出選項 choice 是否真的是最高機率的選項」。但實測發現：

OpenRouter 回傳的機率通常取到小數點後四位（每選項最大捨入誤差 0.00005）。
Jev 1.14 與 Vercel AI Gateway 預設可能只取到小數點後兩位（每選項最大捨入誤差 0.005）。

如果直接用死板的浮點數等號檢查，當三個選項都回傳 0.33（加總 0.99）時就會被系統誤判為格式錯誤。正確做法是在解碼器中根據小數位數計算合理的誤差邊界，在容許範圍內先除以總和做正規化，再送入核心邏輯。

第二：Vercel AI Gateway 缺少 confidence 欄位的補齊公式

原生供應商（如 Jev、Perplexity、OpenRouter）的回應都會直接帶上 confidence（信心值，介於 0 到 1 之間），但 Vercel AI Gateway 的 /v4/ai/decision-model 端點只會回傳 choice 與 probabilities。

經過我們對原生端點回應的逆向實測比對，標準決策模型的信心值其實是由最高選項機率（top）與選項總數（n）直接決定的線性正規化公式：

1	confidence = (top * n - 1) / (n - 1)

舉例來說，如果是 4 選 1 的題目（n = 4）：

當四個選項機率都是 0.25（完全隨機盲猜）時，信心值為 (0.25 × 4 − 1) ÷ 3 = 0（零信心）。
當最高選項機率拿到 0.70 時，信心值為 (0.70 × 4 − 1) ÷ 3 = 0.60。
當最高選項機率拿到 1.00 時，信心值為 1.00。

在 Vercel 客戶端補上這條公式後，無論請求走哪一個供應商通道，進到業務層的信心分數標準就能完全一致。

第三：同模型多來源的「Vercel 優先、原生備援」路由架構

同一個決策模型往往同時上架在多個平台（例如 jev-1.14.0、liquid/d1、pplx-decider-v1.2、gpt-6-luna-decisions、microsoft-decision-1 都同時支援 Vercel AI Gateway 與原生端點／OpenRouter）。

最穩健的工程做法是建立一份 來源優先順序清單（Source Priority List）：

將身份與來源解耦：系統在記錄某顆模型的歷史準確率與權重時，只認「模型與版本編號」，不看它是從哪個 API 入口叫回來的。
優先走統一閘道，失敗即時切換：呼叫時優先走 Vercel AI Gateway（方便統一管理帳單與觀測指標）；一旦遇到金鑰未設定、免費方案遇到付費牆（HTTP 403 no_providers_available）、帳戶餘額不足或限流（HTTP 429），就在同一輪剩餘的 Timeout 時間內無縫切換到 Perplexity、TypeSafe 或 OpenRouter 原生端點，確保決策不中斷。

結語：從「要 AI 給理由」進化到「要 AI 給校準機率」

專用 AI 決策模型的崛起，標誌著 AI 工程從「提示詞玄學」走向「嚴格的機率工程」。當你不再強迫聊天模型用文字湊出決定，而是改用 Perplexity Decider V1.2、Jev 1.14、Liquid d1-ultra 或本機 OpenJev Flash 9B 輸出校準過的機率分佈，並搭配多核心投票與歷史結果回測，你不僅能把 API 帳單砍掉九成以上，更能建立一套真正可量化、可驗證、可淘汰劣質核心的自動化決策系統。