
过去一个月,一类被称为”决策模型”(decision models)的模型悄然形成独立品类:它们不生成自由文本,而是返回概率、分类、分数或 predefined 选择。从 Cloudflare 开源的 Clef,到新加坡 AutoTrust AI 的 JEV-27B-VL 视觉决策模型,再到 Perplexity 的 pplx-decider,多个团队几乎同时押注这一方向。
事件背景
通用大模型擅长”说”,但在需要可预测格式的场景(路由、分类、内容审核、agent 动作校验)中,文本输出既慢又易出错。决策模型用”打分 + 选择”替代”逐 token 生成”,把结构化输出变成一等公民,契合对延迟与可靠性敏感的工业流水线。
核心内容
- Cloudflare Clef / Clef-flash:输出概率而非文本,仅计输入费、输出免费,已加入 llama.cpp 的 /v1/systemone 端点;
- AutoTrust AI JEV-27B-VL:视觉决策模型,配合 GEV-26B-Decide 自适应推理模型,在 Hugging Face 与 Jev Decision Index 基准上表现靠前;
- Perplexity pplx-decider-v1-27b:每百万输入 token 仅 0.04 美元、输出免费,是当前最便宜的决策模型之一;
- 落地形态:144M 至 27B 参数模型在 GPU 上 3–43 毫秒响应,适合请求路由、内容审核与 agent 动作校验,且可本地运行。
影响与解读
决策模型的兴起,说明”模型即分类器”正从 workaround 变成产品类别。对开发者,它降低了把 AI 嵌入软件管线的门槛;对厂商,则开辟了与通用对话模型差异化的定价与场景。但其价值取决于校准、鲁棒性与真实分布下的表现,而非榜单排名。
相关动态 / 展望
约束解码(constrained decoding)与 logit 掩码等技术,正让通用语言模型也能产出受限的结构化输出。未来”通用大模型 + 专用决策模型”的混搭,或成为 agent 系统的标准架构。
信息来源:AI Seng Tech Brief(2026-10-11) Capital & Compute DEV Community
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

评论(0)