Nace AI 开源 Drex 1.5:首个只评估选项的 9 B 决策模型
Nace.AI 将 9 B 参数的 Drex 1.5 决策模型开源,模型不生成文本,只根据给定状态和问题返回每个选项的概率,决策指数得分 58.08,刷新 10 B 参数以下的最高记录。本文解析模型原理、性能表现及在实际业务中的应用前景。
概述:Drex 1.5 的核心亮点
在 AI 领域,大多数模型仍以生成文本为主要任务。Nace.AI 近日发布的 Drex 1.5 则突破常规,它是一款 9 B 参数的决策模型,专注于“评分选项”,不产生文字输出。用户只需提供当前状态(文本或 JSON)和预设问题,模型即可在一次前向传播中给出每个候选答案的概率分布。该模型在公开的 Decision Index 0.3.1 上取得 58.08 的成绩,刷新了 10 B 参数以下模型的最高分。
技术细节与部署要求
模型规模与权重
- 参数量:约 8.95 B(稠密),bf16 权重量约 18 GB;
- 支持的 GGUF 量化版本 Q8_0 大约 9.5 GB,可在 Apple Silicon 与 CPU 上运行;
- 默认上下文窗口 16,384 token,最高可扩展至 131,072 token。
硬件需求
单张 24 GB 的 NVIDIA A10G GPU(bf16)即可完整加载并推理;在资源受限的环境下,可使用量化模型在 CPU 或移动端设备上运行,满足边缘计算需求。
模型工作原理
Drex 1.5 将决策过程抽象为三类问题:
- choice:在多个明确选项中挑选最优;
- noul(yes/no):判断二元结果;
- score(未在官方文档中明确,但可推测为对数值型选项的打分)。
用户先将业务状态编码为结构化文本或 JSON,随后以“问题+选项”形式提交。模型在一次前向传播后返回每个选项的概率向量,业务方即可依据阈值或排序直接做出决策,无需后处理的文本生成步骤。
性能评测
Decision Index 成绩
在 Decision Index 0.3.1 公测套件中,Drex 1.5 获得 58.08 分,位列 10 B 参数以下模型之首,仅次于同档次的 Jev 1.13.0(57.96)。这意味着在标准化决策任务上,Drex 1.5 的预测准确性已接近闭源大模型的水平。
实际业务场景表现
- 在 32 K‑128 K token 长文档的选项匹配任务中,准确率可达 93.4%;
- 在细粒度情感评估(ACOS 方面情感)上,F1 仅为 7.4%,明显低于 Jev(29.5%),显示模型对广泛知识和细致情感的感知仍有不足。
行业意义与应用前景
决策模型的出现为企业级 AI 工作流提供了新的技术选项。传统上,企业会使用大型语言模型(LLM)先生成文本,再通过规则或二次模型进行筛选,过程繁琐且成本高。Drex 1.5 直接输出概率,使得:
- **成本更低**:只需一次前向传播,无需后处理;
- **延迟更短**:在高并发场景下,单卡即可支撑数千 QPS;
- **可解释性更好**:概率分布天然提供了选项可信度,可直接用于阈值判断。
因此,金融风控、推荐系统、自动化客服、供应链调度等需要快速、可量化决策的场景,都有望受益。
局限性与风险
尽管 Drex 1.5 在决策准确性上表现抢眼,但仍存在两大短板:
- **知识广度不足**:模型训练主要聚焦于结构化决策数据,对开放域的常识或长文本理解仍显薄弱;
- **情感细分能力弱**:在细粒度情感任务上表现不佳,说明模型对主观情感的捕捉仍依赖更大的语言模型。
企业在采用前需评估业务对知识深度的需求,必要时可将 Drex 1.5 与通用 LLM 组合使用,形成“生成‑决策”双层架构。
使用建议与后续关注点
对于希望在本地或私有云部署的企业,Drex 1.5 提供了完整的权重文件(Hugging Face)和 OpenRouter 的托管服务,可根据预算灵活选择。建议的落地步骤:
- 在测试环境下载 bf16 权重,使用 24 GB GPU 完成一次全量推理基准;
- 根据业务场景定义问题模板(choice、yes/no),并对输入状态进行统一的 JSON 化;
- 在实际流量中监控选项概率分布的分布变化,设定合理阈值防止误判;
- 若遇到情感或知识密集型子任务,考虑引入外部 LLM 做二次校验。
未来,Nace.AI 可能继续扩大模型规模或加入多模态输入,值得持续关注。