Liquid AI 已发布 d1-ultra,这是其迄今最强大的决策模型。Liquid AI 的 d1-ultra 决策模型可读取文本、图像或两者。它针对输入的问题,为每个可能的答案给出一个概率。它在一次前向传播中完成这一过程,且不生成任何输出 token。对开发者而言,这意味着在进行分类、路由和评分调用时无需为生成的文本付费。它是 现已在 Liquid API 上推出 价格为每百万输入 token 0.042 美元。
TL;DR
- 规模: 参数量和上下文长度未披露。基于比 d1 更大的开放权重骨干模型构建。
- 运行于: 仅托管在 Liquid API 上。未宣布提供可下载权重或量化版本。
- 性能: 据 Liquid 称,在其 112 项评估套件中,全部 8 个类别均领先。
- 最佳: 在 Artificial Analysis 决策指数中获得 65 分,排名第 #1(Liquid 报告)。
- 最差: 尚无公开的单项基准细分或参数量;相关声明为厂商自报。
什么是决策模型?
决策模型以概率而非自由文本的方式回答有边界的问题。 Liquid 的 决策模型文档 描述了 3 种问题类型:
- Noul: 一个是/否问题,返回 0 到 1 之间的概率。
- Choice: 从一组标签中选出一个标签,并为每个标签给出概率。
- Score: 在有序量表上给出一个按概率加权的位置。
文档推荐将决策模型用于路由、内容审核、防护栏、分诊以及替代 LLM 作为评判者。它们推荐使用语言模型进行摘要、聊天和代码生成。
d1-ultra 是如何工作的?
每个请求都包含一个 州 (上下文),可选 图像,以及1个或更多类型化的 问题。该模型在1次调用中对同一输入评估每个问题。 d1 API 参考 显示带有以下内容的回复 output_tokens 始终为 0。
Liquid AI 团队表示,d1-ultra 使用一种 比 d1 更大的开放权重主干模型,以及大量针对 Liquid 的深度定制。结合 Liquid 的决策训练管线,这些增益在知识类任务上最为显著。
Liquid AI 团队为棘手场景构建了 d1-ultra。其示例包括根据规格说明书检测电路板缺陷,另一个示例是根据客户的照片核查损坏索赔。
d1-ultra 在基准测试中表现如何?
Liquid AI 将 d1-ultra 与其早先的 d1 以及 TypeSafe 的 Jev 1.14 在 112 项评估中进行了比较。根据 Liquid AI 的公告,在相同价格下,d1-ultra 在所有任务上都优于 Jev 1.14。
在独立的 Artificial Analysis Decision Index, Liquid 报告称 d1-ultra 以 65 分位列 #1。 该指数对 4 项评估取平均值,各占 25%:
- AA-Omniscience-Decision: 知识与幻觉
- HLE-MultiChoice: 推理
- When2Call: 工具调用
- WildGuardTest: 安全分类
作为背景,Artificial Analysis 的 10月13日发布文章 将 Jev 1.13 排在首位,得分为 58。GLiDE 和 Microsoft-Decision-1 紧随其后,均为 54 分。
比较:d1-ultra 与其他决策模型
| 功能 | d1-ultra | d1 | Jev (TypeSafe) | Microsoft-Decision-1 | GLiDE (Fastino) |
|---|---|---|---|---|---|
| Developer(开发商) | Liquid AI | Liquid AI | TypeSafe AI | Microsoft(微软) | Fastino Labs |
| Parameters(参数) | Not disclosed(未披露) | Not disclosed(未披露) | Not disclosed(未披露) | Not disclosed(未披露) | Not disclosed(未披露) |
| Input(输入) | Text, images(文本、图像) | Text, images(文本、图像) | Text(文本) | Not disclosed(未披露) | Not disclosed(未披露) |
| Weights(权重) | API only(仅限 API) | API only(仅限 API) | Closed(封闭) | Not disclosed(未披露) | Not disclosed(未披露) |
| AA Decision Index(AA 决策指数) | 65 (Liquid-reported)(65,Liquid 自行报告) | Not disclosed(未披露) | 58(v1.13,10月13日) | 54(10月13日) | 54(10月13日) |
| 价格 | $0.042 / 1M 输入 | 未披露 | $0.042 / 1M 输入 | $31 / 1M 任务(AA) | $119 / 1M 任务(AA) |
| 输出 tokens 计费 | 否 | 否 | 否 | 未披露 | 未披露 |
如何部署 d1-ultra,费用是多少?
d1-ultra 运行在 Liquid API 上,通过 /decisions/v1/systemone 端点,附带 "model": "d1-ultra"。Liquid 表示 Vercel AI Gateway 和 OpenRouter 支持即将推出。你可以先在 d1 Playground.
中测试。计费仅涵盖输入 tokens。根据 Liquid 的定价说明,图像每 32×32 像素补丁成本为 1.5 个 tokens。因此一张 1024×1024 的图像成本为 1,536 个 tokens。每个问题都作为独立的 prompt 计费,包括其文本和所有图像。所以对 1 张图像提出的 3 个问题会将该图像计费 3 次。
该 端点文档 将请求限制为最多 8 张图像和 10,000 个图像补丁。完整的 JSON 主体必须保持在 4.5 MB 以下。
要点
- d1-ultra 在 0 个输出 tokens 的情况下为文本和图像决策返回概率。
- Liquid 在 Artificial Analysis Decision Index 上获得第1名,分数为65。
- 其价格为每 1M 输入 token 0.042 美元,与 TypeSafe 的 Jev 费率相同。
- Liquid 声称在其测试中具有最低的校准误差,这对路由阈值很有用。
- 模型规模、骨干网络和权重仍未公开;只能通过 API 访问。
请查看 官方博客文章、 决策模型文档,并试试 d1 Playground. 所有功劳归功于该项目的研究者。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ML SubReddit 并订阅 我们的通讯。等等!你在用 Telegram 吗? 现在你也可以在 Telegram 上加入我们。
这篇帖子 Liquid AI 发布 d1-ultra:一种在 AA Decision Index 上获得 65 分的多模态决策模型 首发于 MarkTechPost.