Artificial Analysis · X

每任务总成本包括搜索和模型推理成本

Artificial Analysis测算Exa搜索产品每任务总成本,auto版0.066美元、lite版0.044美元,Dynamic Highlights使推理成本从0.018降至0.012美元。其性价比前沿结论是该机构的评测结果,非独立验证。

配图来源 · Artificial Analysis · X

每任务总成本包括搜索和模型推理成本

Exa(auto,Dynamic Highlights)每个任务成本为0.066美元,其中约0.053美元为搜索成本(每1k次搜索7美元),约0.012美元为模型推理成本。Exa(lite,Dynamic Highlights)每个任务成本为0.044美元,其中约0.031美元为搜索成本(每1k次搜索4美元),约0.013美元为模型推理成本。Dynamic Highlights还通过返回更少的文本降低了模型推理成本,auto的模型推理成本从使用标准摘要时的每任务0.018美元降至0.012美元

启用Dynamic Highlights的auto和lite都位于Artificial Analysis搜索索引的成本与能力帕累托前沿上,将前沿扩展到Octen(每任务0.024美元得分77)之外,意味着没有其他搜索产品能以更低的成本获得更高的分数

原始出处

Artificial Analysis · X

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准