Exowatt借助SageMaker无服务器模型定制在准确性上超越前沿模型

Exowatt构建模块化、可调度的太阳能系统，为AI数据中心等能源密集型应用提供可靠电力。其旗舰产品Exowatt P3通过光学透镜捕获太阳能，将其以热能形式储存在长时热电池中，并通过热机按需输出电力。与并网光伏太阳能系统不同，P3在电表后侧直接为数据中心供电，帮助数据中心无需等待多年期的电网互联队列即可上线。Exowatt构建了一支AI代理团队，用于监控和分诊实时告警，并支持太阳能系统的运营决策，通常在连接受限或无连接的边缘环境中运行。随着其设备群从测试台架扩展到制造以及数千台已部署的现场单元，运营这些系统的智能层也必须随之扩展。

在这篇文章中，我们展示了Exowatt如何使用Amazon SageMaker AI无服务器模型定制构建可重复的AI管道。该管道为边缘和云端两个部署目标生成任务特定的微调模型，在成本降低高达49×的情况下实现了比前沿模型更高的准确性。

本文所述的两个模型是该管道的首批产出，而非最终目标。这次合作更持久的成果是管道本身：一条从原始运营数据到经认证的训练集、微调模型和经过评估的部署产物的可重复路径。Exowatt现在可以在数天而非数月内运行这条路径。告警分诊和能源市场分析只是同一方法适用的众多狭义、高价值任务中的两个。

挑战：物理能源基础设施上的AI

Exowatt的能源管理系统（EMS）运行在不断增长的运营站点群上。每个站点持续产生告警：硬件组件运行超出规格、连接中断、电压读数超出范围以及类似事件。随着设备群向数千个现场单元扩展，人工操作员无法实时监控每个站点。Exowatt需要一个AI代理，能够读取每个站点的告警状态，并自主、可靠地采取或推荐正确的下一步行动。

前沿模型无法解决这个问题，原因有三：

1. 该任务狭窄且专有。Exowatt EMS上的告警分诊依赖于其特定的硬件、数据和运行逻辑。通用前沿模型并不专门针对这一任务。
2. 它必须在边缘运行，没有GPU且通常没有互联网。许多站点连接有限或时断时续，因此依赖云端调用前沿模型的代理在连接中断时会让操作员失去覆盖。
3. 成本在设备群层面无法扩展。对于持续重复的决策，将每个运营决策都路由到前沿模型，跨越数千个站点在经济上并不可行。

这正是Exowatt转向模型定制的地方。Exowatt最初的微调工作流程依赖于选择一个开放权重模型、构建容器并创建自定义训练配方，然后才能运行任何实验。这是模型实验的重大阻碍。此外，他们还必须确定模型微调的GPU硬件需求。随着团队加快实验节奏，每次运行都首先需要选择特定的GPU实例类型，然后等待该自选容量可用。当所选实例类型不可用时，这可能会延迟运行的开始或完全阻碍运行。

他们需要一个足够小、可以在无GPU边缘控制器上运行的模型，同时在特定任务上与前沿模型相比足够准确，能够自主行动。微调弥合了这一差距：一个紧凑的、任务专用的模型，既可部署在云端，也可部署在边缘。

解决方案概览

Exowatt通过在Amazon SageMaker AI上采用云原生、无服务器的模型定制方法来应对这些挑战。同一训练管道为两个部署目标生成微调模型：边缘和云端。

Exowatt在第一个用例（边缘告警分诊）中基于Qwen3-1.7B模型实施了这一方法，然后将相同方法应用于第二个用例（云端能源市场分析）中的Qwen3-14B模型。公司计划复用此解决方案，在整个设备群中构建更小的任务特定模型。

图1：Exowatt微调和部署管道，涵盖构建、云端服务和边缘服务阶段

以下七项AWS服务为AI管道提供支持，无需管理任何实例、集群或终端节点：

该工作流分为三个阶段：

模型定制（云端）： Exowatt 在 SageMaker AI 上使用无服务器模型定制、低秩适应（LoRA）和监督微调（SFT）对开源权重基础模型进行微调。由于无服务器训练按需分配容量，团队每天可以运行多个实验，而无需等待自选的 GPU。评估完成后，最佳模型会注册到 SageMaker AI 模型注册表中。

边缘部署： 对于延迟敏感、连接受限的告警分诊工作，微调后的 Qwen3-1.7B 模型被冻结、量化为 GGUF 格式，并在边缘通过现场控制器在 Kubernetes pod 中使用 llama.cpp 运行。此路径无需 GPU，并且可在无互联网连接的情况下运行。

云端部署（弹性）： 对于联网的机队级分析，微调后的 Qwen3-14B 能源市场模型通过 Amazon Bedrock Custom Model Import 提供服务，无闲置成本，仅在模型活跃时计费。

为什么选择 Amazon SageMaker AI 无服务器模型定制

Amazon SageMaker AI 无服务器模型定制服务通过 SageMaker Public Hub 提供丰富的开源权重模型选择，并附带现成的微调方案，因此团队无需构建和优化自定义训练容器，而这类工作通常可能耗费数周时间。对 Exowatt 而言，这使得微调从稀缺的、按计划进行的活动变成了常规的、按需进行的活动。这使得快速实验与测试的循环切实可行，同时保持较低的实验成本。

在预置 GPU 上进行微调需要选择特定的实例类型、申请该容量、等待其可用、运行任务，并为实例持有期间付费。持有时间通常包括在保持专用实例运行时实验之间的空闲时间。对于运行大量实验的小团队而言，这会拖慢创新速度并增加成本。Amazon SageMaker AI 无服务器模型定制会自动管理和编排运行微调任务所需的基础设施，消除了容量管理的痛点，且仅对微调任务运行的时间收费。

用例 1：使用 Qwen3-1.7B 进行边缘告警分诊

Exowatt 站点全天候产生告警。一个紧凑的现场模型会结合站点自身的状态和遥测数据读取每条告警，并返回一小组固定分类之一（例如离线系统、降额组件或传感器不匹配），附带引用证据，或在证据不足时明确弃权。

模型选择与训练数据

团队最初尝试了 Qwen3-8B 配合提示词和防护措施，但效果停留在目标以下（0.735 macro-F1）。微调后的 Qwen3-1.7B 改变了这一局面：在这个狭窄的单轮任务上，它以大约五分之一的参数量超越了 Qwen3-8B 加提示词的设置，同时足够小，可以进行无 GPU 的边缘推理。跨 12 个数据集版本微调的 13 个 Qwen3-8B 候选模型从未超越带提示词的 8B 基线。而数据更加多样的小模型做到了。

训练集规模小且经过精心策划：2,522 个样本，由 684 个基于生成的站点场景的已验证决策加上 1,838 个认证改写构成，改写在保持每个决策不变的同时重写了文字。这些改写由 Amazon Bedrock 上的 Qwen3-235B 生成，成本约 3.72 美元。只有当确定性检查确认决策、标签、证据引用和所有数字均未改变时，改写才会被保留（2,218 个候选中有 1,838 个通过）。有一类故障完全未参与训练，另外预留了 320 个案例用于测试。

训练与部署

在 SageMaker 无服务器微调上，训练在大约 32 分钟内完成，成本约 20–25 美元。量化到 8 位（约 1.71 GiB）后，模型在站点现有 CPU 服务器上的 6 GiB llama.cpp pod 中离线运行。它也可以在 t3.2xlarge 实例类型上运行。

用例 2：使用 Qwen3-14B 进行云端能源市场分析

可调度存储将时机转化为运营决策：每个站点必须持续决定为自身负载保留多少储能以及何时释放，对于并网站点，市场状况也会纳入这一选择。微调后的模型读取包含六小时实时市场数据的数据包（约 90 行实时价格、日前预测和电网通知），并在大约四秒内返回五种市场事件之一（例如价格飙升或稀缺性附加费）。每项结论都关联到特定的数据行，以为调度策略提供依据。

为什么选择 Qwen3-14B

选择 Qwen3-14B 是因为它受 Amazon Bedrock Custom Model Import 支持，它作为 SageMaker Public Hub 模型发布并附带现成的 LoRA 方案（无需管理自定义容器或实例类型），而且约 28 GiB 的大小使其足以以经济高效的方式提供服务。

训练数据与流程

Exowatt 使用来自五年历史的公开德克萨斯州电力可靠性委员会（ERCOT）市场数据（约 163 百万行，跨 12 张表）对模型进行微调。团队通过规则为这些数据打标签，生成 25,000 个样本（22,000 个用于训练，1,000 个用于验证，2,000 个预留用于测试）。随后，他们让 Amazon Bedrock 上的 Anthropic Claude Sonnet 4.6 重写每个样本的文字，同时保持标签和数字字段不变，将训练集扩展到 86,281 行。

训练采用单次 LoRA epoch(rank 16,alpha 32),通过托管 serverless 微调在大约 8.5 小时内完成,最多同时运行四个作业。从最初规划到冠军模型在 Cloud EMS 中上线服务的六天里,团队运行了 23 个作业和约 155 小时的托管训练。

决定性的改进来自释义多样性:为每个答案添加 1 组 3 个改写,使 macro-F1 从 0.950 提升到 0.975。基础模型的 macro-F1 仅为 0.415。它能生成合法的 JSON,但还不了解这个市场。微调解决了这个问题。

部署

合并后的检查点在大约 14 分钟内导入到 Amazon Bedrock Custom Model Import。该模型运行时没有闲置成本,仅在使用时按每小时 6.86 美元计费。

基准测试结果

在边缘告警分诊任务上,经过微调的 Qwen3-1.7B 从一个无法给出合法答案的模型提升到在 320 个测试用例上取得 0.911 macro-F1,超过所有前沿基线。将相同的微调与评估循环应用于包含 2,000 个测试用例的能源市场任务,Qwen3-14B 达到了 0.975 macro-F1,再次超过前沿基线,且成本只是其零头。在这两个案例中,经过微调的小型模型都在特定任务上击败了规模大得多的通用模型。

两个模型都返回严格的 JSON,其中每个论断都引用具体的输入数据行。任何缺乏依据的论断都会在到达操作员之前被丢弃,这正是团队能够在自主物理环境中信任小型模型的原因。

表 1:边缘告警分诊结果,微调后的 Qwen3-1.7B 与前沿模型的比较

每 1,000 次决策 0 美元意味着没有按量计费的 API 或 GPU 推理成本。量化模型在站点现有的 CPU 上运行。

表 2：云能源市场分析结果，微调后的 Qwen3-14B 与前沿模型对比

成本为 Amazon Bedrock 标价乘以每个答案实测的 token 数。微调将一个开源模型从最后一名提升到第一名：macro-F1 比 Claude Opus 4.7 高出 +0.35（95 百分比置信区间为 0.324 到 0.371），而每 1,000 个答案的成本约低 49 倍（0.60 美元对比 29.26 美元）。该模型在第二个较晚的测试集上保持了 0.968 的 macro-F1。

业务收益

更快的迭代和更快的上市时间： Exowatt 仅用 9 天就将定制模型从实验推进到生产。如果团队必须构建和优化自定义容器与训练配方、配置 GPU 并管理基础设施，这一过程可能需要数月。借助 SageMaker AI 无服务器模型定制，团队在大约 32 分钟内训练了 Qwen3-1.7B，在大约 8.5 小时内训练了 Qwen3-14B，无需容量申请，并且最多可同时运行 4 个训练作业。在能源市场用例中，Exowatt 运行了 23 个作业，总计约 155 小时的托管训练，并在 6 天内从基础模型转变为在 Cloud EMS 中服务的微调模型。合并后的检查点在大约 14 分钟内导入 Amazon Bedrock。端到端流水线使用了 7 项 AWS 无服务器服务，Exowatt 无需管理任何实例、集群或端点。

相比前沿模型更高的准确率： 两个微调模型都在各自任务上击败了更大的前沿模型：Qwen3-1.7B 达到 0.911 macro-F1（相比之下 Claude Sonnet 4.6 为 0.698），Qwen3-14B 达到 0.975（相比之下 Claude Opus 4.7 为 0.625）。

两种部署方式下成本都更低： 在云端，Qwen3-14B 的服务成本为每 1,000 个答案 0.60 美元，而 Claude Opus 4.7 为 29.26 美元（约低 49 倍），没有闲置成本，仅在 Amazon Bedrock Custom Model Import 上活跃时才产生每小时 6.86 美元的费用。在边缘，量化后的 Qwen3-1.7B 在站点现有 CPU 上运行，没有单次推理成本，也不依赖网络连接。

有据可依、低风险的输出： 在两个模型中，证据围栏移除了所有未引用的声明（任何来源、字段或数值与输入不完全匹配的证据引用），并且边缘模型在不确定时选择弃答而非猜测。这使得团队能够在某个站点的云端托管副本上以影子模式自主运行该模型。

经验教训

对于特定任务，较小的微调大语言模型可以超越大型前沿模型： 微调后的 Qwen3-1.7B 和 Qwen3-14B 模型都在目标任务上超越了前沿模型，以远小得多的模型规模、更低的成本带来了更高的准确率。

数据质量和多样性比原始数量和额外轮次更重要： 对于范围紧凑的任务，数据质量比模型规模或数据量更重要。在告警分诊模型上，更多经过验证的训练多样性使 macro-F1 从 0.584（仅用 684 条已验证决策训练）提升到 0.911（使用经过改写扩充的 2,522 行数据集）。简单地在相同数据行上运行更多轮次反而效果更差：一个在原始 684 行上训练 11 个轮次（相同步数）的对照运行仅达到 0.879。在整个过程中，精心整理的数据比数据集大小更重要。

消除资源预配步骤改变了团队的工作方式： 当训练运行不再需要等待 GPU 容量时，微调就从偶发事件转变为常规的迭代性工作。

一套训练流水线服务两个部署目标： 将模型训练与部署分离，使 Exowatt 能够使用同一套流水线同时进行离线边缘部署和联网的车队级分析，简化了运营并加快了云端模型部署。

结论

Exowatt 现在拥有一个可复用的 AI 流水线，将一项任务从模型专属数据准备一直推进到模型部署。Exowatt 计划不是为不同任务调优同一个模型，而是将相同的微调原则应用到不同任务上，随着新的设备类型和市场任务上线，在车队范围内为每个任务使用各自的数据、特定模型和评估。

这一模式可以推广到能源行业细分领域之外。各行业细分领域的 AI 工程师、数据科学家和客户都可以采用相同的原则。使用 Amazon SageMaker AI 无服务器模型定制作为低开销的 AI 流水线来微调小型、任务特定的模型，然后将其部署到工作发生的地方：在需要时部署到边缘（当连接性或延迟有要求时），或通过诸如 Amazon SageMaker AI 之类的托管云端点部署以应对弹性工作负载。

要了解更多信息，请参阅 Amazon SageMaker AI 无服务器模型定制 和 Amazon Bedrock.

关于作者