🚀 Introducing DeepInfer，我们的内部推理框架，现在完全开源了！
通过高吞吐量和低延迟的方式为 DeepSeek-V4.1-Flash 提供大规模支持。我们分享自己的生产技术栈，旨在帮助社区降低计算成本、减少能源消耗，并让人工智能更加实惠。
🔗 http://github.com/deepseek-ai/DeepInfer
1/4
🚀 Introducing DeepInfer，我们的内部推理框架，现在完全开源了！
DeepSeek宣布将其自研推理框架DeepInfer完全开源,并附上GitHub仓库。据公告称该框架在生产环境中支撑DeepSeek-V4.1-Flash,实现高吞吐低延迟,开源目的在于帮助社区降低算力成本与能耗。文中未提供具体性能基准或技术细节,仅属于发布介绍。
DeepSeek · X
内容说明
原始发布及相关权利归来源方。
机器翻译 · 请以原文为准