当前位置:新闻 > 澳门 > 正文
Macau · China News Service Online | CNSO
外界窺探高效率秘訣
2026-10-21 · 来源/力報

外界窺探高效率秘訣

DeepSeek於20日宣布,將內部使用的推理框架DeepInfer全面開源,並在GitHub發布程式碼。官方介紹稱,DeepInfer面向大型模型的高性能、大規模推理服務,提供離線推理及大規模部署所需的核心功能。此舉讓開發者可檢視框架設計,並按自身硬件和服務需求進行測試與調整。

此次開源讓外界難得一窺這家中國AI開發商如何有效控制大規模模型部署所帶來的龐大算力與能源需求。DeepSeek透過公開其底層生產技術堆疊,旨在協助外部組織提升硬件使用效率、增加請求吞吐量,並大幅降低執行延遲。

DeepInfer整合了多項成熟的降本方法,包括分散式推理與推測性解碼技術,並針對DeepSeek的模型架構進行專項優化,以最大化晶片使用效率。透過將運算工作負載分散至硬件叢集,並簡化輸出生成流程,該軟件在無需修改專有硬體的前提下,有效降低每次請求的運算成本。(編輯部)

版权声明:中讯社(中国通讯社,CNSO)原创稿件欢迎全球媒体转载,转载请注明出处与原文链接。
转载声明:本社转载稿件旨在传递更多信息,不代表本社观点与立场;如认为相关内容涉嫌侵权,请通过 chinanewsonline@yeah.net 联系我们。
发现错别字、事实或配图有误?点此纠错 经核实后将在本页挂条,并进入「更正与勘误」公开留档
新闻精选FEATURED NEWS
秒罄再加場!郭富城啟德跨年騷今日10時開搶加推門票(附連結)
中国足球协会独立展区精彩亮相2026两个博览会——以足协杯七十载风雨历程为轴
为世界经济注入确定性,中国一直在行动
全球CEO对话中国 | 用一个词形容今天的中国经济,那就是“创新”
谁参会?有什么价值?秒懂APEC工商领导人峰会
多家外媒持续关注APEC盛会:中国向世界释放开放创新合作信号
勒庞称若当选总统将不再为乌克兰提供财政援助
富士山封山期强风暴雪频发 山中设施全部停业
美军证实“罗斯福”号航母已抵达中东
泽连斯基:欧洲谈判团队首次“全阵容”与乌美磋商
波黑大选10月4日举行 选出主席团三族代表
日本推动修订“安保三文件” 日媒披露“防卫产业基础战略”部分内容
京ICP备2025122626号  logo01.dd7ff50e.png贵公网安备52011302005168号  政府注册编号CR3286927 登记证号75395436-000-06-26-4
统一服务邮件|Unified Service Email:chinanewsonline@yeah.net  Copyright@中讯社(香港)
服务热线