当前位置:首页 > 要闻 > 正文

明生恒卓申请基于FSDP与梯度压缩的电力大模型分布式训练方法及系统专利,显著降低显存占用

  • 要闻
  • 2026-02-03
  • 2
  • 更新:2026-02-03 13:58:02

国家知识产权局信息显示,安徽明生恒卓科技有限公司申请一项名为“基于FSDP与梯度压缩的电力大模型分布式训练方法及系统”的专利,公开号CN121436095A,申请日期为2025年10月。

专利摘要显示,本发明公开了一种基于FSDP与梯度压缩的电力大模型分布式训练方法及系统。该方法包括:S1、构建电力多模态数据集;S2、按照电力场景/设备类型将数据集分片;S3、构建混合并行训练框架;S4、优先调度计算密集型任务与通信密集型任务并行执行,采用NCCL库实现梯度分片异步传输;S5、执行分布式训练,利用GPU集群算力加速模型收敛;S6、实时监测训练速度和模型精度指标,并判断是否达标,是则输出训练加速模型,否则根据训练阶段动态调整梯度压缩率和通信策略并执行步骤S3。本发明引入FSDP与电力特征感知梯度压缩相结合的混合并行框架,并辅以场景化数据分片与动态反馈机制,显著降低显存占用、提升训练速度,同时保障模型精度。

天眼查资料显示,安徽明生恒卓科技有限公司,成立于2008年,位于合肥市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本15000万人民币。通过天眼查大数据分析,安徽明生恒卓科技有限公司共对外投资了2家企业,参与招投标项目1198次,财产线索方面有商标信息10条,专利信息231条,此外企业还拥有行政许可25个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

来源:市场资讯

有话要说...