国内刊号:21-1124/TP
国际刊号:1001-0920
发布日期:
作者:赵洪科,叶倩彤,张志勇,张凯,汪珂航,黄振亚
单位:天津大学 管理与经济学部,天津 300072;天津大学 复杂管理系统实验室,天津 300072,,天津大学 管理与经济学部,天津 300072;天津大学 复杂管理系统实验室,天津 300072,,天津大学 管理与经济学部,天津 300072;天津大学 复杂管理系统实验室,天津 300072,,中国科学技术大学 计算机科学与技术学院,合肥 230000;中国科学技术大学 认知智能全国重点实验室,合肥 230000,,中国科学技术大学 计算机科学与技术学院,合肥 230000;中国科学技术大学 认知智能全国重点实验室,合肥 230000,,中国科学技术大学 计算机科学与技术学院,合肥 230000;中国科学技术大学 认知智能全国重点实验室,合肥 230000,
关键词:低碳算法;模型压缩;大语言模型;可持续计算;模型加速;模型压缩
基金:国家自然科学基金项目(72471165, 72101176).
探讨低碳神经网络算法的设计及其在工业界和大型模型中的应用. 首先, 介绍低碳算法的概念及碳足迹视角下的深度学习算法; 随后, 深入研究多种设计策略, 如剪枝、量化、低秩分解等, 这些策略能显著降低数据中心和网络设备的资源消耗, 推动绿色计算的发展. 此外, 关注了低碳算法的实际应用, 包括低精度计算、高效硬件设计和硬件加速, 展示了其在减少能源浪费和环境影响方面的潜力. 对于大语言模型(LLMs), 讨论了训练过程中的压缩技术、模型结构优化等方法, 以降低这类高资源需求模型的环境负担. 最后, 提出了评判标准来衡量不同算法的效能, 并展望低碳算法未来的发展方向及其对可持续发展的重要意义, 旨在促进低碳算法的研究与应用, 为构建可持续的数字社会贡献力量.
来源:2025年第5期
《控制与决策》期刊编辑部