来源：中国计算机大会

文章链接：https://mp\.weixin\.qq\.com/s/1eYbR9tSPLa3C1DrRd8B4A

大模型时代，如何用更少的比特获得更高的计算效率？本论坛聚焦低精度数据格式、模型训练与推理、量化算法、软硬件协同及系统优化等前沿研究，探讨从数值表示创新到高效AI计算系统构建的关键问题与最新进展。

大模型时代，如何用更少的比特获得更高的计算效率？本论坛聚焦低精度数据格式、模型训练与推理、量化算法、软硬件协同及系统优化等前沿研究，探讨从数值表示创新到高效AI计算系统构建的关键问题与最新进展。

论坛简介

随着大模型参数规模、上下文长度和计算需求持续增长，算力、存储、带宽与能耗正在成为制约人工智能进一步发展的重要因素。通过采用8bit、4bit乃至更低位宽的数据表示，低精度计算能够有效减少模型权重、激活值及中间数据的存储与搬运开销，并提升计算吞吐与能效，正在成为新一代人工智能计算的重要研究方向。

但低精度不只是减少几个bit，位宽不断降低后，模型精度、数值动态范围、量化误差、训练稳定性以及硬件执行效率之间的矛盾更加突出。如何设计更适合AI数据分布的新型低精度数据格式，如何实现训练、推理和量化算法协同，如何通过编译、算子与体系结构设计将理论上的位宽优势真正转化为端到端性能收益，仍存在大量值得深入研究的问题。

本论坛将面向低精度计算的学术前沿，围绕低精度数值表示与数据格式、低比特模型训练与推理、量化算法、软硬件协同设计、高效算子与体系结构、低精度计算系统与数据传输等方向展开交流，邀请国内相关领域专家学者分享最新研究成果，并共同探讨低精度计算未来值得关注的基础问题、关键技术与研究趋势。

日程安排

顺序

主题

主讲嘉宾

单位

1

基于昇腾的并行加速与生态使能

陆璐

华南理工大学

2

大模型量化压缩与高效部署

王培松

中国科学院自动化所

3

人工智能计算系统设计及优化

冷静文

上海交通大学

论坛主席：

王均松

华为技术有限公司

个人简介｜昇腾计算系统研究高级专家，长期深耕智能算力、AI大模型科研应用以及等前沿技术领域，拥有多项技术专利发明。目前专注于推动华为鲲鹏昇腾科教生态合作，积极促进大模型技术在高校交叉学科中的创新与应用。

论坛讲者：

陆璐

华南理工大学教授

个人简介｜CCF软件工程专委会委员，华南理工大学计算机科学与工程学院教授，博士生导师，主要从事异构算力并行加速与性能优化、软件测试与可靠性保障、软件架构设计与优化等领域的科研工作。已发表三大索引论文五十余篇，申请及授权专利、软件著作权二十余项，承担国家重点研发计划，国家自然科学基金，广东省，广州市重大科技专项及企业委托开发项目80余项。以第一完成人获华为技术最佳合作奖，广东省科技进步二等奖二项，广东省科技进步三等奖一项，广东省计算机学会二等奖一项，华为昇腾MVP。

报告题目｜基于昇腾的并行加速与生态使能（暂定）

王培松

中国科学院自动化研究所副研究员

个人简介｜中国科学院自动化研究所副研究员，在IEEE TPAMI、TNNLS、NeurIPS、ICML、CVPR、ICCV、ECCV等国际期刊和会议发表论文50余篇。主持国家自然科学基金青年基金、中科院战略先导子课题，参与国家重点研发计划、基金重点、以及华为、阿里巴巴、三星等多项科研项目。曾获Nvidia奖学金、IEEE国际标准突出贡献奖、NeurIPS国际神经网络压缩竞赛MicroNet Challenge冠军，入选中科院特聘研究骨干、北京市科协青年人才托举工程、微软亚洲研究院“铸星计划”、CCF-百度松果基金学者等。

报告题目｜大模型量化压缩与高效部署（暂定）

冷静文

上海交通大学教授

个人简介｜上海交通大学教授，博士生导师，上海期智研究院PI，主持了优青、面上等多项自然科学基金以及龙头企业横向项目。在国际一流的会议和期刊上发表了八十多篇论文和相关国内国际专利，获得过DAC, PACT等多个国际会议的最佳论文提名奖，入选体系结构四大会中MICRO以及HPCA名人堂。获得包括华为公司奥林帕斯奖（2023年）、IEEE体系结构年度最佳论文优胜奖（IEEE Micro Top Picks Hornorable Mention，2022年），以及阿里巴巴达摩院青橙奖（2020年）在内的多个荣誉奖项。

报告题目｜人工智能计算系统设计及优化（暂定）

原文链接: https://www.leiphone.com/category/private/hgogM5KKQ5ZuFJb7.html