找回密码
 立即注册
科技快报网 首页 科技快报 快报 查看内容
鸿蒙5终端突破2000万!超百家伙伴齐贺,近20家伙伴携手带来“鸿蒙有礼特别版”数字人惊艳2025云栖大会!NuwaAI开创“真人+数字人”搭档协作新模式腕上米兰时装周惠聚京东 时尚智能手表享国补再叠12期免息猛士M817 Max+版新款上市,如何用“超200km纯电续航+顶级智驾”构建代差级领先?科脉云帆OS平台:以产品力重构零售结算生态从3G、4G到5G,高通孟樸回顾携手中国伙伴30年发展历程长城汽车魏建军:反对内卷和过度夸张营销,高管在发布会上若过度夸张宣传,回来受处分从“人找信息”到“信息追人”:鸿蒙5实况窗让出行“一眼安心”国庆宅家新潮流,让小艺当你的贴心家教与专属摄影师工博会技术深观察:加特兰如何用感知通信融合破解辅助驾驶难题当可以“玩”的电子家具成为情绪充电站,情绪经济推动下的产品变革为放心消费加码!箭牌瓷砖主编《佛山陶瓷放心消费品牌规范》英特尔联动「扣子 AI 工坊」启动高校计划——让校园创意一键开挂从优篮子到 JOBY:唯迹科技的全球化成长之路哈曼携手高通,助推汽车生成式AI跃迁华为坤灵发布IdeaHub千行百业体验官计划,助力中小企业跃升智能化天玑9500征服《崩坏:星穹铁道》,实测57.64FPS,功耗6W出头哈曼完成对 Sound United收购,强化高端音频领域领导地位戴尔科技:从“模型驱动”到“数据驱动”,重塑企业智能化转型新范式企业新型生产力平台ZENAVA正式发布,AI员工全面落地客服与营销场景

北京大学鲲鹏昇腾科教创新卓越中心特训营圆满举办

2025-04-01 11:11:00

3月28日,北京大学鲲鹏昇腾科教创新卓越中心特训营在北京大学新燕园校区计算机大楼成功举办,本次特训营旨在深入探讨昇腾技术栈在大模型应用中的前沿技术,特别是基于北京大学自研SCOW平台和华为昇腾的DeepSeek本地化部署与推理优化,并通过实践操作和技术专家面对面交流,进一步激发学生们的创新思维与学术视野。

1.JPG

深入解析:DeepSeek推理技术与昇腾平台的融合

活动伊始,昇腾生态技术专家许涛就“DeepSeek-MoE模型技术演变分析”,深入解读了DeepSeek系列模型技术演变。DeepSeek-MoE模型自推出以来不断优化,通过增加模型大小和专家数量,降低专家激活比,来提升性能,在架构和训练策略上持续创新。在技术实现方面,模型采用了多种优化方法,如在训练过程中,利用DualPipe双向流水线方法减少通信开销,根据不同的算子需求选择合适精度计算,引入MTP方法,以多个Token作为监督优化模型。同时,昇腾已经完成对Deepseek的适配,可以高效利用超节点内的高速通信带宽,有望在DeepSeek时代取得更好的发展。

2.jpg

(昇腾生态技术专家 许涛)

实践分享:基于昇腾的DeepSeek开源推理方案

北京大学联合华为发布的DeepSeek全栈开源推理方案依托全栈开源组件构建,基于北京大学自主研发的SCOW算力平台系统,整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件,通过开放协作打破技术壁垒,持续推动技术创新。北京大学计算中心工程师龙汀汀在特训营中详细介绍了该方案,现场演示了系统如何快速适应不同的AI框架,并展示其在多种应用场景下的高效性能。

3.JPG

(北京大学计算中心工程师 龙汀汀)

上手实操:边缘设备上的昇腾技术实践

在本次特训营的开发实战环节,学生们基于昇思MindSpore框架,在香橙派AI Pro开发板(20TOPS)上进行模型部署。值得一提的是,目前香橙派昇腾系列产品已经率先完成了与 DeepSeek 模型的深度适配,利用开箱即用模型,让边缘离线部署变得轻松高效。通过实操,学生们亲身感受到了昇腾无需依赖云端的强大算力,直接在边缘设备上实现高性能计算及积木式开发,既保障了数据处理的隐私安全,又大幅提升了响应效率。这种“端侧智能”的实战体验,不仅让学习更直观,更让大家领略到AI落地应用的无限可能。

4.JPG

(北京大学学生现场实操香橙派AI Pro开发板)

开放讨论:技术专家与学者面对面答疑

在活动的最后,学生们与华为计算战略规划专家、北京大学计算中心工程师、AI安全解决方案专家、昇腾生态技术专家们一起进行了面对面的互动,从鲲鹏昇腾设备使用到技术难题再到未来发展趋势,涵盖诸多领域。在算子开发与适配方面,学生们提出的问题得到了专家们细致且富有前瞻性的解答。关于自定义算子绑定复杂、编译耗时的问题,专家们表示除了相关QA文档资源会随商业版本尽快发布外,也可直接咨询华为研发专家加速问题解决。同时欢迎高校师生将自身解决问题的过程发布为案例教程,这些无疑为学生们后续的开发工作提供了有力支持。对于开源编译器支持的疑问,专家们详细介绍了相关接口的开源情况以及正在推进的研发工作,让学生们了解到未来算子开发将更加简化,这极大地激发了学生们探索新技术的热情。

硬件性能与生态建设也是互动的焦点。学生们关心的端侧异构模型部署问题,专家深入浅出地讲解了华为在这方面的布局和技术优势。他们提到,华为在端侧NPU和GPU的协同工作上有着长远的规划,并且在泛边缘或泛端场景下,软件体系的通用性为开发者提供了更为广阔的发展空间,这让学生们认识到华为计算生态的潜力,也为他们未来的研究方向提供了新的思路。

5.jpg

(开放交流环节 专家学者与学生们互动)

本次特训营的圆满举办是北京大学鲲鹏昇腾科教创新卓越中心在AI技术创新和人才培养方面的一次成功实践。北京大学鲲鹏昇腾科教创新卓越中心自成立以来,致力于构建基于鲲鹏昇腾技术路线的校级生态合作平台,围绕大学计算产业前沿课题研究、课程体系建设、研究人才培养等方面展开合作,为产业输出高质量鲲鹏昇腾创新人才,孵化和培育根植中国的世界级科研创新成果。未来,鲲鹏昇腾科教创新卓越中心将继续开展一系列针对高校师生的培训活动,帮助他们在科研创新与技术应用中取得更好的成果,推动人工智能技术的进步与产业的发展。

  免责声明:本网站内容由网友自行在页面发布,上传者应自行负责所上传内容涉及的法律责任,本网站对内容真实性、版权等概不负责,亦不承担任何法律责任。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

发布者:科技君

相关阅读

微信公众号
意见反馈 科技快报网微信公众号