由中国信息通信研究院组织召开的“存力中国行”北京站活动4日在北京举行,活动通过座谈会和实地调研的方式,深入探讨AI时代下先进存力赋能AI大模型发展的支撑作用。
当前,AI推理在各行各业大规模使用,各行各业迫切需要将模型能力无缝融入到实际业务场景中,如投研分析、卷宗分析、智能客服、医疗影像辅助诊断等。AI技术虽已在文档处理等场景体现价值,但仍需解决推理效率、存力等突出问题,而存储对大模型训练与推理效果至关重要。
中国信息通信研究院首席专家石友康表示,当前AI规模化应用推进,推理环节的成本、效率、质量问题凸显,先进存力成为提升AI推理效能、控制成本的关键。
2023年10月,工信部等六部门印发《算力基础设施高质量发展行动计划》,明确提出“加速存力技术研发应用”、“持续提升存储产业能力”、“推动存算网协同发展”等发展方向。
| --> |
中国信通院联合产业链企业成立“算力产业发展方阵先进存力AI推理工作组”。石友康建议,鼓励前沿存储技术研发创新,推动存算运深度融合,加强存算协同产业生态建设,业界凝聚共识,共同推动我国存算协同发展。
华为数据存储产品线战略与业务发展部总裁王旭东表示,AI时代,IT基础设施能力面临三大挑战:“管不好”的数据、“喂不饱”的算力、“降不下”的成本。华为针对AI推理研发的UCM推理记忆数据管理技术,通过“集中高质数据、提速AI训练、优化推理效能”三个角度,打造AI推理加速解决方案。
针对大模型推理“推不动、推得慢、推得贵”问题,北京硅基流动科技有限公司解决方案总监唐安波建议,核心推理框架适配多模态模型与国内外算力,适配昇腾并优化DeepSeek模型,可实现性价比提升。
中国移动云能力中心项目总师周宇表示,未来趋势上,移动云推动存储从被动存储转向智算协同,分阶段落地高密全闪存储、数据高速互联、存算一体等技术,长远构建池化多体存储体系。
声明:本网转发此文,旨在为读者提供更多资讯信息,所渉内容不构成投资、建议消费。文章内容如有疑问,请与有关方核实,文章观点非本网站观点,仅供读者参考。
袋装的粉色椰子水!「蔻蔻椰」推出鲜萃粉椰水
“会躺平”的粉色椰子水你们喝过吗?近日,「蔻蔻椰」推出新品:鲜萃...
“百亿”新乳业发布最新战略目标:力争年收入保持双
中国网财经6月1日新乳业发布进入百亿阵营后的最新战略目标。5月3...
盘龙药业:人才“孵化器”全面提升科研实力,助力研
近日,陕西盘龙药业集团股份有限公司发布公告称,公司通过了全国博士...
新加坡金管局与谷歌就生成式人工智能展开合作
2023年5月31日,新加坡金融管理局和谷歌云签署谅解备忘录,合...
双良节能驶入快车道,“绿电+绿氢”助力双碳目标
在刚刚过去的第十六届SNEC全球光伏大会上,有专业人士指出,“今...
精检细修确保暑运安全
为确保雷雨天气及繁忙暑运铁路行车安全,电气化局运管公司上海维管处...