国联民生证券:豆包推出UltraMem架构推动端侧AI快速发展,广和通最新消息,300638最新信息

《 广和通 300638 》

涨停原因 | 十大股东 | 历史市盈率 | 龙虎榜

财务数据 | 分红股息 | 历史市净率 | 资金流

国联民生证券:豆包推出UltraMem架构推动端侧AI快速发展
2025-02-17 11:27:00
国联民生证券发表研究报告称:
  豆包提出全新稀疏架构
  近期,字节跳动豆包大模型团队提出了全新的稀疏模型架构UltraMem。该架构有效解决了MoE推理时高额的访存问题,推理速度较MoE架构提升2-6倍,推理成本最高可降低83%。研究还揭示了新架构的ScalingLaw,证明其不仅具备优异的Scaling特性,更在性能上超越了MoE。实验结果表明,训练规模达2000万value的UltraMem模型,在同等计算资源下,可同时实现业界领先的推理速度和模型性能,为构建数十亿规模value或expert开辟了新路径。
  大模型内嵌操作系统助力AI手机发展
  中兴努比亚手机率先将大模型内嵌到操作系统中,后续其他厂商有望跟进。中兴努比亚星云AI率先实现全尺寸内嵌DeepSeek-R1,并在努比亚Z70Ultra机型正式上线,可以发挥以下优势。(1)努比亚Z70Ultra可在星云智能对话界面直接调用DeepSeek-R1,避免多入口带来的繁杂操作。(2)DeepSeek-R1实现了与努比亚Z70Ultra星云AI多模态能力的无缝交互。(3)全尺寸内嵌DeepSeek-R1也可与努比亚AI耳机等智能设备互联,用户可通过耳机直接语音唤醒DeepSeek。
  国内模组厂商争相支持DeepSeek模型
  美格智能推出AIMO智能体产品,并加速开发DeepSeek-R1模型在端侧落地应用及端云结合整体方案。移远通信在边缘计算模组SG885G上成功实现了DeepSeek-R1蒸馏小模型的稳定运行,其生成Tokens的速度超过每秒40个Tokens,且未来随着性能的不断优化,速度还将进一步提升。广和通高算力AI模组及解决方案已全面支持小尺寸的DeepSeek-R1模型。未来有望在自动驾驶、机器人控制、智能制造、智慧医疗、AI智能体等场景广泛应用。
  DeepSeek-R1模型的成功发布,豆包提出全新的稀疏模型架构UltraMem,这都有望降低推理侧模型的成本,助力模型在端侧的部署续提升。
(文章来源:财中社)
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。