商汤联合多机构发布白皮书 首次提出新一代AI基础设施评估体系

最新信息

商汤联合多机构发布白皮书 首次提出新一代AI基础设施评估体系
2024-01-02 10:41:00
K图 00020_0
  近日,商汤科技智能产业研究院与中国信息通信研究院云计算与大数据研究所、中国智能算力产业联盟、人工智能算力产业生态联盟联合发布《新一代人工智能基础设施白皮书》(以下简称《白皮书》)。《白皮书》不仅明确了“新一代AI基础设施”的定义、特点和价值,还首次提出“新一代AI基础设施评估体系”,为AI 2.0时代智算产业发展提供重要参考。
  新一代AI基础设施成为AI 2.0时代“新基建”
  数据显示,过去四年,大模型参数量以年均400%复合增长,AI算力需求增长超过15万倍,远超摩尔定律。以CPU为中心的传统计算基础设施已无法满足大模型、生成式AI的新要求。大模型训练对数据质量和效率的需求,企业应用生成式AI对于MaaS(大模型即服务)的需求,也都给AI基础设施提出了全新要求。
  AI 2.0时代,需要新一代的基础设施来支撑大模型的训练与推理、生成式AI应用的规模化落地,其核心要素,如计算、存储、网络以及数据服务都要做精细化的设计和重构,而非简单的服务器或GPU实例堆砌。
  《白皮书》明确了新一代AI基础设施的定义——以大模型能力输出为核心平台,集成算力资源、数据服务和云服务,专门设计用于最大限度提升大模型和生成式AI应用的表现:数据准备与管理、大模型训练、推理、模型能力调用、生成式AI应用部署。企业通过新一代AI基础设施开发和运行生成式AI业务和客户应用程序,以及基模型和行业模型的训练与微调。
  《白皮书》指出,新一代AI基础设施的建设将降低大模型开发和应用门槛,在政企服务、产业和科研创新等方面创造更大社会价值:面向产业,将加快推进传统产业上下游各个环节的智能化转型,催生新业态、新模式的不断涌现;面向科研,可加速科学实验的自动化和智能化,激发人工智能驱动科学研究(AI for Science)的新范式;面向政务,将原本分散、碎片化的政务应用,通过“一模通办” 为政务服务提质增效。
  首次提出新一代AI基础设施评估体系
  当前,新一代AI基础设施市场处于高速竞争的初级阶段,云计算、AI原生、硬件系统等各类厂商均有各自优势。为了给企业用户提供AI基础设施选型的可靠性指导,《白皮书》首次提出了“新一代AI基础设施评估体系”,通过产品技术、战略愿景、市场生态三大维度、十二个评估指标,对AI基础设施厂商综合能力进行定性和定量的全面评估。
  《白皮书》选取了十二家最具代表性的AI基础设施厂商。其中,商汤科技的新一代AI基础设施——SenseCore商汤大装置成为新一代AI基础设施市场的领导者。
  SenseCore商汤大装置作为商汤推出的AI基础设施产品与解决方案,总体算力规模目前已达6800P,在支持商汤自身大模型研发同时,也支持外部客户训练大模型和应用部署。今年以来,共有超1000个参数量数十亿至上千亿的大模型在大装置上完成训练,实现了领跑行业的技术迭代进度,并支持了数十款生成式AI应用。
  《白皮书》以商汤基于AI大装置的多场景实践案例为例,阐述了从大型模型训练到生成式AI应用的全过程,再到区域智算中心的建设与运营,深入挖掘了这一全生命周期中的商业创新价值。
  《白皮书》指出,随着新一代AI基础设施的边际成本持续下降、边际效益持续增长,AI将普惠每一个人。
(文章来源:证券时报网)
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。

商汤联合多机构发布白皮书 首次提出新一代AI基础设施评估体系

sitemap.xml sitemap2.xml sitemap3.xml sitemap4.xml