2014年，刚刚成立的深圳市云天励飞技术股份有限公司推出第一款产品“深目”，“深目”二字意为“深度学习的眼睛”，也代表着“深圳的眼睛”。十年后，当年AI创业公司已登陆科创板，开启“二次创业”后推出的首款产品，仍然用“深目”命名。
　　3月28日，云天励飞在深圳正式发布边缘训推一体产品——“深目AI模盒”，解决大模型在场景落地“最后一公里”问题。“这是我们十年磨一剑的产品，再次以‘深目’来命名，希望它可以真正给AI行业带来全新体验，让AI在更多的场景、更多的行业实现价值闭环”，云天励飞董事长兼CEO陈宁博士接受记者采访时这样表示。
　　“盒子”虽小内有乾坤
　　售价在千元级，用单手就能托起，“深目AI模盒”搭载了云天励飞自研大模型边缘训推芯片DeepEdge10 Max和自研多模态大模型“云天天书”，具备算法边缘侧在线学习能力。
　　据悉，当前业内主要有两类训推一体机，一类是在边缘端承载的小模型产品，价格在千元级别；另一类大模型训推一体机，如英伟达系列高性能芯片承载的训推一体机，价格在百万元级别。在陈宁看来，后者解决了诸多AIGC领域，如企业内部私有化部署等的问题，“但还有很多边缘、长尾的算法，尤其是视觉类算法，也急需通过大模型来解决碎片化、高成本、高周期投入，以及大量数据的问题，但是此前没有合适的大模型产品支撑”，陈宁说。
　　陈宁认为，对于低频算法的投入产出不匹配，让很多场景走到商业价值闭环时遇到极大挑战，导致喊了多年的“AI赋能百业”未能实现。“我们希望从根本上解决过去十年AI落地最后一公里的问题”。
　　百万元级的大模型训推一体机成本太高，无法用于边缘场景。为了把大模型“塞”进“小盒子”，云天励飞经过一年的技术攻关，开发了“深目AI模盒”，以更低的成本，统一的技术平台解决多类细分场景后精度不够、成本太高、训练周期太长，需要数据量太大等痛点，主要攻克了两大技术难题：
　　一是面向边缘的推理算力进行大模型优化，对多模态大模型的分层结耦、量化、优化，能够让它高效地运行在边缘的算力设备上，不仅能推理，还能完成微调等任务，在架构上做了很多创新。
　　二是芯片，自定义的处理器芯片指令级面向Transfomer等一系列大模型训练和训推一体微调的指令优化、工具链优化，在一颗边缘芯片上不仅能让大模型“跑”起来，还能够做微调训练，研发人员分别从大模型的架构和处理器芯片的价格两个维度进行联合优化设计，才能够在边缘端可接受的成本上运行大模型，通过训练不断地让大模型实现在边缘端的自学习、自进化，越变越聪明，训练效率大幅提升。
　　云天励飞副总裁罗忆指出，作为一个新产品形态，“深目AI模盒”通过“边缘大模型+边缘微调”解决两个核心问题，一是绝大部分场景有了“起步”算法，不用从零开始；二是在现场可以微调，将原来几个月的时间压缩到一两周，这对探索AI新场景、解决新问题起到非常关键的作用。据测算，“深目AI模盒”可实现算法场景覆盖超过90%、算法精度超过90%，使用成本降低90%。
　　AI产品化生态更重要
　　“AI商业化发展有三个阶段：AI方案化、AI运营化、AI产品化。”陈宁提出，在方案化阶段，企业主要通过项目制满足不同垂直领域客户需求，通过积累行业认知和数据，AI技术实力不断增强，形成越来越强的泛化能力AI平台，开启AI运营业务。而最终，所有的技术都需要通过物理实体赋能，因此AI最终必须走向产品化。
　　云天励飞业务发展路径也沿着这条路径展开。在AI方案化方面，云天励飞在公安、城市治理、智慧交通、人居生活等领域打造诸多标杆项目，并在低空经济、智慧教育等创新领域持续展开探索。基于在大量行业的落地经验，云天励飞已形成数据运营、新能源运营平台，走向AI运营化。如今，云天励飞还逐步走向AI产品化。
　　“多模态大模型推动AI从方案化走向运营化，最终走向标准化智能硬件”，陈宁认为，标准化智能硬件分为端、边、云三个不同的计算节点和产品形态。
　　在终端和云端，云天励飞通过与外部合作实现。如通过联合研发的项目让大模型赋能智能终端应用、开发行业应用，目前已并购了一家可穿戴设备厂家，启动了相关技术产品市场探索；在云端，全面拥抱华为昇腾生态，与华为昇腾联合推出基于昇腾的天舟大模型训推一体机；而在边缘端，则采取“端到端”开发打磨一系列设备，“深目AI模盒”就是其中之一。通过这三条路径，云天励飞已形成日益完善的大模型产品体系。
　　在陈宁看来，除了技术、产品、成本、商业模式的平衡，大模型产品要取得成功，更加重要的是生态。当天发布会上，云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0”生态联盟，共同探索更多大模型落地应用路径。
　　“如何积累起万级，甚至百万级企业和个人用户，让他们持续使用，甚至联合开发更多的应用，长在这个平台上，生态最重要”，陈宁说，多模态大模型在边缘训推一体，尤其是算法芯片的深入融合这个方向一定不会错，但不是一款产品、一项技术、一家企业就能够解决整个AI落地的问题，而是需要一个生态、一个联盟，不断地沿着这个方向去努力。
　　大模型平民化深圳有机会
　　“深目”是云天励飞2014年成立后的第一款产品，也是这家AI“独角兽”登陆科创板、开启二次创业以来的首款产品。不变的名字背后，是云天励飞的“十年磨一剑”。
　　陈宁说，“多模态大模型+国产工艺边缘推理芯片”延续了公司坚持十年的核心技术路线——“算法芯片化”。虽然名字未变，但“深目”已经从最初对AI方案化构想，进化成了如今成熟的产品化现实，技术底座已焕然一新。
　　“‘大模型平民化’的趋势越来越明显了”，陈宁说，预计三年到五年，全球80%以上的企业会运行在大模型之上，机器人和数字人的数量将超过人类的数量，每个人都会有一台机器人或者一个AI代理来服务。但真正要让每个人都用起大模型，还有很多问题和挑战，如何应对和突破，这不仅是云天励飞的机会，更是城市的机会。
　　在大模型技术的强力驱动下，AI能力得以更广泛地拓展与应用。每一个场景都蕴藏着巨大的潜力，等待着用大模型去重塑、去挖掘。“在中国大模型发展的过程中，深圳的差异化就是明确提出了全时域、全空域的场景开放”，陈宁说，“深圳有望成为最了解大模型、最先拥抱大模型的城市”。
　　近年来，云天励飞不仅为深圳AI产业建设助力，也参与到“深圳经验”向外输出的工作。陈宁说，探索大模型的边界，让AI在深圳真正能够从千行百业，从一个个城市角落的应用中源源不断生产出高质量数量，通过数据训练城市大模型、多模态大模型，再由这些大模型去定义大模型训推一体芯片，进而推动更多应用场景的开放，实现“应用生产数据、数据训练算法、算法定义芯片、芯片规模化应用”的“四位一体”的数据飞轮，这是中国通用AI不断晋级、提升智能等级，实现突破的机会，也是深圳的差异化机遇。
（文章来源：深圳商报）