创金合信周志敏:算力技术路线有待跟踪

最新信息

创金合信周志敏:算力技术路线有待跟踪
2023-06-16 08:04:00
创金合信周志敏表示,算力提升在促进性能增加的同时也能有效地控制成本,性能提升方式的不同,大模型的算力需求、理论、供应链和技术路线也将不同。
  以下为文字精华:
  提问关于上游的算力方面,你怎么看?
  周志敏:其实我们也在关注最新发布的超级架构GH200,其CPU + GPU + DPU的架构模式使得算力比原来提升了许多,从该架构中可以看出。
  第一,光有算力是不够的,性能也需要提升。
  第二,提升性能的同时,成本也需要降下来。
  这符合科技行业的发展规律,发展初期大家追求的都是够用就行,用现有产品测试新场景,在确定其可行性后才会针对该场景发展新的应用,随着新应用的不断迭代,当初较高的使用成本则随之下降。
  所以,我觉得AI也不例外,虽然从全球范围来看AI现在还处在上升趋势当中,但是因为产业还在孕育过程中应用并未得到有效开发,算力计算也并没有一个好的标准,此外因为大部分的模型还处于训练阶段,模型的训练算力和推理算力的要求在算法上面有一些区别,所以当前想要得到准确的算力数据是不太科学的,但是在总需求上将来可能是在逐步上升的。
  对于如何提升AI的性能,市场上有两种说法,第一,根据大模型的参数量,逐步增加参数。 第二,使用较大的参数量,通过提升间隔的方式将模型的参数分割为多段,从而达到减少算力需求的目的,但这依旧需要拥有能容纳足够大参数的模型。
  另外,人工智能在美股的股价创新高,这与业绩发布有一定的关系,如果上季度业绩还不错,那么展望下季度的业绩也不会太差,所以短期太担心风险。对于国内来讲,因为贸易限制的问题就相对复杂一些,所以国内的大模型公司可能还需要考虑得更多,比如,是否需要多囤一点h800?是否需要寻找备用方案?是否需要开始尝试使用国内算力供应商的算力?这是技术和供应链安全的问题。
  其实还有路线之争,例如,英伟达代表的是GPU路线,还有以谷歌代表的TPU(ASIC专用芯片)。对于路线的选择,现在还没有明确的定论,将来算法模型相对稳定或者架构稳定了,那么大公司也可能会使用ASIC芯片,所以我觉得科技股有趣的就是这个地方,在刚兴起时,并不能用成熟行业的眼光来看待它的,因为随着技术、理论或者供应链的变化,科技公司的成本会随之升高或者下降,那么公司就需要考虑新技术路线是否有探索价值了。
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。

创金合信周志敏:算力技术路线有待跟踪

sitemap.xml sitemap2.xml sitemap3.xml sitemap4.xml