家常菜日记

为您提供最新、最全的新闻资讯

科技

家常菜日记2024年11月14日发布:大模型催生算力需求爆发式增长!训推一体机将迎应用元年 多家上市公司已布局央视还有没有必要《星光大道》?

作者:Phelan | 责任编辑:Admin

本次大会汇集了来自全球各地的科技领袖,共同探讨未来科技趋势...

【澳门免费公开资料最准的资料】

【澳门二四六天下彩天天免费大全】

【新澳天天彩正版免费资料观看】
【二四六香港资料期期中准】
【二四六香港管家婆期期准资料大全】
【2024年新澳精准资料免费提供网站】
【2024港澳免费资料】
【2024澳门天天六开彩免费图】
【新澳门免费资大全查询】
【澳门正版资料大全免费网】

《科创板日报》11月24日讯(记者 黄心怡) 随着ChatGPT带来的大模型热潮成为科技行业的C位担当,市场上对算力需求也面临爆发式增长。有AI产业链人士对《科创板日报》表示,百度、腾讯、讯飞等纷纷四处搜罗算力资源,但要给这些头部企业供应算力,依然较为紧张。

云从科技、云天励飞、中软国际、软通动力等上市公司则纷纷加强布局与算力相关的硬件产品,为增加算力供应提供支持。

其中,训推一体机成为了资本市场的焦点之一。云从科技相关负责人对《科创板日报》记者表示,目前训推一体机的价格大约在三四百万的范围内。在中档旗舰训练部分,报价大致在一百万以下。

总体而言,从今年试点落地到明年,我们预计将迎来市场爆发。但需要注意的是,市场的爆发也伴随一些风险因素,其中一个关键点是要确保算力的生产跟得上市场需求。”

▍训推一体机的价格处于百万级别

今年7月,华为携手伙伴联合发布昇腾AI大模型训推一体化解决方案,加速大模型在各行业应用落地,其中,云从科技、云天励飞、科大讯飞、智谱AI、达观数据、面壁智能等位列合作伙伴。

云从科技相关负责人告诉《科创板日报》记者,与华为的合作的方式是共同打造产品。华为的代工厂会将芯片与云从的大模型集成,然后共同推广给客户。云从在这个合作中不仅卖产品,还会提供其他应用开发相关的服务。整个市场空间不同于以往的分成模式,而是通过联合推广的方式,共同打造产品,并由华为各地销售团队一起推广。

“云从在过去的客户体系中有自己的优势,特别是在To B领域,包括金融、交通、治理等传统领域,以及最近拓展的制造和能源服务领域。通过结合云从的行业特点和华为的To B面向客户的深耕经验,共同推广和销售生成一体机。整个市场上,合作方各自发挥优势,联合推动产品上市,不存在所谓的分成模式。”

据了解,云从与华为合作的一体机产品主要分为两类,包括“训推一体机”和面向推理需求的一体机。

“对于一体机,至少分为三个不同的价格档次。这仅仅是针对单台设备,不包括客户有其他多台设备或集群的情况。关于训推一体机,我们的价格大致处于百万级别,高端机大约在三四百万元的范围内。由于不同客户的需求和数据负载不同,因此在配置和报价方面也可能存在差异:在中档旗舰训练部分,报价大致在一百万元以下;与其他一些厂商的一体机相比,价格更低的产品,报价大约在30万元左右。”

在一些边缘场景中,有时可能并不需要GPU,而是采用被称之为"盒子"的设备,“这类需求价格更为经济,可能更为广泛,会涉及到一系列的产品,通过我们的生态系统,提供鼠标、一体机、盒子等一整套的产品,价格在几万块钱的范围内。我们会根据不同的层级在市场上展开相应的布局。”

对于后续订单情况,云从科技方面称,第四季度已经有一些在谈订单。“而明年的整体业务体量,因为当前是与伙伴一起在推的,短期内还没有明确的放量,但整个市场空间还是比较乐观的。“

▍明年有望迎来市场爆发 产能仍受限

对于整体的市场需求,云从科技相关负责人认为,一方面对于国产信创需求的增加和对合规、私有化部署的重视,二是对数据要素和基于大模型的应用侧变化的重视。明年被强调为应用的元年,预计将涌现更多的应用场景,市场规模庞大,尤其在IT部分的升级和场景需求明确的私有化部署方面,将带来巨大的市场机会。”

在市场空间方面,云从科技计划在整个市场中占据至少10%以上的份额,并通过与华为的渠道合作来实现。“具体的数字和量化数据还在与伙伴一起深入研究和细分,将在未来明确。总体而言,从今年开始试点落地到明年,我们预计将迎来市场爆发。但需要注意的是,市场的爆发也伴随风险因素,其中一个关键点是要确保算力的生产跟得上市场需求。”

目前,云从科技正与华为探讨产能问题,以确保能够满足市场需求。“在推广方面,我们首先会完成典型新客户的落地,然后从总部向下逐级推广至各个分支机构。以电力行业为例,涉及到各个省份的网公司、电厂、石油化工企业等,总计超过5000家。通过这样的场景推广,我们有望覆盖更广泛的市场份额。”

除了云从科技外,中软国际、云天励飞等也都纷纷入局算力一体化产品。中软国际发布公告称,与华鲲振宇签署全面战略合作协议,在大模型应用领域,双方将面向金融、制造等行业,联合推出基于模型实验室的昇腾训推一体机产品,提供开箱即用服务;面向政府市场,联合推出JointPilot“四问(问数、问视、问策、问服)”系列大模型一体机。

云天励飞方面对《科创板日报》记者表示,公司于2015年起就与华为形成合作关系,作为昇腾万里伙伴计划的成员,前期已基于昇腾AI基础软硬件平台,推出一系列产品及解决方案,包括动态人像系统深目,多维大数据分析系统深海,视频结构化系统深萃,以及AI算法服务平台深智等。

据悉,云天励飞联合华为推出了大模型训推一体化产品——云天天书大模型训推一体机,其内置了自主研发的天书千亿级大模型。

该一体机通过与华为昇腾910芯片硬件加速平台在算子加速库及工具链等方面的优化,采用全国产化的大模型和硬件计算平台,集成“开箱即用”系列训推工具,能满足面向多业务场景的大模型高并发高能效处理、业务快速上线的需求。此外,也支持用户进行二次开发和敏捷部署,满足了用户个性化和灵活的使用需求。

此外,智谱AI与昇腾合作的天智ChatGLM训推一体机,也已经通过华鲲振宇等渠道进行组装和销售。相关产业链人士告诉《科创板日报》记者,智谱大模型的优势在于语言领域,其一体机主要的应用行业包括电商、金融、保险等

“天智ChatGLM训推一体机的优势在于,支持中英双文的流畅对话,可以用于电商的智能客服等场景。在报价上,根据卡数的不同,从几十万到上百万不等。”


基于华为鲲鹏+昇腾产业生态,神州数码则打造了神州鲲泰系列产品,推出了神舟鲲泰问学一体机。

神舟数码相关负责人向《科创板日报》介绍,2022年,神州数码基于与昇腾的深度合作,推出神州鲲泰 KunTai AT200中心训练服务器序列、神州鲲泰 KunTai AI200整体推理服务器系列和神州鲲泰 KunTai AE200的边缘服务器系列等三个系列产品。目前,结合神州问学Gen-AI企业落地应用最佳实践,正是强化“昇腾产业生态”的投入与布局,致力于打造人工智能全栈产品和技术解决方案。

【2024新澳正版资料免费大全】 【新澳今天最新免费资料】 【新澳门资料免费大全资料的】 【澳门天天彩资料免费大全新版】 【2024澳门六开彩免费精准大全】 【澳门六开彩天天开奖结果生肖卡】 【新澳最精准资料免费提供】 【新奥精准免费资料提供】

作者简介:邬倩倩,资深科技记者,专注于人工智能和数字化转型领域的报道。

最新评论

江疏影 2024-11-13 17:21

▍明年有望迎来市场爆发 产能仍受限

IP:63.29.7.*

屈雪枫 2024-11-13 15:18

通过这样的场景推广,我们有望覆盖更广泛的市场份额。

IP:83.38.8.*

史蒂芬·莫耶 2024-11-13 19:15

总体而言,从今年开始试点落地到明年,我们预计将迎来市场爆发。

IP:35.75.2.*