ToB产业新动向:哪些变化正在悄然发生?

   发布时间:2024-10-16 13:30 作者:苏婉清

随着大模型技术在2024年的显著提速,其在产业中的应用迎来了爆发式增长。据统计,2024年上半年大模型项目的中标金额已达9.38亿元,远超2023年全年的7.89亿元,标志着大模型从理论研究迈向了广泛的实际应用。

大模型的应用不再局限于广泛的概念,而是逐步深入到各个行业之中。各行业对于如何实现AI技术赋能现有业务的需求日益迫切,成为企业在技术革新中保持竞争力的重要考量。浪潮信息产品方案开发部总经理魏健指出,大模型的行业应用不仅需要强大的模型本身,还需要考虑如何有效提升AI应用创新的质量和效率。

当前,大模型在行业应用过程中面临多重挑战。首要挑战来自硬件层面,大模型的训练和推理需要庞大的算力资源,且随着模型参数规模的扩大,对算力的需求也进一步增加。高昂的硬件成本以及初期效果的不确定性,使得企业在采购硬件设备时犹豫不决。青云副总裁沈鸥表示,很多企业因为关注投资回报率,不愿在初期投入大量资源。

企业在应用模型赋能业务时,发现小参数量的模型往往比大参数量的模型效果更好。魏健解释说,通用大模型由于参数巨大,难以直接应用于复杂、离散的行业场景,需要结合行业专业数据进行再学习。

面对这些挑战,企业在应用大模型的初期更倾向于选择一站式的解决方案。一体机因其快速交付、开箱即用、极致性能和安全高效的特点,成为企业部署行业模型的重要选择。

根据公开数据,2023年和2024年上半年,大模型项目中硬件、软件和服务的占比分别为60%、11%、17%和61%、5%、30%以上,硬件和服务占据了主导地位。魏健表示,一体机能够快速帮助企业落地大模型应用,尤其对传统行业企业来说,是一个重要的解决方案。

青云科技CEO林源认为,一体机在大模型应用的初级阶段特别受欢迎,它能让企业快速实现大模型的应用落地。目前市面上的一体机主要面向端侧的微调和推理场景,随着技术发展,用户群体和需求也在增加。

从用户群体来看,一体机的主要客户包括传统行业用户、ISV公司以及大模型应用开发团队。魏健指出,一体机能够帮助这些用户以较低的成本快速实现模型应用开发,抢占市场份额。

林源表示,一体机更适合于标准化的小场景,能够快速、经济地开发出专有的小模型产品。对于复杂业务场景,定制化仍然是更好的选择。

目前,已有20余家企业布局一体机产品,希望通过软硬一体的解决方案加速大模型的应用步伐。浪潮信息推出了元脑企智EPAI一体机,提供一站式大模型生产及应用全流程开发工具链。联想也发布了智能体一体机,提供零代码开发功能,方便用户创建智能体。

云厂商也纷纷入局,推出了一体机产品。青云科技推出了AI智算一体机,为用户提供开箱即用的AI环境。优刻得的大模型一体机则支持多种开源模型的部署及算力调度。

无论是硬件厂商还是云厂商推出的一体机,其核心能力都是提供开箱即用的平台和开源开放的大模型能力,帮助用户快速开发企业级模型软件和产品。

 
 
更多>同类内容
全站最新
热门内容
本栏最新