别让CEO纠结大模型了

访客 2025-06-14 12:03:45 57554 抢沙发

默认

题图｜视觉中国

正当技术圈为AI的日益普及和自主而兴奋不已的时候，企业CEO们在为推动技术规模化发展而感到纠结，以大模型为代表的生成式AI落地应用依然比想象中困难得多。

埃森哲报告显示，2024年，全球范围内有36%的企业成功实现了生成式AI技术的大规模应用。此外，技术规模化应用过程还面临一个更为普遍的挑战——很多企业CEO还没把成本和收益的账算明白。过去一年，仅有13%的全球企业实现了可量化的财务回报。

不难看出，CEO们一方面担心不及时应用大模型技术会在竞争中落后，却又不知道如何让其对业务和管理产生正向价值。规模化应用和价值实现之间依然存在不小的差距。

企业落地AI不是讲故事

随着大模型能力的提升，探索生成式AI的落地应用成为了企业共识，而丰富的数字化场景、对数据的重视，企业对技术的拥抱度以及多样的用例显示了中国市场的特色。埃森哲调研显示，受访中国企业高管普遍认为，企业组织内生成式AI的发展速度比预期的要快。

埃森哲大中华区技术服务事业部总裁俞毅注意到，在一些知识密集型行业例如医药，企业不只是进行浅显的应用，更是在药物研发和知识管理等领域运用人工智能，而这些人工智能技术“不是简单的搜索，准确性、相关性都非常重要。“

但同时，一个普遍的现实很难让人忽视。埃森哲《技术展望2025》报告显示，半数以上的受访中国企业希望未来3年就实现生成式AI的财务回报，高于全球平均水平。从实践来看，很多企业其实并没有想好怎么用生成式AI来获得价值，如何通过大模型实现财务回报更是无从谈起。

技术的快速演进、激烈的市场竞争、业绩承压以及对于增长的渴望均带动着中国企业对于生成式AI和大模型的追捧和尝试。一方面，企业希望通过应用AI开发出更具创新性和个性化的产品与服务，形成差异化优势。另一方面，大模型可以自动化业务流程。在诸如生产制造、物流配送等业务流程复杂的企业，他们更为迫切需要使用新技术来降本增效。

随着接入大模型的热潮开启，各行业企业上下却鲜有花时间和心思去思考大模型如何给自身带来切实价值。“一方面很热，企业都在尝试，另一方面是比较无序，没有形成一个合力。”俞毅担心，在有些企业内最后会变成只讲故事或者“表演型“的AI实施。

尽管有超过半数的受访中国企业（57%）认为生成式AI解决方案正在或将在今年得到大规模使用，但企业仍然需要做好大模型不能在短期带来商业收益的准备。业界通常认为，在企业中推广AI的时间和开发的时间相当。

用好大模型，企业还面临多重挑战

中国企业对大模型落地应用呈现出的纠结态度，本质上是担心错过技术革新又不知道如何把新技术用好。

从企业实践来看，企业之前应用大模型的场景主要集中在非生产端，直到今年DeepSeek走红，一些企业开始使用深度推理模型解决生产性场景的问题。俞毅指出，企业应用AI的场景已经从一些“易得的果实”（如客服、营销、翻译等）转向了供应链、研发等更全面、深度的应用。

人力资源、财务流程等非生产性场景通常来说容错率较高，适合作为 AI 应用的切入点，但这并不代表企业就能够在这些场景中随随便便用好大模型。根据虎嗅的调研，企业在非生产性场景中使用大模型，遇到的主要挑战包括数据治理、模型选型、交互设计等。

在基础大模型的能力已经可以为企业提供比较稳定的支持之际，在落地过程中，企业则往往缺乏了一个“中间层”。数据就是重要一环。

尽管企业内部管理流程数字化已持续多年，不少企业内部仍然存在知识、数据分散等问题，导致复杂信息解析困难。比如，合同条款、审批流程中的图片、表格等非结构化数据，若直接投喂，易出现“垃圾进、垃圾出”的现象。

“完全用公开语料是一种方式，公开语料比较稳定。但行业的公开语料有时候准确性是不高的。怎么能在行业数据层面保证行业专属，光靠一家企业的知识积累可能不够。数据的完备和准确都要考虑。”俞毅表示。

同时，一些企业在模型选型上盲目追求参数，但非生产性场景对模型能力要求不高，很容易造成浪费。而在交互设计上，大模型需对接人力资源系统、财务系统等获取实时数据，但企业内部系统接口不统一，集成需投入大量开发资源。

生产性场景对模型能力的要求更高，企业面临的挑战也更为复杂。一方面，企业需要权衡是否进行本地化部署，企业需权衡自主训练模型的合规性与投资回报（ROI）；另一方面，企业还需要解决效率与推理深度的矛盾，长推理模型时效性较差，但一线生产场景对时效的要求又非常高，需通过复杂架构来平衡。

大模型的场景覆盖各行各业的诸多环节，其应用和落地过程中还面临很多具体而琐碎的问题，无法一概而论，整体体现为高度的非标准化，“边摸索、边创新、边落地”成为了当下不少企业开展实施的思路。

比如，在某金融交易平台上，随着企业年报和公告数量的增加，传统的手工处理方式已无法满足高效、准确的信息处理需求。其利用大模型技术和自然语言处理技术，创造性地构建一个能够自动处理复杂文档、提取并分析关键信息的系统，提高合规检查的效率与准确性；某生物制药企业利用先进的AI技术和自动化流程，帮助信息发布者高效准确地完成材料预审工作，最终提升整个企业的材料管理质量和工作效率。

再比如，某消费品企业旗下的品牌都有各自定位、消费者群体和业务流程。通过共享用知识中心，可以整合内部的知识（如消费者客户行为、供应链数据、品牌历史等），同时支持跨品牌的知识共享与协同。通过构建通用智能体（如客户关系管理、供应链优化、营销策略分析等），不同品牌可以按需调用这些模块，快速响应业务需求，避免每个品牌从零开始开发基础功能，专注满足于差异化需求的定制化开发。

构建数字化核心，企业应用AI之路才能走得更远

埃森哲提出的生产力增长公式认为，在成本转型的基础上，通过新的工作方式和采用生成式AI引领结构性变革，能使得中等增长企业的生产力年增长率从1.9%跃升至15.9%。

在企业生产力增长放缓的背景下，这样的前景无疑十分诱人。对各个行业、不同应用程度的企业来说，生成式AI的落地过程或许也是突破效率瓶颈、寻求新增长的过程。

在AI的部署和落地上，企业拥有足够的空间来找到适用场景。有一些通用的步骤可以借鉴：

第一，企业要有一个AI 基础，如果连GPU或者云上、本地部署都没有，可能也就谈不上AI应用。第二，企业要有通用型的应用，例如会议纪要、文档类的AI应用，或者AI搜索、知识管理，这些领域会是“刚需”。第三，目前，比较多的AI应用集中在职能部门，如人力资源、财务、供应链和客户关系管理等，而在这些系统的更迭过程中，企业就不只考虑功能性，也要考虑AI在里面能够起到什么样的作用。

与以往移动互联网、云技术相比，这一轮的AI技术演进和企业用例变化更为快速，尤其是近来智能体的发展将带来更复杂多样的技术环境和商业需求。俞毅认为，企业需要有机制和架构来适应不断变化、不断成熟的技术。“这可能比以往更为不易。”

在埃森哲看来，这样的架构往往具备了数字化平台、数据、AI、以及包括安全、云设施、统一控制台、可组合集成在内的数字化底座等核心技术能力：

在底座层面，探索弹性部署与成本优化，通过一些技术手段动态调整算力资源，同时构建全链路防护体系，解决数据、模型、交互等多个维度的安全问题；在数据层面，解决数据孤岛问题，形成可被AI调用和理解的数据集；在AI层面，汇集了知识、智能体、模型和治理等方面，能够进行内部知识解析，并根据场景需求混合使用基础模型（例如职能部门）与专属模型（例如生产端），进行智能体的规划，以及对成本、安全等做好管控，对模型能力再评估和再选型也是企业需要考虑的；在平台层面，涉及到自行研发或是采用商业套装软件的问题，企业需整合不同应用程序和平台的数据，打造由数据驱动的体系。

显然，如果企业仅将生成式AI视作一种技术解决方案，并未借此打造围绕AI的系统和协同技术、人才、组织等要素，那么持续的投入并不能带来显著的回报。经过几次转型大潮的中国企业已经意识到了这些，也正在把资源投向核心技术基础、数据和人才发展等领域。