大模型不是包治百病的灵丹妙药，需要针对场景开方，对症下药。

作者｜伍月

编辑｜栗子

大模型究竟如何落地？

在2024年世界人工智能大会（WAIC）秀场，层出不穷的各类应用背后，我们看到了各家企业面对这个问题的解题思路。

能说会道、让数字人活灵活现只是小菜一碟。在酷炫的demo展示之外，产业视角的大模型正在变得更务实。在办公、生产、教育、制造各个环节，大模型正在和各类软件、机器人结合，帮企业提质增效。

“我们不关心大模型有多少花活，最重要是能帮我省多少钱、赚多少钱。”一位制造业企业市场负责人告诉「甲子光年」。

事实上，这个观点已经成为了目前企业方对于大模型落地需求的共识——如何让大模型这项新技术扎根产业，成为撬动新增长的动能，是企业方接纳这项新技术的关键。

容联云是国内最早一批探索大模型在B端落地的技术服务商。在去年推出赤兔大模型之后，容联云正在亲历这场“大模型扎根产业”的新变化。

在2024WAIC会场，带着更多和产业共创的思考，容联云容犀智能大模型应用正式官宣升级。与此同时，容联云还展示了他们在探索大模型落地上的新成果和前沿探索实践。

1.变局中的不变：扎根业务

显然，大模型并非灵丹妙药。要想让大模型发挥作用，需要综合业务需求和技术功能，对症下药。

现阶段的大模型能够处理简单对话，但是在处理企业复杂逻辑和推理任务时，需要结合行业知识进行调教，否则就会出现因缺乏训练数据以及幻觉问题所导致的“一本正经胡说八道”。

此外，一项新技术融入到企业业务流程，需要时间去梳理，和内部的业务流程共通共融，才能真正改造和优化场景体验。

容联云产业数字云VP兼诸葛智能创始人孔淼告诉「甲子光年」，大模型光有智能化能力还不够。

“因为企业最终的需求并非借助新技术来颠覆客户现有业务，而是要求新技术能够改造和优化其已有的业务流程。这一改造过程既需保留并兼容旧流程，又要巧妙融入新流程的体验。”在他看来，在推出新模型的同时，还需为客户考量更多，把工程化难题、数据难题等提前考虑到位。

这是容联云对于大模型落地B端的洞察和思考。孔淼告诉「甲子光年」，企业级的需求并非仅仅购买一个工具。客户不会为单一的新技术点买单，而是看重其带来的业务价值，即最终能节省多少成本、创造多少收入。所以，企业真正需要的是基于整体技术提升的完整业务解决方案。

“要和企业站在同一视角，扎根业务”孔淼强调。这一直是容联云大模型落地的核心。围绕这条主线，过去一年，容联云除了赤兔大模型，还围绕会话洞察、话术挖掘等细分功能点，发布了容犀Copilot，帮助企业解决企业知识管理的效率问题。

2024年，容联云的思考依旧以业务为原点进行，并结合了新的技术思考，进一步深化、细化大模型在各类场景的应用。

所以，在WAIC活动上，我们看到，容联云对大模型应用产品进行了全新升级，进一步强化了其在复杂业务场景中的能力。

升级后的容犀智能包括大模型知识助理（Knowledge Copilot）、大模型洞察代理（Insight Agent）、大模型陪练代理（Coach Agent）、大模型坐席助理（Agent Copilot）、大模型坐席代理（Virtual Agent）等板块。

其中，面向企业知识管理，容联云推出了容犀Knowledge copilot，解决原来企业内部知识管理成本高、检索慢、准确率低、优化难的问题。

作为大模型知识助理， 容犀Knowledge copilot不仅能把企业知识构建成本下降4倍，还能把知识的应用效率显著提升，让客户的等待时间从几十秒级大幅降低到3~5秒。

此外，容联云也结合新的Agent技术让营销会话的各个流程实现显著的质量和效率提升。

容犀Insight Agent是一款大模型洞察代理产品。不同于此前需要通过复杂的数据标注，引入大模型和Agent技术之后，用户只需要输入业务指令，容犀Insight Agent就能自己完成从任务目标理解、规划到工具行动的全流程，自动在在工作台里面发现潜在需求。

“容犀Insight Agent可以实现营销转化率5%-8%的提升，客诉率10%-30%的下降。”孔淼提到。

容犀Coach Agent则是大模型的陪练代理，通过智能体进行实战陪练，不仅可以精准提升量化培训效果，还能提供个性化陪练服务。据了解，容犀Coach Agent可以实现培训周期缩短15%，会话违规率降低10%-20%，人均培训成本下降12%。

容犀Agent copilot和容犀Virtual Agent则是瞄准了坐席沟通环节，其中容犀Agent copilot作为大模型坐席助理，可以通过大模型理解挖掘高质量话术给到人工坐席，提升整个服务质量，业务提效10%-30%；容犀Virtual Agent则可以实现服务覆盖率的提升30%，实现转人工率下降50%。

从这5款大模型应用可以看到，容联云在围绕企业需求，把营销场景做的更细分。相比去年的产品，此次容联云的新应用做的更完整，把技术封装成完整产品面向终端客户，让企业能够轻松上手。

这些多元的产品背后，容联云唯一不变的就是以需求为起点，从业务中生长。

在孔淼看来，在打造大模型应用时，不能仅停留在表面，简单的将多个功能堆砌在一起，而是需要深入考虑企业级流程，明确职责和流程形态，以及上下游环节的配合方式。

在部署方式上，容联云也提供了灵活的选择。目前这5款容犀的大模型应用不仅可以私有化部署，也可以根据企业需求提供有多重选择，用户既可以选择全套解决方案，也可以以嵌入式AI的方式，植入自有平台。

2.厚积方能薄发，经验优势塑造壁垒

在多样化的产品底层背后，支撑容联云产品创新和应用创新一直向前的是容联云“模型底座+智能平台+智能平台”的全栈技术路线。

容联云从产品架构到技术架构都做了封装和分层设。

底层，赤兔大模型依旧是支撑大模型打造应用的底座。

赤兔大模型采用多层次设计思路——首先构建通用模型，通过开源和公开数据获得通用知识和基础能力；其次收集高质量的领域数据构建领域模型，以解决特定领域的问题；在业务逻辑和流程上提供智能化服务时，基于业务数据和知识构建高质量的业务模型。

相比其他通用大模型，容联云的优势在于行业能力建设。

“大模型擅长处理和压缩互联网上的广泛信息，然而，很多专业知识，比如在金融、制造等特定场景中，其应用的流程和知识的复杂度仍然是一个巨大的挑战。尤其是企业内部的专业知识是稀缺数据。”孔淼告诉「甲子光年」。这些通用大模型在专业数据上的短板，却是深耕B端多年的容联云的优势所在。

大模型在B端的应用是一项复杂工程，每个行业都有其独特的复杂性和深度，通用大模型厂商无法深入到每个行业的具体业务细节中去，需要更懂产品、更懂场景的厂商来做。

B端对大模型的容错率要求很低，专业度要求更高。孔淼举了一个例子，比如银行场景，如果规定系统反馈给8条答复，在to C场景下，如果生成10条反馈，用户可能会觉得赚到了。但在to B场景下，如果规定8条却生成了10条，主管可能会感到心慌，这两条额外的反馈是否合规、是否严谨，都成为了需要考虑的风险问题。

解决这些企业复杂场景的能力，最终会沉淀为工程方案，让容联云的行业能力像“滚雪球”一样，随着企业需求一起成长，并成为了企业的核心竞争力。

这种行业能力也在伴随技术不断生成。不论是去年的容犀Copilot，还是今年的5款新产品，都是公司持续升级的成果。在孔淼看来，持续跟踪技术迭代并转化为产品不仅能让企业受益，也能进一步塑造容联云的行业壁垒。

“不论是目前火热的Agent技术，还是RAG技术，难点不在于如何应用，而在于如何深度集成到现有的业务流程中，让这些更多大模型、小模型以及传统技术有效地融合在一起，为客户提供一个更完整的应用解决方案，并实现无缝替换。”

目前，容联云的这些成果在金融、保险、制造等领域都已经有大量的成功实践。在保险服务领域，通过让大模型的洞察分析，不仅可以改善客户的咨询体验，还能提前洞察客户反馈，降低投诉。一家机构每天处理的会话量有一万多，使用了容联云大模型之后，整个效果从效率提升了20倍，潜在的投诉率降低了10%左右。

这种新技术带来的截然不同的体验同样发生在制造业。以电器上门维修服务为例，凭借大模型出色的理解能力，预警策略的整个准确率从原来的40%提升到80%左右，预警的周期变成周、天级别。

随着大模型和行业能力不断增强，眼下，容联云还在持续拓展大模型在各种不同场景的落地。随着更多B端企业对大模型的态度从观望转向使用，大模型和更多行业和场景也在持续碰撞出全新的火花。

（封面图来源：摄图网）