![](https://jiazi-pc.oss-cn-beijing.aliyuncs.com/1721187861865)
大模型不是包治百病的灵丹妙药,需要针对场景开方,对症下药。
作者|伍月
编辑|栗子
大模型究竟如何落地?
在2024年世界人工智能大会(WAIC)秀场,层出不穷的各类应用背后,我们看到了各家企业面对这个问题的解题思路。
能说会道、让数字人活灵活现只是小菜一碟。在酷炫的demo展示之外,产业视角的大模型正在变得更务实。在办公、生产、教育、制造各个环节,大模型正在和各类软件、机器人结合,帮企业提质增效。
“我们不关心大模型有多少花活,最重要是能帮我省多少钱、赚多少钱。”一位制造业企业市场负责人告诉「甲子光年」。
事实上,这个观点已经成为了目前企业方对于大模型落地需求的共识——如何让大模型这项新技术扎根产业,成为撬动新增长的动能,是企业方接纳这项新技术的关键。
容联云是国内最早一批探索大模型在B端落地的技术服务商。在去年推出赤兔大模型之后,容联云正在亲历这场“大模型扎根产业”的新变化。
在2024WAIC会场,带着更多和产业共创的思考,容联云容犀智能大模型应用正式官宣升级。与此同时,容联云还展示了他们在探索大模型落地上的新成果和前沿探索实践。
1.变局中的不变:扎根业务
显然,大模型并非灵丹妙药。要想让大模型发挥作用,需要综合业务需求和技术功能,对症下药。
现阶段的大模型能够处理简单对话,但是在处理企业复杂逻辑和推理任务时,需要结合行业知识进行调教,否则就会出现因缺乏训练数据以及幻觉问题所导致的“一本正经胡说八道”。
此外,一项新技术融入到企业业务流程,需要时间去梳理,和内部的业务流程共通共融,才能真正改造和优化场景体验。
容联云产业数字云VP兼诸葛智能创始人孔淼告诉「甲子光年」,大模型光有智能化能力还不够。
“因为企业最终的需求并非借助新技术来颠覆客户现有业务,而是要求新技术能够改造和优化其已有的业务流程。这一改造过程既需保留并兼容旧流程,又要巧妙融入新流程的体验。”在他看来,在推出新模型的同时,还需为客户考量更多,把工程化难题、数据难题等提前考虑到位。
这是容联云对于大模型落地B端的洞察和思考。孔淼告诉「甲子光年」,企业级的需求并非仅仅购买一个工具。客户不会为单一的新技术点买单,而是看重其带来的业务价值,即最终能节省多少成本、创造多少收入。所以,企业真正需要的是基于整体技术提升的完整业务解决方案。
“要和企业站在同一视角,扎根业务”孔淼强调。这一直是容联云大模型落地的核心。围绕这条主线,过去一年,容联云除了赤兔大模型,还围绕会话洞察、话术挖掘等细分功能点,发布了容犀Copilot,帮助企业解决企业知识管理的效率问题。
2024年,容联云的思考依旧以业务为原点进行,并结合了新的技术思考,进一步深化、细化大模型在各类场景的应用。
所以,在WAIC活动上,我们看到,容联云对大模型应用产品进行了全新升级,进一步强化了其在复杂业务场景中的能力。
升级后的容犀智能包括大模型知识助理(Knowledge Copilot)、大模型洞察代理(Insight Agent)、大模型陪练代理(Coach Agent)、大模型坐席助理(Agent Copilot)、大模型坐席代理(Virtual Agent)等板块。
其中,面向企业知识管理,容联云推出了容犀Knowledge copilot,解决原来企业内部知识管理成本高、检索慢、准确率低、优化难的问题。
作为大模型知识助理, 容犀Knowledge copilot不仅能把企业知识构建成本下降4倍,还能把知识的应用效率显著提升,让客户的等待时间从几十秒级大幅降低到3~5秒。
此外,容联云也结合新的Agent技术让营销会话的各个流程实现显著的质量和效率提升。
容犀Insight Agent是一款大模型洞察代理产品。不同于此前需要通过复杂的数据标注,引入大模型和Agent技术之后,用户只需要输入业务指令,容犀Insight Agent就能自己完成从任务目标理解、规划到工具行动的全流程,自动在在工作台里面发现潜在需求。
“容犀Insight Agent可以实现营销转化率5%-8%的提升,客诉率10%-30%的下降。”孔淼提到。
容犀Coach Agent则是大模型的陪练代理,通过智能体进行实战陪练,不仅可以精准提升量化培训效果,还能提供个性化陪练服务。据了解,容犀Coach Agent可以实现培训周期缩短15%,会话违规率降低10%-20%,人均培训成本下降12%。
容犀Agent copilot和容犀Virtual Agent则是瞄准了坐席沟通环节,其中容犀Agent copilot作为大模型坐席助理,可以通过大模型理解挖掘高质量话术给到人工坐席,提升整个服务质量,业务提效10%-30%;容犀Virtual Agent则可以实现服务覆盖率的提升30%,实现转人工率下降50%。
从这5款大模型应用可以看到,容联云在围绕企业需求,把营销场景做的更细分。相比去年的产品,此次容联云的新应用做的更完整,把技术封装成完整产品面向终端客户,让企业能够轻松上手。
这些多元的产品背后,容联云唯一不变的就是以需求为起点,从业务中生长。
在孔淼看来,在打造大模型应用时,不能仅停留在表面,简单的将多个功能堆砌在一起,而是需要深入考虑企业级流程,明确职责和流程形态,以及上下游环节的配合方式。
在部署方式上,容联云也提供了灵活的选择。目前这5款容犀的大模型应用不仅可以私有化部署,也可以根据企业需求提供有多重选择,用户既可以选择全套解决方案,也可以以嵌入式AI的方式,植入自有平台。
2.厚积方能薄发,经验优势塑造壁垒
在多样化的产品底层背后,支撑容联云产品创新和应用创新一直向前的是容联云“模型底座+智能平台+智能平台”的全栈技术路线。
![](https://jiazi-pc.oss-cn-beijing.aliyuncs.com/1721187895876)
容联云从产品架构到技术架构都做了封装和分层设。
底层,赤兔大模型依旧是支撑大模型打造应用的底座。
赤兔大模型采用多层次设计思路——首先构建通用模型,通过开源和公开数据获得通用知识和基础能力;其次收集高质量的领域数据构建领域模型,以解决特定领域的问题;在业务逻辑和流程上提供智能化服务时,基于业务数据和知识构建高质量的业务模型。
相比其他通用大模型,容联云的优势在于行业能力建设。
“大模型擅长处理和压缩互联网上的广泛信息,然而,很多专业知识,比如在金融、制造等特定场景中,其应用的流程和知识的复杂度仍然是一个巨大的挑战。尤其是企业内部的专业知识是稀缺数据。”孔淼告诉「甲子光年」。这些通用大模型在专业数据上的短板,却是深耕B端多年的容联云的优势所在。
大模型在B端的应用是一项复杂工程,每个行业都有其独特的复杂性和深度,通用大模型厂商无法深入到每个行业的具体业务细节中去,需要更懂产品、更懂场景的厂商来做。
B端对大模型的容错率要求很低,专业度要求更高。孔淼举了一个例子,比如银行场景,如果规定系统反馈给8条答复,在to C场景下,如果生成10条反馈,用户可能会觉得赚到了。但在to B场景下,如果规定8条却生成了10条,主管可能会感到心慌,这两条额外的反馈是否合规、是否严谨,都成为了需要考虑的风险问题。
解决这些企业复杂场景的能力,最终会沉淀为工程方案,让容联云的行业能力像“滚雪球”一样,随着企业需求一起成长,并成为了企业的核心竞争力。
这种行业能力也在伴随技术不断生成。不论是去年的容犀Copilot,还是今年的5款新产品,都是公司持续升级的成果。在孔淼看来,持续跟踪技术迭代并转化为产品不仅能让企业受益,也能进一步塑造容联云的行业壁垒。
“不论是目前火热的Agent技术,还是RAG技术,难点不在于如何应用,而在于如何深度集成到现有的业务流程中,让这些更多大模型、小模型以及传统技术有效地融合在一起,为客户提供一个更完整的应用解决方案,并实现无缝替换。”
目前,容联云的这些成果在金融、保险、制造等领域都已经有大量的成功实践。在保险服务领域,通过让大模型的洞察分析,不仅可以改善客户的咨询体验,还能提前洞察客户反馈,降低投诉。一家机构每天处理的会话量有一万多,使用了容联云大模型之后,整个效果从效率提升了20倍,潜在的投诉率降低了10%左右。
这种新技术带来的截然不同的体验同样发生在制造业。以电器上门维修服务为例,凭借大模型出色的理解能力,预警策略的整个准确率从原来的40%提升到80%左右,预警的周期变成周、天级别。
随着大模型和行业能力不断增强,眼下,容联云还在持续拓展大模型在各种不同场景的落地。随着更多B端企业对大模型的态度从观望转向使用,大模型和更多行业和场景也在持续碰撞出全新的火花。
(封面图来源:摄图网)