在企业服务领域深耕35年的用友,如何应对人工智能新范式带来的机遇和挑战。
文|游勇 徐鑫
(相关资料图)
编|周路平
所有行业都值得基于人工智能技术重做一遍。类似的判断已经司空见惯,大模型带来的技术新范式正在加速这一进程。“人工智能已是我们这个时代最前沿和普适的科学技术之一。”用友网络董事长兼CEO王文京说。
7月27日, 用友发布了业内首个企业服务大模型YonGPT 。在企业服务领域深耕了35年的用友, 在一些开源或者闭源的通用大语言模型之上,结合海量的行业知识和真实的行业场景,训练出了企业服务大模型 。
目前YonGPT还处于1.0版本,本次发布的是基于这个大模型的首批智能化场景服务。王文京表示, 后面大模型会持续迭代训练 ,并不断丰富基于这个大模型的各类企业服务。
过去几十年,用友的核心产品完成了从财务软件到企业管理软件,再到现在商业创新平台用友BIP的升级。而随着YonGPT的发布,大模型在自然语言上的交互表现和内容生成上的强大能力,将给用友BIP打开巨大的想象空间。
“企业服务已进入AI创新时代,商业创新也进入到全面数智商业创新的新时代。”用友网络执行副总裁兼CTO樊冠军说, YonGPT是用友BIP产品智能化的一部分,实际上也是用友为客户提供的一个商业基础设施 。
01
企业服务正在被大模型重构
先来看几个企业服务的具体场景:
张总是一家消费品企业的财务高管,面对瞬息万变的商业环境,他希望能了解公司实时的财务数据。他通过基于用友YonGPT打造的AI经营助手“智友”发出查询指令:分析今年截止7月份的盈利情况。YonGPT很快生成了利润总额、同比增长率,做出了低于年初3.65%增长目标的洞察分析,并绘制了直观丰富的图表,可以看到每个月累计利润虽有所增长,但是同比增长率却在逐月下降。
光有这些数据是不够的,“看一下详细数据”,YonGPT又给出了更详细的经营数据,包括盈利总额、产量、销量和预算执行情况、各类产品利润情况等实时信息。
而后大模型又分析了华北分公司的情况,分析利润不及预期的原因,然后基于产销计划数据预测下个月的利润情况,并自动总结推理出测算后的总体利润以及与年初目标的对比情况。让管理层 随时随地进行盈利分析、经营预测、归因洞察、行业对标等一体化决策 。
业务员小林正在与客户进行RFQ(报价请求)的沟通。以前都是在微信、QQ等社交软件上完成,白天与客户交流,晚上再打开公司系统,手动一行一行录入,不仅辛苦,也很割裂。
现在在大模型的加持之后,一边聊天沟通,系统会摘录和提取聊天记录的关键信息,自动生成订单摘要,如有信息缺失,经过预训练的YonGPT也会给出相应的提示,如送货日期未提供。业务员可再次发起与客户的沟通,进行信息补全。 “聊天式地完成了原来软件的系统化的工作。 ”
这是用友企业服务大模型正在给企业服务场景带来的真实改变。在7月27日的发布现场,樊冠军介绍到,基于大模型的人工智能在企业服务领域的应用主要集中在4个方向上: 智能化的业务运营、自然化的人机交互、智慧化的知识生成、语义化的应用生成 。用友企业服务大模型YonGPT围绕这四个方向推进模型训练和产品效果优化。
不难发现,这四大方向都有几个共同特点:一是全程都是 通过自然语言的交互完成 ,“实际上已经没有菜单的概念了”。
以前,企业的痛点在于,数据藏得很深。功能都很全,但大部分企业只能用到里面很小的一部分,数据潜力挖掘得远远不够。比如公司管理层想要看到具体数据,还需要中间有人帮忙整理,中间来回调整,不仅麻烦,而且影响效率。现在管理层可以直接跟系统对话,自己就能调整,实时掌握最新经营情况。
二是实现 基于上下文的多轮对话 ,通过一步步输入提示词,不断获得更加深入的分析结果。从最简单的信息展示,到最终的商业决策,都在大模型的辅助之下,变得高效且有依据。
三是强大的 内容生成能力 。一方面是知识的生成,比如归纳总结文档的内容,提炼对话要点等。另一方面是应用生成,低代码在企业应用的搭建上非常流行,但低代码并非完全没有门槛,依然需要业务人员有一定的代码能力和逻辑能力。而大模型让低代码的搭建可以基于自然语言进行。
大模型的推出给企业服务带来了极大的变革。一方面是极大降低了数据使用门槛,管理层用数的需求不需要经过重重转包,可以用自然语言直接从系统中获得信息。从战略层面,企业内数据应用变得更以人为本。
另外,大模型也极大 推动了企业内结构化和非结构化数据的融合 。此前用友BIP系统里大量的结构化数据可以直接被系统识别和分析。但许多非结构化数据,比如视频、图片、图谱等,使用时需要人去检索和识别,不易被充分利用。
大模型技术应用后,系统能够轻松跨越结构化数据和非结构数据,实现即搜即问即答。这种融合还能极大简化产品的界面,比如原来分散在不同界面的人力知识系统、财务知识系统和业务知识管理系统能实现合并,形成一个7*24小时的助手为企业用户服务。
樊冠军认为,通用大语言模型与用友企业服务大模型、用友BIP系统及企业内私域数据的结合, 正在推动企业服务领域里智能应用服务时代的到来 。
02
YonGPT背后的三层架构
用友很明确的一点是, 不做通用大语言模型 ,而是选择在闭源或开源的通用大模型之上,来构建自己的企业服务大模型YonGPT,实现跨模型适配。
YonGPT的整体架构分了三层, L0层是通用大模型底座,L1层是YonGPT企业服务大模型,L2层是领域或行业模型精调的智能化场景服务 。
樊冠军认为,在云原生时代人们常说跨云适配,在大语言模型时代,企业服务也需要跨模型进行适配。目前,YonGPT在最底层的通用大模型底座上,可以适配业界主流的大语言模型,既包括包括百度的文心一言等闭源模型,也支持智源悟道、质谱ChatGLM以及LLaMA等开源大模型。在国外,YonGPT还可基于ChatGPT来提供服务。
无论哪一种方式, 行业大模型都离不开大量的精调和提示工程 ,用友在这个环节做了细致的工作。YonGPT通过上下文记忆、知识/库表索引、Prompt工程、Agent执行、通用工具集等扩充大模型的存储记忆、适配应用和调度执行能力。除此之外,用友也考虑到了插件建设。涉及到与外部系统的互动以及调用,可以用插件服务来完成。
YonGPT内置了一个Agent执行层,作为整体的指挥调度中心,对企业用户的需求进行区分。一些需要返回确定性结果,并且对可靠性要求高的任务,系统会自动交回用友BIP或小模型,由企业服务领域原有的功能来完成。对一些需要推理判定,有不确定性或模糊性的任务,交给大模型去开发。
最上面的L2层是场景化的智能应用。目前发布的YonGPT1.0版,用友推出了包括企业经营洞察、智能订单生成、供应商风控、动态库存优化、智能人才发现、智能招聘、智能预算分析、智能商旅费控、代码生成等在内的数十种基于企业服务大模型赋能的智能应用。樊冠军介绍,未来用友会进一步丰富场景,将更多的功能场景开放出来,比如智能保修检修等服务已经在开发中。
众所周知,通用大语言模型有时会一本正经的胡说八道,而在企业生产和经营场景,互动的结果需要可信、可靠。樊冠军介绍,YonGPT能够真正在企业服务领域应用,本质上依靠三大技术来实现:
首先是 交互式数据查询与指令执行 。此前的智能人机交互经常被吐槽不够聪明的原因在于,稍有语义改动和问法变化,系统就不能正确识别 ,同时这些软件也不能很好理解上下文内容。经过专门训练后,YonGPT能够准确识别用户的提问,判断用户提问的意图及与之相关联的意图,保证交互准确。
其次是 业务知识查询问答 。大模型技术可以解决多模态数据的问题。多模态的视频、图片和表格数据,通过切片,倒排索引和向量索引等技术处理,各类数据口径对齐,形成企业内的多路索引库。这些索引库都在私域内,L0层和L1层的模型学习、训练和调用都在私域内,保证了数据的安全性,同时得到了企业内知识的“可搜可问答” 。
第三是 复杂任务执行系统 。通过大模型的任务链技术将复杂任务分解一系列微服务执行,把确定性交给已有系统或者小模型,不确定性和系统调度交给大模型。
另外,YonGPT还优化了企业服务大模型的训练效率和成本, 集成了丰富的开发工具和优化算法 ,通过自有的数据管理、大模型精调、大模型评估优化、大模型推理和插件服务等功能,为大模型的构建和服务提供稳定且有效的支撑。后续YonGPT将会对用友整体产品体系进行全面的能力覆盖。
03
用友的优势在哪里?
今年4月,用友BIP技术大会上,用友透露已经开始启动企业服务大模型的训练。在外界看来,从启动训练到现在发布,YonGPT筹备的时间也不到半年时间。但事实上, 用友在智能化应用和服务方面已布局多年,相关技术也有很深的积累 。
“用友BIP从研发伊始就坚持把数字化和智能化作为两个最核心和基本的特性,在数字化基础上,结合IPA(智能流程自动化)、计算机视觉、自然语言处理、知识图谱等智能技术,研发提供了一批智能化的应用与服务,已在一批企业中得到应用。”王文京说。
比如用友开发的智多星RPA(机器人流程自动化),汇聚了上千个场景用例,在银行回单下载、对账、开票、稽核等业务场景中,代替人完成高重复、标准化、规则明确、大批量的日常事务性操作。
在工业领域,用友的人工智能技术被用于废钢定级、矿山巡检、供水监测等场景。用友BIP的废钢智能判级系统的准确率达95%以上,已服务包括鞍钢集团、济源钢铁在内的20余家钢铁行业领军企业。
一位大模型领域的业内人士告诉数智前线,大模型作为人工智能领域一种新的技术范式, 背后的技术和算法并不是新的发明 ,但如何调优、如何工程化落地,还是一个很有门槛的事情,需要有足够的人才和技术储备。
用友此前在人工智能领域的积累,给大模型的训练和应用打下了很好的基础。比如用友花了7年时间组织数千人研发的用友商业创新平台-用友BIP, 其数智化底座就包含了智能中台 。它提供了图片、文本、视频处理的AI接口、智能搜索、知识图谱等AI基础能力,以及数智员工、VPA、RPA、AI工作坊等AI开发工具。如今相当于在基础设施层增加了大模型,让数智化底座变得更为扎实。
而且, 用友BIP本身也是基于云原生的技术理念开发,做到了微服务化和API化 。随着智原生(AI Native)时代的到来,大模型的能力通过API与各类软件打通,实现了AI的普及和应用。
高质量的领域数据语料的投喂是大模型变得更专业的重要保障 。通用大语言模型有很强的泛化能力和内容生成能力,但准确性不够,所以在解决行业具体问题时,往往需要行业数据进行精调。
这是用友深耕企业服务多年积累的优势,用友的人工智能团队结合企业应用场景和领域经验,标记了大量的企业服务语料数据,形成丰富的企业服务大模型训练素材,并将业务知识与领域经验融入企业服务大模型,比如财务、人力、供应链、采购和营销等领域的知识,确保了大模型的专业性和实用性。
据数智前线获悉,用友也会收集一些行业的公共数据,包括政策法规等。同时,用友也将自身在研发领域的知识用于模型训练。在基础大模型之上,训练成了企业服务领域通用的大模型,然后提供给整个智能化的场景服务。
今年年初,用友进行组织升级,组建了多个行业客户与解决方案事业部,对大型企业客户的数智化解决方案与服务由此前的“以地区为主,地区+行业”组织模式升级为“以行业为主,行业+地区”的运行模式。深耕行业多年,并且持续加强对行业的理解,使得用友积累了丰富的行业know-how, 这些经验和知识成为了用友企业服务大模型的优势 。
再者,用友3.0阶段的战略级产品用友BIP涵盖财务、人力、供应链、采购、制造、营销、研发、项目、资产、协同十大领域,提供了覆盖企业业务和管理主要领域融合一体的应用,是目前全球领域覆盖最多的企业应用服务群。而这些被广泛应用的企业应用服务,将成为YonGPT的最佳练兵场。
领先和具有丰富应用场景的企业软件与服务产品体系、覆盖数十个行业的数百万客户基础、35年服务企业客户积累的行业知识经验、专业的智能化团队和能力是用友研发训练企业服务大模型的独特优势。
标签: