在生成式AI的各个赛道中,“智能客服”领域的融资额度排名第二,其火爆程度可见一斑。

那么,生成式AI到底对“智能客服”有哪些颠覆性改变?近日,铅笔道联合知乎,与天润融通CEO吴强深度交流。有着17年客户联络经验的吴强认为,丰富、专业的语料决定了垂直大模型的能力,企业生产过程中积累的知识是训练垂直大模型的稀缺财富。

天润融通是一家AI驱动的全周期客户联络云平台服务商,为科技、金融、制造、汽车、零售等行业提供解决方案,帮助企业在“营、销、服”环节做好客户联络业务。

2022年6月,天润融通在香港联交所主板上市,成为第一家港股上市的全周期客户联络云平台公司。

2023年8月23日,天润融通推出“微藤大语言模型平台”。“微藤”基于企业知识训练特定的垂直大模型,为营销、销售、服务等各流程提供智能化赋能,提升企业运营效率。

一,行业大模型主要差异在于“语料”

铅笔道:行业大模型和通用大模型最大的区别是什么?

吴强:行业大模型和通用大模型主要的差别是由不同的语料带来。通用大模型的语料是通用语料,但大到一个行业,小到一个业务属性非常小的企业,它有很多的不同(特定)语料,它所代表的含义有很大的差别。这就是通用大模型和行业大模型最根本的差别。

此外,基于厂商对行业的Know-How做的提示工程(Prompt Engineering)也至关重要。由于厂商对行业本身是有深耕的,所以对于行业客户的认知没有断层,这样才能产生业务视角上的共鸣。

铅笔道:行业大模型更多的是行业的数据,训练的目的也是针对这个行业的生产所需要。

吴强:对,这个差别非常大。就像“工单节点”、“召回率”这些词,通用的模型里面没有,有些理解也是有歧义的。

铅笔道:好的行业大模型应该是怎样的?或者说,决定行业大模型好坏的因素是什么?

吴强:行业大模型的标准就是它有丰富的场景语料。另外,我们认为好的行业大模型,内部看三个因素:首先是这个行业里的语料积累。第二,是模型调优的方法。第三,对这个行业的业务流程有深刻的理解。这三点形成闭环,才有可能做出一个好的行业大模型。

但要注意行业大模型不能拿来直接用的,它只是一个聚焦行业的技术能力,把他落地到企业业务还需要一些基础步骤。首先,我们需要帮助企业梳理它的知识系统,根据实际应用场景,把专有的知识标注完成,放到这个模型里去训练,比如每个公司的产品文档手册等。然后,再通过大模型的应用技术手段去优化它,让它的贴合性更好。最后再把它和业务系统全面连接,才能达到最基本的“能用”的水平。

铅笔道:客户可能觉得可以自己开发,或者也可以用国内通用大模型做开发。天润融通的竞争优势在哪?

吴强:从企业来说自己去做从大模型到应用落地成本是很高的,这涉及到要培养一支较为优秀的技术团队、大模型从技术到产品化落地、大模型产品与现有业务系统全面连接、大模型的持续运营等。对于企业来说,自建这样一套系统的成本是高昂的。

我们在客户联络领域有丰富的Know-How、完整的客户联络智能化产品、成熟的专家团队,大模型的行业落地对我们来说是顺势而为的,这就是我们的优势。

就好像通常不会有企业自建一个虚拟化云平台一样,因为可以直接选用阿里、亚马逊等平台即可。这是从成本、应用效果、长期专业服务等多方面考虑的。

二,行业大模型最大魅力在于搭建“知识工程”

铅笔道:天润融通什么时候着手开发行业大模型?

吴强:其实从2006年创业,公司就从技术源头做起。时至今日,我们有着四大核心自主研发可控的能力平台作为支撑(通信能力平台、大模型能力平台、流程与协作能力平台、敏捷交付平台)。这就是我们有能力领头探索和持续前行的根本。具体到“大模型”,大概是在春节前。

我们可以把客户联络看做是连接企业与企业客户之间唯一的“桥梁”,在这个过程中客户传递给的企业声音、企业内容对客户的输出都是知识的应用与构成,这些“知识”中蕴藏着巨大的商业价值,我们与大量客户的交流中也确定了这一点。因此知识工程的核心公式就是“大模型+企业知识=企业客户高速增长”。

请输入图片描述

铅笔道:知识工程是什么,能不能展开讲讲?

吴强:人工智能最基础的是要有准确的知识积累,只有这样“智能”才是可靠的。如果知识的底座不扎实,上面的所有应用都是不可靠的。但是过去我们经常回避这个问题。为什么回避?因为解决起来太难。比如这40页的手册,让你把它拆成一个一个的一问一答,这就很难。第二,你拆完一问一答后,用户不会像你认为的那么标准地去问。

比如针对常见的电脑黑屏问题。用户至少能提出50种不同的问法,即使问法解决了,用户的情绪也是不同的,需要给予的反馈也是不同的,所以我们在开发的时候,就把重心转到帮助企业做知识工程。只要把这个做好,不管是对话、分析还是辅助,就都很容易。

铅笔道:关于知识工程,具体是怎么操作的?

吴强:企业的知识数据有三种形态,一部分是生产过程中的数据,一部分是已结构化的数据,最后还有大量的手册,比如产品文档、管理手册等。这些三部分就是原始知识、会话知识、企业文档。企业的知识工程就是从这三大类开始。

首先把这三大类知识有序的导入到大模型,这个过程就需要涉及到文本、文件等知识的抽取;然后再把内容进行健康度检查,把相近意思的进行合并;最后再通过自动化与半自动化手段持续维护这些知识,当然这个过程也远比当前的知识维护方式高效的许多。

在这个过程中还有很多细节,比如根据知识的应用场景做特定的健康度检查与梳理、哪些是用作知识问答的、哪些是作为FAQ生成与需要额外扩写的、哪些是作为客户洞察分析的,这就需要足够的Know-How才能做到。

请输入图片描述

三,让大模型理解语言背后的意图

铅笔道:通用大模型,大家一直在吐槽,就是它容易根据它的理解来生成一些答非所问的内容,或者随意联想。但行业大模型对知识的严谨度要求是比较高的,如何克服这个问题?

吴强:在行业大模型中,当提出的问题它回答不了的时候,必须教大模型学会反问,去理解提问人的动机是什么。第二,如果反问也没有用的话,一定利用其它策略去解决问题。

比如银行“催收场景”,客服给他打电话,欠账的人不会跟你说我不还。他会说“我现在没空”,那怎么理解?

训练大模型的时候,听到有人说“我现在没空”,就要让它知道大多是不想还的,而不是没时间。要可以洞悉到“我现在没空”这句话背后的意图就是对行业语料的理解。

然后下一句就要追问,那您现在手里有多少钱,能不能少还一点?我们现在有个优惠,我们可以免除多少利息。您现在是不是可以考虑一下?这样,催收的策略就变了。

在每个业务场景上,你会发现它背后都带的是策略,光一个大模型是不能解决全局这些策略的问题。我们现在重点就在构建行业的知识工程上。

相当于即使是人工客服,在屏幕侧面也拥有了一个提示版,一直在提示他怎么样来回答,这样大大地提高了客服回复水平。大模型可以让每一个普通客服瞬间提升到优秀客服的水平。

铅笔道:现在客服的联络场景有哪些关键因素?怎么具体提升工作效率?

吴强:主要是四要素,核心是人;辅助人的有三点,第一是流程,第二是数据,第三是知识。客服这个职业的离职率很高,说明压力大。那怎么办?过去主要是培训,但通过培训带来的提升也很有限。

现在,就可以给他利用知识工具。比如,流程你记不清楚?没关系,流程自动给你生成。打字有错别字?没关系,机器帮你自动改正。外语不懂?没关系,自动帮助你翻译。用户问各种问题,大模型给生成答案、全面辅助你,一下子就提升了团队中个人的能力,所有人得到提升团队战斗力就是质的飞跃。

铅笔道:现在可谓“百模大战”,天润融通微藤大模型的核心竞争力是什么?

吴强:天润融通一直不是一家追风的公司,历史上也不是,从来就不是。我们在技术产品的发展上,基本执行的一个策略是比技术周期慢半拍。我们希望给客户提供的服务是较为成熟和可靠,同时是闭环的。按照传统意义上理解人工智能,是把语料放到大模型里边做个训练,但其实完全不是这么回事,那只是其中一个环节。

我们给客户交付的是一个端到端的解决方案。在技术上,我们的周期慢半步。慢的话,你可以观察技术的可靠性,不可以把客户当小白鼠。但在执行上我们又要遵循快半拍。也就是不盲目的去干一件事,但是干就要干得又快又好,让客户完成从技术实现到价值实现的飞跃。

铅笔道:所以技术上可能需要更长周期的一个探索?

吴强:探索不是迷茫,天润融通17年的发展让我们在客户领域有三个领先,一是通信稳定性和大规模性领先,二是大模型垂直应用领先,三是体系建设与场景挖掘领先,甚至在某些创新技术应用和行业理解上超越了国际上的顶级公司。

四,每家传统企业都需要有大模型

铅笔道:现在天润融通的大模型和其他业务所占的比例是怎样的?

吴强:所有客户都会往新业务上推动,不会一半一半,因为这也是客户的需求。他需要的是提升效率,不是说用哪一个工具来提升。

铅笔道:训练行业大模型,我们会选择怎样的底层大模型?

吴强:要保证选的是最合适的那个,不一定是跑得最好的。合适的话效率就会最高,因为你要确保你采用大模型最终的目的是提高效率。客户始终会选择在他可承受范围内,能够帮他解决问题最多的,能够带他带来最高效率的。

铅笔道:怎么能让客户长期合作?

吴强:关键是给客户解决问题。营销端,你让客户的收入看到明显的提升。服务端,明显让客户看到工具帮助客户降低了多少成本。综合来说我们是帮助客户解决问题,而不是仅卖一个工具,长久以来我们也是这样做的。

铅笔道:大模型对传统企业有什么意义?

吴强:每家企业都需要有一个自己的知识系统。传统企业在知识上不能系统地积累,所以导致发展不起来,大模型给企业管理提供了一个非常好的工具。未来一个大趋势就是每家企业都会有一个专有的大模型。

文章来源:https://zhuanlan.zhihu.com/p/657647665

Last modification:March 11, 2024
稀罕你