使用生成式人工智能通过自动化通话摘要来提升代理商生产力 机器学习博客

利用生成式AI通过自动通话总结提升代理生产力

by Chris Lott 和 Smriti Ranjan 于2023年11月6日在 Amazon Bedrock Amazon Transcribe 人工智能 生成AI

关键要点

您的联系中心是企业与客户之间的重要桥梁。每一次接触都是了解客户需求及您满足这些需求的机会。

大部分联系中心要求代理在每一次通话后提供对话总结。通话总结是接触中心的重要工具，帮助其理解并分析客户通话的内容。此外，准确的通话总结可以帮助客户提升体验，避免在转接至其他代理时，需要重复提供信息。

在这篇文章中，我们将介绍如何利用生成式AI 来减少创建通话总结和通话结果的工作量，提高其准确性。我们还会展示如何快速使用我们最新版本的开源解决方案 实时通话分析与代理辅助 开始。

通话总结面临的挑战

随着联系中心收集的语音数据骤增，对高效通话总结的需求也显著增长。然而，大多数通话总结往往是空的或不准确，因为手动创建总结非常耗时，这影响了代理的关键指标，如平均处理时间AHT。代理反馈称，总结可能占用通话总时长的三分之一，因此他们常常跳过这一环节或填写不完整的信息。这会损害客户体验持续的等待时间会让客户感到不满，而不完整的总结则意味着客户在转接时需重复提供信息。

好消息是，解决总结问题并实现自动化现已通过生成式AI成为可能。

生成式AI提升通话总结的准确性与效率

生成式AI 由大型的机器学习ML模型驱动，这些模型被称为基础模型FMs，它们在大量数据中进行了预训练。这些专注于自然语言理解的基础模型的子集被称为大语言模型LLMs，能够生成与人类相似的、符合上下文的总结。最优秀的大语言模型甚至可以轻松处理复杂的非线性句子结构，并确定多个方面，包括话题、意图、后续步骤及结果等。利用LLMs自动进行通话总结，可以在手动总结所需的时间的一小部分内，准确地总结客户对话。这使得联系中心能够提供更好的客户体验，同时减少代理的文档负担。

下面是两个视频示例。第一个视频展示了实时通话分析与代理辅助在通话结束后对通话进行总结并生成后续电子邮件的过程。第二个视频展示了经理如何在通话升级时加入，并生成实时的通话总结以迅速获得背景信息。

解决方案概览

下面的图示展示了解决方案的工作流程。

生成抽象通话总结的第一步是对客户通话进行转录。准备准确的转录文本对于生成有效的通话总结至关重要。Amazon Transcribe 可以帮助您生成高准确度的联系方式通话转录。Amazon Transcribe 是一个功能丰富的语音转文本API，具有最先进的语音识别模型。这些模型由全托管和持续训练的服务提供。客户如纽约时报、Slack、Zillow、Wix及成千上万的其他公司均使用亚马逊转录来生成高度准确的转录，以改善其商业成果。Amazon Transcribe 的一个关键优势是能够通过对音频和文本进行消敏处理来保护客户数据。虽然在一般情况下保护客户隐私和安全对联系中心至关重要，但在生成自动通话总结之前，掩盖敏感信息如银行账户信息和社会安全号码尤其重要，以防其被注入到总结中。

对于已经在使用Amazon Connect的客户，我们的全渠道云联系中心Amazon Connect的Contact Lens提供了实时转录和分析功能。如果您想在现有的联系中心使用生成式AI，我们开发了解决方案来完成大部分与转录对话相关的繁重工作，无论是实时还是通话结束后的转录，并使用生成式AI生成自动通话总结。此外，本节所述的解决方案还允许您与自己的客户关系管理CRM系统集成，自动更新生成的通话总结。在这个示例中，我们使用实时通话分析与代理辅助LCA解决方案，借助于托管在Amazon Bedrock上的LLMs生成实时通话转录和总结。您还可以编写AWS Lambda函数，提供该函数的 Amazon 资源名称ARN到AWS CloudFormation参数，并使用您选择的LLM。

以下简化的 LCA 架构展示了使用 Amazon Bedrock 进行通话总结的流程。

LCA提供为CloudFormation模板，能够部署上述架构，并允许实时转录通话。工作流程步骤如下：

LCA还允许在通话过程中调用总结Lambda函数，因为在任何时候都可以获取转录并创建提示，即使通话仍在进行中。这在转接给其他代理或升级到主管时特别有用。在这种情况下，新代理无需将客户放在等待状态并解释通话，而是可以快速阅读自动生成的总结，其中可能包括当前问题及前一代理尝试解决的内容。

示例通话总结提示

您可以通过提示工程运行LLM推理以生成和改善通话总结。您可以修改提示模板以寻找最适合您选择的LLM的内容。以下是LCA的默认提示示例，我们将{transcript}占位符替换为实际的通话转录内容。

人类 根据 中定义的转录回答下面的问题，定义在 中。如果您无法回答问题，请回复“n/a”。请使用性别中立的代词。当您回复时，仅回答答案。

转录的总结是什么？

{transcript}

助手

LCA执行提示并存储生成的总结。除了总结，您还可以引导LLM生成几乎任何重要的文本以提升代理的工作效率。例如，您可以选择在通话中使用过的一系列主题代理的处置，生成所需的后续任务列表，甚至向来电者写一封感谢他们来电的电子邮件。

以下截图展示了LCA用户界面中代理的后续电子邮件生成示例。

通过精心设计的提示，某些LLM有能力在一次推理中生成所有这些信息，从而降低推理成本和处理时间。代理可以在通话结束后几秒钟内使用生成的响应进行后续工作。同时，您也可以将生成的响应自动集成到CRM系统中。

以下截图显示了在LCA用户界面中生成的总结示例。

在通话进行过程中生成总结也是可行的请参见以下截图，这对于较长的客户通话尤其重要。

在引入生成式AI之前，代理需要在注意听的同时进行笔记和执行其他相关任务。通过自动转录通话并使用LLMs自动创建总结，我们可以降低代理的心理负担，让他们专注于提供卓越的客户体验。这也使得通话结束后的工作更加准确，因为转录是通话过程中的精确记录，而不仅仅是代理所记下的内容或回忆的片段。

总结

示例的 LCA 应用程序作为开源提供，您可以将其作为自己解决方案的起点，并通过 GitHub 拉取请求为其贡献改进和功能。如需有关部署 LCA 的信息，请参考 实时通话分析和代理辅助解决方案。浏览 LCA GitHub 存储库 以探索代码，注册以接收新版本通知，并查看 README 以获取最新文档更新。对于已经使用 Amazon Connect 的客户，您可以通过参考 联系中心领导者如何为生成式AI做好准备 来了解更多有关生成式AI的信息。

作者介绍

Christopher Lott 是 AWS AI 语言服务团队的高级解决方案架构师，拥有20年的企业软件开发经验。Chris居住在加利福尼亚州萨克拉门托，喜爱园艺、航空航天和旅行。

Smriti Ranjan 是 AWS AI/ML 团队的首席产品经理，专注于语言和搜索服务。在加入 AWS 之前，她曾在亚马逊设备和其他科技初创公司任职，负责产品和增长职能。Smriti 目前居住在马萨诸塞州波士顿，喜爱远足、参加音乐会和旅行。