场景描述
Shulex 是一家专注于全球客户声音洞察的 AI SaaS 公司，聚焦出海业务开发了 Shulex 智能客服、Shulex VOC 等 SaaS 应用，以 Shulex 自研模型为基础，帮助出海企业进行业务创新，实现业务增长。但随着客户体验触点愈加分散，数据源愈来愈多，Shulex 遇到以下挑战：
1.数据从之前的亚马逊电商网站评论分析、客服邮件，增加到社交媒体、网络直播、实时聊天等多种数据源，多渠道、多类型、多语种的客户数据让基于机器学习模型的应用遇到了越来越大的挑战。
2.Shulex 希望通过生成式 AI 来强化 Shulex 智能客服的能力，使之具备一定程度的 Agent（代理）功能以提供更多形式的服务，从自身技术栈出发，Shulex需要基于“开源”、“性能”和“成本”这几点进行评估和考量。
解决方案
通过 Amazon Bedrock 调用大语言模型，Shulex 旗下 Shulex VOC 和 Shulex 智能客服两条产品线对应的一系列以“Bot”命名的 AI 工具，得以快速完成开发，并借助大语言模型强化能力，实现商业分析、用户问题自动应答等功能。
1.通过 Amazon Bedrock 调用 Claude 模型，长达 200k Tokens 分析能力，让 Analysis Bot 结论更可靠。
针对商品的标签，Analysis Bot 能分析用户留言、评论、社交媒体发言等多渠道信息，分析该标签背后的原因，从而制定商业策略。凭借 Claude 模型支持最长 200k 的 Tokens 分析，标签推理不仅能够支持一次性输入更多内容、进行更为高效的分析，内容之间的关联性也因此更为紧密，使得标签推理的结论更有说服力。此外，Shulex 正在将 Claude 3 的强大能力应用在商业分析级别的报告中，为企业在用户画像洞察、产品规划与选品、品质口碑与提升、爆款销售转化上提供可量化依据。
2.低“幻觉”、高知识召回精度，助力 AI Bot 实现更佳用户体验。
AI Bot 是 Shulex 智能客服中用于直接与海外用户沟通、问答的工具，支持 10 种不同语言的邮件和聊天服务，且能 24 小时在线，1 分钟内及时回复客户问题。为服务好海外客户，Shulex 为 AI Bot 设计了 “构建框架 - 应用框架 - 强化框架” 三个阶段，而 Amazon Bedrock 上的 Claude 模型，贯穿于这三个步骤之中，起到了关键作用。
首先，由于每一位客户的经营领域都不一样，智能客服需要针对海外客户的经营领域，利用 RAG（Retrieval Augmented Generation，检索增强生成）技术在构建的框架内回答问题。第二步是运用 RAG 技术进行自然语言提问，并给出回答：识别用户问题中的关键词，确认用户意图，然后根据意图进行知识召回。第三步也是最重要的一步，则是对现有知识库中的内容进行基于相关度、召回准确率的排序，同时匹配用户的强、弱需求，从而提升回答的准确性，并不断强化 RAG 技术的应用效果。
3.借助 Agent 编排能力，扩展 Task Bot 服务范围。使用 Amazon Bedrock Agent 功能，Shulex 能帮助海外客户轻松创建和部署完全托管的 Agent。通过调用 Agent API，复杂的任务如计划编排、业务 API 动态调用、知识库查询，可以被拆分成多个子任务并进行优先级设定、排序和调度，确保任务的顺利完成。
成效
在亚马逊云科技相关服务和技术团队的协助下，Shulex 从评估大语言模型能力、提示词工程优化、 Analysis Bot 性能测试、业务并发能力提升、灰度上线测试到全面线上更新，整个流程仅用时三周，大幅缩短了生成式 AI 应用程序的开发周期。
1.面向海外客户业务，通过应用 Amazon Bedrock 这一强大的生成式 AI 服务，我们以 Shulex VOC Analysis Bot 为首的一系列 Bot 的能力得到了强化，用户整体满意度提升了 15.4%，用户留存率也提高了 12.1%。
2.Amazon SageMaker 作为全托管的生成式 AI 基础设施工具，帮助 Shulex 算法工程师可以更方便地进行数据清洗、训练和部署自研大语言模型，整体模型迭代时间比使用传统训练的方式缩短了 30%。
快报
根据《网络安全法》实名制要求，请绑定手机号后发表评论
垂直大模型应用云服务