跳至主要内容
Missing alt text value
2024

聚云科技

中国亚马逊云科技企业支持助力 Mars Hotspot 优化成本、提升效率,从而加速生成式人工智能的赋能进程

优势

50%

将终端容器化底层系统的升级时间缩短了 50%。

加速创新

加速创新,迅速推进生成式人工智能应用的实施。

60%

 成本优化的 60%。

概述

Mars Hotspot 作为一家多云管理服务提供商,是全球云管理领域的领军者。依托软件定义服务,Mars Hotspot 助力企业快速实现统一管控、弹性扩展、效能提升与成本优化,精准推进数字化转型进程。凭借十余年的云服务经验,Mars Hotspot 为客户提供定制化服务,服务范围覆盖中国、东亚及东南亚地区,涉及互联网、娱乐、跨境电商和游戏等多个行业。作为中国最早采用云计算的公司之一,该公司也是中国市场中首批使用 Amazon EKS 容器化服务的用户之一。在亚马逊云科技企业级支持团队的支持下,它已成为中国基于云的容器化实践的基准。

在亚马逊云科技中国区域企业支持的帮助下,Mars Hotspot 通过优化云服务费用实现了 60% 的成本节省,同时显著提高了客户服务的效率。通过优化成本和提高云端效率,Mars Hotspot 进一步增强了客户创新的能力。在与代表性客户 OrionStar 的合作中,Mars Hotspot 成功实现了机器人服务系统的低成本高效运行,从而助力 OrionStar 在服务机器人领域的海外业务迅速增长。 

机会

为大量终端设备提供持续且不间断的技术支持,并为生成式人工智能的开发提供底层技术支持

进行容器化部署,以持续升级终端设备

保持系统的及时更新是亚马逊云科技的一项最佳实践,从效率和安全两个角度来看,这对于企业而言至关重要。在该行业中,因升级不及时或升级策略不当而导致的操作性事故并不少见。然而,系统升级并非易事。随着系统功能和数据量的增加,升级映像的大小也会随之增大。此外,需要进行升级的终端设备的规模不断增加,这进一步加剧了升级所需带宽不足的问题。

OrionStar 是业内知名的人工智能大型模型以及硬件和软件机器人解决方案提供商,也是 Mars Hotspot 的客户之一。Mars Hotspot 为 OrionStar 提供基础技术运营及维护服务。OrionStar 服务机器人的升级工作需要在夜间进行,以确保白天的正常运行不受影响。因此,Mars Hotspot 必须在不投资新的网络带宽或其他基础设施的情况下,优化其现有的终端设备系统更新解决方案。

由生成式人工智能提供支持的客户业务场景

随着生成式人工智能的浪潮逐渐兴起,许多客户渴望利用生成式人工智能技术来为其业务场景赋能,但他们却缺乏相关的技术专长和基础运营能力。作为回应,Mars Hotspot 率先开展了与生成式人工智能相关技术的探索与试验,以提升其技术服务能力。该计划旨在为客户消除障碍、铺平道路,通过构建生成式人工智能来实现这一目标,从而满足客户的业务需求。

Mars Hotspot 首席技术官 Ding Guanyu 表示:“亚马逊云科技中国区域企业支持是我们的云基础设施中不可或缺的关键服务。他们的专业团队常常能发现我们在云部署过程中遇到的各类关键问题。更重要的是,他们为我们提供了更广阔的视角,让我们能够更好地利用云计算的潜力,并精心指导我们的云计算实践。这增强了我们在云端进行构建的信心和决心。”

评价

“亚马逊云科技中国区域企业支持是我们的云基础设施中不可或缺的关键服务。他们的专业团队常常能发现我们在云部署过程中遇到的各类关键问题。更重要的是,他们为我们提供了更广阔的视角,让我们能够更好地利用云计算的潜力,并精心指导我们的云计算实践。这增强了我们在云端进行构建的信心和决心。”

- Ding Guanyu

Mars Hotspot 首席技术官

解决方案

利用亚马逊云科技企业支持来优化终端升级解决方案,并加快生成式人工智能功能的实施

为 Amazon EKS 映像升级提供点对点的传输功能

在亚马逊云科技企业支持团队与 Mars Hotspot 团队的联合研究之后,决定对通过点对点(P2P)传输运行 Hunter Star 的容器服务 Amazon EKS 进行大规模升级部署。在最初的升级过程中,终端机器人直接从数据中心拉取升级系统映像。随着终端数量不断增加,映像的数据量也大幅增长,单个映像的大小最高达到了数十吉字节。新升级过程加入了 P2P 支持,这样一来,终端不再直接与中央映像进行连接,而是从一个节点拉取图像,并与附近的节点共享。这种方法有效利用了整体网络布局,是云部署的最佳实践之一,能够有效缓解因大规模并发操作而造成的网络拥堵问题。

加快生成式人工智能的实施并提供稳定的支持

对大型语言模型进行定制是许多企业利用生成式人工智能的主要方式,而 RAG(检索增强生成)技术则是实现定制的最快途径之一。通过将相关知识转化为向量,RAG 技术能够基于向量之间的距离更准确地判断语义相似度,从而得出更具相关性的答案结果。

Mars Hotspot 率先探索了生成式人工智能技术的原型,并且是国内走在生成式人工智能浪潮前沿的企业之一。起初,我们选择了一个开源的向量数据库服务,但在进行了大量测试后发现,该服务无法满足性能要求,并且维护成本也很高。得知亚马逊云科技 OpenSearch 现已支持向量数据库服务后,Mars Hotspot 便选择使用这一服务。经过多轮测试后,目前它可为业务服务提供稳定的支持。亚马逊云科技企业支持团队向 Mars Hotspot 推荐了 Amazon OpenSearch Service,因为它可以提供稳定的向量计算环境。

Amazon OpenSearch Service 是一项托管式数据分析服务,用于交互式日志分析、实时应用程序监控、网站搜索等。它通过 kNN 插件提供词汇和向量搜索功能,并且其功能还在不断演进,例如在其无服务器版本中增加向量引擎功能。亚马逊云科技的这些创新功能可以更好地帮助 Mars Hotspot 加快其为客户提供的生成式人工智能的实施进程。

采用多种策略优化云成本

自 2019 年将其 EKS 容器化系统迁移至亚马逊云科技以来,Mars Hotspot 便在亚马逊云科技企业支持团队的协助下,开启了在云中进行成本优化的征程。借助亚马逊云科技所提供的成本优化技术、工具和最佳实践,Mars Hotspot 采用了多方面的策略来优化其在云中的成本。

首先,Mars Hotspot 从现有的成本优化解决方案开始,这些方案简单易行,见效迅速。在定价模型方面,Mars Hotspot 根据不同的工作负载需求选择最合适的模型。亚马逊云科技今年在中国区域提供按需定价、预留定价以及新推出的节省计划等定价模型。与按需型实例相比,后两种模型能够显著降低实例成本。例如,节省计划能够为 Amazon EC2、Amazon Fargate 和 Amazon Lambda 等服务最高节省 84% 的成本。在存储方面,Mars Hotspot 通过利用价格和性能各异的存储服务来降低总体成本,实现战略性优化。例如,它将访问频率要求较低的存档数据存储在成本较低的冷存储层中,或者采用 Amazon EBS 的下一代通用型存储卷 GP3,与之前的 GP2 存储卷相比,每 GB 可节省约 20% 的费用。 

其次,Mars Hotspot 专注于通过基于云容器化最佳实践的架构优化来实现成本节省。在与 Mars Hotspot 进行深入的沟通和研究之后,亚马逊云科技企业支持团队提出采用重复使用节点来减少 EKS 集群的数量,从而实现成本节省,同时不影响业务功能。

成就

助力 Mars Hotspot 持续加强核心能力,并为客户和业务发展提供稳定支持

先进的 EKS 容器化运营确保 OrionStar 机器人系统的最佳性能

在亚马逊云科技企业支持团队的协助下,Mars Hotspot 在 EKS 容器化运营方面已获得先进的功能。Mars Hotspot 也是亚马逊云科技合作伙伴网络(APN)体系的成员,持有 MSP 认证,同时还在迁移、DevOps、数据分析以及 EMR 大数据领域获得了相关认证。Mars Hotspot 帮助 OrionStar 实现了通过脚本进行的自动化 EKS 升级部署。同时,它还在没有额外硬件投资的情况下解决了 EKS 系统升级速度缓慢的问题,从而将升级时间缩短 50%,并确保 OrionStar 终端服务机器人业务功能不出现中断。

Mars Hotspot 的运营及创新能力为 OrionStar 机器人业务的发展提供了可靠的支持。截至 2023 年 12 月,Hunter Star 的服务机器人已在全球 60 多个国家和地区投入使用,服务人数超过 5.5 亿,总出货量超过 6 万台。

人工智能赋能推动 Mars Hotspot 实现全面的云成本优化效率提升

通过采用多方面的云成本优化方法,Mars Hotspot 已成为该领域的最佳实践之一,与初始成本相比,实现了最高 60% 的显著成本优化率。除了系统操作外,Mars Hotspot 在生成式人工智能领域也取得了显著进展。例如,在其云成本管理平台 SavingsNow 中,Mars Hotspot 推出了 BIChat 功能,使用该功能能够生成图表和报告,从而极大地提高云成本优化的效率。

聚云科技首席技术官 Ding Guanyu 表示:“随着对云成本的关注度不断提高,如何更经济地利用云服务成为了企业需要更加重视的一个主题。通过亚马逊云科技企业支持服务,我们切实实现了成本降低和效率提升,从而使我们能够将更多精力投入到核心业务以及生成式人工智能等前沿技术的探索中。最近,我们将大语言模型的功能应用到了我们自主开发的云成本管理平台 SavingsNow 中,并引入了 BIChat 功能,该功能支持使用自然语言生成图表和报告。这将生成云成本分析报告所需的时间从 2-3 天缩短至仅 30 分钟,从而彻底变革了企业云成本优化实施的效率。”

关于 Mars Hotspot

Mars Hotspot 是一家多云管理服务提供商,致力于实现“凭借专业能力为客户带来成功”的使命。 依托软件定义服务,该公司助力企业快速实现统一管控、弹性扩展、性能提升与成本优化,精准推进数字化转型进程。

开始使用

各行各业、各种规模的组织每天都在利用亚马逊云科技实现业务转型并履行其使命。请联系我们的专家,立即踏上您自己的亚马逊云科技之旅。
联系销售人员