道旅科技借助云消息队列 Kafka 版加速旅游大数据创新发展

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
云原生网关 MSE Higress,422元/月
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: 阿里云云消息队列 Kafka 版 Serverless 系列凭借其卓越的弹性能力,为道旅科技提供了灵活高效的数据流处理解决方案。无论是应对突发流量还是规划长期资源需求,该方案均能帮助企业实现资源动态调整和成本优化,同时保障业务的高可用性和连续性。

作者:寒空、横槊、娜米、公仪

道旅科技:科技驱动,引领全球旅游分销服务


道旅科技https://www.didatravel.com/home成立于 2012 年,总部位于中国深圳,是一家以科技驱动的全球酒店资源批发商。秉持“让旅游生意更好做”的使命,道旅科技聚焦全球酒店客房销售业务,并整合机票、目的地产品等旅游资源,为旅游产业链上下游合作伙伴提供一站式分销与采购服务,致力于提升行业的信息化水平和供需连接效率。


道旅科技自主研发的海外酒店实时库存聚合分销云端系统,在交易过程中提供系统及数据的聚合、分发服务。通过系统接入和手工输入等方式,与上游众多国际酒店批发商实现库存实时直连,现已成功对接超过 70 万家酒店和 800 多条国际航线,覆盖全球近 7500 个主流城市。经过数据和接口的标准化处理后,通过系统接入和网页预订模式,将海量酒店库存提供给来自 50 个客源地国家的 23,000 多家下游合作伙伴,包括在线旅游企业(OTA)、旅行社、商旅公司和航空公司等各类线上及线下同业客户。

image.png


Kafka 在道旅科技大数据平台中的应用与价值


互联网技术的迅猛发展极大地推动了旅游行业的数字化转型,使得旅游行业的数据量呈指数级增长。作为一家以科技为驱动力的全球酒店资源批发商,道旅科技需要高效管理和深入分析这些海量数据,以便更好地把握市场动态、满足客户需求、提升业务效率和优化用户体验。因此,道旅科技基于云原生架构与技术,打造了先进的大数据平台和强大的智能分析系统,以实现对海量旅游数据的深度挖掘和价值转化。

image.png

在此过程中,道旅科技选择了 Kafka 作为数据流处理的核心组件,并期望其能够提供以下关键价值:


  1. 实时数据处理:作为全球酒店资源批发商,道旅科技需要处理和分析海量旅游数据,包括用户行为数据和旅游产品信息,并且对于实时性有较高要求。
  2. 高并发高吞吐的消息传递:在旅游旺季会产生巨大的数据流,需要系统能够支持高并发的消息传递,并确保在高负载情况下消息传递的稳定性和可靠性。
  3. 数据持久化和可靠性:对于旅游大数据平台而言,数据的持久化和可靠性至关重要。需要确保数据不会因为系统故障而丢失,从而保证业务连续性和数据完整性。
  4. 高效管理成本和资源:旅游行业的业务消息量波峰波谷相差较大,导致资源利用率不均衡,低谷期容易造成资源浪费。需要在保持系统高性能和稳定性的同时,提升资源分配和使用效率,实现有效的成本控制。


云消息队列 Kafka 版:道旅科技数据流处理的优选方案


阿里云云消息队列 Kafka 版 Serverless 系列凭借其卓越的弹性能力,为道旅科技提供了灵活高效的数据流处理解决方案。无论是应对突发流量还是规划长期资源需求,该方案均能帮助企业实现资源动态调整和成本优化,同时保障业务的高可用性和连续性。

image.png

成本效益

云消息队列 Kafka 版在成本上具有显著的竞争优势,与 Apache Kafka 相比,其定价平均低约 30%,在某些特定场景下,成本降幅可达 80%如此显著的经济效益,得益于云消息队列 Kafka 版在架构层面一系列的关键优化和创新。


  • 细粒度按量计费:云消息队列 Kafka 版 Serverless 系列提供了细粒度的计费模式,支持完全按使用量付费,而不是以云服务器 ECS 实例的粒度进行计费。
  • 计算单副本架构:云消息队列 Kafka 版基于高性能分布式文件系统提供的分布式强一致性读写语义,实现了 Kafka 计算层的一写多读能力,Leader 写入数据,Follower 强一致可读,计算层无需多副本复制就能实现系统高可用。减少 60% 的复制流量同时也降低 CPU 使用率,大幅提升计算节点利用率。
  • 存储智能分层架构:闪存介质支持低延迟、高吞吐,微妙级 IO 延迟,磁盘介质支持低成本,温数据高性价比存储,OSS 支持海量数据长期归档存储。通过全链路 CRC 校验保证数据不丢不错,通过纠删码/多副本保证可靠性,通过软硬件协同优化发挥效能,持续释放技术红利。
  • 使用成本优化:云消息队列 Kafka 团队有长时间研发和运维经历,积累了大量的实战经验。结合客户的业务模型,提供 Kafka 最佳实践,客户端和服务端都有 50% 的成本优化,避免不必要的开支。同时制定容灾方案以防止数据丢失或服务中断,帮忙客户用好、用深产品。


稳定可靠

云消息队列 Kafka 版的稳定性是其在数据流处理场景中备受信赖的核心优势。道旅科技在使用云消息队列 Kafka 版期间从未发生过任何故障,这得益于其强大的架构设计和管理体系,为高效、安全的数据流处理提供了坚实的保障。


  • 多可用区容灾:云消息队列 Kafka 版支持多可用区容灾体系,并达到了秒级 RTO(恢复时间目标)和零 RPO(恢复点目标)的高标准。即使发生整个可用区不可用级别的灾难性故障,系统也能在不丢失数据的情况下秒级恢复,确保数据的持续可用性和业务的连续性。
  • 自动化巡检:云消息队列 Kafka 版的自动化巡检系统支持秒级巡检系统运行状态,及时发现异常情况。自动化运维手段减少了人为操作的错误概率,提高了系统的敏捷性和响应速度。
  • 报警机制:云消息队列 Kafka 版具备完善的报警功能,涵盖多种潜在的故障类型和性能问题。无论是数据积压、节点故障,还是流量异常,报警系统都能迅速通知运维人员,使其能够及时采取措施,从而进一步增强了系统的稳健性和可靠性。


灵活弹性

云消息队列 Kafka 版 Serverless 系列以其卓越的弹性能力,为企业提供了高效的资源管理和业务连续性保障。


  • 自适应弹性:云消息队列 Kafka 版 Serverless 系列在 20 MB/s - 1 GB/s 支持无感弹性;1 GB/s - 3 GB/s 支持秒级弹性;3 GB/s 以上支持分钟级弹性。客户可以依据业务流量的趋势,通过弹性能力极致地平衡成本与性能,从容且高效地应对突发流量高峰。
  • 秒级定时弹性:对于超大规模集群,云消息队列 Kafka 版 Serverless 系列支持脉冲的定时弹性,允许预设弹性策略,在流量高峰期预留足够资源确保关键业务的持续性和稳定性,在低峰期则减少资源使用以节约成本,不仅提升了资源利用率,还降低了运维复杂度。


云消息队列 Kafka 版助力道旅科技:稳定可靠降本增效,推动旅游大数据创新


  1. 高稳定架构,为业务保驾护航:云消息队列 Kafka 版凭借高吞吐与分布式架构,满足了道旅科技的实时数据收集、传输和高并发消息传递的需求。通过持久化能力与副本机制,进一步确保了数据可靠性和业务连续性。即使在高负载情况下也能稳定传递消息,防止数据丢失,维护数据完整性,从而保障旅游大数据平台的高效运行。
  2. 灵活资源管理,优化成本效益:云消息队列 Kafka 版 Serverless 系列采用存算分离架构,并结合动态资源调整策略,能够根据实时业务负载自动进行弹性伸缩,实现按量付费,无需预先估算和配置实例规格。不仅降低了运维工作的复杂度,还显著降低了使用成本。


展望未来,阿里云云消息队列 Kafka 版将继续作为道旅科技的核心技术支撑,为其提供坚实的业务保障,助力道旅科技在业务效率和成本优化上持续取得突破,更高效地处理大规模数据流,从而推动旅游行业的创新与发展。

相关文章
|
8天前
|
调度 云计算 芯片
云超算技术跃进,阿里云牵头制定我国首个云超算国家标准
近日,由阿里云联合中国电子技术标准化研究院主导制定的首个云超算国家标准已完成报批,不久后将正式批准发布。标准规定了云超算服务涉及的云计算基础资源、资源管理、运行和调度等方面的技术要求,为云超算服务产品的设计、实现、应用和选型提供指导,为云超算在HPC应用和用户的大范围采用奠定了基础。
179591 21
|
15天前
|
存储 运维 安全
云上金融量化策略回测方案与最佳实践
2024年11月29日,阿里云在上海举办金融量化策略回测Workshop,汇聚多位行业专家,围绕量化投资的最佳实践、数据隐私安全、量化策略回测方案等议题进行深入探讨。活动特别设计了动手实践环节,帮助参会者亲身体验阿里云产品功能,涵盖EHPC量化回测和Argo Workflows量化回测两大主题,旨在提升量化投研效率与安全性。
云上金融量化策略回测方案与最佳实践
|
17天前
|
人工智能 自然语言处理 前端开发
从0开始打造一款APP:前端+搭建本机服务,定制暖冬卫衣先到先得
通义灵码携手科技博主@玺哥超carry 打造全网第一个完整的、面向普通人的自然语言编程教程。完全使用 AI,再配合简单易懂的方法,只要你会打字,就能真正做出一个完整的应用。
9439 24
|
21天前
|
Cloud Native Apache 流计算
资料合集|Flink Forward Asia 2024 上海站
Apache Flink 年度技术盛会聚焦“回顾过去,展望未来”,涵盖流式湖仓、流批一体、Data+AI 等八大核心议题,近百家厂商参与,深入探讨前沿技术发展。小松鼠为大家整理了 FFA 2024 演讲 PPT ,可在线阅读和下载。
5105 15
资料合集|Flink Forward Asia 2024 上海站
|
21天前
|
自然语言处理 数据可视化 API
Qwen系列模型+GraphRAG/LightRAG/Kotaemon从0开始构建中医方剂大模型知识图谱问答
本文详细记录了作者在短时间内尝试构建中医药知识图谱的过程,涵盖了GraphRAG、LightRAG和Kotaemon三种图RAG架构的对比与应用。通过实际操作,作者不仅展示了如何利用这些工具构建知识图谱,还指出了每种工具的优势和局限性。尽管初步构建的知识图谱在数据处理、实体识别和关系抽取等方面存在不足,但为后续的优化和改进提供了宝贵的经验和方向。此外,文章强调了知识图谱构建不仅仅是技术问题,还需要深入整合领域知识和满足用户需求,体现了跨学科合作的重要性。
|
5天前
|
JSON 分布式计算 数据处理
加速数据处理与AI开发的利器:阿里云MaxFrame实验评测
随着数据量的爆炸式增长,传统数据分析方法逐渐显现出局限性。Python作为数据科学领域的主流语言,因其简洁易用和丰富的库支持备受青睐。阿里云推出的MaxFrame是一个专为Python开发者设计的分布式计算框架,旨在充分利用MaxCompute的强大能力,提供高效、灵活且易于使用的工具,应对大规模数据处理需求。MaxFrame不仅继承了Pandas等流行数据处理库的友好接口,还通过集成先进的分布式计算技术,显著提升了数据处理的速度和效率。
|
29天前
|
人工智能 自动驾驶 大数据
预告 | 阿里云邀您参加2024中国生成式AI大会上海站,马上报名
大会以“智能跃进 创造无限”为主题,设置主会场峰会、分会场研讨会及展览区,聚焦大模型、AI Infra等热点议题。阿里云智算集群产品解决方案负责人丛培岩将出席并发表《高性能智算集群设计思考与实践》主题演讲。观众报名现已开放。
|
16天前
|
消息中间件 人工智能 运维
12月更文特别场——寻找用云高手,分享云&AI实践
我们寻找你,用云高手,欢迎分享你的真知灼见!
1247 74