作者:寒空、横槊、娜米、公仪
道旅科技:科技驱动,引领全球旅游分销服务
道旅科技(https://www.didatravel.com/home)成立于 2012 年,总部位于中国深圳,是一家以科技驱动的全球酒店资源批发商。秉持“让旅游生意更好做”的使命,道旅科技聚焦全球酒店客房销售业务,并整合机票、目的地产品等旅游资源,为旅游产业链上下游合作伙伴提供一站式分销与采购服务,致力于提升行业的信息化水平和供需连接效率。
道旅科技自主研发的海外酒店实时库存聚合分销云端系统,在交易过程中提供系统及数据的聚合、分发服务。通过系统接入和手工输入等方式,与上游众多国际酒店批发商实现库存实时直连,现已成功对接超过 70 万家酒店和 800 多条国际航线,覆盖全球近 7500 个主流城市。经过数据和接口的标准化处理后,通过系统接入和网页预订模式,将海量酒店库存提供给来自 50 个客源地国家的 23,000 多家下游合作伙伴,包括在线旅游企业(OTA)、旅行社、商旅公司和航空公司等各类线上及线下同业客户。
Kafka 在道旅科技大数据平台中的应用与价值
互联网技术的迅猛发展极大地推动了旅游行业的数字化转型,使得旅游行业的数据量呈指数级增长。作为一家以科技为驱动力的全球酒店资源批发商,道旅科技需要高效管理和深入分析这些海量数据,以便更好地把握市场动态、满足客户需求、提升业务效率和优化用户体验。因此,道旅科技基于云原生架构与技术,打造了先进的大数据平台和强大的智能分析系统,以实现对海量旅游数据的深度挖掘和价值转化。
在此过程中,道旅科技选择了 Kafka 作为数据流处理的核心组件,并期望其能够提供以下关键价值:
- 实时数据处理:作为全球酒店资源批发商,道旅科技需要处理和分析海量旅游数据,包括用户行为数据和旅游产品信息,并且对于实时性有较高要求。
- 高并发高吞吐的消息传递:在旅游旺季会产生巨大的数据流,需要系统能够支持高并发的消息传递,并确保在高负载情况下消息传递的稳定性和可靠性。
- 数据持久化和可靠性:对于旅游大数据平台而言,数据的持久化和可靠性至关重要。需要确保数据不会因为系统故障而丢失,从而保证业务连续性和数据完整性。
- 高效管理成本和资源:旅游行业的业务消息量波峰波谷相差较大,导致资源利用率不均衡,低谷期容易造成资源浪费。需要在保持系统高性能和稳定性的同时,提升资源分配和使用效率,实现有效的成本控制。
云消息队列 Kafka 版:道旅科技数据流处理的优选方案
阿里云云消息队列 Kafka 版 Serverless 系列凭借其卓越的弹性能力,为道旅科技提供了灵活高效的数据流处理解决方案。无论是应对突发流量还是规划长期资源需求,该方案均能帮助企业实现资源动态调整和成本优化,同时保障业务的高可用性和连续性。
成本效益
云消息队列 Kafka 版在成本上具有显著的竞争优势,与 Apache Kafka 相比,其定价平均低约 30%,在某些特定场景下,成本降幅可达 80%。如此显著的经济效益,得益于云消息队列 Kafka 版在架构层面一系列的关键优化和创新。
- 细粒度按量计费:云消息队列 Kafka 版 Serverless 系列提供了细粒度的计费模式,支持完全按使用量付费,而不是以云服务器 ECS 实例的粒度进行计费。
- 计算单副本架构:云消息队列 Kafka 版基于高性能分布式文件系统提供的分布式强一致性读写语义,实现了 Kafka 计算层的一写多读能力,Leader 写入数据,Follower 强一致可读,计算层无需多副本复制就能实现系统高可用。减少 60% 的复制流量同时也降低 CPU 使用率,大幅提升计算节点利用率。
- 存储智能分层架构:闪存介质支持低延迟、高吞吐,微妙级 IO 延迟,磁盘介质支持低成本,温数据高性价比存储,OSS 支持海量数据长期归档存储。通过全链路 CRC 校验保证数据不丢不错,通过纠删码/多副本保证可靠性,通过软硬件协同优化发挥效能,持续释放技术红利。
- 使用成本优化:云消息队列 Kafka 团队有长时间研发和运维经历,积累了大量的实战经验。结合客户的业务模型,提供 Kafka 最佳实践,客户端和服务端都有 50% 的成本优化,避免不必要的开支。同时制定容灾方案以防止数据丢失或服务中断,帮忙客户用好、用深产品。
稳定可靠
云消息队列 Kafka 版的稳定性是其在数据流处理场景中备受信赖的核心优势。道旅科技在使用云消息队列 Kafka 版期间从未发生过任何故障,这得益于其强大的架构设计和管理体系,为高效、安全的数据流处理提供了坚实的保障。
- 多可用区容灾:云消息队列 Kafka 版支持多可用区容灾体系,并达到了秒级 RTO(恢复时间目标)和零 RPO(恢复点目标)的高标准。即使发生整个可用区不可用级别的灾难性故障,系统也能在不丢失数据的情况下秒级恢复,确保数据的持续可用性和业务的连续性。
- 自动化巡检:云消息队列 Kafka 版的自动化巡检系统支持秒级巡检系统运行状态,及时发现异常情况。自动化运维手段减少了人为操作的错误概率,提高了系统的敏捷性和响应速度。
- 报警机制:云消息队列 Kafka 版具备完善的报警功能,涵盖多种潜在的故障类型和性能问题。无论是数据积压、节点故障,还是流量异常,报警系统都能迅速通知运维人员,使其能够及时采取措施,从而进一步增强了系统的稳健性和可靠性。
灵活弹性
云消息队列 Kafka 版 Serverless 系列以其卓越的弹性能力,为企业提供了高效的资源管理和业务连续性保障。
- 自适应弹性:云消息队列 Kafka 版 Serverless 系列在 20 MB/s - 1 GB/s 支持无感弹性;1 GB/s - 3 GB/s 支持秒级弹性;3 GB/s 以上支持分钟级弹性。客户可以依据业务流量的趋势,通过弹性能力极致地平衡成本与性能,从容且高效地应对突发流量高峰。
- 秒级定时弹性:对于超大规模集群,云消息队列 Kafka 版 Serverless 系列支持脉冲的定时弹性,允许预设弹性策略,在流量高峰期预留足够资源确保关键业务的持续性和稳定性,在低峰期则减少资源使用以节约成本,不仅提升了资源利用率,还降低了运维复杂度。
云消息队列 Kafka 版助力道旅科技:稳定可靠降本增效,推动旅游大数据创新
- 高稳定架构,为业务保驾护航:云消息队列 Kafka 版凭借高吞吐与分布式架构,满足了道旅科技的实时数据收集、传输和高并发消息传递的需求。通过持久化能力与副本机制,进一步确保了数据可靠性和业务连续性。即使在高负载情况下也能稳定传递消息,防止数据丢失,维护数据完整性,从而保障旅游大数据平台的高效运行。
- 灵活资源管理,优化成本效益:云消息队列 Kafka 版 Serverless 系列采用存算分离架构,并结合动态资源调整策略,能够根据实时业务负载自动进行弹性伸缩,实现按量付费,无需预先估算和配置实例规格。不仅降低了运维工作的复杂度,还显著降低了使用成本。
展望未来,阿里云云消息队列 Kafka 版将继续作为道旅科技的核心技术支撑,为其提供坚实的业务保障,助力道旅科技在业务效率和成本优化上持续取得突破,更高效地处理大规模数据流,从而推动旅游行业的创新与发展。