网站流量日志分析--统计分析--漏斗模型转化分析 &hive 级联求和问题|学习笔记

简介: 快速学习网站流量日志分析--统计分析--漏斗模型转化分析 &hive 级联求和问题

开发者学堂课程【大数据分析之企业级网站流量运营分析系统开发实战(第四阶段):网站流量日志分析--统计分析--漏斗模型转化分析 &hive 级联求和问题】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/696/detail/12242


网站流量日志分析--统计分析--漏斗模型转化分析 &hive 级联求和问题


1、页面路径转化率的分析,分析背后会包含非常生动的模型叫做漏斗模型,在企业业务中会定一个目标,目标跟需求相关,为了到达目标,要制定业务流程,流程中有各不同的步骤,用户按照步骤层层递进的过程中最终到达目标,问题在于在递进的过程中用户会因为各种各样内部外部的原因离开转化流程,就会使得数据越来越少,最后形成漏斗模型,上面大下面小,在漏斗模型中可以看到相关转化率的情况或流失率的情况,根据相关的问题做出相关的改变。

2、在漏斗模型中可以计算哪些指标,并且在漏斗模型中还隐藏着 have 中非常深的问题,因为如果只有业务,模型都可以理解,非常的方便,也非常的生动形象,问题在于如何把指标转化成的 sql 层面进行计算。

3、打开画图板,进行逐级递减,在企业中所希望的是100%,在层层递减的过程中就形成了漏斗模型。

image.png

转化,业务中制定的目标,为了到达目标会制定业务流程,在指引用户根据流程到达目标的过程,称之为转化。

step

nums

1

1000

2

800

3

500

4

200

在漏斗模型中计算最多的就是转化率,相反的词叫做流失率转,从数学层面可以知道转化率和流失率是同一种现象,两种不同角度的描述,转化60%意味着流失40%,加起来等于一,每一步相对第一步的转化率,都跟第一步相比较叫做绝对转化,每一步相对上一步的转化率就是两步骤之间衔接有没有问题,叫做相对转化,业务从背后理解就是相处的过程,比如500除以800是第三步相对于第二步,200除以500是第四步相对于第三步,寻找规律发现不管是绝对转化还是相对转化,有个现象就是记算第二步的绝对转化需要第二步的数据800以及第一步的数据,两个相处才能得到,如果计算第四步的绝对转化需要第四步的200和第一步的1000,200除1000才可以得到,同样后面的指标也有规律存在。

4、规律:计算的每个指标,除了依赖自己的当前行的数据,还依赖之前行的数据。每一个指标的计算除了跟自己当前相关,还跟上一行相关,称之为hive的级联求和问题,如果直接写sql是计算不出来的,不可以取两行数据,用第一行的一列和第二行的一列进行操作,因为当下操作sql的操作表的方式是基于行的,就是能拿到一行,一行中的不同列,而不可能拿到多行取它不同的列。

5、针对级别集合问题,解题思路:

自己和自己进行关联 join,本质原因在于通过自己和自己 join 可以把当前行和之前行出现在一行中。

6、比如数据处在三行中,如果需要a除以C或者C除以a不好操作,但是如果给的数据是 abc 放在一行中,可以在一行中拿第一个字段和第三个字段,本质是如何把ab两个出现在两行中变成一行,join 就可以改变它,不同列的abc可以出现九种结果,可以通过 join 把数据多行变成一行,再根据相关的规律寻找计算即可,所以这类集合问题背后的规律非常重要,只要发现出现一个指标需要当前行的数据和上一行的数据,就用自己和自己join进行解决,这是突破一类问题的核心点。

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
相关文章
|
存储 运维 监控
SelectDB 实现日志高效存储与实时分析,完成任务可领取积分、餐具套装/水杯/帆布包!
SelectDB 实现日志高效存储与实时分析,完成任务可领取积分、餐具套装/水杯/帆布包!
|
SQL 监控 数据挖掘
SLS 重磅升级:超大规模数据实现完全精确分析
SLS 全新推出的「SQL 完全精确」模式,通过“限”与“换”的策略切换,在快速分析与精确计算之间实现平衡,满足用户对于超大数据规模分析结果精确的刚性需求。标志着其在超大规模日志数据分析领域再次迈出了重要的一步。
1218 118
|
监控 安全 搜索推荐
使用EventLog Analyzer进行日志取证分析
EventLog Analyzer助力企业通过集中采集、归档与分析系统日志及syslog,快速构建“数字犯罪现场”,精准追溯安全事件根源。其强大搜索功能可秒级定位入侵时间、人员与路径,生成合规与取证报表,确保日志安全防篡改,大幅提升调查效率,为执法提供有力证据支持。
441 0
|
监控 安全 NoSQL
【DevOps】Logstash详解:高效日志管理与分析工具
Logstash是ELK Stack核心组件之一,具备强大的日志收集、处理与转发能力。它支持多种数据来源,提供灵活的过滤、转换机制,并可通过插件扩展功能,广泛应用于系统日志分析、性能优化及安全合规等领域,是现代日志管理的关键工具。
1709 0
|
自然语言处理 监控 安全
阿里云发布可观测MCP!支持自然语言查询和分析多模态日志
阿里云可观测官方发布了Observable MCP Server,提供了一系列访问阿里云可观测各产品的工具能力,包含阿里云日志服务SLS、阿里云应用实时监控服务ARMS等,支持用户通过自然语言形式查询
2143 0
阿里云发布可观测MCP!支持自然语言查询和分析多模态日志
|
存储 消息中间件 缓存
MiniMax GenAI 可观测性分析 :基于阿里云 SelectDB 构建 PB 级别日志系统
基于阿里云SelectDB,MiniMax构建了覆盖国内及海外业务的日志可观测中台,总体数据规模超过数PB,日均新增日志写入量达数百TB。系统在P95分位查询场景下的响应时间小于3秒,峰值时刻实现了超过10GB/s的读写吞吐。通过存算分离、高压缩比算法和单副本热缓存等技术手段,MiniMax在优化性能的同时显著降低了建设成本,计算资源用量降低40%,热数据存储用量降低50%,为未来业务的高速发展和技术演进奠定了坚实基础。
819 1
MiniMax GenAI 可观测性分析 :基于阿里云 SelectDB 构建 PB 级别日志系统
|
人工智能 运维 监控
Aipy实战:分析apache2日志中的网站攻击痕迹
Apache2日志系统灵活且信息全面,但安全分析、实时分析和合规性审计存在较高技术门槛。为降低难度,可借助AI工具如aipy高效分析日志,快速发现攻击痕迹并提供反制措施。通过结合AI与学习技术知识,新手运维人员能更轻松掌握复杂日志分析任务,提升工作效率与技能水平。
|
监控 安全 Apache
什么是Apache日志?为什么Apache日志分析很重要?
Apache是全球广泛使用的Web服务器软件,支持超过30%的活跃网站。它通过接收和处理HTTP请求,与后端服务器通信,返回响应并记录日志,确保网页请求的快速准确处理。Apache日志分为访问日志和错误日志,对提升用户体验、保障安全及优化性能至关重要。EventLog Analyzer等工具可有效管理和分析这些日志,增强Web服务的安全性和可靠性。
712 9
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
1559 55

热门文章

最新文章