网站流量日志分析--统计分析--复合指标分析--平均访问深度|学习笔记

简介: 快速学习网站流量日志分析--统计分析--复合指标分析--平均访问深度

开发者学堂课程【大数据分析之企业级网站流量运营分析系统开发实战(第四阶段)网站流量日志分析--统计分析--复合指标分析--平均访问深度】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/696/detail/12215


网站流量日志分析--统计分析--复合指标分析--平均访问深度


内容介绍

复合指标统计分析

、人均浏览页数(平均访问深度)

 

一、复合指标统计分析

所谓的复合指标是在基础指标上做一些相关的数学操作,得到一些复杂结果,不管是复合指标还是基础指标,对于开发者要做的就是以下几个步骤,首先需要去结合指标的业务含义,搞清楚当中所包含的业务含义是什么,有没有歧义,有没有不利于理解的地方,可能需要跟别人进行沟通。理清之后需要去确定指标计算需要哪些数据,哪些表,如果没有怎么,要不要去收集新的数据,要不要去清洗新的数据,确定好数据之后就去思考如何编写hivesql语句,能够计算得到指标,带着这样的思路去进行开发进行分析,那么基本上在思路层面是没有太多的迷茫性。接下来就看项目当中复合指标的计算过程。

 

二、人均浏览页数(平均访问深度)

1、深度是来到1个网站,打开1个页面,别人打开7个页面,那么浏览的深度就多深度就是看的页面多与少

2、复合指标的计算

人均访问深度(人均浏览页面数) : 天之内平均每个独立访客打开的页面数

=总的页面浏览数/总的独立访客数

=pv/uv

(1)数据表: dw_webflow_basic_ info(基础指标信息表

通过宽表窄表也能计算出来更加方便的是把基础信息保存在 basic_ info打开hive 输入showtables发现 dw_webflow_basic_ info 恰好就是一天当中的pv uv vv 相关的概念就不用再花精力进行计算直接拿指标进行加减乘除即可。

(2)分组字段:时间( day) day 比较特殊还是表的分区字段通过 where 分区过滤即可

(3)度量值:pv/uv

不是 count(session)而是除法的过程

基础信息表起个别名叫做t通过分区进行过滤拿到20181101这一天的数据

select

pv/uv

from dw_webf1ow_ basic_ info t where t .datestr=" 20181101";

执行返回的结果是13.407,意味着来到网站的用户中平均每个人会打开13.4个页面指标很不错再评估 uv 人时是以 ip 表示人人在计算上有一点差异性不够精准显得指标比较大但是背后的思想技术一样

3、如果之前没有计算出数据表没有基础信息表摒弃之前的思想没有计算出所谓的 pv uv当前有宽表窄表点击率模型表pv 和点击页面相关uv 跟人相关没有会话的概念所以点击率模型表可以排除有宽有窄的情况下优先选择宽表在宽表中如何计算数据打开宽表查看如果不考虑静态资源过滤就是不加 valid当中一条记录就是一个 pv统计里面有多少条记录就有多少个 pvuv 就是统计里面的 IP,ip 有多少个它就是有多少个 uv两个相除就可以得到或者换个思路先计算每个人的 pv每个人平均加起来除以人数也可以

4、今日所有来访者平均请求浏览的页面数。该指标可以说明网站对用户的粘性。

计算方式:总页面请求数 py/独立访客数 uv

remote addr 表示不同的用户。可以先统计出不同 remote addr 的 pv 量然后累加(sum) 所有 pv 作为总的页面请求数,再 count 所有 remote addr 作为总的去重总人数。

drop table dw avgpy user everyday;

create table dw avgpv User everyday(

day string,

avgpv string);

insert into table dw avgpv  user  everyday

select '20130918',sum(b.pvs/count(b.emote addr) from.

(select remote. add,count(1) as pvs from ods weblog detail where datestr='20130918' group by

remote_ addr) b;

(1)数据表:dw_ weblog_detail

(2)分组字段时间( day) day 比较特殊还是表的分区字段通过 where 分区过滤即可

(3)度量值:先计算每个人的 pv 加起来变成总的 pv 再除以人

计算每个人的pv打开数据查看根据 ip 进行分组属于同一用户的记录因为 ip 相等来自同一组在同一组中进行统计就是一个人的 pv

Select

count(*) as pv,t.remote_ addr统计出来就是每个人的pv

from dw_weblog_ detail t where t.datestr=" 20181101" group by t.remote_ addr ;起别名过滤跟之前一样表示分区表根据用户统计分组

执行看结果可以发现前面的指标是 pv后面指标是用户

image.png

平均 pv 指标比较明显有些指标是不符合实际情况的比如打开了100个页面原因可能是 ip 里面有很多人人均 pv 值把 pv 字段多有的数字相加得到今天总的 pv总的 pv 再除以当中的人ip 代表人的个数得到人均的 pv 值一个结果并不是一个表而是 sql 语句执行反馈的结果sql 编写的技术当操作一个表时如果表存在直接进行操作如果表不存在通过某种方式变出来背后包含的思想就是嵌套查询的思想因此把 sql 语句执行的结果看作成一个表复制 sql 语句用括号括起来起个别名叫做 aa 中有两个字段一个叫做 pv一个叫做 ip里面 sum 数字的 pv 加起来所以 count ip 得到结果基于表再进行操作from 后面的表不是一个真实的表是一个嵌套查询的 a 表求和 pv 字段除以 count ip 的值得到的结果就是人均访问深度也叫做人均浏览的页面数

select

sum(pv)/count(ip)

from

(select

count(*) as pv,t.remote_ addr as ip

from dw_weblog_ detail t where t . datestr="20181101" group by t.remote_ addr) a;

执行发现得到的结果跟第一种计算方式一样,13.407,可能第二种方式很麻烦从侧面反映出如果把基础指标计算出来再求复合指标就会很方便

image.png

相关实践学习
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
【涂鸦即艺术】基于云应用开发平台CAP部署AI实时生图绘板
相关文章
|
存储 Java 关系型数据库
基于JSP的九宫格日志网站
基于JSP的九宫格日志网站
|
监控 安全 前端开发
Nginx 访问日志中有 Get 别的网站的请求是什么原因?
Nginx 访问日志中有 Get 别的网站的请求是什么原因?
311 0
|
XML 安全 Java
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
本文介绍了Java日志框架的基本概念和使用方法,重点讨论了SLF4J、Log4j、Logback和Log4j2之间的关系及其性能对比。SLF4J作为一个日志抽象层,允许开发者使用统一的日志接口,而Log4j、Logback和Log4j2则是具体的日志实现框架。Log4j2在性能上优于Logback,推荐在新项目中使用。文章还详细说明了如何在Spring Boot项目中配置Log4j2和Logback,以及如何使用Lombok简化日志记录。最后,提供了一些日志配置的最佳实践,包括滚动日志、统一日志格式和提高日志性能的方法。
4629 31
【日志框架整合】Slf4j、Log4j、Log4j2、Logback配置模板
|
监控 安全 Apache
什么是Apache日志?为什么Apache日志分析很重要?
Apache是全球广泛使用的Web服务器软件,支持超过30%的活跃网站。它通过接收和处理HTTP请求,与后端服务器通信,返回响应并记录日志,确保网页请求的快速准确处理。Apache日志分为访问日志和错误日志,对提升用户体验、保障安全及优化性能至关重要。EventLog Analyzer等工具可有效管理和分析这些日志,增强Web服务的安全性和可靠性。
521 9
|
11月前
|
监控 容灾 算法
阿里云 SLS 多云日志接入最佳实践:链路、成本与高可用性优化
本文探讨了如何高效、经济且可靠地将海外应用与基础设施日志统一采集至阿里云日志服务(SLS),解决全球化业务扩展中的关键挑战。重点介绍了高性能日志采集Agent(iLogtail/LoongCollector)在海外场景的应用,推荐使用LoongCollector以获得更优的稳定性和网络容错能力。同时分析了多种网络接入方案,包括公网直连、全球加速优化、阿里云内网及专线/CEN/VPN接入等,并提供了成本优化策略和多目标发送配置指导,帮助企业构建稳定、低成本、高可用的全球日志系统。
1064 54
|
XML JSON Java
Logback 与 log4j2 性能对比:谁才是日志框架的性能王者?
【10月更文挑战第5天】在Java开发中,日志框架是不可或缺的工具,它们帮助我们记录系统运行时的信息、警告和错误,对于开发人员来说至关重要。在众多日志框架中,Logback和log4j2以其卓越的性能和丰富的功能脱颖而出,成为开发者们的首选。本文将深入探讨Logback与log4j2在性能方面的对比,通过详细的分析和实例,帮助大家理解两者之间的性能差异,以便在实际项目中做出更明智的选择。
1529 3
|
存储 SQL 关系型数据库
MySQL日志详解——日志分类、二进制日志bin log、回滚日志undo log、重做日志redo log
MySQL日志详解——日志分类、二进制日志bin log、回滚日志undo log、重做日志redo log、原理、写入过程;binlog与redolog区别、update语句的执行流程、两阶段提交、主从复制、三种日志的使用场景;查询日志、慢查询日志、错误日志等其他几类日志
1094 35
MySQL日志详解——日志分类、二进制日志bin log、回滚日志undo log、重做日志redo log
|
存储 缓存 关系型数据库
图解MySQL【日志】——Redo Log
Redo Log(重做日志)是数据库中用于记录数据页修改的物理日志,确保事务的持久性和一致性。其主要作用包括崩溃恢复、提高性能和保证事务一致性。Redo Log 通过先写日志的方式,在内存中缓存修改操作,并在适当时候刷入磁盘,减少随机写入带来的性能损耗。WAL(Write-Ahead Logging)技术的核心思想是先将修改操作记录到日志文件中,再择机写入磁盘,从而实现高效且安全的数据持久化。Redo Log 的持久化过程涉及 Redo Log Buffer 和不同刷盘时机的控制参数(如 `innodb_flush_log_at_trx_commit`),以平衡性能与数据安全性。
810 5
图解MySQL【日志】——Redo Log
|
监控 Java 应用服务中间件
Tomcat log日志解析
理解和解析Tomcat日志文件对于诊断和解决Web应用中的问题至关重要。通过分析 `catalina.out`、`localhost.log`、`localhost_access_log.*.txt`、`manager.log`和 `host-manager.log`等日志文件,可以快速定位和解决问题,确保Tomcat服务器的稳定运行。掌握这些日志解析技巧,可以显著提高运维和开发效率。
1471 13

热门文章

最新文章