分类数据 EDA 实战:如何发现隐藏的层次结构

简介: 本文揭示EDA核心:分类变量(如city、category)表面扁平,实则藏有收入层级、价值模式、时空分布等隐藏层次结构。通过频率vs价值分析、嵌套交叉、时间拆解与交互可视化,教你用Python挖掘真实结构,避免被数据表象欺骗,提升分析深度与建模质量。

探索性数据分析(EDA)的本质不是画图和算统计量,而是不被自己的数据欺骗。

分类列是最容易出问题的地方。

city

category

product

department

role

customer_type

——这些列看起来很简单,跑个

value_counts()

画个柱状图搞定了。

其实分类变量往往藏着隐藏的层次结构。这些关系存在于类别内部,不主动挖掘根本看不出来。一旦忽略那么就会得到错误的结论、垃圾特征、误导性的报表。

这篇文章讲的是如何在 EDA 阶段把这些隐藏结构找出来,用实际的步骤、真实的案例,外加可以直接复用的 Python 代码。

什么是"隐藏层次结构"?

一个分类变量表面看起来是扁平的,实际上却是分层的:这就是隐藏层次结构。

举几个常见例子:

City

背后藏着收入水平、门店类型、客户行为;

Product Category

背后是价格层级和利润模式;

Customer Type

对应着忠诚度阶段或消费能力;

Department

则可能隐含资历或责任级别。

把所有类别一视同仁EDA 就废了,因为它们从来都不平等。

示例数据集

继续使用同一份销售数据,保持系列的连贯性。

 import pandas as pd  
 import numpy as np  
 import matplotlib.pyplot as plt  
 import seaborn as sns  
 sns.set_style("whitegrid")  
 df = pd.read_csv("sales_data.csv")  
 df['order_date'] = pd.to_datetime(df['order_date'])  
 df.head()

扁平类别的假象

初学者通常这么干:

 df['city'].value_counts()

输出:Delhi: 3,Mumbai: 1,Bangalore: 1。

结论:"Delhi 销售最多。"

技术上没错,分析上毫无价值。

EDA 应该问更好的问题:Delhi 的客户是买得更频繁,还是买得更贵?Delhi 的数据是不是被某一个客户撑起来的?不同城市的品类结构有没有差异?

扁平的计数把真正的结构埋了起来。

频率不等于重要性

比较一下频率和价值:

 df.groupby('city')['amount'].sum().sort_values(ascending=False)

再看均值:

 df.groupby('city')['amount'].mean().sort_values(ascending=False)

你很可能发现:某个城市订单少但客单价高,另一个城市量大但贡献的收入反而一般。

这就是第一个隐藏层次结构:数量主导 vs 价值主导。

出现频率高的类别,并不自动意味着更重要。

嵌套类别

类别很少孤立存在。看看

city → category

的关系:

 pd.crosstab(df['city'], df['category'], normalize='index')

可视化一下:

 pd.crosstab(df['city'], df['category'], normalize='index')\  
   .plot(kind='bar', stacked=True, figsize=(8,5))  
 plt.title("Category Distribution Within Each City")  
 plt.show()

模式开始出现了:有的城市电子产品占大头,有的城市家具更突出,还有的城市品类分布比较均匀。

这里的隐藏层次结构是:城市不是一个类别,而是一个容器。

忽略这一点,细分就做不好,报表也只是走过场。

主导类别背后的子群组

看看

category

 df['category'].value_counts(normalize=True)

电子产品占主导。但继续拆解:

 df.groupby(['category', 'product'])['amount'].sum()

很可能发现某一个产品贡献了绝大部分收入,其他产品只是凑数的。

一个大类别可能完全由一个小子群组撑着。这对特征工程、库存规划、模型偏差都有直接影响。

客户层级

客户 ID 本质上也是分类变量,而且层次很深。

df.groupby('customer_id')['amount'].sum().sort_values(ascending=False)

你可能会看到某个客户贡献了大部分收入,或者同一个人反复购买。

再叠加城市维度:

df.groupby(['customer_id', 'city'])['amount'].sum()

真相可能是:某个城市的"领先地位"其实就靠一个客户撑着。由此得出的地理结论完全站不住脚。

永远要检查:一个类别是由众多贡献者驱动的,还是被某个异常个体拉高的。

时间带来的层次

时间天然会产生层次结构。

df['month'] = df['order_date'].dt.month  
df.groupby(['city', 'month'])['amount'].sum().unstack()

画出来:

sns.lineplot(data=df, x='month', y='amount', hue='city', marker='o')  
plt.show()

你可能会发现不同城市在不同月份达到峰值,季节性主导权在品类之间轮换。

静态的柱状图永远看不到这些。

类别与数值的交互

处理分类数据时,交互分析是最关键的一环。

先看单一维度:

sns.boxplot(x='category', y='amount', data=df)  
plt.show()

加上城市:

sns.boxplot(x='city', y='amount', hue='category', data=df)  
plt.xticks(rotation=45)  
plt.show()

同一个品类在不同城市的表现可能天差地别,消费分布不一样,隐藏的高端细分市场也藏在里面。

特征创意往往就是这么来的。

隐藏层次结构如何破坏模型

不做 EDA 就直接 one-hot 编码会出大问题,因为高价值和低价值的子群组被混在一起,客户集中度信息泄露,噪声被放大。

EDA 阶段可以这样修补:

df['high_value_customer'] = (  
    df.groupby('customer_id')['amount']  
      .transform('sum') > df['amount'].median()  
).astype(int)

这个特征的存在,完全依赖于对层次结构的挖掘。

分类数据的 EDA 清单

每个分类列都应该过一遍:频率检查、基于价值的聚合、跨类别交互、时间维度拆分、异常值主导检查。

跳过这些,EDA 就只是做做样子。

面试时怎么说

不要说"我检查了分类分布"。

要说:"我通过结合频率、价值贡献以及与时间和数值变量的交互,分析了分类变量的隐藏层次结构,识别出主导子群组,避免了建模时的误导性结论。"

面试官一听就知道你是明白人。

总结

分类数据从来都不是扁平的。EDA 存在的意义,就是证明这个假设是错的。

隐藏的层次结构能解释很多事:为什么报表会骗人,为什么模型会过拟合,为什么业务决策让人一头雾水。

一旦开始有意识地寻找这些结构,就再也回不去了。分析的段位会直接拉升一个档次。

EDA 的目的不是更快地出图,而是在相信图表之前,先想清楚。

by Gitanjali

目录
相关文章
|
25天前
|
存储 人工智能 架构师
构建自己的AI编程助手:基于RAG的上下文感知实现方案
打造智能代码助手,远不止调用API。需构建专为代码设计的RAG系统:基于AST解析保障分块完整性,向量库实现语义检索,结合仓库地图提供全局结构,再通过推理链整合上下文。如此,AI才能真正理解代码,胜任重构、答疑等复杂任务,成为懂你项目的“资深工程师”。
112 7
构建自己的AI编程助手:基于RAG的上下文感知实现方案
|
2月前
|
数据可视化 安全 测试技术
Anthropic 开源 Bloom:基于 LLM 的自动化行为评估框架
Anthropic推出开源框架Bloom,可自动化评估大语言模型是否阿谀奉承、有政治倾向或绕过监管等行为。不同于传统基准,Bloom基于配置动态生成测试场景,支持多模型、多样化评估,并提供可视化分析,助力模型安全与对齐研究。(237字)
197 12
Anthropic 开源 Bloom:基于 LLM 的自动化行为评估框架
|
26天前
|
前端开发 算法
深度研究Agent架构解析:4种Agent架构介绍及实用Prompt模板
本文系统梳理了深度搜索Agent的主流架构演进:从基础的Planner-Only,到引入评估反馈的双模块设计,再到支持层次化分解的递归式ROMA方案。重点解析了问题拆解与终止判断两大核心挑战,并提供了实用的Prompt模板与优化策略,为构建高效搜索Agent提供清晰路径。
478 10
深度研究Agent架构解析:4种Agent架构介绍及实用Prompt模板
|
10天前
|
存储 缓存 监控
pandas 3.0 内存调试指南:学会区分真假内存泄漏
本文揭秘pandas“内存不释放”的常见误解:非泄漏,实为CoW共享、Arrow缓冲池、视图隐式引用及分配器延迟归还OS内存所致。RSS≠真实占用,排查需结合tracemalloc、objgraph与原生指标,核心是管控引用生命周期。
140 12
pandas 3.0 内存调试指南:学会区分真假内存泄漏
|
22天前
|
存储 人工智能 数据库
Agentic Memory 实践:用 agents.md 实现 LLM 持续学习
利用 agents.md 文件实现LLM持续学习,让AI Agent记住你的编程习惯、偏好和常用信息,避免重复指令,显著提升效率。每次交互后自动归纳经验,减少冷启动成本,跨工具通用,是高效工程师的必备技能。
148 17
Agentic Memory 实践:用 agents.md 实现 LLM 持续学习
|
10天前
|
关系型数据库 项目管理 数据安全/隐私保护
Leantime:开源项目管理神器
Leantime是一款专为非专业项目经理设计的开源项目管理工具,在Jira的臃肿和Trello的简化之间找到了完美平衡。它集成了战略规划、敏捷看板、甘特图、知识管理、工时跟踪等全面功能,支持Docker一键部署。无论是创业团队还是企业部门,Leantime都能以极低的学习成本,让每位成员轻松参与项目协作。告别过度复杂的工具,用这款轻量而强大的神器,为你的2026年项目计划保驾护航。
101 16
 Leantime:开源项目管理神器
|
1月前
|
人工智能 API 开发者
2026年 AI LLM API 开发趋势:技术、架构与应用深度探讨
2026年,LLM API已成为企业开发核心。本文详解API调用、Prompt工程、多轮对话与流式输出,结合聚合平台如poloapi.top,助力开发者高效构建AI应用,把握技术前沿。
|
1月前
|
缓存 JavaScript 前端开发
Nginx缓存优化配置(手把手教你提升网站加载速度)
本文介绍如何通过Nginx缓存优化网站性能,涵盖代理缓存与静态资源缓存的配置方法,帮助小白快速掌握缓存设置、验证及清理技巧,提升访问速度与服务器效率。
|
9天前
|
人工智能 搜索推荐 程序员
智能体来了:真正从0-1,让AI为你所用
内容摘要:AI 时代正在经历从“对话框驱动”向“智能体(Agent)驱动”的范式转移。本文深度拆解 AI Agent 的底层逻辑,不仅教你如何构建属于自己的智能助理,更揭示了如何通过 Prompt Engineering 与插件化思维,将碎片化技术转化为自动化生产力,实现真正的零门槛进阶。
108 15
|
11天前
|
人工智能 开发框架 IDE
AI 时代的量化革命:10分钟开发你的第一个交易策略
本文手把手教你用AI工具10分钟开发首个量化交易策略:从克隆SDK、启动AI IDE,到生成KDJ_RSI组合策略、配置运行环境并实盘验证。零基础也能快速上手,开启AI驱动的量化投资新范式!
167 17