ML之FE:基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略

简介: ML之FE:基于BigMartSales数据集利用Featuretools工具(1个dataframe表结构切为2个Entity表结构)实现自动特征工程之详细攻略

设计思路

image.png


输出结果


1、结果输出


image.png

image.png





2、FE后的字段


Item_Identifier

Item_Weight

Item_Fat_Content

Item_Visibility

Item_Type

Item_MRP

Outlet_Identifier

Outlet_Establishment_Year

Outlet_Size

Outlet_Location_Type

Outlet_Type

id



3、衍生字段案例具体实现过程


T1、选择的基字段(1个)


['id','Item_Identifier','Item_Weight','Outlet_Identifier','Outlet_Establishment_Year', 'Outlet_Size']



(1)、生成的所有衍生字段


id

Item_Identifier

Item_Weight

 

Outlet_Identifier

outlet.Outlet_Establishment_Year

outlet.Outlet_Size

outlet.COUNT(bigmart)

outlet.MODE(bigmart.Item_Identifier)

outlet.NUM_UNIQUE(bigmart.Item_Identifier)

 

outlet.MAX(bigmart.Item_Weight)

outlet.MEAN(bigmart.Item_Weight)

outlet.MIN(bigmart.Item_Weight)

 

outlet.SKEW(bigmart.Item_Weight)

outlet.STD(bigmart.Item_Weight)

outlet.SUM(bigmart.Item_Weight)



(2)、父衍生字段—outlet.COUNT(bigmart)


image.png


outlet.COUNT(bigmart)字段意义:是根据Outlet_Identifier字段内10个子类别的整体个数,分别进行填充设计。

outlet.COUNT(bigmart)字段内容:根据该字段的下拉列表可知,标记为1550的个数有4650个,是因为在Outlet_Identifier字段内,OUT035、OUT046、OUT049三个子类别均有1550个,所以,以上结果比较巧。



(3)、子衍生字段的具体字段分析


outlet.MODE(bigmart.Item_Identifier)    字段的分析过程


image.png




T2、选择的基字段(2个)


['Item_Identifier','Item_Weight','Item_Fat_Content','Outlet_Identifier','Outlet_Establishment_Year', 'Outlet_Size']


id

Item_Identifier

Item_Weight

Item_Fat_Content

 

 image.png

Outlet_Identifier

outlet.Outlet_Establishment_Year

outlet.Outlet_Size

 

outlet.COUNT(bigmart)

outlet.MODE(bigmart.Item_Identifier)

outlet.NUM_UNIQUE(bigmart.Item_Identifier)

 

outlet.MAX(bigmart.Item_Fat_Content)

outlet.MEAN(bigmart.Item_Fat_Content)

outlet.MIN(bigmart.Item_Fat_Content)

outlet.SKEW(bigmart.Item_Fat_Content)

outlet.STD(bigmart.Item_Fat_Content)

outlet.SUM(bigmart.Item_Fat_Content)

outlet.MAX(bigmart.Item_Weight) outlet.MEAN(bigmart.Item_Weight) outlet.MIN(bigmart.Item_Weight) outlet.SKEW(bigmart.Item_Weight) outlet.STD(bigmart.Item_Weight) outlet.SUM(bigmart.Item_Weight)





核心代码


#2.2、特征衍生

#(1)、创建一个实体集EntitySet:实体集是一种包含多个数据帧及其之间关系的结构。

ftES = ft.EntitySet(id = 'sales')

#(2)、规范化实体集:

ftES.normalize_entity(base_entity_id='bigmart',

                   new_entity_id='outlet',

                   index = 'Outlet_Identifier',

                   additional_variables = ['Outlet_Establishment_Year', 'Outlet_Size',

#                                             'Outlet_Location_Type', 'Outlet_Type',

                                           ])

#(3)、利用dfs函数自动创建新特征并输出

feature_matrix, feature_names = ft.dfs(entityset=ftES,target_entity = 'bigmart',

                                      max_depth = 2,

#                                        verbose = 1, n_jobs = -1,

                                      )

print('feature_names: \n',len(feature_names),feature_names)

print('feature_matrix:',feature_matrix.shape,type(feature_matrix),'\n',feature_matrix.iloc[:,:10].head())

feature_matrix.to_csv('%sfeature_matrix.csv'%date)

feature_matrix = feature_matrix.reindex(index=data_all['id'])       # reindex()函数,重新把列/行根据columns/index参数指定字段顺序整理一遍

feature_matrix = feature_matrix.reset_index()                       # reset_index()函数,重新设置dataframe的index,范围为0~len(df)

feature_matrix.to_csv('%sfeature_matrix2reset_index01.csv'%date)










 


相关文章
|
8天前
|
数据采集 人工智能 安全
|
17天前
|
云安全 监控 安全
|
3天前
|
机器学习/深度学习 人工智能 前端开发
构建AI智能体:七十、小树成林,聚沙成塔:随机森林与大模型的协同进化
随机森林是一种基于决策树的集成学习算法,通过构建多棵决策树并结合它们的预测结果来提高准确性和稳定性。其核心思想包括两个随机性:Bootstrap采样(每棵树使用不同的训练子集)和特征随机选择(每棵树分裂时只考虑部分特征)。这种方法能有效处理大规模高维数据,避免过拟合,并评估特征重要性。随机森林的超参数如树的数量、最大深度等可通过网格搜索优化。该算法兼具强大预测能力和工程化优势,是机器学习中的常用基础模型。
292 164
|
2天前
|
机器学习/深度学习 自然语言处理 机器人
阿里云百炼大模型赋能|打造企业级电话智能体与智能呼叫中心完整方案
畅信达基于阿里云百炼大模型推出MVB2000V5智能呼叫中心方案,融合LLM与MRCP+WebSocket技术,实现语音识别率超95%、低延迟交互。通过电话智能体与座席助手协同,自动化处理80%咨询,降本增效显著,适配金融、电商、医疗等多行业场景。
303 155
|
4天前
|
机器学习/深度学习 人工智能 前端开发
构建AI智能体:六十九、Bootstrap采样在大模型评估中的应用:从置信区间到模型稳定性
Bootstrap采样是一种通过有放回重抽样来评估模型性能的统计方法。它通过从原始数据集中随机抽取样本形成多个Bootstrap数据集,计算统计量(如均值、标准差)的分布,适用于小样本和非参数场景。该方法能估计标准误、构建置信区间,并量化模型不确定性,但对计算资源要求较高。Bootstrap特别适合评估大模型的泛化能力和稳定性,在集成学习、假设检验等领域也有广泛应用。与传统方法相比,Bootstrap不依赖分布假设,在非正态数据中表现更稳健。
233 113
|
11天前
|
SQL 自然语言处理 调度
Agent Skills 的一次工程实践
**本文采用 Agent Skills 实现整体智能体**,开发框架采用 AgentScope,模型使用 **qwen3-max**。Agent Skills 是 Anthropic 新推出的一种有别于mcp server的一种开发方式,用于为 AI **引入可共享的专业技能**。经验封装到**可发现、可复用的能力单元**中,每个技能以文件夹形式存在,包含特定任务的指导性说明(SKILL.md 文件)、脚本代码和资源等 。大模型可以根据需要动态加载这些技能,从而扩展自身的功能。目前不少国内外的一些框架也开始支持此种的开发方式,详细介绍如下。
809 6