基于 MaxCompute 构建 Noxmobi 全球化精准营销系统| 学习笔记

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 快速学习基于 MaxCompute 构建 Noxmobi 全球化精准营销系统

开发者学堂课程【MaxCompute 行业应用及调优基于 MaxCompute 构建 Noxmobi 全球化精准营销系统】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/88/detail/1346


基于 MaxCompute 构建 Noxmobi 全球化精准营销系统


内容简介:

一、行业及公司背景介绍

二、广告业务和系统

三、相关技术及 MaxCompute 应用

四、遇到的问题

 

一、行业及公司背景介绍

数字营销含义:

全球广告市场规模约6000亿,其中约30%为互联网和移动互联网广告。

数字营销、互联网广告、在线广告、计算广告、程序化广告……。解决如何在互联网媒体上投放广告的问题。

广告主(需求方) :如何成本更低,效果更好。效果如何定义,品牌 or 效果媒体(供应方) :如何收益更高,长期or短期。

中间商:连接供需,赚差价.规模效应和垄断。

数字营销,应用最新的互联网技术来提高效率。

广告主:减少浪费,让最合适的人看到广告。

媒体:把广告位卖给最需要的人。

中间商:高效撮合交易。

 

二、广告业务和系统

广告业务的主要流程,广告系统的架构和我们的演进过程。

 

三、相关技术及 MaxCompute 应用

相关技术应用介绍:流式计算、高线计算、标签抽取、TargelingCTR 规估、Pacing

 

相关技术介绍

()流式计算 Spark Streaming 应用

主要解决实时报表和部分实时特征的计算问题

1、要求:

必须稳定,7x24小时

可按受秒级延迟

可根招吞吐量横向扩展

存在高要全球聚合的任务

2、方案:

Spark Streaming +Kata + Rds +Redis

原始日志压缩流式回传

中心节点部署,方便开发

3、问题:

稳定性和扩展性都高度依赖高速通道


()离线计算  MaxCompute 应用

解决各类数据计算问题,BI数据、广告报表、反作弊、标签抽取、特征数据计算、统一 用户标识、爬虫数据处理等。

从自建 Hadoop 集群,到EMR按量付费集群,再到 MaxCompute.

 

优势:

再也不用运维集群了

计算速度更快

真正按量付费,成本大幅降低

SQL 开发效事高、调试方便,资料足够

有一个还行的调度系统

直接享受大公司待遇

数据导入导出方案:

优先用数据同步服务,流式数据用 sdk ,实在不行就写脚本+tunnel

 

()特征计算和标签抽取

大部分特征和标签使用 SQL 计算

定义特征,最近-周内活跃天数, 则有0~7的取值定义标签规则,例如:

一周内活跃天、1天、2~3天、 4~5天、 6-7天的分别是不活跃、低活跃、中活跃、高活跃、极高活跃用户。

做好定义,然后就是展现SQL技巧的时候了

多用 with,注意代码风格

优先使用内建函数,无法满足的时候考虑使用 UDFUDAF. UDTF,还不行或者跑的太慢的时候使用 MapReduce,比如对一大批特征做等频高散化。

向未实现平台化,还需写代码,好像有个服务能实现上面的功能,待试用

 

()Targeting

相对于把特征输入模型而言,标签式 Targeting 主要是

方便人来操作,使用投放人的经验来优化。

Look-alike 方式的定向为寻找相似的人,种于用户为正

例,从所有用户中找到正例概率较大的人群。

 

()Ctr预估

预估转化事,可能是 ctr. CVT ctr'cvr

Ecpma ctr* price

Ecpm 为本次广告展现的收益期望值,将指导绝大部分投放相关策略。

Online model

Deep leaming


()Pacing

不止考虑单次展现的收益,而要在单次竞价时考虑对

全局收益的影响。

通过对流量分层和分时的统计和预估,用数学方法来

保证收益最大化。

方案来源于 Yahoo


四、遇到的问题

在实践中遇到了一些问题,有一些解决了,有一些还没有全球化部署。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
3月前
|
数据采集 存储 数据处理
数据平台问题之知识管理系统的效果如何评估
数据平台问题之知识管理系统的效果如何评估
|
3月前
|
分布式计算 DataWorks 关系型数据库
MaxCompute 生态系统中的数据集成工具
【8月更文第31天】在大数据时代,数据集成对于构建高效的数据处理流水线至关重要。阿里云的 MaxCompute 是一个用于处理大规模数据集的服务平台,它提供了强大的计算能力和丰富的生态系统工具来帮助用户管理和处理数据。本文将详细介绍如何使用 DataWorks 这样的工具将 MaxCompute 整合到整个数据处理流程中,以便更有效地管理数据生命周期。
120 0
|
15天前
|
边缘计算 人工智能 搜索推荐
大数据与零售业:精准营销的实践
【10月更文挑战第31天】在信息化社会,大数据技术正成为推动零售业革新的重要驱动力。本文探讨了大数据在零售业中的应用,包括客户细分、个性化推荐、动态定价、营销自动化、预测性分析、忠诚度管理和社交网络洞察等方面,通过实际案例展示了大数据如何帮助商家洞悉消费者行为,优化决策,实现精准营销。同时,文章也讨论了大数据面临的挑战和未来展望。
|
3月前
|
自然语言处理 供应链 数据可视化
大数据在市场营销中的应用案例:精准洞察,驱动增长
【8月更文挑战第25天】大数据在市场营销中的应用案例不胜枚举,它们共同展示了大数据技术在精准营销、市场预测、用户行为分析等方面的巨大潜力。通过深度挖掘和分析数据,企业能够更加精准地洞察市场需求,优化营销策略,提升市场竞争力。未来,随着大数据技术的不断发展和普及,其在市场营销领域的应用将更加广泛和深入。
1123 3
|
3月前
|
存储 SQL 分布式计算
Hadoop生态系统概述:构建大数据处理与分析的基石
【8月更文挑战第25天】Hadoop生态系统为大数据处理和分析提供了强大的基础设施和工具集。通过不断扩展和优化其组件和功能,Hadoop将继续在大数据时代发挥重要作用。
|
3月前
|
分布式计算 搜索推荐 物联网
大数据及AI典型场景实践问题之通过KafKa+OTS+MaxCompute完成物联网系统技术重构如何解决
大数据及AI典型场景实践问题之通过KafKa+OTS+MaxCompute完成物联网系统技术重构如何解决
|
3月前
|
人工智能 分布式计算 架构师
大数据及AI典型场景实践问题之基于MaxCompute构建Noxmobi全球化精准营销系统如何解决
大数据及AI典型场景实践问题之基于MaxCompute构建Noxmobi全球化精准营销系统如何解决
|
3月前
|
存储 监控 安全
大数据架构设计原则:构建高效、可扩展与安全的数据生态系统
【8月更文挑战第23天】大数据架构设计是一个复杂而系统的工程,需要综合考虑业务需求、技术选型、安全合规等多个方面。遵循上述设计原则,可以帮助企业构建出既高效又安全的大数据生态系统,为业务创新和决策支持提供强有力的支撑。随着技术的不断发展和业务需求的不断变化,持续优化和调整大数据架构也将成为一项持续的工作。
|
3月前
|
存储 数据可视化 大数据
基于Python Django的大数据招聘数据分析系统,包括数据大屏和后台管理
本文介绍了一个基于Python Django框架开发的大数据招聘数据分析系统,该系统具备后台管理功能和数据大屏展示,利用大数据技术收集和分析招聘市场趋势,帮助企业和招聘机构提高招聘效率和质量。
154 3
|
4月前
|
存储 分布式计算 数据可视化
ERP系统中的大数据分析与处理:驱动企业智能决策
【7月更文挑战第29天】 ERP系统中的大数据分析与处理:驱动企业智能决策
411 0