基于 MaxCompute 构建 Noxmobi 全球化精准营销系统| 学习笔记

简介: 快速学习基于 MaxCompute 构建 Noxmobi 全球化精准营销系统

开发者学堂课程【MaxCompute 行业应用及调优基于 MaxCompute 构建 Noxmobi 全球化精准营销系统】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/88/detail/1346


基于 MaxCompute 构建 Noxmobi 全球化精准营销系统


内容简介:

一、行业及公司背景介绍

二、广告业务和系统

三、相关技术及 MaxCompute 应用

四、遇到的问题

 

一、行业及公司背景介绍

数字营销含义:

全球广告市场规模约6000亿,其中约30%为互联网和移动互联网广告。

数字营销、互联网广告、在线广告、计算广告、程序化广告……。解决如何在互联网媒体上投放广告的问题。

广告主(需求方) :如何成本更低,效果更好。效果如何定义,品牌 or 效果媒体(供应方) :如何收益更高,长期or短期。

中间商:连接供需,赚差价.规模效应和垄断。

数字营销,应用最新的互联网技术来提高效率。

广告主:减少浪费,让最合适的人看到广告。

媒体:把广告位卖给最需要的人。

中间商:高效撮合交易。

 

二、广告业务和系统

广告业务的主要流程,广告系统的架构和我们的演进过程。

 

三、相关技术及 MaxCompute 应用

相关技术应用介绍:流式计算、高线计算、标签抽取、TargelingCTR 规估、Pacing

 

相关技术介绍

()流式计算 Spark Streaming 应用

主要解决实时报表和部分实时特征的计算问题

1、要求:

必须稳定,7x24小时

可按受秒级延迟

可根招吞吐量横向扩展

存在高要全球聚合的任务

2、方案:

Spark Streaming +Kata + Rds +Redis

原始日志压缩流式回传

中心节点部署,方便开发

3、问题:

稳定性和扩展性都高度依赖高速通道


()离线计算  MaxCompute 应用

解决各类数据计算问题,BI数据、广告报表、反作弊、标签抽取、特征数据计算、统一 用户标识、爬虫数据处理等。

从自建 Hadoop 集群,到EMR按量付费集群,再到 MaxCompute.

 

优势:

再也不用运维集群了

计算速度更快

真正按量付费,成本大幅降低

SQL 开发效事高、调试方便,资料足够

有一个还行的调度系统

直接享受大公司待遇

数据导入导出方案:

优先用数据同步服务,流式数据用 sdk ,实在不行就写脚本+tunnel

 

()特征计算和标签抽取

大部分特征和标签使用 SQL 计算

定义特征,最近-周内活跃天数, 则有0~7的取值定义标签规则,例如:

一周内活跃天、1天、2~3天、 4~5天、 6-7天的分别是不活跃、低活跃、中活跃、高活跃、极高活跃用户。

做好定义,然后就是展现SQL技巧的时候了

多用 with,注意代码风格

优先使用内建函数,无法满足的时候考虑使用 UDFUDAF. UDTF,还不行或者跑的太慢的时候使用 MapReduce,比如对一大批特征做等频高散化。

向未实现平台化,还需写代码,好像有个服务能实现上面的功能,待试用

 

()Targeting

相对于把特征输入模型而言,标签式 Targeting 主要是

方便人来操作,使用投放人的经验来优化。

Look-alike 方式的定向为寻找相似的人,种于用户为正

例,从所有用户中找到正例概率较大的人群。

 

()Ctr预估

预估转化事,可能是 ctr. CVT ctr'cvr

Ecpma ctr* price

Ecpm 为本次广告展现的收益期望值,将指导绝大部分投放相关策略。

Online model

Deep leaming


()Pacing

不止考虑单次展现的收益,而要在单次竞价时考虑对

全局收益的影响。

通过对流量分层和分时的统计和预估,用数学方法来

保证收益最大化。

方案来源于 Yahoo


四、遇到的问题

在实践中遇到了一些问题,有一些解决了,有一些还没有全球化部署。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
24天前
|
存储 大数据 数据处理
PHP 与大数据:构建高效数据处理系统
传统的数据处理系统往往难以应对大规模数据的处理需求,而PHP作为一种常用的服务器端脚本语言,在数据处理方面也有其独特的优势。本文将探讨如何利用PHP构建高效的大数据处理系统,结合实际案例分析其应用场景及优势所在。
15 2
|
4月前
|
SQL Oracle 物联网
助力工业物联网,工业大数据之数仓维度层DWS层构建【十二】
助力工业物联网,工业大数据之数仓维度层DWS层构建【十二】
47 0
|
4月前
|
SQL Oracle 关系型数据库
助力工业物联网,工业大数据之ODS层构建:代码结构及修改【九】
助力工业物联网,工业大数据之ODS层构建:代码结构及修改【九】
47 0
|
4月前
|
SQL 分布式计算 大数据
Python+大数据学习笔记(一)
Python+大数据学习笔记(一)
43 0
|
15天前
|
SQL 分布式计算 Hadoop
利用Hive与Hadoop构建大数据仓库:从零到一
【4月更文挑战第7天】本文介绍了如何使用Apache Hive与Hadoop构建大数据仓库。Hadoop的HDFS和YARN提供分布式存储和资源管理,而Hive作为基于Hadoop的数据仓库系统,通过HiveQL简化大数据查询。构建过程包括设置Hadoop集群、安装配置Hive、数据导入与管理、查询分析以及ETL与调度。大数据仓库的应用场景包括海量数据存储、离线分析、数据服务化和数据湖构建,为企业决策和创新提供支持。
55 1
|
1月前
|
存储 分布式计算 大数据
现代化数据库技术——面向大数据的分布式存储系统
传统的关系型数据库在面对大规模数据处理时遇到了诸多挑战,而面向大数据的分布式存储系统应运而生。本文将深入探讨现代化数据库技术中的分布式存储系统,包括其优势、工作原理以及在大数据领域的应用。
|
1月前
|
SQL 存储 监控
构建端到端的开源现代数据平台
构建端到端的开源现代数据平台
54 4
|
1月前
|
安全 Java 大数据
基于大数据的旅游系统的设计与实现(论文+源码)_kaic
基于大数据的旅游系统的设计与实现(论文+源码)_kaic
|
1月前
|
人工智能 DataWorks 数据可视化
心动基于阿里云DataWorks构建游戏行业通用大数据模型
心动游戏在阿里云上构建云原生大数据平台,基于DataWorks构建行业通用大数据模型,如玩家、产品、SDK、事件、发行等,满足各种不同的分析型应用的要求,如AI场景、风控场景、数据分析场景等。
335 1
|
2月前
|
监控 数据可视化 前端开发
高效设计企业营销系统的3种方案实践复盘
高效设计企业营销系统的3种方案实践复盘
35 2