|
SQL 消息中间件 缓存
|

快手基于 Flink 的持续优化与实践

快手基于 Flink 的持续优化与实践的介绍。

9695 0
来自: 实时计算 Flink  版块
|
SQL 消息中间件 算法
|

Flink SQL 性能优化:multiple input 详解

在 Flink 1.12 中,针对目前 operator chaining 无法覆盖的场景,推出了 multiple input operator 与 source chaining 优化。该优化将消除 Flink 作业中大多数冗余 shuffle,进一步提高作业的执行效率。本文将以一个 SQL 作业为例介绍上述优化,并展示 Flink 1.12 在 TPC-DS 测试集上取得的成果。

8472 0
来自: 实时计算 Flink  版块
|
存储 分布式计算 Cloud Native
|

首次揭秘云原生Hologres存储引擎

本文将会首次对外公开介绍Hologres的存储引擎,深度剖析其实现原理和核心技术优势。

30636 2
来自: 实时数仓 Hologres  版块
|
存储 分布式计算 DataWorks
|

玩物得志:效率为王 基于DataWorks+MaxCompute+Hologres 构建大数据平台

为了支撑业务的快速发展,玩物得志极少自己造轮子,会大量采用云平台提供的 SaaS、PaaS 服务。比如大数据体系是在阿里云 MaxCompute+DataWorks 框架体系上建设起来。使用了其核心存储、计算等组件,上层的可视化以及业务查询部分,在使用过程中也会有大量的定制化需求,玩物得志在开源方案的基础上进行了一些二次开发。

15877 0
来自: 大数据计算 MaxCompute  版块
|
消息中间件 SQL 分布式计算
|

重新定义性能测试: Apache Flink 重磅开源流计算基准测试框架

每一种引擎有其优势的地方,如何选择适合自己业务的流计算引擎成了一个由来已久的话题。除了比较各个引擎提供的不同的功能矩阵之外,性能是一个无法绕开的评估因素。基准测试(benchmark)就是用来评估系统性能的一个重要和常见的过程。

6620 1
来自: 实时计算 Flink  版块
|
存储 SQL 搜索推荐
|

阿里巴巴电商搜索推荐实时数仓演进之路

自建实时数仓到底难在哪里?实时数仓应该怎么建?阿里巴巴搜索团队告诉您答案

15264 1
来自: 实时数仓 Hologres  版块
|
自然语言处理 搜索推荐 算法
|

优化搜索排序结果从而“ 提升CTR、CVR业务指标”

搭建搜索功能不难,难的是如何提高搜索质量,帮助用户快速找到心中所想的内容或商品,那么搜索结果的相关性排序则是影响用户体验最关键的一环,本文通过阿里云开放搜索电商行业解决方案和大家聊一聊如何优化排序结果

7515 0
来自: 智能搜索推荐  版块
|
搜索推荐 异构计算 Python
|

新手上路:PAI-DSW实验室创建攻略 | 《阿里云机器学习PAI-DSW入门指南》

新手攻略指南:教你四步创建你的PAI-DSW实验室!

7449 0
来自: 人工智能平台PAI  版块
|
分布式计算 Spark Apache
|

限免首发 | Spark 企业级实战集锦,国内Spark开发者的进阶指南!

《Apache Spark 中文实战攻略》上下两册电子书重磅来袭,本书集结国内外顶级大厂技术专家,汇集多年实战经验,带你走进全球顶级开源社区之一 Apache Spark,探秘时下最流行的开源分布式内存式大数据处理引擎。

15744 0
|
数据采集 搜索推荐 算法
|

全托管推荐引擎服务:智能推荐AIRec

本文是《飞天大数据产品价值解读系列》之《全托管推荐引擎服务——智能推荐》的视频分享精华总结,主要由阿里巴巴搜索推荐事业部的栀露向大家分享智能推荐的相关知识,包括为什么要使用推荐,推荐的价值所在,以及智能推荐的重点服务和功能。

3883 0
来自: 智能搜索推荐  版块
|
数据可视化 搜索推荐 关系型数据库
|

【最佳实践】实时计算Flink在IoT行业的实时数仓建设实践

据 IDC 估计,到 2020 年物联网将在全球范围内产生 1.46 万亿美元的价值。据预测,届时中国的物联网市场规模将超过 1.8 万亿人民币。

6966 1
来自: 实时计算 Flink  版块
|
分布式计算 DataWorks 调度
|

MaxCompute资源管理—— 包年包月资源分时

2020年7月23日开始,MaxCompute 管家陆续对各个区域进行升级新版本,新版本支持的功能之一——分时配额,将支持对预留计算资源(预留CU)进行按时段切分,满足时段的差异化资源需求,满足对资源隔离(生产/开发/自助分析)不同工作负载的能力,避免相互干扰,同时更大化提高资源使用率。

2520 0
来自: 大数据计算 MaxCompute  版块
|
SQL 人工智能 分布式计算
|

大神带练, 0基础Spark训练营限时免费抢报!

Spark5天训练营由Spark 中文社区联合阿里云开发者社区联合打造,持续定期更新。第一期训练营邀请到了全 Apache Spark contributer 阵容,经过半个月对课程的精心打磨今天正式上线!限时免费抢报

1853 57
|
机器学习/深度学习 人工智能 分布式计算
|

大神带练, 0基础Spark训练营限时免费抢报!

大神带练, 0基础Spark训练营限时免费抢报!

1796 0
|
存储 分布式计算 搜索推荐
|

阿里巴巴飞天大数据平台智能推荐AIRec最新特性

本文主要分享: 一、智能推荐(AIRec)简介 二、核心功能介绍 三、案例及场景

1669 0
来自: 大数据计算 MaxCompute  版块
|
SQL 消息中间件 分布式计算
|

菜鸟供应链实时数仓的架构演进及应用场景

菜鸟数据&规划部高级数据技术专家贾元乔从数据模型、数据计算、数据服务等几个方面介绍了菜鸟供应链数据团队在实时数据技术架构上的演进,以及在供应链场景中典型的实时应用场景和 Flink 的实现方案。

2899 0
来自: 实时计算 Flink  版块
|
SQL 分布式计算 资源调度
|

SQL 查询的分布式执行与调度

OLAP 是大数据分析应用非常重要的组成部分。这篇文章是介绍 OLAP 任务在并发/分布式环境下执行和调度的算法和模型的。我们将从最简单的 Volcano 模型开始讲起,逐步引出分布式环境下执行 OLAP 查询操作的一些挑战和经典的解决方案。

2466 0
|
DataWorks 机器人
|

欢迎加入DataWorks产品钉钉交流群

欢迎加入DataWorks产品钉钉交流群,该群每日有值班针对dataworks问题进行讲解

39177 0
|
数据采集 数据可视化 搜索推荐
|

第一届阿里云数据可视化峰会圆满落幕

本次峰会以“唤醒数据,看见未来”为主题,邀请专家学者、行业领航人共同探讨数据可视化的未来和机会点。

4820 0
来自: 数据可视化DataV  版块
|
存储 分布式计算 Hadoop
|

【译】Hadoop发生了什么?我们该如何做?

原文:https://insidebigdata.com/2019/08/10/what-happened-to-hadoop-and-where-do-we-go-from-here/ Apache Hadoop出现在IT领域是在2006年,它可以支持使用廉价的商用硬件来存储海量数据。

6391 0

PyODPS DataFrame 处理笛卡尔积的几种方式

PyODPS 提供了 DataFrame API 来用类似 pandas 的接口进行大规模数据分析以及预处理,本文主要介绍如何使用 PyODPS 执行笛卡尔积的操作。 笛卡尔积最常出现的场景是两两之间需要比较或者运算。

14008 0
来自: 大数据计算 MaxCompute  版块
|
机器学习/深度学习 分布式计算 Apache
|

#Apache Spark系列技术直播# 第四讲 【 机器学习介绍与Spark MLlib实践 】

Apache Spark系列技术直播--第四讲 机器学习介绍与Spark MLlib实践 直播时间:2018.12.06 19:00 - 20:00 主讲人:江宇(燕回) 阿里巴巴计算平台EMR技术专家 内容提要:本次讲座主要面对的是机器学习的入门者,以及想要使用Spark来进行机器学习的用户。

2246 0
|
SQL 大数据 流计算
|

Flink SQL 功能解密系列 —— 解决热点问题的大杀器MiniBatch

在Blink的流式任务中,State相关的操作通常都会成为整个任务的性能瓶颈。实时计算部-查询和优化团队开发了MiniBatch功能,大幅降低了State操作的开销,在今年的双11中,几乎所有适用的任务都启用了MiniBatch功能。

6930 0
来自: 实时计算 Flink  版块
|
机器学习/深度学习 自然语言处理 算法
|

阿士比亚:搜索团队智能内容生成实践

本文主要介绍阿里巴巴-搜索事业部算法团队上半年在智能内容生成方向工作的一些实践和思考。

17209 2
来自: 智能搜索推荐  版块
|
资源调度 调度 混合部署
|

阿里巴巴搜索混部解密

Hippo是搜索调度团队根据搜索、推荐、广告等业务特点从2013年开始打造并逐步完善的一套分布式调度系统,支持了集团内外多个事业部的搜索、推荐、广告等相关业务。2017双11期间,搜索在离线混部实现了全时段无干预无降级稳定运行,提供了搜索双11所有TF模型离线批次训练所需资源,并在2017/11/10晚上23点因为离线训练集群负载过高首次在混部上不间断运行了超过2万core的双11实时训练流程并一直在稳定运行。

8625 0
来自: 智能搜索推荐  版块
|
SQL 分布式计算 大数据
|

深入阿里云大数据IDE–MaxCompute Studio

在云栖社区主办的云栖计算之旅第5期–大数据与人工智能分享中,阿里云计算平台高级专家薛明为大家深入地介绍了阿里云大数据IDE–MaxCompute Studio,并对于其特性和背后的技术思想进行了讲解。

10474 118
来自: 大数据计算 MaxCompute  版块
|
机器学习/深度学习 搜索推荐 算法
|

【玩转数据系列四】听说啤酒和尿布很配?本期教你用协同过滤做推荐

数据挖掘的一个经典案例就是尿布与啤酒的例子。尿布与啤酒看似毫不相关的两种产品,但是当超市将两种产品放到相邻货架销售的时候,会大大提高两者销量。很多时候看似不相关的两种产品,却会存在这某种神秘的隐含关系,获取这种关系将会对提高销售额起到推动作用,然而有时这种关联是很难通过理性的分析得到的。这时候我们需

15710 2
来自: 人工智能平台PAI  版块
|
算法 数据挖掘 搜索推荐
|

技术论文:电子商务中基于生命阶段的推荐(发表于 ACM KDD2015 )

ACM SIGKDD 国际会议(简称 KDD)是数据挖掘研究领域的顶级盛会,它每年能收到上千篇来自国际知名大学和研究机构的学术论文投稿,这其中仅有一小部分优秀论文可以被接收。2015年5月18日,KDD组委会发布工业和政府相关方向论文的录用消息,阿里巴巴集团搜索事业部推荐团队投稿的论文被录用,表

7398 0
来自: 智能搜索推荐  版块
|
13天前
|
JSON API 数据格式
|

一文读懂微店商品列表 API:请求参数、返回结构与分页逻辑

本文详解微店商品列表API(vdian.item.list.get):涵盖接口说明、必选/可选参数(如access_token、分页、状态与时间筛选)、返回结构及分页逻辑;附JSON样例,并提示限流、增量同步、状态过滤等实战坑点,助力开发者高效对接私域电商、多店管理等场景。(239字)

76 1
|
17天前
|
供应链 数据挖掘
|

成都天价回锅肉事件舆情分析报告

2026年10月5日前后,成都一家名为“和顺饭店正宗连山回锅肉”的餐饮店因“3片回锅肉售价105元”引发网络热议。

84 0
|
18天前
|
人工智能 运维 安全
|

AR眼镜电力应用:巡检为什么还得靠人走最后一趟?

专为电力巡检设计的50克轻量化真AR智能眼镜,直击“最后几米”难题:AI四类识别(指针/状态/指示灯/矩阵表计)实现安全距离精准读表;离线语音、物理按键、触控板保障双手不离作业面;MicroLED高亮屏适配正午强光;远程专家协同缩短故障响应时间。

84 0
|
21天前
|
存储 大数据 测试技术
|

Elasticsearch压测之Esrally压测报告解读

Elasticsearch压测之Esrally压测报告解读

131 6
|
21天前
|
对象存储 流计算
|

Flink 的 checkpoint 为什么越跑越慢

本文深入剖析Flink增量Checkpoint性能瓶颈:慢不在快照,而在SST文件上传。RocksDB Compaction导致旧数据重写为新文件,触发重复上传;状态分布不均加剧“短板效应”;小文件多、带宽竞争、引用计数延迟清理等问题叠加,使增量Checkpoint渐趋全量。核心在于理解“传什么(SST)”“为何重传(Compaction)”“谁在等待(JobManager同步等待所有subtask)”及“哪些指标会误导”。

106 0
|
23天前
|
存储 运维 监控
|

勒索软件攻击激增,企业如何守住业务连续性?从运维视角看主动防御体系建设

本文提出云上勒索防御“网络层—主机层—数据层”三层协同架构:网络层聚焦东西向流量可见性与外传识别;主机层捕捉CPU/磁盘IO同步飙升等加密前兆;数据层夯实备份、快照与不可变存储。强调三层必须同源同轴、联动分析,并通过实战演练验证RTO,确保防线真正可用。

107 0
|
24天前
|
JSON 供应链 安全
|

商品详情接口:让铺货系统从“复制页面”变成“调用标准数据”

商品详情接口是电商铺货、ERP及选品系统的核心数据能力,提供结构化、可审计的商品信息(标题、SKU、价格、库存、主图、资质等),支撑规模化上架。区别于网页展示,它具备权限控制、增量同步、状态追踪与合规校验能力,是稳定、安全、可回溯的数据管道基石。(239字)

137 0
|
27天前
|
SQL 关系型数据库 MySQL
|

使用rds_dbsync同步Mysql数据至Greenplum

使用rds_dbsync同步Mysql数据至Greenplum

94 1
|
30天前
|
缓存 Python Windows
|

Python 的 __new__ 到底管什么?和 __init__ 的分工一次讲透

__new__ 管造对象、__init__ 管初始化:11 组实验画出分工边界——两类事非 __new__ 不可(改造不可变类型构造、控制实例创建),日常 99% 初始化仍该写在 __init__。

118 1
|
1月前
|
分布式计算 资源调度 Kubernetes
|

SparkCore 之 Spark 运行模式系统讲解

本文系统解析 Spark 五大运行模式(Local、Standalone、YARN、Kubernetes、Mesos),涵盖架构原理、spark-submit 配置、client/cluster 深度对比及选型决策树,附4张原创图解与实战模板,助力Java/大数据/AI工程师高效落地。

126 0
|
1月前
|
人工智能 分布式计算 大数据
|

SparkCore 之 Spark Transformation 类算子详解

本文系统拆解Spark全部Transformation算子,按映射过滤、聚合排序、连接、分区调整、集合操作五大类详解,涵盖语法、窄/宽依赖、Shuffle机制、性能特征及实战场景,附原创架构图、25+算子速查表与Scala示例,助力大数据工程师高效开发。(239字)

115 0
|
1月前
|
存储 Python 容器
|

Python面向对象编程实战:三个项目完整拆解讲解

专为零基础设计的Python面向对象编程实战教程,通过学生成绩管理、图书馆管理、综合管理系统三个渐进式项目,详解类、继承、封装、多态等核心概念。每行代码均附详细注释,助你扎实掌握OOP开发能力。(239字)

108 0
|
1月前
|
存储 容器
|

0.8MB 跑通 Qwen|第 17-2 篇:GGUF → VQF——推理引擎的 Q4_0…Q8_K 反量化再量化

本系列《0.8MB跑通Qwen》聚焦ARM零依赖纯C推理引擎,适配Qwen3-VL多版本模型,在RK3588平台实测。本文详解GGUF→VQF的“反量化再量化”路径:将llama.cpp已量化权重(Q4_0/Q8_0等)先还原为F32,再经统一量化与重排固化为VQF格式,确保内核兼容性与可验证性。(239字)

183 0
|
1月前
|
机器学习/深度学习 区块链 C++
|

0.8MB 跑通 Qwen|第 10-1 篇:大模型推理的长上下文为什么必须稀疏——O(n²) 的注意力 vs O(n·k) 的"只看该看的"

本系列手搓0.8MB纯C推理引擎,零依赖跑通Qwen3-VL多模型。本文聚焦长上下文瓶颈:RK3588实测显示,注意力耗时占比从18%飙升至71%。提出块稀疏方案——将O(n²)注意力压至O(n·k),实现每词成本与上下文长度无关,为端侧大模型长文本推理提供关键路径。(239字)

154 0
|
1月前
|
存储 缓存 C++
|

0.8MB 跑通 Qwen|第 9-1 篇:推理引擎的 KV 也量化——q8 KV 把缓存与 decode 带宽压到一半

本系列手搓零依赖纯C推理引擎,仅0.8MB即可在RK3588上跑通Qwen3-VL多模型。本文详解q8 KV量化:将f16 KV压至INT8,按token每头独立定标,缓存与decode带宽降低约48%,兼顾精度与效率,f32仅作调试探针。

135 0
|
1月前
|
定位技术 C语言 C++
|

0.8MB 跑通 Qwen|第 7-1 篇:大模型量化的 Q4_0 格式——与 GGUF 对齐的 4bit 布局

本系列《0.8MB跑通Qwen》聚焦ARM端零依赖纯C推理引擎,适配Qwen3-VL多模态模型,在RK3588上实测通过。详解GGUF对齐的Q4_0量化:32个float压缩至18字节(f16 scale + 16 nibble),剖析nibble打包规则与11倍误差代价,为端侧高效部署夯实底层基础。(239字)

171 0
|
1月前
|
数据库 iOS开发 MacOS
|

Python 模块入口入门指南:if __name__ == '__main__' 到底在防什么?

几乎每个 Python 文件都有 if __name__ == __main__,但很少有人说清它在防什么。本文用可复现的代码讲透 4 类真实事故:多进程递归崩溃、导入即连数据库、-m 与文件路径的差异、pytest 拿不到准备逻辑,并给出什么时候其实可以不写。

141 1
|
1月前
|
存储 人工智能 安全
|

结构化数据互转(下):任意进制与罗马数字的换算实现

本文深入探讨数字的多种表示法(十进制、二进制、十六进制、罗马数字等),强调数值与表示法的本质区别;详解进制转换原理、`parseInt`陷阱、`BigInt`精度保障、前导零语义、二进制补码位宽依赖及罗马数字规范校验,助力开发者安全、准确地处理各类数字转换场景。(239字)

158 0
|
2月前
|
人工智能 自然语言处理 流计算
|

被AI引用不等于被吸收:GEO跨平台度量框架解读

该文解读arXiv最新研究,提出GEO“引用选择→引用吸收”两阶段度量框架,揭示被AI列出不等于被真正采用;实证发现ChatGPT重深度、Perplexity/Gemini重广度,推动KPI从“提及率”转向可量化的“引用吸收度”。(239字)

174 1
|
2月前
|
分布式计算 运维 API
|

Databricks 实测 Spark 比 Flink 快 92%,流计算要变天了。

Databricks 3月2日发布测评:Spark Real-Time Mode(RTM)在实时特征计算(编码、enrichment、聚合)中,较Flink最高快92%(p99延迟9ms vs 95ms)。RTM打破微批限制,实现毫秒级低延迟、全状态支持与流式Shuffle,挑战“必须双引擎”行业共识。

263 2
|
2月前
|
JSON 算法 API
|

淘宝天猫商品评论API接口解析(附 JSON 样例)

本文详解淘宝开放平台taobao.item.reviews.get接口,合规获取商品近180天公开评价数据(含评分、文本、晒图、SKU、追评及商家回复),涵盖鉴权、签名、参数、JSON示例、字段释义与生产避坑指南。(239字)

167 0
|
3月前
|
人工智能 自然语言处理 前端开发
|

语义切片与向量化:从文本分割到知识表征的技术跃迁

语义切片与向量化是知识库构建的核心环节:前者按语义边界智能分段,保障主题完整与上下文连贯;后者将文本映射为高维向量,实现语义相似度检索。二者协同,决定RAG系统“找得准”的上限。(239字)

180 3

大数据与机器学习

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

0
今日
71001
内容
128
活动
440375
关注
你好!
登录掌握更多精彩内容

相关产品

  • 大数据开发治理平台 DataWorks
  • 日志服务
  • 检索分析服务 Elasticsearch版