DataHub常见问题之限制篇

简介: 介绍DataHub因为参数限制而出现的错误

Request: com.aliyun.datahub.client.exception.DatahubClientException: [httpStatus:413, requestId:null, errorCode:null, errorMessage:{
"ErrorCode": "RequestEntityTooLarge",
"ErrorMessage": "Request body size exceeded."
}
报错原因:DataHub限制发起一次请求的大小,限制大小为4M,需要降低每一次发送的条数,如果单条记录超过4M,则需要考虑进行字段切分

DataHub常见限制

限制项 描述 值域范围
活跃shard数 每个topic中活跃shard数量限制 (0,256] (公测限制,流量超出256个Shard承载能力请联系管理员提升Quota)
总shard数 每个topic中总shard数量限制 (0,512]
Http BodySize http请求中body大小限制 4MB
单个String长度 数据中单个String字段长度限制 2MB
Merge/Split频率限制 每个新产生的shard在一定时间内不允许进行Merge/Split操作 5s
QPS限制 每个Shard写入QPS限制(非Record/s,Batch写入同一Shard仅计算为1次) 2000
Throughput限制 每个Shard写入每秒吞吐限制 5MB/s
Project限制 每个云账号能够创建的Project上限 50
Topic限制 每个Project内能创建的Topic数量限制,如有特殊请求请联系管理员 500
Topic Lifecycle限制 每个Topic中数据保存的最大时长,单位是天 [1,7]
相关文章
|
9月前
|
消息中间件 分布式计算 DataWorks
DataWorks常见问题之kafka数据导入datahub失败如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
|
数据采集 Java API
初识 DataHub|学习笔记
快速学习初识 DataHub
574 0
初识 DataHub|学习笔记
|
索引 存储 NoSQL
表格存储(Tablestore)入门指南
表格存储(Tablestore)入门指南内容简介了表格存储(Tablestore)是阿里云自研的 NoSQL 多模型数据库,提供海量结构化数据存储以及快速的查询和分析服务。
18886 2
|
SQL 分布式计算 数据处理
图文详解:DataHub产品概述
阿里云流数据处理平台DataHub是流式数据(Streaming Data)的处理平台,提供对流式数据的发布 (Publish),订阅 (Subscribe)和分发功能,让您可以轻松构建基于流式数据的分析和应用。
2910 0
|
数据采集 大数据 数据挖掘
DataHub应用场景有哪些?
本文为您介绍DataHub三大应用场景,主要场景包括:实时数据通道、实时数据清洗和分析、实时数据仓库。
1102 0
|
8月前
|
SQL 存储 Java
实时数仓 Hologres操作报错合集之在尝试访问DataHub时,报错连接超时,该怎么处理
在使用阿里云实时数仓Hologres时,可能会遇到不同类型的错误。例如:1.内存超限错误、2.字符串缓冲区扩大错误、3.分区导入错误、4.外部表访问错误、5.服务未开通或权限问题、6.数据类型范围错误,下面是一些常见错误案例及可能的原因与解决策略的概览。
|
8月前
|
数据采集 DataWorks 监控
DataWorks产品使用合集之mysql-cdc读取数据写入到datahub中,datahub如何转换时区
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
78 1
|
9月前
|
关系型数据库 Linux Docker
datahub元数据管理平台从安装到使用一站式指南(未完)_datahub安装
datahub元数据管理平台从安装到使用一站式指南(未完)_datahub安装
datahub元数据管理平台从安装到使用一站式指南(未完)_datahub安装
|
8月前
|
SQL 数据采集 分布式计算
DataWorks产品使用合集之在数据集成中,对于Tablestore数据源的增量同步,该如何配置
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
9月前
|
SQL 存储 DataWorks
DataWorks产品使用合集之DataWorks中,配置DataHub数据源如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
268 5

热门文章

最新文章