开发者社区 > 大数据与机器学习 > 实时数仓 Hologres > 正文

Hologres 是Hologres对查询数据表总大小进行新的限制了吗?

Hologres 最近我们的数据总报ERPC_ERROR_CONNECTION_CLOSED错误 是Hologres对查询数据表总大小进行新的限制了吗?

展开
收起
真的很搞笑 2023-12-01 11:26:38 157 0
4 条回答
写回答
取消 提交回答
  • 这个错误ERPC_ERROR_CONNECTION_CLOSED可能是由于Hologres的数据源内存使用率过高导致的。Hologres对单个查询能够使用的内存有限制,如果查询的数据量过大,可能会导致内存使用率超过限制,从而引发这个错误。

    解决这个问题的办法是优化你的查询,例如通过优化索引来减少数据扫描的范围,或者将大数据量的查询分解为多个小数据量的查询。此外,你也可以考虑增加Hologres实例的内存容量,以提供更多的内存给查询使用。

    2023-12-02 15:41:35
    赞同 展开评论 打赏
  • 报错:ERROR: Query:[xxx] Build desc failed: failed to get foregin table split:ERPC_ERROR_CONNECTION_CLOSED.
    https://help.aliyun.com/zh/hologres/support/common-errors-and-troubleshooting-of-integration-with-maxcompute?spm=a2c4g.11186623.0.i137#section-hjo-ua7-5zc

    报错原因:

    MaxCompute小文件过多,导致请求的META超过远程过程调用协议(RPC,Remote Procedure Call Protocol)1GB的最大限制。

    解决方法:

    请执行以下命令进行小文件合并。

    set MaxCompute.merge.task.mode=sql;
    set MaxCompute.merge.lock.expire.time=0;
    ALTER TABLE [PARTITION] MERGE SMALLFILES;
    HologresV0.10.21及以上版本已优化,请升级Hologres实例,详情请参见实例升级。

    请联系MaxCompute技术支持从源头解决,如果数据量不大可直接将数据写入Hologres。

    2023-12-02 10:32:47
    赞同 展开评论 打赏
  • Hologres没有直接对查询数据表总大小进行限制。ERPC_ERROR_CONNECTION_CLOSED错误通常表示与Hologres服务器的连接已关闭。

    这种错误可能有多种原因,包括但不限于以下几点:

    1. 连接超时:如果客户端与Hologres的连接在长时间内处于非活动状态,可能会因为超时而被关闭。

    2. 网络问题:网络中断、不稳定性或其他网络问题可能导致连接意外关闭。

    3. 服务器负载:如果Hologres服务器过载,无法处理更多的连接请求,它可能会主动关闭一些连接。

    4. 配置限制:某些配置参数(例如max_connections)可能限制了能够同时建立的连接数,当达到该限制时,新的连接可能会被关闭。

    为了解决此问题,您可以尝试以下操作:

    1. 检查连接设置:确保您的应用程序与Hologres之间的连接设置是正确的,并且没有过期或不合理的超时值。

    2. 检查网络稳定性:检查您的网络连接以确保稳定性,并排除任何网络故障。

    3. 调整服务器配置:根据实际需要和Hologres服务器的负载情况,适当调整服务器配置参数,例如连接数限制等。

    4. 使用连接池:使用连接池来管理与Hologres的连接,以便有效地重用和管理连接资源。

    2023-12-02 10:03:43
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    Hologres的ERPC_ERROR_CONNECTION_CLOSED错误通常表示客户端与服务器之间的连接在数据传输过程中被关闭。这可能由多种原因引起,包括但不限于:

    1. 网络问题:例如防火墙设置、代理限制或临时的网络波动。
    2. 资源限制:如内存不足或者CPU使用率过高,导致查询过程中的某些操作无法完成。
    3. 超时设置:如果查询时间过长或者客户端等待响应的时间超过设定阈值,连接可能会被自动关闭。
    4. 并发限制:当并发查询数量过多时,可能会因为系统资源耗尽而引发连接关闭。

    关于是否是由于对数据表总大小进行了新的限制导致的问题,你需要查看最新的官方文档或者联系阿里云技术支持以获取确切的信息。一般来说,Hologres会有一些内在的限制来保证系统的稳定性和性能,但是这些限制应该足够大,以满足大多数用户的需求。

    建议你进行以下排查步骤:

    • 检查网络连接和防火墙设置。
    • 确保你的查询没有内存溢出(OOM)风险,并且不会消耗大量的计算资源。
    • 调整查询语句,优化查询性能,减少查询时间。
    • 如果有多个查询同时运行,请检查并发情况并适当降低并发级别。
    • 查看Hologres的日志和监控指标,了解是否有其他异常行为。
    2023-12-01 17:02:57
    赞同 展开评论 打赏

本技术圈将为大家分析有关阿里云产品Hologres的最新产品动态、技术解读等,也欢迎大家加入钉钉群--实时数仓Hologres交流群32314975

相关产品

  • 实时数仓 Hologres
  • 相关电子书

    更多
    实时数仓Workshop(广州站)- 李佳林 立即下载
    阿里云实时数仓Hologres技术揭秘2.0 立即下载
    实时数仓Hologres技术实战一本通2.0版(下) 立即下载