开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

Maxcompute中Pyodps的open_reader()如何获取超过1w条数据

已解决

Maxcompute中Pyodps的open_reader()如何获取超过1w条数据

展开
收起
阿里云服务支持 2022-12-07 18:03:54 438 0
1 条回答
写回答
取消 提交回答
  • 官方回答

    在调用open_reader()时,Pyodps会默认调用旧的Result接口,可能会出现获取数据超时或获取数据受限等问题。

    可以按照如下方法指定PyODPS调用Instance Tunnel。 在脚本中设置

    options.tunnel.use_instance_tunnel=True;

    options.tunnel.limit_instance_tunnel=False;

    按照如下示例,设置open_reader(tunnel=True)。

    从PyODPS v0.7.7.1开始,可以通过open_reader()方法读取全量数据。

    with o.execute_sql('select * from table_name').open_reader(tunnel=True) as reader: for record in reader: print(record)

    2022-12-07 18:07:36
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 相关电子书

    更多
    Data+AI时代大数据平台应该如何建设 立即下载
    大数据AI一体化的解读 立即下载
    极氪大数据 Serverless 应用实践 立即下载