MaxCompute操作报错合集之通过UDF调用异常(其他使用http调用正常)。报错:java.lang.NoSuchMethodError:是什么导致的

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: MaxCompute是阿里云提供的大规模离线数据处理服务,用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时,可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。

问题一:在大数据计算MaxCompute中,通过UDF调用异常(其他使用http调用正常)。报错怎么办?


请教一下,场景:函数计算中使用SDK执行HTTP函数,增加签名调用,在使用java的fc_open20210406这个包的时候,调用com.aliyun.fc_open20210406.Client的InvokeHTTPTrigger方法。在MaxCompute中通过UDF调用异常(其他使用http调用正常)。报错:java.lang.NoSuchMethodError: com.aliyun.tea.okhttp.OkHttpClientBuilder.buildOkHttpClient()Lokhttp3/OkHttpClient;

确定上传的udf.jar包中包含okhttp3库参考代码地址:https://help.aliyun.com/zh/fc/developer-reference/use-sdks-to-execute-http-trigger-functions-7#p-83l-1ty-qio 怀疑fc_open20210406包和MaxCompute的UDF有些地方不兼容,想问问有什么解决办法吗


参考回答:

加上这个set odps.sql.udf.java.classloader.separate=true; 一起执行一下试试 打开这个flag将会优先在用户的jar包当中load类(child first),load不到才会到odps的依赖中找


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/576804


问题二:在大数据计算MaxCompute中,辛苦看下odps在该时段是不是有什么异常


您好麻烦看一个问题,有个每天一点开始调jar包的任务,这几天一直显示连接odps超时,手动补数据是没问题的,辛苦看下odps在该时段是不是有什么异常,产品反馈说客户端的请求已经发过去了,但是服务端一直没响应


参考回答:

options.connect_timeout = 360;

默认是60s,调整这连个参数可以控制time out报错的时间。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/576801


问题三:大数据计算MaxCompute报这个错怎么解决?


大数据计算MaxCompute报这个错怎么解决?User not in whitelist in this region,而且工作区没有Notebook。


参考回答:

这个错误提示表示用户不在当前区域的白名单中,同时工作区也没有Notebook。要解决这个问题,您可以尝试以下方法:

  1. 联系您的数据管理员或系统管理员,请求将您的用户添加到当前区域的白名单中。
  2. 如果您是数据管理员,可以在MaxCompute控制台中创建一个新的Notebook实例,并将您的用户添加到该实例的白名单中。具体操作步骤如下:
  • 登录到MaxCompute控制台。
  • 在左侧导航栏中,选择“Notebook”。
  • 点击“新建”按钮,创建一个新的Notebook实例。
  • 在“白名单”字段中,输入您的用户名和电子邮件地址。
  • 点击“确定”按钮,创建新的Notebook实例。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/576089


问题四:在大数据计算MaxCompute中,请问有人使用过这个连接器或者遇到过这个问题吗?


在使用https://github.com/aliyun/aliyun-maxcompute-data-collectors/tree/master/spark-datasource-v3.1 中开源的spark连接器往maxcompute写数据时会在固定时间段报错(大概在凌晨的1点到5点之间任意时间点随机发生),白天则可以正常写入数据,报错中提示java.net.SocketException: Unexpected end of file from server,请问有人使用过这个连接器或者遇到过这个问题吗。



参考回答:

查一下MaxCompute table 的小文件多不多。建议merge一下小文件。再测试一下写入数据。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/575143


问题五:在大数据计算MaxCompute中,这个里面图片显示不出来怎么回事?


这个里面图片显示不出来


参考回答:

如果您在MaxCompute中无法显示图片,可能是由于以下原因之一:

  1. 图片路径不正确:请确保您在代码中使用了正确的图片路径。如果图片存储在本地文件系统中,则需要使用完整的本地文件路径;如果图片存储在OSS或OBS等云存储服务中,则需要使用相应的访问链接。
  2. 图片格式不支持:MaxCompute目前只支持PNG、JPG和GIF格式的图片。如果您的图片格式不是这三种之一,则无法在MaxCompute中显示。
  3. 图片大小超出限制:MaxCompute对上传到OSS或OBS等云存储服务中的图片大小有限制,最大为5TB。如果您的图片超过了这个限制,则无法在MaxCompute中显示。
  4. 网络连接问题:如果您的图片存储在OSS或OBS等云存储服务中,并且您的网络连接不稳定或者速度较慢,可能会导致图片加载缓慢或者无法加载。


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/575134

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
3月前
|
SQL Java 中间件
【YashanDB知识库】yasdb jdbc驱动集成BeetISQL中间件,业务(java)报autoAssignKey failure异常
在BeetISQL 2.13.8版本中,客户使用batch insert向yashandb表插入数据并尝试获取自动生成的sequence id时,出现类型转换异常。原因是beetlsql在prepareStatement时未指定返回列,导致yashan JDBC驱动返回rowid(字符串),与Java Bean中的数字类型tid不匹配。此问题影响业务流程,使无法正确获取sequence id。解决方法包括:1) 在batchInsert时不返回自动生成的sequence id;2) 升级至BeetISQL 3,其已修正该问题。
【YashanDB知识库】yasdb jdbc驱动集成BeetISQL中间件,业务(java)报autoAssignKey failure异常
|
3月前
|
SQL druid Oracle
【YashanDB知识库】yasdb jdbc驱动集成druid连接池,业务(java)日志中有token IDENTIFIER start异常
客户Java日志中出现异常,影响Druid的merge SQL功能(将SQL字面量替换为绑定变量以统计性能),但不影响正常业务流程。原因是Druid在merge SQL时传入null作为dbType,导致无法解析递归查询中的`start`关键字。
|
4月前
|
Java 程序员 开发者
Java社招面试题:一个线程运行时发生异常会怎样?
大家好,我是小米。今天分享一个经典的 Java 面试题:线程运行时发生异常,程序会怎样处理?此问题考察 Java 线程和异常处理机制的理解。线程发生异常,默认会导致线程终止,但可以通过 try-catch 捕获并处理,避免影响其他线程。未捕获的异常可通过 Thread.UncaughtExceptionHandler 处理。线程池中的异常会被自动处理,不影响任务执行。希望这篇文章能帮助你深入理解 Java 线程异常处理机制,为面试做好准备。如果你觉得有帮助,欢迎收藏、转发!
248 14
|
3月前
|
运维 Cloud Native Java
postman发起post请求遇到报错:java.io.FileNotFoundException (文件名、目录名或卷标语法不正确。)
遇到bug报错,多猜可能的原因,控制变量反复测试,直至找到问题的关键,然后再思考如何解决或者回避。 博客不应该只有代码和解决方案,重点应该在于给出解决方案的同时分享思维模式,只有思维才能可持续地解决问题,只有思维才是真正值得学习和分享的核心要素。如果这篇博客能给您带来一点帮助,麻烦您点个赞支持一下,还可以收藏起来
|
4月前
|
缓存 Java 应用服务中间件
java语言后台管理若依框架-登录提示404-接口异常-系统接口404异常如何处理-登录验证码不显示prod-api/captchaImage 404 (Not Found) 如何处理-解决方案优雅草卓伊凡
java语言后台管理若依框架-登录提示404-接口异常-系统接口404异常如何处理-登录验证码不显示prod-api/captchaImage 404 (Not Found) 如何处理-解决方案优雅草卓伊凡
765 5
|
6月前
|
Java Maven
java项目中jar启动执行日志报错:no main manifest attribute, in /www/wwwroot/snow-server/z-server.jar-jar打包的大小明显小于正常大小如何解决
在Java项目中,启动jar包时遇到“no main manifest attribute”错误,且打包大小明显偏小。常见原因包括:1) Maven配置中跳过主程序打包;2) 缺少Manifest文件或Main-Class属性。解决方案如下:
1815 8
java项目中jar启动执行日志报错:no main manifest attribute, in /www/wwwroot/snow-server/z-server.jar-jar打包的大小明显小于正常大小如何解决
|
5月前
|
Java Windows
【Azure Function】部署Java Function失败:报错deploy [ERROR] Status code 401和警告 'China North 3' may not be a valid region
1:deploy [ERROR] Status code 401, (empty body). 2: China North 3 may not be a valid region,please refer to https://aka.ms/maven_function_configuration#supported-regions for values. 3:  <azure.functions.maven.plugin.version>1.36.0</azure.functions.maven.plugin.version>
78 11
|
1月前
|
存储 机器学习/深度学习 人工智能
数据与生命的对话:当大数据遇上生物信息学
数据与生命的对话:当大数据遇上生物信息学
71 17
|
22天前
|
机器学习/深度学习 存储 分布式计算
数据科学 vs. 大数据:一场“烧脑”但有温度的较量
数据科学 vs. 大数据:一场“烧脑”但有温度的较量
72 2
|
1月前
|
存储 SQL 分布式计算
别让你的数据“裸奔”!大数据时代的数据隐私保护实战指南
别让你的数据“裸奔”!大数据时代的数据隐私保护实战指南
92 19

相关产品

  • 云原生大数据计算服务 MaxCompute