API数据源与集成优化【Dataphin V3.9】

本文涉及的产品
智能数据建设与治理Dataphin,200数据处理单元
简介: 在DataphinV3.9版本中,对于API数据源的认证方式配置与URL相对路径配置等场景进行了功能优化,并且新增支持了通过离线集成管道中的API输出组件向API数据源写入数据的功能。

一、场景介绍

场景1:开发和生产环境的API数据源使用不同的API Key或Token。创建API数据源时,其中有一个场景是生产与开发环境的API数据源的API Key或Token不同,此时在管道输入组件中通过将其添加为参数的方式无法满足该场景下的需求。故需要支持在创建数据源时就进行配置可区分生产或开发环境的API Key或Token。

场景2:创建一个API数据源,配置绝对路径URL,在集成组件中指定相对路径的 URL。在使用到API的常见场景中,在一个相同的绝对路径URL下,不同业务属性的数据会存在多个相对路径不同的URL上,如www.mysite.com/customer、www.mysite.com/order和www.mysite.com/stock等, 且这些数据都需要进行数据集成,此时如需要为每一个URL地址配置一个数据源,就会徒增许多冗余配置操作。如果能在集成组件中配置相对路径,就会提高任务配置的效率。

二、功能升级与优化

1. API数据源认证方式优化

在创建API数据源时,认证方式新增了API Key和Bearer Token,生产和开发数据源可以自由配置不同的认证方式,或者是Key或Token。选择API Key认证方式后,可以选择添加至Parameters、Headers或是Body,可满足不同API数据源认证方式的需求。

2.  API集成组件支持配置url相对路径

在API数据源的URL地址配置项中,我们可以仅填写绝对路径,如www.mysite.com。在API集成组件中,有url路径配置项,可填写相对路径,如/custom,该配置项内容将会被拼接在数据源的url地址后,如在这里就会自动拼接成www.mysite.com/custom作为完整的API访问地址。该优化省去了配置多个API数据源的工作量。

3.  新增支持API输出组件

本次升级新增支持了API数据源输出组件,支持将Dataphin或者其他数据源中的数据通过离线集成管道的方式写入到API数据源中。

  1. 支持Post和Put请求方式:Put被定义为幂等的方法, Post不是幂等的方法。幂等意为每次执行都是同样的效果。Put请求方式,用于向指定的url传送更新资源,是幂等的,例如修改密码,每次提交都只是更新该用户密码,每次请求都只是覆盖原型的值,此时用Put;Post请求方式,可以更新或者创建资源,是非幂等的。例如用户注册时,每次提交都是创建一个用户账号,此时用Post。
  2. 支持选择请求传递的JSON数据的格式:选择单条数据则一次请求只传递一条数据,有几条数据就进行几次请求;选择多条数据则一次请求以数组形式传递一批数据,每次传递的数据量为批量条数的值。
  3. 支持配置url相对路径:该配置项内容将会被拼接在数据源的url地址后作为完整的地址。
  4. 支持配置写入JSON的路径:可选填,写入字段的最外层路径,将被拼接在输出字段名前作为完整路径写入。
  5. 支持配置输出字段:新建字段的名称表示写入的字段名。例如字段为 a.b,表示方式对应的输入字段到路径a.b。类型表示写入的数据类型。

三、结语

API数据源与离线集成任务涉及的业务场景复杂多变,本次的优化点旨在通过产品设计解决用户在API数据源集成场景下有关认证方式、路径配置等问题,以提高用户任务配置的便捷度与效率。

相关文章
|
1月前
|
人工智能 关系型数据库 MySQL
数据魔力,一触即发 —— Dataphin数据服务API,百炼插件新星降临!
本文通过一个利用百炼大模型平台和Dataphin数据服务API构建一个客户360智能应用的案例,介绍如何使用Dataphin数据服务API在百炼平台创建一个自定义插件,用于智能应用的开发,提升企业智能化应用水平。
128 3
数据魔力,一触即发 —— Dataphin数据服务API,百炼插件新星降临!
|
2月前
|
存储 Java 开发工具
【三方服务集成】最新版 | 阿里云OSS对象存储服务使用教程(包含OSS工具类优化、自定义阿里云OSS服务starter)
阿里云OSS(Object Storage Service)是一种安全、可靠且成本低廉的云存储服务,支持海量数据存储。用户可通过网络轻松存储和访问各类文件,如文本、图片、音频和视频等。使用OSS后,项目中的文件上传业务无需在服务器本地磁盘存储文件,而是直接上传至OSS,由其管理和保障数据安全。此外,介绍了OSS服务的开通流程、Bucket创建、AccessKey配置及环境变量设置,并提供了Java SDK示例代码,帮助用户快速上手。最后,展示了如何通过自定义starter简化工具类集成,实现便捷的文件上传功能。
【三方服务集成】最新版 | 阿里云OSS对象存储服务使用教程(包含OSS工具类优化、自定义阿里云OSS服务starter)
|
2月前
|
存储 数据可视化 JavaScript
可视化集成API接口请求+变量绑定+源码输出
可视化集成API接口请求+变量绑定+源码输出
63 4
|
3月前
|
人工智能 运维 安全
聚焦API安全未来,F5打造无缝集成的解决方案
聚焦API安全未来,F5打造无缝集成的解决方案
88 26
|
3月前
|
API 搜索推荐
|
2月前
|
存储 JavaScript 前端开发
使用 Openkoda 构建具有 ClickUp API 集成的时间跟踪应用程序
使用 Openkoda 构建具有 ClickUp API 集成的时间跟踪应用程序
36 0
|
3月前
|
SQL 分布式计算 BI
Dataphin中集成SelectDB以支持报表分析和API查询
本文介绍了一家零售企业如何利用SelectDB进行BI分析及数据服务API的查询。通过Dataphin的数据集成、SQL研发等功能,将CRM、ERP等系统数据汇聚加工,并推送至SelectDB构建销售数据集市层,以支持报表分析及API查询。SelectDB具备实时、统一、弹性及开放特性,适用于多种实时分析场景。文章详细描述了在Dataphin中集成SelectDB的整体方案、数据源配置、数据集成、数据开发及数据服务流程。
149 0
|
4月前
|
JavaScript jenkins 持续交付
自动化部署与持续集成:使用Jenkins和Docker优化开发流程
【8月更文挑战第31天】在软件开发的世界里,时间就是一切。本文将引导你通过Jenkins和Docker的强大组合,实现自动化部署和持续集成,让你的开发流程如丝般顺滑。我们将从基础设置开始,逐步深入到构建管道,最终实现一键部署的梦想。准备好让你的开发效率飞跃,一起探索这个令人兴奋的旅程吧!
|
4月前
|
API UED 开发者
如何在Uno Platform中轻松实现流畅动画效果——从基础到优化,全方位打造用户友好的动态交互体验!
【8月更文挑战第31天】在开发跨平台应用时,确保用户界面流畅且具吸引力至关重要。Uno Platform 作为多端统一的开发框架,不仅支持跨系统应用开发,还能通过优化实现流畅动画,增强用户体验。本文探讨了Uno Platform中实现流畅动画的多个方面,包括动画基础、性能优化、实践技巧及问题排查,帮助开发者掌握具体优化策略,提升应用质量与用户满意度。通过合理利用故事板、减少布局复杂性、使用硬件加速等技术,结合异步方法与预设缓存技巧,开发者能够创建美观且流畅的动画效果。
90 0
|
7月前
|
SQL DataWorks 监控
Dataphin常见问题之数据怎么都补不过去如何解决
Dataphin是阿里云提供的一站式数据处理服务,旨在帮助企业构建一体化的智能数据处理平台。Dataphin整合了数据建模、数据处理、数据开发、数据服务等多个功能,支持企业更高效地进行数据治理和分析。

相关产品

  • 智能数据建设与治理 Dataphin