开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

想通过大数据计算MaxCompute实现嵌入式设备到物联网平台再到PAI DSW的云边结合,如何做?

想通过大数据计算MaxCompute实现嵌入式设备到物联网平台再到PAI DSW的云边结合,应该如何去做,看了一些文档,目前还是不太明白?

展开
收起
真的很搞笑 2024-02-25 08:44:59 46 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    要实现嵌入式设备到物联网平台再到PAI DSW的云边结合,您可以按照以下步骤进行:

    1. 数据收集:您需要确保嵌入式设备能够将数据传输到物联网平台。这通常涉及到设备的网络连接和数据发送能力的设置。
    2. 数据上传:物联网平台收集的数据可以通过阿里云的DataWorks或者Tunnel服务上传到MaxCompute进行存储。DataWorks是一个大数据开发治理平台,可以帮助您高效地完成数据的上传和处理任务的配置。
    3. 数据处理:在MaxCompute中,您可以对数据进行周期性计算。MaxCompute支持渐进式计算,这意味着它可以自动按时间分区保存处理过程中的中间结果数据,从而在下一个周期执行时重复使用上周期已经计算好的重叠时间部分的数据,这样可以减少计算资源消耗和执行调度时间。
    4. 调度配置:使用DataWorks的调度配置功能,您可以设定数据处理任务的执行时间和频率,确保数据处理流程的自动化和高效运行。
    5. 读取数据:处理后的数据可以通过PAI DSW(即DataWorks Service)进行读取。PAI DSW允许您直接从MaxCompute表中读取数据,以便进一步分析和使用。
    6. 构建数据仓库:您可以在MaxCompute中构建数据仓库,整合物联网平台的各种数据表,如系统表、时序表、快照表等,以提升数据应用效率。
    7. 分析和应用:最后,您可以根据业务需求对数据进行分析和应用,例如使用机器学习模型进行预测分析,或者将数据用于实时监控和决策支持。

    总的来说,在整个过程中,MaxCompute作为云原生大数据计算服务,提供了TB/PB级数据仓库解决方案,能够帮助您快速解决海量数据计算问题,有效降低企业成本。建议您详细阅读相关文档,并根据实际业务需求进行配置和调整。如果遇到具体技术问题,可以咨询阿里云的技术支持或查阅更详细的官方文档。

    2024-02-25 18:23:05
    赞同 展开评论 打赏
  • MaxCompute主要做大数据计算和存储,物联网的数据可以通过DataWorks或者Tunnel 上传到MaxCompute 做周期性计算,再使用dsw读MaxCompute计算后的数据。
    https://help.aliyun.com/zh/pai/user-guide/read-data-from-maxcompute-tables?spm=a2c4g.11186623.0.i4
    使用DataWorks的调度配置实现。
    调度配置参考这个文档:https://help.aliyun.com/zh/dataworks/user-guide/schedule/?spm=a2c4g.11174283.0.0.16b4467fzvtUBS

    DataWorks+MaxCompute实践案例参考这个文档:https://help.aliyun.com/zh/dataworks/getting-started/dataworks-for-maxcompute-workshop/?spm=a2c4g.11186623.0.0.5e98467f3OzAW1 ,此回答整理自钉群“MaxCompute开发者社区2群”

    2024-02-25 13:22:30
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关产品

  • 云原生大数据计算服务 MaxCompute
  • 相关电子书

    更多
    大规模机器学习在蚂蚁+阿里的应用 立即下载
    基于Spark的面向十亿级别特征的 大规模机器学习 立即下载
    基于Spark的大规模机器学习在微博的应用 立即下载