Dataworks业务日志存储在哪里?入库是MySQL还是Maxcompute?”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
在阿里云DataWorks中,业务日志的存储和入库方式可能会有所不同,具体取决于您的数据集成、数据开发和数据分析场景。下面是关于不同场景下的业务日志存储和入库方式的介绍:
数据集成场景:在数据集成场景下,DataWorks会将业务日志存储在日志服务(Log Service)中。日志服务是一种高可用、低延迟、海量日志数据处理平台,可用于实时收集、分析和查询各类业务日志数据。在数据集成任务中,DataWorks会自动将任务执行的日志信息发送到日志服务中,以便用户查看和分析。同时,DataWorks也支持在日志服务中配置消费端,将日志数据导出到MySQL等其他数据存储中。
数据开发场景:在数据开发场景下,DataWorks会将业务日志存储在MaxCompute(原名MaxCompute)中。MaxCompute是阿里云提供的一种PB级别的数据计算和分析服务,支持海量数据的存储、处理和分析。在数据开发任务中,DataWorks会自动将任务执行的日志信息写入到MaxCompute中,以便用户查看和分析。同时,用户也可以通过DataWorks的数据开发工作台或MaxCompute的开发工具,对日志数据进行进一步的计算和分析。
日志现在存在es上.后续 落磁盘还是怎么存储还没想好. 看看怎么操作 入maxcompter 比较方便,数据集成可以将es的数据同步到maxcompute
DataWorks基于MaxCompute/Hologres/EMR/CDP等大数据引擎,为数据仓库/数据湖/湖仓一体等解决方案提供统一的全链路大数据开发治理平台。