Hadoop数据块分散存储NameNode管理
【4月更文挑战第17天】Hadoop是一个开源的分布式计算框架,依赖HDFS进行分布式存储。文件被分割成数据块分散在DataNode上,NameNode负责元数据管理和协调,确保数据可靠性。NameNode的高可用性配置能防止单点故障,保证系统稳定性。这套机制支持高效、可靠和可扩展的大数据存储与访问。
基于MaxCompute的大数据安全方案
随着法律的完善,数据安全,信息安全,网络安全,升级成国家安全,所以数据安全不管对用户,还是对公司也都会变的越来越重要。做为大数据云数仓解决方案的领导者,阿里云MaxCompute在安全体系上也做了很多特性,本文给大家简单介绍下MaxCompute关于数据安全的一些能力。
实践教程之如何将PolarDB-X与大数据等系统互通
PolarDB-X 为了方便用户体验,提供了免费的实验环境,您可以在实验环境里体验 PolarDB-X 的安装部署和各种内核特性。除了免费的实验,PolarDB-X 也提供免费的视频课程,手把手教你玩转 PolarDB-X 分布式数据库。本期实验将指导您使用PolarDB-X+Canal+Click...
MaxCompute生态与开放性
MaxCompute是阿里自研的大数据云数仓,同时也兼容大部分大数据生态系统。一个平台不能完成所有功能,解决所有问题,MaxCompute需要依赖大数据生态,才能走的更远。
日志服务 Scan 功能工作机制与最佳实践
大数据快速增长的需要泛日志(Log/Trace/Metric)是大数据的重要组成,伴随着每一年业务峰值的新脉冲,日志数据量在快速增长。同时,业务数字化运营、软件可观测性等浪潮又在对日志的存储、计算提出更高的要求。从时效性角度看日志计算引擎:数仓覆盖 T + 1 日志处理,准实时系统(搜索引擎、OLA...
通过 SLS 实现日志大数据入湖 OSS
数据湖技术在日志生态中扮演不可或缺的角色,而打通日志从生产端到数据湖的链路却比较复杂。本文将介绍基于 SLS 方案为日志入湖提供端到端(End-to-End)支持,帮助用户提升接入效率,并在费用、运维上有效降低成本。
心知科技:气象+AI,撕开电力交易的市场想象
2015年,国家新一轮电力体制改革大幕拉开,放开了发电侧和售电侧市场。自此,电作为一种“商品”,在市场开始流通。经过多年发展,中国已经初步建成了电力中长期交易市场,并在14个省份建设了电力现货交易试点。2021年4月1日起,山西启动电力现货交易连续结算试运行,截至目前已经连续运行超过了一年半,电力现...