|
4天前
|
IDE Java 应用服务中间件
|

Java“NoSuchFieldError”解决

“NoSuchFieldError”是Java中常见的运行时错误,通常由于访问不存在的类字段引起。解决方法包括:检查字段拼写、确保类路径正确、更新依赖库版本等。

11 4
|
4天前
|
机器学习/深度学习 算法 数据可视化
|

使用Python实现深度学习模型:智能食品配送优化

使用Python实现深度学习模型:智能食品配送优化

16 2
|
5天前
|
存储 PyTorch 算法框架/工具
|

利用PyTorch的三元组损失Hard Triplet Loss进行嵌入模型微调

本文介绍了如何使用 PyTorch 和三元组边缘损失(Triplet Margin Loss)微调嵌入模型,详细讲解了实现细节和代码示例。

17 4
|
5天前
|
存储 前端开发 搜索推荐
|

淘宝 1688 API 接口助力构建高效淘宝代购集运系统

在全球化商业背景下,淘宝代购集运业务蓬勃发展,满足了海外消费者对中国商品的需求。掌握淘宝1688 API接口是构建成功代购系统的關鍵。本文详细介绍如何利用API接口进行系统架构设计、商品数据同步、订单处理与物流集成,以及用户管理和客户服务,帮助你打造一个高效便捷的代购集运系统,实现商业价值与用户满意度的双赢。

25 4
|
5天前
|
存储 JSON 监控
|

告别Print,使用IceCream进行高效的Python调试

本文将介绍**IceCream**库,这个专门用于调试的工具显著提升了调试效率,使整个过程更加系统化和规范化。

23 2
|
5天前
|
数据采集 存储 XML
|

Python爬虫定义入门知识

Python爬虫是用于自动化抓取互联网数据的程序。其基本概念包括爬虫、请求、响应和解析。常用库有Requests、BeautifulSoup、Scrapy和Selenium。工作流程包括发送请求、接收响应、解析数据和存储数据。注意事项包括遵守Robots协议、避免过度请求、处理异常和确保数据合法性。Python爬虫强大而灵活,但使用时需遵守法律法规。

20 6
|
6天前
|
资源调度 分布式计算 MaxCompute
|

dataworks报错原因未知

7 0
来自:大数据计算 MaxCompute 版块
|
6天前
|
机器学习/深度学习 数据采集 TensorFlow
|

使用Python实现智能食品储存管理的深度学习模型

使用Python实现智能食品储存管理的深度学习模型

20 2
|
6天前
|
数据库 Python
|

Python 应用

Python 应用。

25 4
|
6天前
|
人工智能 数据中心 芯片
|

马斯克X AI鲶鱼效应 倒逼AI行业快速发展

全球数据中心面临放缓困境,AI大模型的迭代因高质量数据短缺和高昂的建设成本而受限。马斯克的xAI公司迅速建设超大规模数据中心,引发OpenAI等竞争对手的焦虑,新一轮数据中心竞赛即将展开。

28 2
|
6天前
|
SQL 存储 Oracle
|

【赵渝强老师】Hive的分区表

Hive的分区表与Oracle、MySQL类似,通过分区条件将数据分隔存储,提高查询效率。本文介绍了静态分区表和动态分区表的创建与使用方法,包括具体SQL语句和执行计划分析,附带视频讲解。静态分区表需显式指定分区条件,而动态分区表则根据插入数据自动创建分区。

24 1
|
6天前
|
分布式计算 资源调度 Hadoop
|

【赵渝强老师】基于ZooKeeper实现Hadoop HA

本文介绍了如何在4个节点(bigdata112、bigdata113、bigdata114和bigdata115)上部署HDFS高可用(HA)架构,并同时部署Yarn的HA。详细步骤包括环境变量设置、配置文件修改、ZooKeeper集群启动、JournalNode启动、HDFS格式化、ZooKeeper格式化以及启动Hadoop集群等。最后通过jps命令检查各节点上的后台进程,确保部署成功。

19 0
|
6天前
|
大数据
|

【赵渝强老师】大数据主从架构的单点故障

大数据体系架构中,核心组件采用主从架构,存在单点故障问题。为提高系统可用性,需实现高可用(HA)架构,通常借助ZooKeeper来实现。ZooKeeper提供配置维护、分布式同步等功能,确保集群稳定运行。下图展示了基于ZooKeeper的HDFS HA架构。

20 0
|
6天前
|
SQL 分布式计算 大数据
|

【赵渝强老师】大数据生态圈中的组件

本文介绍了大数据体系架构中的主要组件,包括Hadoop、Spark和Flink生态圈中的数据存储、计算和分析组件。数据存储组件包括HDFS、HBase、Hive和Kafka;计算组件包括MapReduce、Spark Core、Flink DataSet、Spark Streaming和Flink DataStream;分析组件包括Hive、Spark SQL和Flink SQL。文中还提供了相关组件的详细介绍和视频讲解。

20 0
|
6天前
|
存储 编解码 搜索推荐
|

如何在Windows和Mac上免费将蓝光转换为MKV?

蓝光光盘因能提供高质量的视频和音频内容而备受青睐,但其使用上的局限性却不容忽视。相比之下,MKV作为一种广受支持的视频格式,与大多数播放设备和平台都能完美兼容,为用户带来了更大的便利性和灵活性。

762 0
|
6天前
|
存储 分布式计算 NoSQL
|

【赵渝强老师】大数据技术的理论基础

本文介绍了大数据平台的核心思想,包括Google的三篇重要论文:Google文件系统(GFS)、MapReduce分布式计算模型和BigTable大表。这些论文奠定了大数据生态圈的技术基础,进而发展出了Hadoop、Spark和Flink等生态系统。文章详细解释了GFS的架构、MapReduce的计算过程以及BigTable的思想和HBase的实现。

23 0
|
7天前
|
存储 分布式计算 并行计算
|

【赵渝强老师】Spark中的RDD

RDD(弹性分布式数据集)是Spark的核心数据模型,支持分布式并行计算。RDD由分区组成,每个分区由Spark Worker节点处理,具备自动容错、位置感知调度和缓存机制等特性。通过创建RDD,可以指定分区数量,并实现计算函数、依赖关系、分区器和优先位置列表等功能。视频讲解和示例代码进一步详细介绍了RDD的组成和特性。

20 0
|
7天前
|
存储 缓存 分布式计算
|

【赵渝强老师】基于RBF的HDFS联邦架构

最新版Hadoop实现了基于Router的联盟架构,增强了集群管理能力。Router将挂载表从客户端中分离,解决了ViewFS的问题。RBF架构包括Router和State Store两个模块,其中Router作为代理服务,负责解析ViewFS并转发请求至正确子集群,State Store则维护子集群的状态和挂载表信息。

18 0
|
7天前
|
分布式计算 流计算 Spark
|

【赵渝强老师】Spark Streaming中的DStream

本文介绍了Spark Streaming的核心概念DStream,即离散流。DStream通过时间间隔将连续的数据流转换为一系列不连续的RDD,再通过Transformation进行转换,实现流式数据的处理。文中以MyNetworkWordCount程序为例,展示了DStream生成RDD的过程,并附有视频讲解。

19 0
|
7天前
|
SQL JSON 分布式计算
|

【赵渝强老师】Spark SQL的数据模型:DataFrame

本文介绍了在Spark SQL中创建DataFrame的三种方法。首先,通过定义case class来创建表结构,然后将CSV文件读入RDD并关联Schema生成DataFrame。其次,使用StructType定义表结构,同样将CSV文件读入RDD并转换为Row对象后创建DataFrame。最后,直接加载带有格式的数据文件(如JSON),通过读取文件内容直接创建DataFrame。每种方法都包含详细的代码示例和解释。

22 0
来自: 大数据计算 MaxCompute  版块
|
7天前
|
存储 分布式计算 负载均衡
|

【赵渝强老师】基于ViewFS的HDFS联邦架构

本文介绍了HDFS联盟(Federation)的概念及其在大数据存储中的应用。HDFS联盟通过允许多个NameNode管理不同的命名空间,实现了负载均衡和NameNode的水平扩展。文章还详细解释了基于ViewFS的联盟架构,以及该方案的局限性。附带的视频进一步讲解了相关概念。

16 0
|
7天前
|
消息中间件 负载均衡 Kafka
|

【赵渝强老师】Kafka的主题与分区

Kafka 中的消息按主题分类,生产者发送消息到特定主题,消费者订阅主题消费。主题可分多个分区,每个分区仅属一个主题。消息追加到分区时,Broker 分配唯一偏移量地址,确保消息在分区内的顺序性。Kafka 保证分区有序而非主题有序。示例中,Topic A 有 3 个分区,分区可分布于不同 Broker 上,支持负载均衡和容错。视频讲解及图示详见原文。

18 2
|
7天前
|
消息中间件 Kafka
|

【赵渝强老师】Kafka分区的副本机制

在Kafka中,每个主题可有多个分区,每个分区有多个副本。其中仅有一个副本为Leader,负责对外服务,其余为Follower。当Leader所在Broker宕机时,Follower可被选为新的Leader,实现高可用。文中附有示意图及视频讲解。

18 0
|
7天前
|
数据采集 存储 前端开发
|

Puppeteer教程:使用CSS选择器点击和爬取动态数据

本文介绍如何使用Puppeteer结合CSS选择器爬取动态网页数据,以贝壳网的二手房价格为例,通过代理IP提高爬虫成功率。文章详细讲解了Puppeteer的安装和配置、代码实现及数据趋势分析,帮助读者掌握动态网页爬取技术。

17 1
|
7天前
|
SQL 分布式计算 Java
|

【赵渝强老师】Hive的体系架构

Hive是基于Hadoop的数据仓库平台,提供SQL-like的HQL语言进行数据分析,无需编写复杂的Java代码。Hive支持丰富的数据模型,可将SQL语句转换为MapReduce任务在Yarn上运行,底层依赖HDFS存储数据。Hive可通过CLI、JDBC和Web界面执行SQL查询。

18 2
|
7天前
|
消息中间件 存储 负载均衡
|

【赵渝强老师】Kafka的体系架构

Kafka消息系统是一个分布式系统,包含生产者、消费者、Broker和ZooKeeper。生产者将消息发送到Broker,消费者从Broker中拉取消息并处理。主题按分区存储,每个分区有唯一的偏移量地址,确保消息顺序。Kafka支持负载均衡和容错。视频讲解和术语表进一步帮助理解。

19 0
|
7天前
|
消息中间件 安全 Java
|

Java“NoInitialContextException”问题解决

Java中“NoInitialContextException”异常通常发生在JNDI(Java命名和目录接口)查找时缺少初始上下文配置。解决方法包括:确保JNDI提供者URL正确、添加必要的库文件、配置jndi.properties文件或在代码中显式指定InitialContext环境属性。

15 1
|
7天前
|
分布式计算 资源调度 Hadoop
|

【赵渝强老师】部署Hadoop的本地模式

本文介绍了Hadoop的目录结构及本地模式部署方法,包括解压安装、设置环境变量、配置Hadoop参数等步骤,并通过一个简单的WordCount程序示例,演示了如何在本地模式下运行MapReduce任务。

22 0
|
7天前
|
存储 分布式计算 Hadoop
|

【赵渝强老师】HDFS数据上传和下载的过程

本文介绍了Hadoop的HDFS中客户端如何通过NameNode上传和下载数据。上传时,数据按块保存至DataNode并实现冗余;下载时,客户端从DataNode获取数据块。文中配有详细流程图及B站视频讲解。

22 3
|
7天前
|
SQL 存储 数据库
|

【赵渝强老师】基于Flink的流批一体架构

本文介绍了Flink如何实现流批一体的系统架构,包括数据集成、数仓架构和数据湖的流批一体方案。Flink通过统一的开发规范和SQL支持,解决了传统架构中的多套技术栈、数据链路冗余和数据口径不一致等问题,提高了开发效率和数据一致性。

54 7
来自: 实时计算 Flink  版块
|
7天前
|
SQL 机器学习/深度学习 分布式计算
|

【赵渝强老师】Spark生态圈组件

本文介绍了Spark的生态圈体系架构,包括其核心执行引擎Spark Core、结构化数据处理模块Spark SQL、实时数据流处理模块Spark Streaming,以及机器学习框架MLlib和图计算框架GraphX。文中通过图片和视频详细解析了各模块的功能及访问接口。

23 2
来自: 大数据计算 MaxCompute  版块
|
7天前
|
SQL 机器学习/深度学习 大数据
|

【赵渝强老师】Flink生态圈组件

Flink 是一个大数据计算引擎,支持批处理和流处理。其优势在于流处理引擎 DataStream。Flink 的生态圈分为三层:平台部署层、核心引擎层和 API&Library 层。平台部署层支持多种部署模式,核心引擎层负责任务执行,API&Library 层提供丰富的开发工具。

28 1
来自: 实时计算 Flink  版块
|
7天前
|
SQL 分布式计算 Hadoop
|

【赵渝强老师】Hadoop生态圈组件

本文介绍了Hadoop生态圈的主要组件及其关系,包括HDFS、HBase、MapReduce与Yarn、Hive与Pig、Sqoop与Flume、ZooKeeper和HUE。每个组件的功能和作用都进行了简要说明,帮助读者更好地理解Hadoop生态系统。文中还附有图表和视频讲解,以便更直观地展示这些组件的交互方式。

25 5
|
7天前
|
存储 编译器
|

使用尾调用的好处

尾调用优化可以避免函数调用栈的增加,减少内存消耗,提高程序性能,使递归等操作更加高效。

13 6
|
7天前
|
资源调度 分布式计算 调度
|

【赵渝强老师】Yarn的资源调度策略

Yarn作为资源和任务调度平台,支持多个应用程序同时运行,如MapReduce、Spark和Flink等。Yarn的资源调度方式主要包括FIFO Scheduler(先来先服务)、Capacity Scheduler(容量调度)和Fair Scheduler(公平调度)。FIFO Scheduler按任务提交顺序调度;Capacity Scheduler通过队列管理资源,支持多租户共享;Fair Scheduler则根据任务权重动态分配资源,确保公平性。

35 8
|
7天前
|
机器学习/深度学习 计算机视觉 网络架构
|

为什么卷积现在不火了:CNN研究热度降温的深层原因分析

纵观近年的顶会论文和研究热点,我们不得不承认一个现实:CNN相关的研究论文正在减少,曾经的"主角"似乎正逐渐淡出研究者的视野。

28 11
|
7天前
|
SQL 数据采集 分布式计算
|

【赵渝强老师】基于大数据组件的平台架构

本文介绍了大数据平台的总体架构及各层的功能。大数据平台架构分为五层:数据源层、数据采集层、大数据平台层、数据仓库层和应用层。其中,大数据平台层为核心,负责数据的存储和计算,支持离线和实时数据处理。数据仓库层则基于大数据平台构建数据模型,应用层则利用这些模型实现具体的应用场景。文中还提供了Lambda和Kappa架构的视频讲解。

39 3
|
7天前
|
算法
|

基于HASM模型的高精度建模matlab仿真

本课题使用HASM进行高精度建模,介绍HASM模型及其简化实现方法。HASM模型基于层次化与自适应统计思想,通过多层结构捕捉不同尺度特征,自适应调整参数,适用于大规模、高维度数据的分析与预测。MATLAB2022A版本运行测试,展示运行结果。

21 6
|
8天前
|
JSON 数据挖掘 API
|

电商信息指南:API接口淘宝关键词、店铺所有商品获取

要获取淘宝关键词商品数据和店铺所有商品的API接口,需先注册淘宝开放平台账号并创建应用,获取API密钥。接着,使用密钥获取访问令牌,详细阅读API文档,构造并发送API请求,解析响应数据。特别地,使用`item_search_shop`接口可获取店铺内所有商品信息。

25 2
|
8天前
|
API 开发者
|

京东关键词API接口获取

获取京东关键词 API 接口需完成三个步骤:1. 注册京东开发者账号;2. 创建应用并获取 key 和 secret;3. 查阅 API 文档,了解请求参数和示例。示例如下: ``` curl -i "https://api-gw.onebound.cn/jd/item_get/?key=<您的apiKey>&secret=<您的apiSecret>&num_iid=10335871600" ```

13 0
|
8天前
|
SQL 数据可视化 关系型数据库
|

阿里云DataV“山海计划” x Epic Fab:“中国风AIGC”助力智慧城市建设

DataV“山海计划”根据中国城市规划特色,建立城市地块、建筑、道路等“城市要素知识库”,基于AI大模型技术生成更贴近“中国特色”的城市场景。基于DataV“山海计划”的UE引擎插件已经登陆Epic Fab,广大UE引擎开发者可以通过该插件免费体验城市历史悠久的广州场景三维资产。除了三维城市场景生成,DataV为智慧城市提供完整的数据看板解决方案,提供200+基础图表、支持API、MySQL、SQL Server、人大金仓、达梦等30+数据源,通过DataV与UE引擎,广大开发者可以低成本获得“智慧城市”开发方案,将更多精力放在满足用户业务需求上,从而提升智慧城市项目的交付质量。

48 2
来自: 数据可视化DataV  版块
|
8天前
|
人工智能 Apache 流计算
|

参与Flink社区活动,免费赢取FFA大会两日通票~

Flink Forward Asia 2024 将于 11 月 29-30 日在上海举行,庆祝 Apache Flink 诞生十周年。大会将回顾 Flink 的技术成就,展望未来十年的发展,并介绍 Flink 2.0 版本。通过三种参与方式,您有机会免费赢取大会两日通票和 Flink 专属周边。

302 7
来自: 实时计算 Flink  版块
|
8天前
|
机器学习/深度学习 数据采集 TensorFlow
|

使用Python实现智能食品加工优化的深度学习模型

使用Python实现智能食品加工优化的深度学习模型

101 59
|
8天前
|
传感器 IDE 开发工具
|

如何在 Arduino 和 Raspberry Pi 上实现相同的功能

本文介绍了如何在Arduino和Raspberry Pi上实现相同的功能,通过对比两种平台的硬件和软件特性,帮助读者选择最适合项目的开发板,并提供实用的编程技巧和示例代码。

16 2
|
8天前
|
数据采集 运维 DataWorks
|

DataWorks on EMR StarRocks,打造标准湖仓新范式

本文整理自阿里云计算平台产品专家周硕(簌篱)在阿里云DataWorks on EMR StarRocks解决方案介绍中的分享。介绍了阿里云DataWorks与EMR Serverless StarRocks的结合使用,详细阐述了在数据同步、数据消费、数据治理三大场景中的核心能力。DataWorks作为大数据开发治理平台,提供了从数据建模、数据集成、数据开发到数据治理的全链路解决方案,结合StarRocks的高性能分析能力,帮助企业实现OLAP分析、湖仓一体开发及数据综合治理,满足复杂业务场景下的需求,提升数据处理和分析效率。

35 4
|
8天前
|
数据采集 人工智能 文字识别
|

如何绕过Captcha并使用OCR技术抓取数据

在现代网页数据抓取中,Captcha作为一种防止爬虫和恶意访问的措施,广泛应用于各种网站。本文介绍如何使用OCR技术绕过文字Captcha,并通过代理IP技术提高爬虫的隐蔽性。具体实现包括下载Captcha图片、使用Tesseract OCR识别文字、通过代理IP抓取目标数据。示例代码展示了如何抓取大众点评的商家信息。

19 0
|
8天前
|
监控
|

SMoA: 基于稀疏混合架构的大语言模型协同优化框架

通过引入稀疏化和角色多样性,SMoA为大语言模型多代理系统的发展开辟了新的方向。

23 6
|
8天前
|
运维 算法
|

基于Lipschitz李式指数的随机信号特征识别和故障检测matlab仿真

本程序基于Lipschitz李式指数进行随机信号特征识别和故障检测。使用MATLAB2013B版本运行,核心功能包括计算Lipschitz指数、绘制指数曲线、检测故障信号并标记异常区域。Lipschitz指数能够反映信号的局部动态行为,适用于机械振动分析等领域的故障诊断。

23 4

大数据与机器学习

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

6
今日
64670
内容
111
活动
438200
关注
你好!
登录掌握更多精彩内容

相关产品

  • 大数据开发治理平台 DataWorks
  • 检索分析服务 Elasticsearch版
  • 日志服务