ACE
|
20天前
|
SQL 分布式计算 数据处理
|

如何创建2024云栖Openlake测试项目和配置环境

2024年云栖大会,MaxCompute 多项重磅产品新功能邀测发布,新特性包括 支持OpenLake的湖仓一体2.0、Object Table支持SQL或MaxFrame处理非结构化数据、Delta Table增量表格式、基于增量物化视图的增量计算、MCQA2.0 SQL引擎查询加速等。其相关特性将在中国区 公共云 北京、上海、杭州、深圳Region 上线开放试用。本文以最佳实践的方式,帮助您创建MaxCompute和周边产品 在Openlake解决方案demo中需要准备的实例、项目和开发环境,并完成配置。欢迎您玩转云栖邀测demo,体验新功能。

270 7
来自: 大数据计算 MaxCompute  版块
|
1月前
|
机器学习/深度学习 数据采集 存储
|

一文读懂蒙特卡洛算法:从概率模拟到机器学习模型优化的全方位解析

蒙特卡洛方法起源于1945年科学家斯坦尼斯劳·乌拉姆对纸牌游戏中概率问题的思考,与约翰·冯·诺依曼共同奠定了该方法的理论基础。该方法通过模拟大量随机场景来近似复杂问题的解,因命名灵感源自蒙特卡洛赌场。如今,蒙特卡洛方法广泛应用于机器学习领域,尤其在超参数调优、贝叶斯滤波等方面表现出色。通过随机采样超参数空间,蒙特卡洛方法能够高效地找到优质组合,适用于处理高维度、非线性问题。本文通过实例展示了蒙特卡洛方法在估算圆周率π和优化机器学习模型中的应用,并对比了其与网格搜索方法的性能。

165 1
|
2月前
|
安全 jenkins Devops
|

Jenkins 安全性和权限管理

【8月更文第31天】随着 DevOps 实践的普及,Jenkins 已经成为许多组织中不可或缺的一部分,用于自动化软件开发生命周期中的构建、测试和部署流程。然而,随着 Jenkins 的广泛应用,其安全性也变得越来越重要。Jenkins 提供了一系列的安全特性,包括访问控制列表(ACL)、认证和授权机制,以确保只有经过适当授权的用户才能访问和操作 Jenkins 系统。本文将详细介绍如何配置 Jenkins 的 ACL 以及其他安全措施,以保护 Jenkins 服务器免受未授权访问和攻击。

81 0
|
2月前
|
负载均衡 jenkins 应用服务中间件
|

大规模部署下的 Jenkins 高可用性与负载均衡

【8月更文第31天】随着软件开发流程的加速,持续集成/持续交付(CI/CD)工具的重要性日益凸显。Jenkins 作为最受欢迎的 CI/CD 平台之一,为企业提供了强大的自动化构建和部署功能。然而,在大规模部署场景下,单一的 Jenkins 实例可能无法满足高可用性和性能的需求。本文将探讨如何设计和实施 Jenkins 高可用集群,以支持大型组织的需求,并通过负载均衡技术来提高系统的稳定性和响应速度。

92 0
|
2月前
|
存储 分布式计算 大数据
|

MaxCompute 数据分区与生命周期管理

【8月更文第31天】随着大数据分析需求的增长,如何高效地管理和组织数据变得至关重要。阿里云的 MaxCompute(原名 ODPS)是一个专为海量数据设计的计算服务,它提供了丰富的功能来帮助用户管理和优化数据。本文将重点讨论 MaxCompute 中的数据分区策略和生命周期管理方法,并通过具体的代码示例来展示如何实施这些策略。

82 1
|
2月前
|
存储 容灾 关系型数据库
|

OceanBase 高可用性架构解析

【8月更文第31天】在大数据和云计算蓬勃发展的今天,数据库作为数据存储的核心组件,其稳定性和可靠性直接影响到整个系统的性能。OceanBase 是由阿里巴巴集团自主研发的一款分布式关系型数据库系统,旨在为大规模在线交易处理(OLTP)场景提供高性能、高可用性的解决方案。本文将深入探讨 OceanBase 是如何通过其独特的架构设计来确保数据的高可用性和容灾能力。

141 0
|
2月前
|
机器学习/深度学习 自然语言处理 JavaScript
|

FunAudioLLM:全球化语音体验的跨语言支持

【8月更文第28天】随着全球化的发展,多语言支持已经成为各种技术产品和服务的基本要求之一。FunAudioLLM(虚构名称)作为一款先进的语音合成引擎,致力于提供高质量、多语言的语音体验。本文将介绍 FunAudioLLM 如何实现跨语言的支持,并通过具体的代码示例展示如何使用该引擎进行语音合成。

36 0
|
2月前
|
机器学习/深度学习 PyTorch 算法框架/工具
|

PyTorch 中的动态计算图:实现灵活的神经网络架构

【8月更文第27天】PyTorch 是一款流行的深度学习框架,它以其灵活性和易用性而闻名。与 TensorFlow 等其他框架相比,PyTorch 最大的特点之一是支持动态计算图。这意味着开发者可以在运行时定义网络结构,这为构建复杂的模型提供了极大的便利。本文将深入探讨 PyTorch 中动态计算图的工作原理,并通过一些示例代码展示如何利用这一特性来构建灵活的神经网络架构。

81 1
|
2月前
|
人工智能 Kubernetes 持续交付
|

Kubernetes环境下基于微服务架构的容器化AI应用部署与管理最佳实践

【8月更文第19天】随着AI技术的快速发展,越来越多的企业开始将AI应用部署到生产环境。然而,AI应用往往包含大量的组件和服务,这使得其部署和管理变得非常复杂。微服务架构和容器化技术(如Docker)结合Kubernetes集群管理,为解决这些问题提供了强大的工具。本文将介绍如何在Kubernetes环境中部署和管理基于微服务架构的容器化AI应用。

68 0
|
2月前
|
机器学习/深度学习 数据采集 数据可视化
|

使用Python实现深度学习模型:智能舆情监测与分析

【8月更文挑战第16天】 使用Python实现深度学习模型:智能舆情监测与分析

161 1
|
3月前
|
机器学习/深度学习 人工智能 安全
|

云上智能风控:重塑金融安全的智能屏障

灵活性:系统具备良好的灵活性和可扩展性,能够根据业务需求进行功能扩展和升级。 成本节约:通过自动化和智能化的方式降低人工成本,提高风控效率的同时减少不必要的开支。 4.2 未来展望 随着技术的不断进步和市场的不断发展,云上智能风控将迎来更加广阔的发展前景。未来,云上智能风控系统将进一步优化算法模型和技术架构,提高风险识别的准确性和效率;

123 7
|
3月前
|
监控 供应链 定位技术
|

ERP系统中的销售订单处理与订单跟踪

【7月更文挑战第25天】 ERP系统中的销售订单处理与订单跟踪

116 0
|
3月前
|
供应链 监控 数据挖掘
|

ERP系统中的采购管理与供应商评估

【7月更文挑战第25天】 ERP系统中的采购管理与供应商评估

222 3
|
3月前
|
数据采集 监控 数据安全/隐私保护
|

ERP系统中的人力资源管理与员工绩效评估解析

【7月更文挑战第25天】 ERP系统中的人力资源管理与员工绩效评估解析

122 1
|
3月前
|
监控 数据可视化 调度
|

ERP系统中的生产计划优化与生产效率提升解析

【7月更文挑战第25天】 ERP系统中的生产计划优化与生产效率提升解析

196 0
|
3月前
|
供应链 监控 调度
|

ERP系统中的销售订单管理与订单跟踪解析

【7月更文挑战第25天】 ERP系统中的销售订单管理与订单跟踪解析

163 2
|
3月前
|
监控 数据挖掘 数据安全/隐私保护
|

ERP系统中的报价与报价管理模块解析

【7月更文挑战第25天】 ERP系统中的报价与报价管理模块解析

120 3
|
3月前
|
监控 数据安全/隐私保护 Python
|

ERP系统中的资产管理模块详解

【7月更文挑战第25天】 ERP系统中的资产管理模块详解

191 4
|
3月前
|
人工智能 Python
|

模型评估与选择:避免过拟合与欠拟合

【7月更文第18天】在人工智能的探险旅程中,打造一个既聪明又可靠的模型可不简单。就好比在茫茫人海中找寻那位“知心朋友”,我们需要确保这位“朋友”不仅能在训练时表现优异,还要能在新面孔面前一样游刃有余。这就引出了模型评估与选择的关键议题——如何避免过拟合和欠拟合,确保模型既不过于复杂也不过于简单。今天,我们就来一场轻松的“模型相亲会”,通过交叉验证、混淆矩阵、ROC曲线这些实用工具,帮你的模型找到最佳伴侣。

67 2
|
3月前
|
Python
|

经济生产批量(Economic Production Quantity,EPQ)

经济生产批量(Economic Production Quantity,EPQ)

154 3
|
3月前
|
机器学习/深度学习 数据采集 算法
|

Python实现GWO智能灰狼优化算法优化支持向量机回归模型(svr算法)项目实战

Python实现GWO智能灰狼优化算法优化支持向量机回归模型(svr算法)项目实战

113 1
来自: 人工智能平台PAI  版块
|
4月前
|
文字识别 异构计算 Python
|

关于云端Jupyter Notebook的使用过程与感想

在自学Python时,由于家庭电脑使用冲突和设备老旧,转向云端平台。体验了多个服务:1. 魔搭modelscope(最喜欢,赠送资源丰富,社区活跃),2. Colaboratory(免费GPU,但有时重启,建议用阿里云),3. Deepnote(免费环境有限,但GPT-4代码生成功能强大),4. 飞桨aistudio(适合PaddlePaddle用户),5. ModelArts(曾有免费实例,现难找)。综合来看,阿里云的稳定性与服务更优,尤其是魔搭的自动代码修正功能。对于AIGC,推荐魔搭和付费版PAI-DSW。欢迎分享更多云端Jupyter平台体验。

153 1
|
4月前
|
分布式计算 大数据 数据处理
|

浅谈几个经典大数据处理框架

【6月更文挑战第15天】本文介绍企业如何在数据洪流中保持竞争力需借助可扩展平台和数据策略。数据管道整合多元数据源,便于分析和流转。Kappa架构专注于实时处理(如通过Kafka、Spark Streaming),适合实时响应场景;Lambda架构结合批处理与实时处理(如Spark、Hadoop与Flink),平衡实时性和批处理,易于开发和维护。Apache Beam提供统一模型,适用于流处理和批处理,提升代码复用和效率。这两种架构满足现代应用对数据一致、性能和灵活性的需求。

209 3
|
4月前
|
机器学习/深度学习 监控 数据挖掘
|

数据并非都是正态分布:三种常见的统计分布及其应用

这篇文章除了介绍线性模型在减肥app预测中的不切实际性,还探讨了不同统计分布在体重管理和数据分析中的应用。文章提到了正态分布和泊松分布,前者常用于描述围绕平均值对称分布的连续数据,如体重;后者适合计数数据,如体重变化次数。正态分布以其钟形曲线闻名,泊松分布则描述独立事件的数量。文章还简要介绍了卡方分布在检验分类变量关系时的作用。最后,文章指出了在线性回归中假设数据正态分布的原因,包括便于统计推断和最小化估计误差。

261 5
|
4月前
|
Serverless SQL 容灾
|

实时数仓Hologres V2.2发布,Serverless Computing降本20%

实时数仓Hologres V2.2发布,Serverless Computing降本20%

58257 65
来自: 实时数仓 Hologres  版块
|
4月前
|
存储 虚拟化 数据库
|

蓝易云 - 什么是云服务器?个人拥有一台云服务器能干什么?

云服务器,也称为虚拟私有服务器(VPS),是一种提供在线服务的服务器,它在物理服务器上虚拟化并分配给用户。云服务器可以提供与物理服务器相同的功能和性能,但是用户可以根据需要调整其资源配置,如CPU、内存和存储等。

83 0
|
5月前
|
计算机视觉
|

【YOLOv8改进】动态蛇形卷积(Dynamic Snake Convolution)用于管状结构分割任务

YOLO目标检测专栏介绍了DSCNet,它针对血管和道路等管状结构的分割任务进行优化。DSCNet采用动态蛇形卷积(DSConv)聚焦细长结构,多视角融合策略增强全局形态理解,且通过持久同调的连续性约束损失改善拓扑连续性。DSConv在2D和3D数据集上表现优于传统方法,实现更高精度和连续性。该技术已应用于yolov8,提升对管状结构的检测效果。

175 0
|
5月前
|
消息中间件 关系型数据库 MySQL
|

Maxwell 概述、安装、数据同步【一篇搞定】!

Maxwell 是一个由 Zendesk 开源的用于 MySQL 数据库实时数据捕获和同步的工具,支持多种数据库系统,以 JSON 格式输出变更数据。它实时监控数据库中的更新,将变化传递给其他系统,常用于实时数据管道、数据仓库和事件驱动架构。Maxwell 具有实时性、可配置性和高性能等特点。其工作流程包括 Binlog 解析、数据解析、重构、发布到消息队列(如 Kafka)以及事件处理。安装时需注意 JDK 版本,并配置 MySQL、Zookeeper 和 Kafka。此外,Maxwell 支持定向监听特定库表,并能进行历史和增量数据同步。

578 1
|
5月前
|
SQL HIVE
|

【Hive SQL】字符串操作函数你真的会用吗?

本文介绍了SQL中判断字符串是否包含子串的几种方法。`IN`函数判断元素是否完全等于给定元素组中的某项,而非包含关系。`INSTR`和`LOCATE`函数返回子串在字符串中首次出现的位置,用于检测是否存在子串。`SUBSTR`则用于提取字符串的子串。`LIKE`用于模糊匹配,常与通配符配合使用。注意`IN`并非用于判断子串包含。

263 3
|
5月前
|
SQL 缓存 分布式计算
|

手把手教你解决 Hive 的数据倾斜

数据倾斜是 Hive 中影响任务执行效率的现象,表现为某些任务处理的数据量或耗时远超其他任务。根本原因是 Shuffle 后 Key 分布不均,导致部分 Reduce 负载过高。常见场景包括空值聚合、不可拆分大文件、数值膨胀、不同数据类型 Join、Count(distinct) 计算以及表 Join 操作。解决方法包括过滤空值、转换数据类型、调整聚合策略、使用 MapJoin 等。通过合理优化,如设置 `hive.groupby.skewindata` 和 `hive.map.aggr` 参数,可以有效缓解数据倾斜问题。

530 1
|
5月前
|
数据采集 Web App开发 JavaScript
|

爬虫技术升级:如何结合DrissionPage和Auth代理插件实现数据采集

本文介绍了在Python中使用DrissionPage库和Auth代理Chrome插件抓取163新闻网站数据的方法。针对许多爬虫框架不支持代理认证的问题,文章提出了通过代码生成包含认证信息的Chrome插件来配置代理。示例代码展示了如何创建插件并利用DrissionPage进行网页自动化,成功访问需要代理的网站并打印页面标题。该方法有效解决了代理认证难题,提高了爬虫的效率和安全性,适用于各种需要代理认证的网页数据采集。

232 0
|
5月前
|
Java Shell Python
|

【经验分享】Typora 设置代码块的默认语言并设置为开机启动

在Typora中设置代码块默认语言为Java(或其他语言)的自动化方法。通过下载AHK(AutoHotkey)软件,创建一个.ahk脚本,设定`Ctrl+Shift+K`快捷键触发代码块并输入指定语言。将脚本改名为.ahk扩展名并运行,确保图标出现在任务栏。要实现开机启动,使用Win+R打开"运行",输入shell:startup并粘贴.ahk文件到启动文件夹。

217 2
|
5月前
|
安全 Unix Go
|

Golang深入浅出之-Go语言中的时间与日期处理:time包详解

【4月更文挑战第26天】Go语言的`time`包提供处理日期和时间的功能,包括`time.Time`类型、时间戳、格式化与解析。本文讨论了核心概念、常见问题(如时区处理、格式字符串混淆、超时控制和并发安全)及解决方法。推荐使用`time.LoadLocation`管理时区,熟悉时间格式规则,用`context`精确控制超时,并注意并发安全。文中通过代码示例展示了如何获取格式化时间、计算时间差以及创建定时任务。学习和应用这些知识可提高程序的健壮性和准确性。

174 2
|
5月前
|

Word一打开背景色全黑了,如何解决~

Word一打开背景色全黑了,如何解决~

130 2
|
5月前
|
资源调度 供应链 监控
|

深入探究:ERP系统的核心模块解析

深入探究:ERP系统的核心模块解析

234 0
|
5月前
|
Oracle 关系型数据库 Java
|

Flink CDC产品常见问题之Flink CDC 使用jar包启动异常如何解决

Flink CDC(Change Data Capture)是一个基于Apache Flink的实时数据变更捕获库,用于实现数据库的实时同步和变更流的处理;在本汇总中,我们组织了关于Flink CDC产品在实践中用户经常提出的问题及其解答,目的是辅助用户更好地理解和应用这一技术,优化实时数据处理流程。

872 0
来自: 实时计算 Flink  版块
|
5月前
|
SQL 缓存 Java
|

flink cdc 同步问题之如何同步多张库表

Flink CDC(Change Data Capture)是一个基于Apache Flink的实时数据变更捕获库,用于实现数据库的实时同步和变更流的处理;在本汇总中,我们组织了关于Flink CDC产品在实践中用户经常提出的问题及其解答,目的是辅助用户更好地理解和应用这一技术,优化实时数据处理流程。

670 0
来自: 实时计算 Flink  版块
|
5月前
|
存储 边缘计算 人工智能
|

云计算:现代计算环境的关键力量

云计算是基于互联网的计算模式,提供IaaS、PaaS和SaaS服务,改变计算资源获取方式,赋予企业灵活、可扩展的资源调配。其优势包括可扩展性、成本效益、灵活性和效率提升,但也面临安全性、依赖性等挑战。未来趋势涉及边缘计算、混合云、AI融合以及法规遵从与数据安全的强化。企业应适应云计算发展,制定相应策略。

113 3
|
5月前
|
Unix Linux Go
|

Golang深入浅出之-信号(Signals)处理与优雅退出Go程序

【4月更文挑战第25天】Go语言中的信号处理关乎程序对外部事件的响应,尤其是优雅地终止进程。本文介绍了信号基础,如SIGINT、SIGTERM等常见信号,以及处理流程:注册处理器、等待信号、执行清理和优雅退出。强调了三个易错点及避免方法,并提供实战代码示例展示如何监听和响应信号。信号处理应简洁高效,确保程序健壮性和用户体验。

144 0
|
5月前
|
算法
|

MATLAB | 插值算法 | 二维griddata插值法 | 附数据和出图代码 | 直接上手

MATLAB | 插值算法 | 二维griddata插值法 | 附数据和出图代码 | 直接上手

331 0
|
5月前
|
机器学习/深度学习 算法 TensorFlow
|

OpenAI Gym 中级教程——多智能体系统

OpenAI Gym 中级教程——多智能体系统

290 0
|
5月前
|
人工智能 文字识别 Java
|

AI工具【OCR 01】Java可使用的OCR工具Tess4J使用举例(身份证信息识别核心代码及信息提取方法分享)

【2月更文挑战第1天】Lept4J和Tess4J都是基于Tesseract OCR引擎的Java接口,可以用来识别图像中的文本,本次介绍Tess4J

520 0
|
11月前
|
传感器 算法 机器人
|

基于 IMU 的位姿解算

解算 IMU 采样数据的过程与惯导解算技术原理有关,而提高定位精度的方法主要依赖于IMU自身精度的提高和算法改进。

530 0
|
11月前
|
算法 自动驾驶 开发者
|

Cityscapes数据集(智能驾驶场景的语义分割)

面向智能驾驶(辅助驾驶、自动驾驶)场景下的语义分割任务,由于非结构化场景的复杂性,是一个非常具有挑战性的任务,所以有许多研究者和研究机构公开了很多相关的数据集推动语义分割领域的发展。本文主要介绍Cityscapes数据集。

366 0
|
11月前
|
并行计算 PyTorch 算法框架/工具
|

关于在安装caffe2环境中遇到的坑整理(欢迎入坑讨论)

关于在安装caffe2环境中遇到的坑整理(欢迎入坑讨论)

176 0
|
11月前
|
存储 人工智能 分布式计算
|

【云栖2023】张治国:MaxCompute架构升级及开放性解读

本文根据2023云栖大会演讲实录整理而成,演讲信息如下 演讲人:张治国|阿里云智能计算平台研究员、阿里云MaxCompute负责人 演讲主题:MaxCompute架构升级及开放性解读 活动:2023云栖大会

60758 16
来自: 大数据计算 MaxCompute  版块
|
12月前
|
SQL 存储 Java
|

官宣|Apache Flink 1.18 发布公告

官宣|Apache Flink 1.18 发布公告

1302 3
来自: 实时计算 Flink  版块
|
12月前
|
算法 Java 决策智能
|

运筹优化工具库介绍(一)

运筹优化问题有时候极其复杂,我们可以使用运筹优化工具库帮助数学建模,解决复杂的最优化问题,本文介绍几个常见的运筹优化工具库。

882 0
|
人工智能 自然语言处理 数据挖掘
|

使用LlamaIndex构建自己的PandasAI

了解如何利用 LlamaIndex 和 GPT-3.5-Turbo 轻松为 Pandas 添加自然语言功能,以进行直观的数据分析和对话

425 0
|
机器学习/深度学习 数据可视化 算法
|

利用 XGBoost 进行时间序列预测

利用 XGBoost 进行时间序列预测

368 0

大数据与机器学习

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

1
今日
64079
内容
106
活动
438012
关注
你好!
登录掌握更多精彩内容

相关产品

  • 大数据开发治理平台 DataWorks
  • 检索分析服务 Elasticsearch版
  • 日志服务