|
4月前
|
数据采集 缓存 大数据
|

【赵渝强老师】大数据日志采集引擎Flume

Apache Flume 是一个分布式、可靠的数据采集系统,支持从多种数据源收集日志信息,并传输至指定目的地。其核心架构由Source、Channel、Sink三组件构成,通过Event封装数据,保障高效与可靠传输。

314 1
|
5月前
|
机器学习/深度学习 自然语言处理 PyTorch
|

Transformer自回归关键技术:掩码注意力原理与PyTorch完整实现

掩码注意力是生成模型的核心,通过上三角掩码限制模型仅关注当前及之前token,确保自回归因果性。相比BERT的双向注意力,它实现单向生成,是GPT等模型逐词预测的关键机制,核心仅需一步`masked_fill_`操作。

488 0
|
5月前
|
传感器 算法 数据挖掘
|

基于协方差交叉(CI)的多传感器融合算法matlab仿真,对比单传感器和SCC融合

基于协方差交叉(CI)的多传感器融合算法,通过MATLAB仿真对比单传感器、SCC与CI融合在位置/速度估计误差(RMSE)及等概率椭圆上的性能。采用MATLAB2022A实现,结果表明CI融合在未知相关性下仍具鲁棒性,有效降低估计误差。

295 15
|
5月前
|
分布式计算 安全 大数据
|

别等被黑客敲门才醒悟:大数据如何帮你防住网络攻击?

别等被黑客敲门才醒悟:大数据如何帮你防住网络攻击?

244 32
|
5月前
|
存储 人工智能 监控
|

LangGraph实战:从零构建智能交易机器人,让多个AI智能体像投资团队一样协作

如今的量化交易已远超传统技术指标,迈向多智能体协作的新时代。本文介绍了一个基于 **LangGraph** 构建的多智能体交易系统,模拟真实投资机构的运作流程:数据分析师收集市场情报,研究员展开多空辩论,交易员制定策略,风险团队多角度评估,最终由投资组合经理做出决策。系统具备记忆学习能力,通过每次交易积累经验,持续优化决策质量。

1014 8
|
6月前
|
人工智能 算法 计算机视觉
|

只需完成手画线稿,让AI算法帮你自动上色

本文介绍了如何利用图像处理技术生成手绘风格图像及自动上色的方法。内容涵盖图像灰度化、梯度调整、虚拟深度实现手绘效果,以及使用 Python 编程实现相关算法。此外,还介绍了 AI 工具 Style2Paints V4.5,其可为线稿自动上色并支持多种线稿类型,如插画和手绘铅笔稿,适用于艺术创作与图像处理领域。

525 0
|
6月前
|
Cloud Native 前端开发 Java
|

WebAssembly 与 Java 结合的跨语言协作方案及性能提升策略研究

本文深入探讨了WebAssembly与Java的结合方式,介绍了编译Java为Wasm模块、在Java中运行Wasm、云原生集成等技术方案,并通过金融分析系统的应用实例展示了其高性能、低延迟、跨平台等优势。结合TeaVM、JWebAssembly、GraalVM、Wasmer Java等工具,帮助开发者提升应用性能与开发效率,适用于Web前端、服务器端及边缘计算等场景。

252 0
|
7月前
|
存储 人工智能 自然语言处理
|

版权问题老难解?用区块链干净利落搞定它!

版权问题老难解?用区块链干净利落搞定它!

246 0
|
7月前
|
数据处理 Apache 流计算
|

Flink Forward Asia 2025 城市巡回 · 上海站

Flink Forward Asia 2025 城市巡回上海站重磅来袭!8月16日,顶尖技术专家齐聚,共探实时计算前沿趋势与行业实践。大会涵盖技术分享、实战案例与开源生态共建,支持线上直播预约。立即报名,共赴技术盛宴!

507 0
来自: 实时计算 Flink  版块
|
7月前
|
人工智能 安全 算法
|

HTTPS 的「秘钥交换 + 证书校验」全流程

HTTPS 通过“证书如身份证、密钥交换如临时暗号”的握手流程,实现身份认证与数据加密双重保障,确保通信安全可靠。

755 0
|
7月前
|
数据采集 缓存 NoSQL
|

分布式新闻数据采集系统的同步效率优化实战

本文介绍了一个针对高频新闻站点的分布式爬虫系统优化方案。通过引入异步任务机制、本地缓存池、Redis pipeline 批量写入及身份池策略,系统采集效率提升近两倍,数据同步延迟显著降低,实现了分钟级热点追踪能力,为实时舆情监控与分析提供了高效、稳定的数据支持。

315 1
|
7月前
|
数据采集 运维 DataWorks
|

DataWorks 千万级任务调度与全链路集成开发治理赋能智能驾驶技术突破

智能驾驶数据预处理面临数据孤岛、任务爆炸与开发运维一体化三大挑战。DataWorks提供一站式的解决方案,支持千万级任务调度、多源数据集成及全链路数据开发,助力智能驾驶模型数据处理与模型训练高效落地。

662 0
|
7月前
|
开发者
|

1688工厂信息接口指南

1688工厂信息接口用于获取供应商基础信息、生产能力及交易信用数据,支持供应链分析与评估。核心功能包括企业信息、生产能力、交易勋章、认证资料等。调用需申请接口权限,配置商品ID与返回字段。

338 0
|
8月前
|
人工智能 自然语言处理 监控
|

阿里云连续6年入选 Gartner®ABI 魔力象限报告,中国唯一!

近日,Gartner发布2025年《分析与商业智能平台魔力象限》报告,阿里云Quick BI第六年入选“挑战者”象限。报告肯定其在可视化、报表及自然语言查询(NLQ)方面的竞争力,并认可其融合AI与BI能力、推动数据分析民主化的创新成果。Quick BI已在零售、金融、制造等多个行业落地应用,助力企业实现高效数据驱动决策。

630 7
|
8月前
|
人工智能 自然语言处理 Kubernetes
|

导演、编剧、特效师都要失业?生成式AI正在悄悄重塑影视工业

导演、编剧、特效师都要失业?生成式AI正在悄悄重塑影视工业

327 0
|
8月前
|
人工智能 监控 测试技术
|

云上AI推理平台全掌握 (1):PAI-EAS LLM服务一键压测

在AI技术飞速发展的今天,大语言模型(LLM)、多模态模型等前沿技术正深刻改变行业格局。推理服务是大模型从“实验室突破”走向“产业级应用”的必要环节,需直面高并发流量洪峰、低延时响应诉求、异构硬件优化适配、成本精准控制等复杂挑战。 阿里云人工智能平台 PAI 致力于为用户提供全栈式、高可用的推理服务能力。在本系列技术专题中,我们将围绕分布式推理架构、Serverless 弹性资源全球调度、压测调优和服务可观测等关键技术方向,展现 PAI 平台在推理服务侧的产品能力,助力企业和开发者在 AI 时代抢占先机,让我们一起探索云上 AI 推理的无限可能,释放大模型的真正价值!

475 2
来自: 人工智能平台PAI  版块
|
8月前
|
人工智能 大数据 Swift
|

AI进乐队了,还要不要人写歌了?——聊聊AI在音乐创作里的那些事儿

AI进乐队了,还要不要人写歌了?——聊聊AI在音乐创作里的那些事儿

503 5
|
8月前
|
存储 人工智能 算法
|

数据不是“油”,是“命”:聊聊数据伦理这件小事

数据不是“油”,是“命”:聊聊数据伦理这件小事

206 0
|
8月前
|
监控 测试技术 Android开发
|

App Trace技术解析:传参安装、一键拉起与快速安装

本文从开发者视角解析App Trace技术的关键功能与实现方法,涵盖传参安装、一键拉起和快速安装技术。详细介绍了Android和iOS平台的具体实现代码与配置要点,探讨了参数丢失、跨平台一致性及iOS限制等技术挑战的解决方案,并提供了测试策略、监控指标和性能优化的最佳实践建议,帮助开发者提升用户获取效率与体验。

273 45
|
8月前
|
机器学习/深度学习 自然语言处理 并行计算
|

提升长序列建模效率:Mamba+交叉注意力架构完整指南

本文探讨了Mamba架构中交叉注意力机制的集成方法,Mamba是一种基于选择性状态空间模型的新型序列建模架构,擅长处理长序列。通过引入交叉注意力,Mamba增强了多模态信息融合和条件生成能力。文章从理论基础、技术实现、性能分析及应用场景等方面,详细阐述了该混合架构的特点与前景,同时分析了其在计算效率、训练稳定性等方面的挑战,并展望了未来优化方向,如动态路由机制和多模态扩展,为高效序列建模提供了新思路。

701 1
|
8月前
|
数据采集 存储 Web App开发
|

Python爬虫技巧:设置Cookie永不超时的详细指南

Python爬虫技巧:设置Cookie永不超时的详细指南

450 1
|
9月前
|
机器学习/深度学习 存储 分布式计算
|

数据科学 vs. 大数据:一场“烧脑”但有温度的较量

数据科学 vs. 大数据:一场“烧脑”但有温度的较量

313 2
|
9月前
|
SQL 分布式计算 DataWorks
|

使用DataWorks PyODPS节点调用XGBoost算法

本文介绍如何在DataWorks中通过PyODPS3节点调用XGBoost算法完成模型训练与测试,并实现周期离线调度。主要内容包括:1) 使用ODPS SQL构建数据集;2) 创建PyODPS3节点进行数据处理与模型训练;3) 构建支持XGBoost的自定义镜像;4) 测试运行并选择对应镜像。适用于需要集成机器学习算法到大数据工作流的用户。

406 24
|
9月前
|
调度 vr&ar 图形学
|

虚拟现实如何改变影视制作?——从绿幕到沉浸式拍摄

虚拟现实如何改变影视制作?——从绿幕到沉浸式拍摄

485 14
|
9月前
|
JSON API 数据格式
|

手把手教你抓取京东商品评论:API 接口解析与 Python 实战

京东商品评论蕴含用户对产品质量、体验和服务的真实反馈,分析这些数据有助于企业优化产品和满足用户需求。由于京东未提供官方API,需通过逆向工程获取评论数据。其主要接口为“商品评论列表接口”,支持按商品ID、评分、排序方式等参数获取评论,返回JSON格式数据,包含评论列表、摘要(如好评率)及热门标签等信息。

771 7
|
10月前
|
自然语言处理 安全 数据挖掘
|

Hologres+函数计算+Qwen3,对接MCP构建企业级数据分析 Agent

本文介绍了通过阿里云Hologres、函数计算FC和通义千问Qwen3构建企业级数据分析Agent的解决方案。大模型在数据分析中潜力巨大,但面临实时数据接入与跨系统整合等挑战。MCP(模型上下文协议)提供标准化接口,实现AI模型与外部资源解耦。方案利用SSE模式连接,具备高实时性、良好解耦性和轻量级特性。Hologres作为高性能实时数仓,支持多源数据毫秒级接入与分析;函数计算FC以Serverless模式部署,弹性扩缩降低成本;Qwen3则具备强大的推理与多语言能力。用户可通过ModelScope的MCP Playground快速体验,结合TPC-H样例数据完成复杂查询任务。

817 38
来自: 实时数仓 Hologres  版块
|
10月前
|
人工智能 自然语言处理 运维
|

Qwen3 全尺寸模型支持通过阿里云PAI-ModelGallery 一键部署

Qwen3 是 Qwen 系列最新一代的大语言模型,提供了一系列密集(Dense)和混合专家(MOE)模型。目前,PAI 已经支持 Qwen3 全系列模型一键部署,用户可以通过 PAI-Model Gallery 快速开箱!

853 0
来自: 人工智能平台PAI  版块
|
10月前
|
边缘计算 运维 监控
|

5G落地没那么简单!细扒部署挑战与硬核解决方案

5G落地没那么简单!细扒部署挑战与硬核解决方案

364 30
|
10月前
|
人工智能 安全 搜索推荐
|

SecMulti-RAG:兼顾数据安全与智能检索的多源RAG框架,为企业构建不泄密的智能搜索引擎

本文深入解析SecMulti-RAG框架,该框架通过整合企业内部知识库、预构建专家知识及受控外部大语言模型,结合保密性过滤机制,解决企业在部署AI助手时面临的信息准确性、数据安全性和成本控制问题。它采用多层策略,利用三种知识来源(动态更新的企业知识、专家预写知识和按需外部知识),并通过微调的开源LLM生成最终响应,确保安全性与性能。实验表明,SecMulti-RAG在汽车行业技术报告生成任务中显著优于传统RAG系统,展现了其在企业环境中的实用性和优势。

425 5
|
10月前
|
数据采集 Web App开发 文字识别
|

Python爬虫多次请求后被要求验证码的应对策略

Python爬虫多次请求后被要求验证码的应对策略

936 7
|
10月前
|
API PHP 索引
|

这插件太危险了!PDFParser自动扒取PDF每天躺赚300+的暴利搬运术

本文介绍了如何使用PHP提取PDF文档中的文字内容。为解决PDF文档“不可编辑”或“文本无法复制”的问题,推荐使用免费的PHP库——PDFParser。通过Composer安装后,可利用其简单强大的API解析PDF文件,提取文本内容。文章详细演示了获取PDF基本信息、全文内容、指定页内容及循环输出每页文本的方法,并附带中英文PDF示例,操作简便实用。

423 3
|
10月前
|
存储 分布式计算 调度
|

Flink Shuffle 技术演进之路

本文由阿里云智能Flink团队郭伟杰与哔哩哔哩蒋晓峰在Flink Forward Asia 2024上的分享整理而成,聚焦Flink Shuffle技术的演进与未来规划。内容涵盖低延迟的Pipelined Shuffle、高吞吐的Blocking Shuffle、流批一体的Hybrid Shuffle三大模式及其应用场景,并探讨了Flink与Apache Celeborn的整合、性能优化及长期发展路线图。通过Hybrid Shuffle等创新技术,Flink实现了资源调度灵活性与高性能的平衡,为流批一体化计算提供了强大支持。未来,社区将进一步优化Shuffle机制,提升系统智能化与易用性。

605 14
来自: 实时计算 Flink  版块
|
10月前
|
人工智能 编解码 自然语言处理
|

VideoMind:Chain-of-LoRA突破时间盲区让AI真正看懂长视频

VideoMind是一种新型视频语言代理,专为解决长视频时间定位理解挑战设计。它通过“Chain-of-LoRA”技术结合四个专业角色(Planner、Grounder、Verifier、Answerer)实现高效推理。Planner分析查询并制定计划;Grounder精确定位视频时刻;Verifier验证候选时刻准确性;Answerer生成最终答案。此架构在14个公共基准上表现出色,尤其在长视频定位任务中超越了现有模型,同时保持高内存效率。VideoMind推动了多模态AI的发展,提供了解决复杂视频理解问题的新方法。

10549 5
|
11月前
|
存储 缓存 数据挖掘
|

Flink + Doris 实时湖仓解决方案

本文整理自SelectDB技术副总裁陈明雨在Flink Forward Asia 2024的分享,聚焦Apache Doris与湖仓一体解决方案。内容涵盖三部分:一是介绍Apache Doris,一款高性能实时分析数据库,支持多场景应用;二是基于Doris、Flink和Paimon的湖仓解决方案,解决批流融合与数据一致性挑战;三是Doris社区生态及云原生发展,包括存算分离架构与600多位贡献者的活跃社区。文章深入探讨了Doris在性能、易用性及场景支持上的优势,并展示了其在多维分析、日志分析和湖仓分析中的实际应用案例。

966 17
来自: 实时计算 Flink  版块
|
11月前
|
人工智能 监控 大数据
|

大数据未来五大趋势,这些变化你真的准备好了吗?

大数据未来五大趋势,这些变化你真的准备好了吗?

840 90
|
11月前
|
人工智能 算法 搜索推荐
|

人工智能技术对未来就业的影响

人工智能大模型技术正在重塑全球就业市场,但其核心是"增强"而非"取代"人类工作。虽然AI在数据处理、模式识别等标准化任务上表现出色,但在创造力、情感交互和复杂决策等人类专属领域仍存在明显局限。各行业呈现差异化转型:IT领域人机协同编程成为常态,金融业基础分析岗位减少但复合型人才需求激增,医疗行业AI辅助诊断普及但治疗决策仍依赖医生,制造业工人转向技术管理,创意产业中人类聚焦高端设计。未来就业市场将形成人机协作新生态,要求个人培养创造力、情商等AI难以替代的核心能力,企业重构工作流程。AI时代将推动人类向更高价值的认知活动跃升,实现人机优势互补的协同发展。

1256 2
|
11月前
|
存储 分布式计算 安全
|

数据生命周期管理:从生成到销毁,数据的“生死”之旅

数据生命周期管理:从生成到销毁,数据的“生死”之旅

2121 6
|
11月前
|
人工智能 JSON 自然语言处理
|

如何用大模型评估大模型——PAI-Judge裁判员大语言模型的实现简介

阿里云人工智能平台 PAI 推出 PAI-Judge 裁判员大模型,为用户构建符合应用场景的多维度、细粒度的评测体系,支持单模型评测和双模型竞技两种模式,允许用户自定义参数,实现准确、灵活、高效的模型自动化评测,为模型迭代优化提供数据支撑。 相比通用大模型尤其在回答确定性/数学类问题、角色扮演、创意文体写作、翻译等场景下,PAI-Judge 系列模型表现优异,可以直接用于大模型的评估与质检。

1326 8
来自: 人工智能平台PAI  版块
|
11月前
|
存储 数据采集 机器学习/深度学习
|

新闻聚合项目:多源异构数据的采集与存储架构

本文探讨了新闻聚合项目中数据采集的技术挑战与解决方案,指出单纯依赖抓取技术存在局限性。通过代理IP、Cookie和User-Agent的精细设置,可有效提高采集策略;但多源异构数据的清洗与存储同样关键,需结合智能化算法处理语义差异。正反方围绕技术手段的有效性和局限性展开讨论,最终强调综合运用代理技术与智能数据处理的重要性。未来,随着机器学习和自然语言处理的发展,新闻聚合将实现更高效的热点捕捉与信息传播。附带的代码示例展示了如何从多个中文新闻网站抓取数据并统计热点关键词。

539 2
|
11月前
|
存储 人工智能 算法
|

通过Milvus内置Sparse-BM25算法进行全文检索并将混合检索应用于RAG系统

阿里云向量检索服务Milvus 2.5版本在全文检索、关键词匹配以及混合检索(Hybrid Search)方面实现了显著的增强,在多模态检索、RAG等多场景中检索结果能够兼顾召回率与精确性。本文将详细介绍如何利用 Milvus 2.5 版本实现这些功能,并阐述其在RAG 应用的 Retrieve 阶段的最佳实践。

2083 1
|
11月前
|
存储 机器学习/深度学习 人工智能
|

Elasticsearch:使用阿里云 AI 服务进行向量化和重新排名

本文介绍了如何将阿里云 AI 功能与 Elasticsearch 集成,以提高语义搜索的相关性。

705 0
|
12月前
|
JSON API 开发者
|

闲鱼商品详情API接口(闲鱼API系列)

闲鱼商品详情API为开发者提供便捷、高效且合规的途径,获取闲鱼平台上特定商品的详细信息,如标题、价格、描述和图片等。该接口采用GET请求方式,需传入app_key、item_id、timestamp和sign等参数,返回JSON格式数据。示例代码展示了如何使用Python调用此API,包括生成签名和处理响应。开发者需替换实际的app_key、app_secret和商品ID,并关注官方文档以确保接口使用的准确性。

3488 1
|
12月前
|
JSON 数据挖掘 API
|

搜款网VVIC商品列表数据接口(搜款网API系列)

搜款网(VVIC)是知名服装批发平台,开发者可通过API获取商品列表数据,用于市场调研、数据分析等。API请求通常为HTTP GET,需申请权限并提供API Key。响应数据为JSON格式,包含商品基本信息。Python示例代码展示了如何发送请求和处理响应。使用API时需确保合法合规,注意错误处理和性能优化。

290 2
|
12月前
|
边缘计算 文字识别 自然语言处理
|

当OCR遇见大语言模型:智能文本处理的进化之路

简介:本文探讨光学字符识别(OCR)技术与大语言模型(LLM)结合带来的革新。传统OCR在处理模糊文本、复杂排版时存在局限,而LLM的语义理解、结构解析和多模态处理能力恰好弥补这些不足。文中通过代码实例展示了两者融合在错误校正、文档解析、多语言处理、语义检索及流程革新上的五大优势,并以财务报表解析为例,说明了该技术组合在实际应用中的高效性。此外,文章也展望了未来的技术发展趋势,包括多模态架构、小样本学习和边缘计算部署等方向,预示着文本处理技术正迈向智能认知的新时代。(240字)

871 1
来自: 人工智能平台PAI  版块
|
安全 搜索推荐 数据安全/隐私保护
|

产品经理-需求层次理论 - AxureMost

需求层次理论由马斯洛提出,将人类需求分为五个层次:生理、安全、社交、尊重和自我实现。该理论在产品设计中广泛应用,指导设计师创造满足用户深层次需求的产品。通过确保基本功能、强化安全、促进社交、提供个性化选项及支持自我实现,产品不仅能提升功能性,还能增强用户的心理满足感和忠诚度。

752 18
|
数据采集 Web App开发 iOS开发
|

使用 User-Agent 模拟浏览器行为的技巧

使用 User-Agent 模拟浏览器行为的技巧

1523 4
|
数据采集 JSON 监控
|

速卖通商品列表接口(以 AliExpress Affiliate 商品查询 API 为例)

以下是使用 Python 调用速卖通商品列表接口(以 AliExpress Affiliate 商品查询 API 为例)的代码示例。该示例包含准备基础参数、生成签名、发送请求和处理响应等关键步骤,并附有详细注释说明。代码展示了如何通过公共参数和业务参数构建请求,使用 HMAC-SHA256 加密生成签名,确保请求的安全性。最后,解析 JSON 响应并输出商品信息。此接口适用于商品监控、数据采集与分析及商品推荐等场景。注意需通过 OAuth2.0 获取 `access_token`,并根据官方文档调整参数和频率限制。

440 9

获取前N天时间

该方法 `historyDay` 用于获取N天前的时间,参数为天数 `num`。通过 `Calendar` 类将当前时间往前推N天,并格式化为 yyyy-MM-dd" 字符串,最终返回该日期当天结束时刻(23:59:59)的时间戳。测试代码调用 `historyDay(30)` 并打印结果。

237 1
|
网络安全 数据安全/隐私保护 网络架构
|

为何使用长效静态IP会出现高延迟现象?

在使用长效静态IP时,出现高延迟的原因主要包括:1. 网络距离远、网络拥堵和网络质量差等环境因素;2. 服务器负载高、性能低等服务器相关问题;3. 代理协议加密、网络配置不当等配置因素;4. 目标服务器响应慢。这些因素都会影响数据传输速度,导致延迟增加。希望以上分析能帮助解决您的问题。

490 8
来自: 大数据计算 MaxCompute  版块
|
供应链 Go 区块链
|

基于区块链技术实现供应链的全程可追溯性

基于区块链技术实现供应链的全程可追溯性

802 17

大数据与机器学习

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

0
今日
69094
内容
128
活动
439688
关注
你好!
登录掌握更多精彩内容

相关产品

  • 大数据开发治理平台 DataWorks
  • 检索分析服务 Elasticsearch版
  • 日志服务