开启云上 AIGC 动手实践,探索技术创意
面向 GenAI 时代,阿里云人工智能平台 PAI 平台自带海量开箱即用、实时更新的大模型最佳实践,提供高性能、高稳定的大模型工程化能力。本电子书精选 2024 云栖大会动手实践教程,覆盖大语言模型应用、多模态大模型微调训练、低代码 AIGC 创意设计等热门领域,为您带来 AIGC 开发全新体验。
一套底座支撑多场景:高德地图基于 Paimon + StarRocks 轨迹服务实践
面对轨迹数据“高实时、高并发、长周期存储”的典型特征,高德团队以访问跨度为依据完成热/温/冷分层,并以 Apache Paimon + StarRocks 构建统一的数据底座,支撑轨迹数据的近实时写入与高性能查询。
淘宝闪购实时分析黑科技:StarRocks + Paimon撑起秋天第一波奶茶自由
饿了么数据团队依托一年多的湖仓探索与沉淀,选择 StarRocks + Paimon 搭建实时湖仓架构,并通过物化视图优化、RoaringBitmap 去重和大查询治理,突破了传统离线架构的瓶颈,为闪购提供了坚实的数据支撑。
学术文献抓取 OOM 崩溃与 403 风暴
学术文献抓取进程因内存泄漏和代理IP切换问题导致效率下降。通过使用Rust和Reqwest重写核心模块,隔离Cookie Jar,修复后内存稳定,抓取率提高至92%,延迟降低。
快速接入京东商品评论API,商品口碑监测与舆情风控
依托京东官方评价API,融合AI/NLP技术,构建“采集—分析—预警—决策”全链路口碑风控体系:实时监测情感倾向与负面问题,智能分级预警,支持归因分析与工单处置,助力品牌从被动响应转向主动运营。(239字)
【生产避坑】Flink CDC + SQL Server 无增量?5分钟定位,直接抄解决方案
【生产避坑】Flink CDC同步SQL Server时增量失效?80%问题源于SQL Server Agent未启动!本文5分钟定位根因:先查CDC开关→再验CT表数据→最终确认Agent状态。附完整排查流程、3种启动方案及监控建议,直击要害,照抄即用,快速恢复实时同步!
企业数据智能成熟度评估:你的公司处在哪一级?
本文剖析企业“智能问数”落地困局:POC惊艳但上线即崩,根源在于技术路径与组织能力错配。对比四类主流方案(预制SQL、Text2SQL+宽表、预定义指标、本体语义),指出前三者“以人力换智能”,而本体路线(如UINO)通过结构化业务语义实现“又泛又准”。揭示三大陷阱:误将单表准确率当可用性、忽视业务知识隐性成本、低估组织协同难度,并给出分阶段落地五原则。强调选型关键不在模型多强,而在是否构建“机器可理解的语义”与“人机协同机制”。
【图像加密】基于matlab混沌算法图像加密解密
本文提出一种基于逐段线性混沌映射(PWLCM)的图像加密算法。利用混沌系统对初值和参数的极端敏感性、遍历性及伪随机性,生成高安全性密钥流,与图像数据异或加密;通过动态切换控制参数增强抗攻击能力。仿真表明该算法加密效果好、解密准确、密钥空间大、抗初值微扰能力强。(239字)
架构视角下的千万级分布式爬虫:Rust + Reqwest 与代理网关的全局设计
本文探讨如何用Rust重构分布式爬虫Worker节点,解决高并发下的内存泄漏、CPU瓶颈与代理调度难题;结合Tokio、Reqwest与企业级隧道代理,实现千万级实时抓取的稳定、安全与高效。
某宝店铺商品全量接口-item_search_shop
淘宝item_search_shop_pro接口支持按店铺ID全量获取在售商品,含分页、字段筛选与类目过滤;提供完整参数说明、返回字段详解、Python调用示例及风控规范,开箱即用,适用于竞品监控、ERP同步与选品分析。(239字)
为什么使用 TorchRec 训练和推理更快
本文结合TorchEasyRec实践,从四大维度解析推荐系统加速:1)KeyedJaggedTensor统一变长特征,实现Embedding批量融合查找;2)自动分布式分片突破单卡显存瓶颈;3)TrainPipelineSparseDist流水线并行,重叠通信与计算;4)fbgemm-gpu融合优化器,减少显存访问。端到端提升训练效率与扩展性。
TorchEasyRec的dbmtl 模型 config 详解
DBMTL(Deep Bayesian Multi-Target Learning)是阿里开源的多任务学习模型,显式建模任务因果依赖(如CTR→CVR)。基于TorchEasyRec实现,采用共享Bottom MLP+双Tower结构,CVR Tower融合CTR中间表征,体现贝叶斯条件关系。
TorchRec大量使用Jagged Tensor
Jagged Tensor(锯齿张量)是专为变长序列设计的紧凑存储格式,用values+lengths/offsets替代padding,显著节省内存与计算。广泛应用于推荐系统中用户行为、多值标签等不等长特征处理,如HSTU模型中的拼接、拆分与矩阵乘法操作。
TorchEasyRec为什么推荐用 OdpsDataset 而不是 OdpsDatasetV1来读数据?
OdpsDataset(默认)是阿里TorchEasyRec推荐的数据集实现,相比旧版OdpsDatasetV1,其性能更优(批量Arrow读取+LZ4压缩)、支持断点续训、分布式协调精准分片、兼容30+复杂类型;V1仅作旧PAI环境兼容保留。
EasyRec和TorchEasyRec中FG NORMAL 和 FG DAG 的区别
TorchEasyRec提供两种特征生成模式:FG_NORMAL(Python逐特征处理,适合调试)与FG_DAG(C++ DAG引擎批量处理,性能更优、支持依赖、stub_type及自动侧识别)。推荐生产环境优先使用FG_DAG。
TorchEasyRec中mc_ebc 和EmbeddingBagCollection 有什么区别?
mc_ebc(Managed Collision Embedding Bag Collection)是TorchEasyRec中支持冲突管理的嵌入表集合,基于EmbeddingBagCollection扩展,通过动态追踪ID、智能分配槽位及ZCH策略,显著降低哈希冲突。含mc_ebc_user等变体,并含分布式修复函数。
TorchEasyRec中INPUT_TILE 环境变量的三个模式
`NPUT_TILE` 是 tzrec 推荐系统在模型导出与在线推理阶段的优化策略,针对“1 用户 → N 商品”场景,避免用户特征重复计算。支持三种模式:`INPUT_TILE=1`(无优化)、`=2`(Embedding前tile)、`=3`(Embedding后tile,计算最优但需拆分Embedding表、依赖FG模式及torchrec,不支持macOS)。
TorchRec在macos ARM芯片(Apple Silicon)上无法安装
JaggedTensor等在macOS ARM芯片上无法运行,主因是ARM64与x86_64架构不兼容,且TorchRec深度依赖CUDA——而Apple Silicon仅支持Metal。fbgemm-gpu缺失、Rosetta 2不支持CUDA指令,导致关键操作失败。建议改用MLX框架或标准PyTorch张量替代。
心脏病预测的F1 Score计算
本项目基于阿里云PAI Designer,对心脏病数据开展二分类预测评估。通过遍历0–1间1000个阈值,计算各阈值下的F1 Score等指标,最终确定最佳阈值0.955,对应F1得分为0.8132,准确率82.47%。
TorchEasyRec 在 macOS 上的功能限制总结
本文总结tzrec在macOS上的功能限制:核心依赖(如torchrec、fbgemm-gpu、graphlearn等)无法安装;分布式训练、原生数据管线、Embedding模块、Triton/CUDA算子、TDM树模型等功能完全不可用;优化器与模型导出部分失效;单元测试大多因强依赖而失败。
Feature Generator(FG)特征算子配置指南
本文档全面介绍Feature Generator(FG)的各类特征算子配置方法,涵盖基础(ID/原始特征)、计算(表达式)、交叉(组合)、查找(Lookup/Match)、文本(重叠/BM25)、序列、预处理(分词/归一化)及字符串处理(正则替换/切片)等9大类算子,附详细配置示例与说明。
PAI-Rec 特征工程全解析:统计特征、实时特征、序列特征与 FG 特征算子
PAI-Rec是阿里云智能推荐的特征工程解决方案,支持离线统计、实时及序列特征自动衍生,并通过Feature Generator(17种内置算子)保障离线/在线特征一致性,大幅降低开发与维护成本。
PAI-Rec推荐开发平台:企业级智能推荐解决方案,驱动业务全域增长
PAI-Rec是阿里云一站式推荐系统平台,集成多路召回、多目标精排(如DBMTL)、GPU加速推理与灵活迭代能力,已助力电商、直播、音视频等多行业提升点击率、转化率与ROI,实现高效、低成本、可自主演进的智能推荐。
演化计算与抽样方法构造新算法流程:从 AlphaEvolve 看 LLM × EA 融合范式
本文系统解析AlphaEvolve——Google DeepMind提出的LLM×EA融合新范式:以语义引导的抽样机制、双模型协同进化(Gemini Flash+Pro)、自动评估闭环,实现算法的自主发现与优化,已突破矩阵乘法纪录并提升训练效率。(239字)
PAI-Rec 召回引擎:构建高性能推荐系统的核心引擎
PAI-Rec是阿里云智能推荐平台的核心召回引擎,经阿里大规模场景验证。支持多路召回融合(U2I/I2I/向量/随机)、召回即过滤、毫秒级实时更新与分布式弹性架构,开箱即用,助力企业构建毫秒级、高精度、强实时的推荐系统。
EMR Serverless Spark 携手 PAI/百炼,开启“SQL 即 AI”的新篇章
EMR Serverless Spark 深度集成 AI Function 能力,并无缝对接 阿里云百炼与 阿里云人工智能平台 PAI 模型在线服务 PAI-EAS,定义了“SQL 即 AI”的新解决思路,数据分析师只需一行 SQL,即可直接调用世界顶尖的大模型。
告别付费套路!PhotoLab:开源免费的全功能桌面图片工作站,解锁所有核心能力
PhotoLab Pro是一款开源免费的桌面图片工作站,集成图像编辑、拼图排版、JPEG批量压缩、高级批量处理、图片转PDF五大模块,无广告、无VIP、无功能阉割,支持宏录制与跨模块协同,开箱即用。
Flink CDC 3.6.0:支持 Flink 1.20/2.2, MySQL/PostgreSQL入湖入流支持Schema Evolution
Apache Flink CDC 3.6.0 正式发布!支持 Flink 1.20.x/2.2.x 与 JDK 11,增强端到端 Schema Evolution(MySQL/PostgreSQL 入湖入流),新增 Oracle Source 与 Hudi Sink 连接器,全面覆盖主流数据湖生态,并优化 Transform 框架、YAML 路由及多连接器能力。(239字)
Python、Java、PHP 三种语言实现爬虫的核心技术对比与示例
本文对比Python、Java、PHP三大语言爬虫技术,涵盖核心工具(如Scrapy/Jsoup/Goutte)、典型代码示例及异步、分布式、缓存等性能优化策略,并给出选型建议与反爬合规实践,助开发者高效构建稳定爬虫系统。
AIGC数据引擎的基石:图库抓取架构从单机到云原生的演进与实战
AIGC领域优化数据采集策略,提升大模型竞争力。初期使用Python脚本搭建单机爬虫,后转向分布式设计,引入代理技术。云原生部署实现弹性伸缩,全链路监控。构建高可用数据采集引擎是关键。
快速接入小红书API,市场趋势与热点预测
小红书API+AI已成2026年品牌营销与内容电商核心基建,支持竞品监测、舆情预警、趋势预测等全场景合规数据采集;多模态生成、预测型AI与垂直领域模型加速商业化落地,SaaS工具、代运营、技术基建成三大机遇。(239字)
2026年各大厂商OpenClaw中文生态分析调研汇报
OpenClaw(原Moltbot)是开源AI助手框架,ClaudeCowork为Anthropic官方企业协作工具;生态涵盖轻量版(Pico/NanoClaw)、高性能版(MaxClaw)、行业定制版(MedClaw、ClawWork等)及社区衍生项目(LobsterAI、RedClaw等),以Obsidian为知识库,OpenFang为交互协议。
Go Colly框架高阶技巧:如何在中间件中无缝切换代理IP
这是一份专为突发数据需求打造的Go Colly速查表:集成代理轮询、动态UA/Cookie伪装与智能限速,3步复制即用。无需架构设计,5分钟开跑,直面风控抓取竞品活动数据。
采集新手必看:选“隧道”还是“API提取”?一文看懂!
文章介绍了Python爬虫的两种代理方式:API提取代理和隧道代理。建议新手或需高并发项目使用隧道代理。提供了Python代码示例,展示如何使用隧道代理和伪装身份。
Apache Flink Agents 0.2.1 发布公告
Apache Flink Agents 0.2.1发布!修复3个关键缺陷(含MCP连接与Jackson反序列化问题),优化事件日志JSON输出、减小wheel包体积,并增强CI可观测性。推荐所有用户升级。支持OpenAI、Anthropic等多模型集成,附Demo演示智能运维能力。(239字)
(二)走进阿里云实时计算Flink版-场景案例篇
阿里云实时计算Flink版产品负责人黄鹏程(马格)介绍:基于Apache Flink打造的企业级全托管实时计算平台,支持批流一体、湖仓融合、实时风控与AI推理等场景,助力满帮、车企等客户降本增效35%,SLA达99.9%。
爬虫踩坑实录:OkHttp 接入爬虫代理报 Too many tunnel connections attempted 深度解析
本文深入解析 OkHttp 使用隧道代理抓取 HTTPS 网站时频发的 `ProtocolException: Too many tunnel connections attempted: 21` 错误,揭示其根源在于风控触发 302 重定向后 OkHttp 盲目重试隧道连接。通过关闭 `followRedirects(false)` 和 `followSslRedirects(false)`,两行配置即可优雅破局,精准捕获拦截响应,提升爬虫稳定性与调试效率。
大数据与机器学习
大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。