调度

首页 标签 调度
# 调度 #
关注
32385内容
|
14天前
| |
单卡4090显存优化实践:模型单卡分片加载、推理链路拆解、延迟与吞吐平衡调优.190
本文详解RTX 4090单卡高效运行大模型的底层方案:通过张量并行(降低单次计算显存峰值)与分层分片(CPU存权重、GPU逐层加载释放),以时间换空间,突破24G显存瓶颈。结合BF16量化、KV缓存优化与异步调度,实现百亿参数模型稳定推理,兼顾延迟、吞吐与成本。
|
14天前
|
阿里云百炼CLI工具全功能深度解析:多模态AI自动化运维实操完整指南
在AI开发流水线、智能体自动化调度、批量素材处理、离线模型调试的场景中,网页可视化控制台存在操作链路冗长、无法批量执行任务、难以嵌入定时脚本与CI/CD流程等固有短板,大量重复点击操作严重消耗开发与运维人员精力。为解决多模态AI任务工具碎片化、智能体框架对接门槛高、批量处理缺少标准化工具链等行业痛点,阿里云百炼平台推出专属轻量化命令行工具百炼CLI,简称`bl`工具。该工具采用插件化开源架构,整合平台全部大模型与配套服务能力,覆盖文本对话、图像编辑、音视频处理、视觉OCR、私有知识库检索、联网实时资讯查询、智能体记忆存储七大核心模块,原生兼容Hermes Agent、OpenClaw、Qode
|
14天前
|
高并发数据采集下的代理IP架构:从单机到集群,哪一步该加什么
代理 IP 的架构不是一开始就要搭成分布式集群的。很多团队从单机跑到日均百万请求,中间经历的痛点和改造节奏其实有规律可循。这篇按请求量级——从日均 1 万到日均百万——拆解每个阶段代理架构该长什么样、什么时候该演进到下一阶段、以及每次演进要解决的核心问题是什么。
|
14天前
| |
来自: 无影
阿里云无影云电脑全功能拆解:端云一体虚拟桌面平台实操运维完整指南
远程协同办公、短期项目算力爆发、外包团队集中管控、影视三维渲染、涉密研发等业务持续扩张的背景下,传统物理PC的短板被持续放大。硬件迭代周期长、单设备运维消耗大量人力、核心业务数据留存本地极易泄露、多终端办公环境割裂、批量员工设备标准化部署难度高,各类问题持续抬高企业数字化办公的综合成本。阿里云无影云电脑作为端云一体化虚拟桌面服务平台,完成多轮核心能力迭代,整合全终端无缝接入、弹性算力秒级调度、企业级批量自动化运维、全链路数据安全防护、原生AI办公赋能、统一镜像管理、实时智能监控预警七大核心能力,划分个人版与企业版两大独立产品线,既能满足普通用户居家、移动应急办公的轻量化需求,也能够支撑大中型集
代理IP架构设计:采集Shopify / BigCommerce 公开数据时的代理策略差异
Shopify 和 BigCommerce 都是跨境电商里常见的建站平台,做公开选品数据采集时经常遇到。但这两个平台的访问频率控制机制差异很大,套同一套代理策略往往一个能跑、另一个跑不动。
|
14天前
|
[057][调度模块]分布式环境下定时任务的防重复执行方案
本文介绍分布式定时任务防重复执行方案,基于Redis/Redisson分布式锁,提供自动续期与固定租期两种模式,通过`key()`控制锁粒度,支持异常跳过与自定义处理,确保集群中同一任务仅单点执行。代码开源。
|
15天前
|
ChatBI 析言 GBI 完整手册:多智能体 NL2SQL、多数据源对接、套餐价格汇总
析言GBI是阿里云百炼推出的AI原生ChatBI产品,基于通义大模型与Multi-Agent架构,支持NL2SQL、多轮对话、智能图表与业务知识自运营,兼容云/本地多源数据,提供Turbo/Mix/定制版灵活部署与调用。阿里云析言GBI官网:https://t.aliyun.com/U/tqQdmU
本地生活数字化趋势下,同城O2O系统开发的核心变化与发展方向
本文围绕本地生活数字化加速背景,分析同城O2O系统开发在精细化运营、即时履约、商家工具、社区化连接、数据安全与稳定运行等方面的新趋势,帮助读者理解本地生活服务平台的发展方向。
|
15天前
|
天气数据API,实时天气预报与历史天气查询
天气预报API是面向企业与开发者的标准化气象服务接口,支持地名/IP/坐标等多方式查询,提供实时天气、7天预报、生活指数、空气质量及预警等全维度数据,更新及时(实况30分钟刷新)、稳定高并发,适配APP、农业、物流、政务等场景,支持多语言接入与私有化部署。
5年测试开发面试为什么开始考算法?从测试平台到AI质量工程看技术能力变化
近年测试开发面试重心转向数据结构、算法与系统设计,反映岗位正从“测试执行者”升级为“质量工程系统建设者”。尤其面对大模型、AI Agent等不确定性系统,算法能力成为高效调度测试、分析结果、验证智能行为的核心基础。
免费试用