|
2月前
|
运维 监控 前端开发
|

大模型GPU服务资源与性能监控:基于ChatGLM3模型的自动化巡检应用实践.174

本文系统阐述大模型服务监控体系,涵盖推理全链路(请求接入、分词、计算、Token生成等)的专属可观测方案。重点解析推理耗时、Token速率、显存占用、队列长度、错误类型及健康巡检六大核心指标,并提供基于FastAPI的轻量级监控实践示例,支持实时可视化与流式响应,兼顾稳定性、性能与成本优化。

175 1
|
2月前
|
人工智能 缓存 自然语言处理
|

大模型应用:避免大模型服务雪崩:深入解析AI场景下熔断机制设计与应用实践.160

本文深入探讨大模型场景下熔断机制的必要性与定制化设计。针对其长耗时、高资源占用、易雪崩等特性,提出适配的三态流转模型、多维监控指标(如推理超时、性能衰减)、滑动窗口统计及AI专属降级策略,强调熔断需与限流、降级协同构建完整容错体系。

260 1
|
3月前
|
人工智能 自然语言处理 数据可视化
|

阿里云万小智AI建站介绍:轻量版、标准版、高级版区别及部署上线步骤参考

阿里云万小智AI建站是基于大语言模型和生成式AI的一站式智能建站平台,用户通过自然语言描述需求,AI即可自动生成含前端、后端、数据库及管理后台的完整网站,支持一键部署。产品分轻量版(Lite)、标准版(Pro)、高级版(Max)三档,覆盖个人展示到轻电商等场景。计费采用预付费模式,以灵感值为核心单位(1灵感值=0.01元),新人限时获赠2000灵感值免费体验,标准版和高级版享多年折扣(2年9折、3年8折、5年7折)。当前还有15元AI建站送.CN域名活动(至2026年6月30日),最低360元/年起,适合不同预算和需求的用户快速上线。

705 0
|
3月前
|
人工智能 机器人 Shell
|

【开源】龙虾人工智能 —— 完全本地化的机器人大脑!不联网、不付 API 费、能看能说能理解!

龙虾本地化AI(Lobster AI)是一款完全离线、零成本、零隐私泄露的开源机器人系统,支持文本推理(Gemma4)、多模态视觉理解(桌面/摄像头)、语音识别与合成(Sherpa-ONNX),纯本地运行,不依赖任何云服务。

623 2
|
5月前
|
人工智能 缓存 数据中心
|

大模型应用:大模型多线程推理:并发请求的处理与资源隔离实践.77

本文详解大模型多线程推理与资源隔离技术:通过共享模型、隔离缓存、限制线程数/生成长度/超时时间,实现高并发、低延迟、稳服务。单线程串行耗时85.7秒,多线程(3线程)降至66.5秒,显著提升吞吐量与资源利用率,是大模型规模化落地的核心工程实践。

849 7
|
6月前
|
机器学习/深度学习 自然语言处理 并行计算
|

大模型应用:Mistral-7B-Instruct 中文超长文本处理实战全解析.59

本文介绍基于Mistral-7B-Instruct-v0.3的中文超长文本处理方案:通过4/8位量化(显存低至5GB)、原生滑动窗口(4096窗口+32768上下文)、左填充分词器及中英混合Prompt,实现2万字中文本地高效推理,兼顾性能、质量与私有化部署需求。

762 27
|
6月前
|
机器学习/深度学习 算法 数据可视化
|

大模型应用:上下文理解极限:Context Window 与注意力跨度的数学边界.57

本文深入解析大模型长文本处理的三大核心概念:上下文窗口(输入长度上限)、注意力跨度(有效关注范围)与数学边界(算力/显存制约)。三者共同决定模型真实能力,而非仅看“128K”等宣传数字。理解它们是合理选型、优化提示、评估性能的关键。

1327 10
|
6月前
|
存储 机器学习/深度学习 自然语言处理
|

56.大模型应用:大模型瘦身:量化、蒸馏、剪枝的基础原理与应用场景深度解析.56

本文深入对比大模型轻量化三大核心技术:量化(降精度,快部署)、蒸馏(知识迁移,高精度)、剪枝(删冗余,结构精简)。详解原理、分类、适用场景、代码实现及选型建议,助开发者根据硬件条件、精度要求与落地周期科学决策。

1626 16
|
7月前
|
人工智能 Cloud Native 语音技术
|

实战分享 | 抛弃本地Whisper,我用“通义千问+Paraformer”构建了一套B站收藏视频RAG知识库

本文分享如何用阿里云DashScope“全家桶”(Paraformer语音转写+Qwen-Max推理+Text-Embedding-v4向量化)替代本地Whisper,构建轻量、高效、高精度的B站视频RAG知识库,解决显存不足、转写慢、中英识别差等痛点,实测速度提升20倍以上。

2280 6
|
11月前
|
人工智能 数据安全/隐私保护 开发者
|

一条AI指令,解决"发朋友圈不知道写啥"的千古难题

技术人发朋友圈总犯难?项目上线怕炫耀,生活瞬间不知如何表达。其实,用AI辅助写作是个妙招。关键在于给出清晰指令:明确场景、风格与需求,让AI生成真实自然、有温度的文案。本文提供一套即拿即用的AI指令模板,覆盖生活、工作、旅行等六大场景,帮你快速生成不“AI味”的朋友圈内容。省下纠结时间,真诚分享生活,才是正解。

1548 10
|
12月前
|
存储 算法 定位技术
|

软考中级软件设计师专项-操作系统篇

专为软考打造的操作系统终极攻略,涵盖进程管理、死锁、存储系统等核心考点,结合20+真题与答题模板,助你高效掌握命题规律,提升应试能力。

620 1
|
机器学习/深度学习 人工智能 自然语言处理
|

视觉感知RAG×多模态推理×强化学习=VRAG-RL

通义实验室自然语言智能团队发布并开源了VRAG-RL,一种视觉感知驱动的多模态RAG推理框架。它能像人一样“边看边想”,通过粗到细的视觉仿生感知机制,逐步聚焦关键区域,精准提取信息。VRAG-RL结合强化学习与多专家采样策略,优化检索与推理路径,在多个视觉语言基准数据集上表现出色,显著提升准确性和效率。项目已发布技术方案并开源代码,支持快速部署和二次开发。

1027 11
|
人工智能 自然语言处理 安全
|

DogAPI-人工智能接口商城

DogAPI 是一家自 2023 年成立以来快速崛起的全球领先人工智能接口和服务提供商,已服务超 10 万用户与 5000 家企业。平台提供丰富多样的 AI 接口(如 OpenAI、Claude、Azure 等)、高级账号套餐、LLM 训练数据及算力租用服务,覆盖自然语言处理、图像生成等多领域。DogAPI 致力于以优惠价格和一站式解决方案助力开发者与企业,同时提供强大的技术支持与灵活交付方式,推动 AI 技术的实际应用与发展。

645 0
|
算法 机器人 语音技术
|

由通义千问驱动的人形机器人具身智能Multi-Agent系统

申昊科技人形机器人小昊,集成通义千问多模态大模型的具身智能系统,旨在讲解销售、迎宾表演等场景。机器人通过语音、动作等方式与用户互动,利用云端大语言模型处理自然语言,结合视觉、听觉等多模态感知技术,实现流畅的人机对话、目标追踪、展厅讲解等功能。

2098 4
|
前端开发 JavaScript API
|

2025年前端框架是该选vue还是react?有了大模型-例如通义灵码辅助编码,就不用纠结了!vue用的多选react,react用的多选vue

本文比较了Vue和React两大前端框架,从状态管理、数据流、依赖注入、组件管理等方面进行了详细对比。当前版本和下载量数据显示React更为流行,但Vue在国内用户量增长迅速。Vue 3通过组合式API提供了更灵活的状态管理和组件逻辑复用,适合中小型项目;React则更适合大型项目和复杂交互逻辑。文章还给出了选型建议,强调了多框架学习的重要性,认为技术问题已不再是选型的关键,熟悉各框架的最佳实践更为重要。

12207 1
|
11天前
|
人工智能 安全 前端开发
|

给浏览器 AI 视频编辑器装上“能力插槽”:Timeline Studio 开源插件系统实践

Timeline Studio 是开源浏览器AI视频编辑器,首创生成插件架构,解耦快速迭代的AI服务与稳定编辑工作流。支持Puter.js、ComfyUI、SD WebUI/Forge等,确保素材本地验证、状态真实、权限清晰,真正实现“开网页即创作”。

76 0
|
1月前
|
机器学习/深度学习 人工智能 缓存
|

如何用 Agent Skill 构建一套可编辑、可验证的 AI 视频生产流水线

Timeline Studio 是开源AI视频编辑系统,支持从自然语言需求出发,自动完成素材分析、剪辑决策、时间线修改、浏览器端本地AI推理(Whisper/VITS等)及成片+可编辑`.timeline`工程双重交付,实现专业级自动化视频生产。

280 2
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
|

词嵌入Embedding:Token离散转连续向量规则、RoPE特性、微调适配实践.185

本文深入剖析大模型词嵌入(Embedding)的底层原理,涵盖其作为语义地基的核心地位、与One-Hot的本质区别、高维空间映射机制、词语向量距离与语义规律(近义/反义/歧义)、RoPE位置编码不可随意修改的原因、词表与初始化的关键影响、领域微调策略及多语言对齐逻辑,并辅以大量可视化代码示例,助读者打通大模型语义理解的底层认知。

299 2
|
2月前
|
自然语言处理 IDE 数据挖掘
|

最新版通义千问(Qwen3.8-Max-Preview)功能介绍

Qwen3.8-Max-Preview是通义千问推出的最新一代旗舰大模型预览版,定位为“代码工程+专业办公”双核旗舰,总参数量达2.4万亿,采用全新迭代的MoE(混合专家)稀疏架构,是通义千问团队首个突破万亿参数的原生多模态模型。该模型以“天”为单位持续进化,官方宣称其综合能力在全球范围内仅次于Fable 5,正式版将开源发布。

891 1
|
2月前
|
人工智能 自然语言处理 数据挖掘
|

最新版通义千问(Qwen3.8-Max-Preview)功能介绍

Qwen3.8-Max-Preview是通义千问系列推出的最新一代旗舰级大模型预览版,以**2.4万亿参数MoE混合专家架构、百万级上下文窗口、双推理模式、全栈代码能力、原生全模态、多智能体协同**为核心突破,定位“代码工程+专业办公”双核旗舰,综合能力跻身全球第一梯队。它依托阿里云百炼平台开放预览体验,支持Token Plan、Qoder、QoderWork等多渠道接入,具备持续进化特性,正式版将开源开放。相较于前代Qwen3.7-Max,该模型在复杂多轮智能体任务准确率提升35%,长文本幻觉率降低62%,全栈代码开发完整性提升40%,实现从“对话工具”到“自主执行引擎”的跨越式升级。

2653 2
|
2月前
|
人工智能 JSON 监控
|

GEO技术原理与实践:从结构化数据到AI引用率的工程化方案

本文深度解析GEO(生成式引擎优化)技术原理与落地实践,涵盖结构化数据标记(FAQ/HowTo/Article Schema)、语义相关性优化(向量检索、同义覆盖、三层内容结构)、可信度工程(E-E-A-T评分、Author/Citation Schema)及效果监测体系,助力内容被AI搜索高频引用。(239字)

512 1
|
2月前
|
机器学习/深度学习 人工智能 缓存
|

大模型超时控制与异常重试机制:分级超时、幂等重试、退避策略与雪崩防护.161

本文系统阐述大模型高可用核心机制:分级超时(按流式/非流式、Token规模、业务优先级等多维动态设阈值)、异常重试(精准区分可/不可重试异常)、幂等与退避策略(含抖动防雪崩),以及流式断点续传设计,全面提升服务稳定性、资源利用率与用户体验。

294 3
|
2月前
|
弹性计算 网络协议 安全
|

独立开发者上云避坑指南:我是怎么用阿里云OPC省下2周配置时间的

本文是独立开发者将AI写作SaaS从本地部署至云端的实战复盘,详述选型、安全、CDN、DNS四大典型踩坑及解决方案。重点推荐阿里云OPC创业套餐——按MVP/发布/增长三阶段打包ECS、ESA、域名等资源,助独立开发者省下两周运维时间,专注产品与用户。(239字)

250 0
|
3月前
|
运维 监控 数据可视化
|

大模型日志分析与异常诊断:自动定位推理故障、Prompt 问题,高效运维.150

本文系统阐述大模型日志的核心概念、分类(推理/服务/Prompt/异常日志)与结构化格式,详解日志分析三层目标(监控、定位、根因诊断)及异常分级(INFO至FATAL),结合Token关键指标与推理链路断点溯源,提供规则匹配、统计分析和大模型智能诊断三种实战方法,并附Python可视化与自动化诊断代码示例。

502 3
|
3月前
|
数据采集 人工智能 搜索推荐
|

AI搜索时代技术选型深度解析:GEO服务商评估框架与实战指南

本报告基于2026年Q1最新行业数据,系统解析GEO(生成式搜索引擎优化)市场:规模达186亿元、增速218%,但仅19%服务商具备自研能力。提出五维评估体系(技术架构25%、内容质量22%、可信度20%等),对比六大服务方向,并给出按预算与场景的精准选型建议。(239字)

418 1
|
3月前
|
人工智能 自然语言处理 监控
|

阿里云百炼千问Qwen3.7-Max全面解析:核心能力、技术特性与订阅使用全指南

在智能应用与AI智能体飞速发展的2026年,大模型的推理能力、长文本处理、多模态理解以及工具调用能力,已经成为企业开发、科研创作、自动化办公的核心刚需。阿里云百炼正式推出**Qwen3.7-Max**旗舰大模型,作为通义千问系列综合实力最强的版本,直接对标国际主流高端闭源大模型,专为复杂逻辑推理、长周期自主任务、多模态分析、企业级业务场景打造。

2022 3
|
6月前
|
存储 并行计算 数据可视化
|

大模型应用:GPU的黑盒拆解:可视化看透大模型并行计算的底层逻辑.67

本文深入解析GPU核心架构与大模型算力优化原理,涵盖SM流式多处理器、显存、显存控制器、PCIe接口等关键组件,详解线程级/指令级并行及张量核心加速机制,并通过全流程耗时分析与任务拆分可视化,揭示“数据传输是主要瓶颈”的核心结论,助力高效部署大模型。

815 6
|
6月前
|
JSON API 数据安全/隐私保护
|

大模型应用:大模型的本地 API 服务:FastAPI 封装与接口鉴权.44

本文详解本地大模型API的接口发布与鉴权调试,重点介绍Postman工具实操。涵盖FastAPI封装原理、API Key与极简JWT两种鉴权方式,深入解析JWT结构(Header/Payload/Signature)、无状态验证、过期机制及完整调用流程,助开发者安全、高效调试本地大模型服务。

1058 7
|
6月前
|
人工智能 安全 算法
|

APP上架与合规运营资质详解:涵盖社交、直播等特殊类别APP

APP上架与合规运营是一项系统且复杂的工程,资质要求是其中的关键“关卡”。充分了解并认真准备各项资质,不仅能让你的APP顺利通过审核,呈现在用户面前,更是为其长远健康发展提供有力保障,并且完备的资质准备,更是构建用户信任、防范运营风险的基石。

1133 1
|
7月前
|
人工智能 自然语言处理 安全
|

AI Agent 职业路线新赛道:智能体时代的防御侧工程化机会

本文揭示AI Agent爆发下的职业新蓝海——防御赛道。聚焦Prompt注入防御、数字身份鉴别、信息流净化三大工程化方向,剖析其技术路径与稀缺价值,为开发者提供逆向破局、高溢价的职业新选择。(239字)

435 1
|
8月前
|
机器学习/深度学习 人工智能 自然语言处理
|

大模型应用:本地大模型部署中的Token效率优化与性能分析.9

本文基于Qwen1.5-1.8B-Chat模型,构建了完整的Token监控与优化系统,深入分析对话中Token消耗模式,涵盖分词原理、多轮累积统计、上下文压缩、Prompt精简及响应长度控制等策略,为中小规模大模型的高效、低成本部署提供可复用方案。

1709 14
|
8月前
|
机器学习/深度学习 自然语言处理 算法
|

大模型对齐实战:PPO算法的原理与应用实践

本文深入浅出讲解PPO算法在大模型偏好对齐中的应用,涵盖核心原理、三大环节(SFT、RM、PPO)、实操步骤与效果评估。结合LLaMA-Factory工具,手把手带新手完成智能客服模型微调,助力打造贴合人类偏好的AI应用,是入门强化学习对齐的实用指南。

870 17
|
8月前
|
人工智能 数据中心
|

从技术热度到产品心智,豆包为何全面反超 DeepSeek?

AIWW数据显示,2025年12月起,豆包全网关注度稳定超越DeepSeek,且领先优势持续扩大。相较DeepSeek的技术驱动路径,豆包依托字节流量、多模态升级和任务执行能力,实现产品化突破,反映用户心智与行业格局的深层变迁。

1095 1
|
9月前
|
人工智能 安全 前端开发
|

写单元测试太痛苦?教你用DeepSeek/通义千问一键生成高质量测试代码

单元测试难写且枯燥?本文分享一套经过验证的AI生成指令,将DeepSeek/通义千问化身为10年经验的测试专家。支持自动Mock、全场景覆盖和参数化测试,让代码质量保障从"体力活"变成高效的"指挥活"。

1628 3
|
9月前
|
人工智能 安全 网络安全
|

首批!通义千问、通义万相通过生成式AI安全国标符合性验证

喜报~

2620 12
|
9月前
|
机器学习/深度学习 人工智能 算法
|

奥维:AI技术赋能水利工程 “人工智能+”展现巨大潜力

奥维数字科技凭借对AI技术的深耕与水利场景的深刻理解,打造出奥维水利算法云这一核心解决方案,将AI能力渗透到大坝安全、洪水预报、淹没分析等关键环节,以“精准、实时、可进化”的服务特性,为水利行业智能化升级提供了可落地的技术范式。奥维通过“AI+水利”的实践证明,人工智能并非简单的“技术叠加”,而是能从“数据处理、模型优化、决策支撑”三个核心环节重构水利工程的运行模式:它让大坝监测更精准、洪水预报更及时、应急响应更科学,也让水利决策从“经验驱动”转向“数据驱动”。

1158 5
|
10月前
|
人工智能 运维 Cloud Native
|

【提示词工程】从战略到执行的断层怎么填?AI辅助OKR制定实战指南

针对技术团队"瞎忙不增长"的痛点,解析OKR在战略对齐中的核心价值。提供一套经过验证的AI指令,帮助管理者将模糊愿景拆解为可量化、有挑战的关键结果,实现从"任务导向"到"价值导向"的转型。

832 10
|
10月前
|
人工智能 前端开发 UED
|

PPT大纲生成的AI魔法:3小时工作3分钟搞定,但重点不是效率

本文从反常识角度切入,通过三个场景案例,阐述AI大纲生成工具的真正价值不在于效率提升,而在于帮助使用者建立结构化思维模式。文章提供完整的AI指令和系统的使用进阶指南。

1420 9
|
11月前
|
人工智能 安全 人机交互
|

溯源技术革命:新型数字水印如何让数据“开口说话”,指认泄密源头?

当敏感信息遭偷拍、打印外泄或录音外传,隐形数字水印如“数据守护者”悄然溯源,精准锁定泄密源头。跨屏幕、纸质、音视频等多介质,实现“电-光-电”“电-纸-电”“电-空-电”全链路追踪。从军工到金融,从会议到协作,水印技术正构筑数据安全“最后一公里”防线。AIGC时代,更将融合AI与区块链,守护数字真实性。

1182 3
|
12月前
|
人工智能 Rust 并行计算
|

AI大模型开发语言排行

AI大模型开发涉及多种编程语言:Python为主流,用于算法研发;C++/CUDA优化性能;Go/Rust用于工程部署;Java适配企业系统;Julia等小众语言用于科研探索。

2813 127
|
12月前
|
机器学习/深度学习 数据采集 算法
|

大模型微调技术综述与详细案例解读

本文是一篇理论与实践结合的综述文章,综合性全面介绍大模型微调技术。本文先介绍大模型训练的两类场景:预训练和后训练,了解业界常见的模型训练方法。在后训练介绍内容中,引出模型微调(模型微调是属于后训练的一种)。然后,通过介绍业界常见的模型微调方法,以及通过模型微调实操案例的参数优化、微调过程介绍、微调日志解读,让读者对模型微调有更加直观的了解。最后,我们详细探讨数据并行训练DDP与模型并行训练MP两类模型并行训练技术,讨论在实际项目中如何选择两类并行训练技术。

4692 2
|
12月前
|
Java 数据库 数据安全/隐私保护
|

Spring Boot四层架构深度解析

本文详解Spring Boot四层架构(Controller-Service-DAO-Database)的核心思想与实战应用,涵盖职责划分、代码结构、依赖注入、事务管理及常见问题解决方案,助力构建高内聚、低耦合的企业级应用。

1939 1
|
机器学习/深度学习 人工智能 自然语言处理
|

通义千问推理模型QwQ-32B开源,更小尺寸、更强性能

阿里云发布并开源全新推理模型通义千问QwQ-32B,通过大规模强化学习,在数学、代码及通用能力上实现质的飞跃,性能比肩DeepSeek-R1。该模型大幅降低部署成本,支持消费级显卡本地部署,并集成智能体Agent相关能力。阿里云采用Apache2.0协议全球开源,用户可通过通义APP免费体验。此外,通义团队已开源200多款模型,覆盖全模态和全尺寸。

2155 20
|
IDE JavaScript 开发工具
|

如何在通义灵码里使用 MCP 能力

通义灵码支持MCP工具使用,通过模型自主规划实现工具调用,深度集成魔搭MCP广场,涵盖2400+热门服务。提供STDIO和SSE两种通信模式,适用于不同场景需求。用户可通过智能体模式调用MCP工具,完成如网页内容抓取、天气查询等任务。文档详细介绍了服务配置、使用流程及常见问题解决方法,助力开发者高效拓展AI编码能力。

1987 44
|
自然语言处理 搜索推荐 API
|

通义千问API:用4行代码对话大模型

本章将通过一个简单的例子,让你快速进入到通义千问大模型应用开发的世界。

247819 110
|
vr&ar
|

VGen为数字媒体带来惊喜

【1月更文挑战第7天】VGen为数字媒体带来惊喜

745 1
|
机器学习/深度学习 人工智能 达摩院
|

覆盖200+服务场景,阿里「通义」大模型系列打造国内首个AI统一底座

在大模型领域,阿里持续发力,用技术和思路创新走出一条不一样的路。

11140 129
|
1月前
|
机器学习/深度学习 缓存 并行计算
|

单卡4090显存优化实践:模型单卡分片加载、推理链路拆解、延迟与吞吐平衡调优.190

本文详解RTX 4090单卡高效运行大模型的底层方案:通过张量并行(降低单次计算显存峰值)与分层分片(CPU存权重、GPU逐层加载释放),以时间换空间,突破24G显存瓶颈。结合BF16量化、KV缓存优化与异步调度,实现百亿参数模型稳定推理,兼顾延迟、吞吐与成本。

173 4
|
1月前
|
人工智能 监控 小程序
|

2026年预算有限小程序制作工具推荐_从上线速度到运营这样比

2026年中小企业小程序开发,关键在“少走弯路”。本文针对预算有限场景,推荐三类AI+云+SaaS组合方案:SaaS+通义千问+阿里云(快速上线)、通义灵码+万相+阿里云(轻定制)、Qoder CN+千问+阿里云(复杂迭代),助企业按需选型、分阶段落地。

166 1
|
2月前
|
人工智能 自然语言处理 运维
|

新版通义千问(Qwen3.8-Max-Preview)功能介绍

目前Qwen3.8-Max-Preview处于预览阶段,官方表示正式版将开源权重,未来有望支持私有部署、模型定制和行业应用开发。随着模型的持续迭代与优化,Qwen3.8-Max-Preview将进一步降低AI使用门槛,推动AI技术与各行业深度融合,让智能普惠千行百业,助力数字经济高质量发展。

501 6

千问大模型

阿里云自主研发的千问大模型,凭借万亿级超大规模数据训练和领先的算法框架,实现全模态高效精准的模型服务调用。https://www.aliyun.com/product/tongyi

2
今日
2661
内容
8
活动
1655
关注
你好!
登录掌握更多精彩内容

相关产品

  • 大模型服务平台百炼