|
9月前
|
机器学习/深度学习 开发框架 人工智能
|

81_Few-Shot提示:少样本学习的技巧

在大型语言模型(LLM)时代,提示工程(Prompt Engineering)已成为释放模型潜力的关键技能。其中,Few-Shot Prompting作为一种强大的技术,通过提供少量高质量的示例,显著提升模型在复杂任务上的性能。2025年,随着模型规模和能力的持续增长,Few-Shot Prompting技术也在不断演进,从简单的示例提供发展到更加精细化的优化策略。

913 0
|
9月前
|
机器学习/深度学习 PyTorch TensorFlow
|

66_框架选择:PyTorch vs TensorFlow

在2025年的大语言模型(LLM)开发领域,框架选择已成为项目成功的关键决定因素。随着模型规模的不断扩大和应用场景的日益复杂,选择一个既适合研究探索又能支持高效部署的框架变得尤为重要。PyTorch和TensorFlow作为目前市场上最主流的两大深度学习框架,各自拥有独特的优势和生态系统,也因此成为开发者面临的经典选择难题。

1611 0
|
9月前
|
存储 数据采集 人工智能
|

97_微调基础:全参数 vs LoRA

在2025年的大模型时代,微调技术已经成为将通用大语言模型(LLM)适配到特定领域和任务的核心技术手段。随着模型规模的不断膨胀——从早期的数十亿参数到如今的数千亿甚至万亿参数,如何在有限的计算资源下高效地微调大模型,成为AI工程师面临的关键挑战。本文将深入探讨两种主流的微调方法:全参数微调和LoRA(Low-Rank Adaptation)低秩适应微调,从原理、技术实现、资源需求、性能表现等多个维度进行全面对比分析,帮助读者在实际项目中做出最优的技术选择。

1126 0
|
9月前
|
机器学习/深度学习 人工智能 芯片
|

42_大语言模型的计算需求:从GPU到TPU

随着2025年大语言模型技术的持续突破和规模化应用,计算资源已成为推动AI发展的关键驱动力。从最初的CPU计算,到GPU加速,再到专用AI加速器的崛起,大语言模型的计算需求正在重塑全球数据中心的基础设施架构。当前,全球AI半导体市场规模预计在2027年将达到2380亿美元(基本情境)甚至4050亿美元(乐观情境),这一增长背后,是大语言模型对计算能力、内存带宽和能效比的极致追求。

1067 0
|
12月前
|
机器学习/深度学习 人工智能 自然语言处理
|

AI 加速科学发现丨Al For Science 专场直播

AI 科学家时代正加速到来,但科研智能体真的做好准备了吗?真实科研场景中,多模态智能体能否在推理、规划与执行等关键能力上达到人类科研人员的水平?我们又该如何准确评估它们的科学认知能力和数据分析表现?

288 0
|
4月前
|
人工智能 数据库 Docker
|

基于 DeepSeek 百万 token 窗口的 3673 轮对话深度实录

本文基于 DeepSeek 百万 token 上下文窗口的真实对话记录(1 274 201 tokens,3 673 轮),系统性地分析了长达数十小时的人机协作过程。研究构建了 L1 基础数据层 → L2 项目演进层 → L3 关键转折层 → L4 互动模式层 → L5 情感记忆层 的五层分析框架,完整呈现了一位非 AI 专业背景的研究者(医学、心理学与人文领域)在完全依赖云端免费模型的条件下,从环境搭建到心源框架的完整工程轨迹。 主要发现如下: 1. 技术投入曲线显示,405 次命令/脚本集中在中期(第 1225–2448 轮),与英文占比高峰(43.4 %)完全吻合; 2. 三阶段演进从前

581 5
|
5月前
|
存储 人工智能 资源调度
|

迈向AI4S 2.0,上海AI实验室开源书生1T Moe 科学大模型Intern-S1-Pro!

2月4日,上海AI实验室开源万亿参数科学多模态大模型Intern-S1-Pro,全球开源社区中规模最大的AI4S模型。基于SAGE“通专融合”架构与MoE设计,融合傅里叶位置编码与创新路由机制,科学推理达奥赛金牌水平,综合能力稳居国际第一梯队,赋能AGI for Science范式革命。(239字)

562 4
|
6月前
|
人工智能 资源调度 算法
|

意图的觉醒:智能体如何重构算法时代的人机主权

本文探讨智能体时代人机关系的范式革命:从“人适应机器”转向“机器延伸意志”。领航员以意图驱动替代过程管理,重掌决策主权,在效率与人性间守护“微光”,推动个体从执行者跃升为逻辑架构师。(239字)

242 2
|
6月前
|
API 语音技术
|

阶跃星辰原生语音推理模型登顶全球权威语音模型榜!开源!

阶跃星辰开源语音推理模型Step-Audio-R1.1登顶全球权威榜单,以96.4%准确率超越Grok、Gemini等,支持“边说边思考”,实现高智能实时交互,现已开放体验。

468 1
|
7月前
|
自然语言处理 fastjson Java
|

FastJson:大面积故障规避案例

111

204 0
|
7月前
|
缓存 JavaScript 前端开发
|

Vue高效学习指南:从入门到实战的科学路径

本文系统梳理Vue从入门到进阶的学习路径,提出“基础夯实-核心深化-项目实战-生态拓展”四阶段模型,结合实践案例、避坑指南与优质资源,帮助初学者摆脱碎片化学习,科学高效地掌握Vue开发技能,成长为能独立完成项目的前端开发者。

382 0
|
7月前
|
SQL 关系型数据库 MySQL
|

MySQL 高效学习指南:从入门到优化的科学路径

本文系统梳理MySQL三阶段学习路径:入门(夯实基础操作)、核心深化(掌握多表关联与事务)、优化进阶(理解索引与执行计划),结合实操案例与资源推荐,助力开发者从CRUD迈向性能调优,真正掌握解决实际问题的数据库技能。

365 0
|
7月前
|
安全 Linux 应用服务中间件
|

Linux 初学者常见 10 大误区与避坑指南

本文总结Linux初学者易犯的10大误区,涵盖误删文件、滥用root、权限混乱、路径迷失等问题,深入剖析原因并提供实用避坑方案,帮助新手建立良好操作习惯,高效安全入门Linux系统。

482 0
|
7月前
|
安全
|

通过述职发现自己"变"了

述职非形式,而是审视成长与价值的重要机制。通过结构化思考、快慢思维结合、积极主动、以终为始等方法,提升做事与沟通效能,在目标定义、执行细节和影响力打造中实现个人成长与结果突破。

429 0
|
7月前
|
人工智能 自然语言处理 API
|

MiniMax M2.1开源:多语言编程SOTA,为真实世界复杂任务而生

MiniMax正式开源M2.1模型,全面提升多语言编程、办公自动化与原生App开发能力,支持WebDev、3D渲染、Agent工具链等复杂任务,性能媲美Claude Opus,免费开放体验。

1726 3
|
8月前
|
人工智能 前端开发 JavaScript
|

新的LLM交互模式!大模型终于能自己生成交互式 UI 了

Google Research推出的Generative UI,让大模型不仅能生成内容,还能一键创建含地图、图表、小游戏等交互功能的完整网页。告别“文字墙”,迈向“内容即应用”的新时代,82.8%用户偏爱此创新体验。

1698 8
|
9月前
|
数据采集 存储 人工智能
|

141_模型更新:在线学习策略 - 焦点在增量微调的独特无中断部署

在大语言模型(LLM)的实际生产环境中,模型更新是维持服务质量和持续改进的关键环节。随着业务需求的演变、数据分布的变化以及模型能力的提升,如何高效、安全地更新已部署的LLM成为技术团队面临的重要挑战。传统的全量模型替换方法往往伴随着服务中断风险、资源消耗大以及可能的性能波动等问题。为此,增量微调技术作为一种轻量级的模型更新策略,正逐渐成为2025年LLM部署领域的主流选择。

760 9
|
9月前
|
存储 Prometheus 监控
|

136_生产监控:Prometheus集成 - 设置警报与指标选择与LLM部署监控最佳实践

在大语言模型(LLM)部署的生产环境中,有效的监控系统是确保服务稳定性、可靠性和性能的关键。随着LLM模型规模的不断扩大和应用场景的日益复杂,传统的监控手段已难以满足需求。Prometheus作为当前最流行的开源监控系统之一,凭借其强大的时序数据收集、查询和告警能力,已成为LLM部署监控的首选工具。

913 6
|
9月前
|
存储 监控 安全
|

132_API部署:FastAPI与现代安全架构深度解析与LLM服务化最佳实践

在大语言模型(LLM)部署的最后一公里,API接口的设计与安全性直接决定了模型服务的可用性、稳定性与用户信任度。随着2025年LLM应用的爆炸式增长,如何构建高性能、高安全性的REST API成为开发者面临的核心挑战。FastAPI作为Python生态中最受青睐的Web框架之一,凭借其卓越的性能、强大的类型安全支持和完善的文档生成能力,已成为LLM服务化部署的首选方案。

1380 3
|
9月前
|
机器学习/深度学习 存储 缓存
|

129_量化技术:INT8与动态量化 - 推导压缩的精度损失公式

在2025年的大语言模型(LLM)时代,随着模型规模的指数级增长,部署这些庞然大物变得越来越具有挑战性。GPT-5和Claude 3等最新模型的参数量已经达到数千亿甚至上万亿,这给计算资源和内存带来了巨大压力。模型量化作为一种有效的压缩技术,正在成为解决这一挑战的关键方案。本文将深入探讨LLM量化技术,特别是INT8和动态量化方法,推导其精度损失公式,并提供2025年最新的优化策略和实现代码。

959 4
|
9月前
|
人工智能 自然语言处理 数据中心
|

65_GPU选择:A100 vs RTX系列

在2025年的今天,大语言模型(LLM)已经成为人工智能领域的核心技术之一。从GPT-4到Llama 3.1,从专业领域应用到消费级产品,LLM正在以前所未有的速度改变着我们的工作和生活方式。然而,这些强大模型的训练和部署背后,都离不开高性能计算硬件的支持,尤其是GPU(图形处理单元)的选择,往往直接决定了项目的可行性、效率和成本。

1427 0
|
9月前
|
存储 边缘计算 人工智能
|

79_边缘设备环境:Raspberry Pi搭建

在当今人工智能快速发展的时代,大语言模型(LLM)已经成为自然语言处理领域的核心技术。然而,传统的LLM部署通常需要强大的服务器资源,这限制了其在资源受限环境中的应用。随着边缘计算的兴起,在轻量级设备上部署和运行LLM成为了新的技术趋势。树莓派(Raspberry Pi)作为一款广泛使用的单板计算机,凭借其小巧的体积、低功耗特性和不断提升的计算能力,成为了边缘部署LLM的理想选择。

1171 0
|
9月前
|
存储 机器学习/深度学习 人工智能
|

54_模型优化:大模型的压缩与量化

随着大型语言模型(LLM)的快速发展,模型规模呈指数级增长,从最初的数亿参数到如今的数千亿甚至万亿参数。这种规模扩张带来了惊人的能源消耗和训练成本,同时也给部署和推理带来了巨大挑战。2025年,大模型的"瘦身"已成为行业发展的必然趋势。本文将深入剖析大模型压缩与量化的核心技术、最新进展及工程实践,探讨如何通过创新技术让大模型在保持高性能的同时实现轻量化部署,为企业和开发者提供全面的技术指导。

880 0
|
9月前
|
存储 机器学习/深度学习 监控
|

67_Transformers库进阶:模型加载与配置优化

随着大型语言模型(LLM)技术的迅速发展,Hugging Face的Transformers库已经成为LLM开发和应用的标准工具包。作为一个开源的深度学习库,Transformers提供了丰富的预训练模型、统一的接口设计以及强大的生态系统,使得研究人员和开发者能够便捷地构建、训练和部署各类语言模型。2025年,Transformers库已经发展到5.x系列,不仅支持最新的GPU架构和量化技术,还提供了更完善的分布式训练能力和内存优化方案。

1132 1
|
9月前
|
机器学习/深度学习 监控 PyTorch
|

68_分布式训练技术:DDP与Horovod

随着大型语言模型(LLM)规模的不断扩大,从早期的BERT(数亿参数)到如今的GPT-4(万亿级参数),单卡训练已经成为不可能完成的任务。分布式训练技术应运而生,成为大模型开发的核心基础设施。2025年,分布式训练技术已经发展到相当成熟的阶段,各种优化策略和框架不断涌现,为大模型训练提供了强大的支持。

1088 0
|
9月前
|
存储 机器学习/深度学习 监控
|

69_云端开发:SageMaker与Colab

在2025年的大模型开发环境中,云端开发平台已经成为开发者的首选。随着大模型规模的不断扩大,本地开发环境往往难以满足训练和推理的需求,而云端平台提供了强大的计算资源、灵活的扩展能力和便捷的协作功能。在众多云端开发平台中,Amazon SageMaker和Google Colab凭借各自的优势,成为了大模型开发者最常用的两个选择。

620 0
|
9月前
|
缓存 API 调度
|

70_大模型服务部署技术对比:从框架到推理引擎

在2025年的大模型生态中,高效的服务部署技术已成为连接模型能力与实际应用的关键桥梁。随着大模型参数规模的不断扩大和应用场景的日益复杂,如何在有限的硬件资源下实现高性能、低延迟的推理服务,成为了所有大模型应用开发者面临的核心挑战。

1044 0
|
10月前
|
存储 人工智能 文字识别
|

PDF解析迎来技术革新!阿里新产品实现复杂文档端到端结构化处理

前言9月24日云栖大会现场,由阿里巴巴爱橙科技数据技术及产品团队自主研发的 PDF解析神器正式亮相并同步开源模型。这款基于Logics-Parsing模型构建的AI工具直指当前PDF解析领域的技术痛点,显著提升复杂文档的结构…

1441 0
|
10月前
|
API 网络安全
|

调用Dashscope接口时报错

961 1
|
12月前
|
机器学习/深度学习 弹性计算 测试技术
|

Kimi Playground与ModelScope MCP合作,共建更智能的Agent

月之暗面发布开源模型Kimi K2,参数总量达1T,激活参数32B,基于MoE架构,具备强大的代码能力与通用Agent任务处理能力。在多项基准测试中取得SOTA成绩,并已开源。ModelScope与Kimi Playground集成,支持一键同步MCP服务,方便开发者使用。

768 0
|
12月前
|
机器学习/深度学习 人工智能 算法
|

通义WebSailor开源,首个挑战BrowseComp基准的开源网络智能体!

WebSailor网络智能体可以应用复杂场景下的检索任务,对于模糊问题可迅速在不同的网页中进行快速检索并推理验证,从而在海量信息中通过严密的多步推理和交叉验证中最终得出检索答案。

835 0
|
2月前
|
缓存 调度 异构计算
|

LLM 训练提速约 25% 背后:缓存、重叠与 MoE 路由优化

LLM 提速关键在两件事:少做不必要的重复工作;让不可避免的工作尽量并行发生。

226 1
|
3月前
|
机器学习/深度学习 自然语言处理 数据可视化
|

可计算元认知文本分析在细胞生物学中的语义基线构建与边界信号检测

背景:科学研究中的“范式”往往是隐性的、难以量化的;而研究论文正是范式的全部语言载体。 目的:构建细胞生物学的语义基线,并系统检测该领域的边界信号(阈值、开关、检查点等),验证可计算元认知框架在生物学中的适用性。 结论:本文首次在细胞生物学构建了系统的语义基线,证实了可计算元认知框架的跨学科可迁移性;所得到的动词 术语 边界词库为后续流行病学、临床医学等领域的跨域对齐提供了可复用的基准。

412 5
|
4月前
|
缓存 JSON API
|

玩转纳斯达克与纽交所:美股数据 API 对接全指南

本文手把手教你用StockTV API对接美股(NYSE/NASDAQ)实时行情、专业K线及IPO数据,支持WebSocket极速推送、多维技术指标与全交易所覆盖,助你快速构建低延迟量化交易或金融App。(239字)

613 7
|
4月前
|
机器学习/深度学习 人工智能 文字识别
|

小红书开源FireRed-OCR,2B 参数登顶文档解析榜单

小红书FireRed团队开源的FireRed-OCR(仅20亿参数),在OmniDocBench v1.5端到端评测中以92.94%综合得分登顶,超越Gemini 3.0 Pro等大模型。专注解决文档解析中的“结构幻觉”问题,通过三阶段训练+格式约束强化学习,精准还原表格、公式、多栏等复杂结构。Apache 2.0协议,ModelScope开源,支持本地商用部署。(239字)

1129 22
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
|

PPO 应用 —— 大模型偏好优化的核心场景与落地思路

本文详解PPO算法在大模型RLHF落地中的核心应用:聚焦对话风格、客服话术、内容生成、安全合规、垂直领域及多模态六大场景,强调“偏好定制化”价值。全程无代码,提供4步落地法与3大实操要点,助力企业高效实现大模型优化。(239字)

428 11
|
5月前
|
人工智能 JSON 监控
|

基于 AgentScope x AI Agent A2Z部署平台的生产级别Agent上线Live实战分享

本文分享如何用AgentScope框架+AI Agent A2Z平台,一键完成AI Agent生产级部署:解决“开发易、上线难”痛点,快速生成标准/chat接口(如https://agentscope.aiagenta2z.com/deep_research_agent/chat),支持高并发、实时监控与冷启动。

625 5
|
5月前
|
人工智能 数据可视化 数据安全/隐私保护
|

深度评论:《ooder-Nexus 2.0.0 预览版 —— 以“轻量化”破局,构建用户主权的边缘 AI 网络》

ooder-Nexus 2.0.0预览版聚焦轻量、本地、可控,专为路由器、树莓派等边缘设备设计。支持P2P自组网、Web可视化控制台、技能插件市场与AES-256加密通信,128MB内存即可运行,MIT开源,致力让AI真正属于每个用户。

294 4
|
5月前
|
人工智能 安全 前端开发
|

D2大会 界面即推理:解读 Google A2UI 如何探索 Agent 交互新标准

Google A2UI开源项目,以声明式JSON协议让AI按需生成安全、跨平台的动态界面,破解Agent交互“最后一公里”难题。D2大会将揭秘其设计哲学、多智能体UI协作及开源路线图。

702 4
|
6月前
|
机器学习/深度学习 自然语言处理 算法
|

大模型对齐实战:PPO算法的原理与应用实践

本文深入浅出讲解PPO算法在大模型偏好对齐中的应用,涵盖核心原理、三大环节(SFT、RM、PPO)、实操步骤与效果评估。结合LLaMA-Factory工具,手把手带新手完成智能客服模型微调,助力打造贴合人类偏好的AI应用,是入门强化学习对齐的实用指南。

685 17
|
6月前
|
人工智能 开发框架 安全
|

LLM驱使智能体:从概念、原理到落地实践的完整技术科普指南

随着大语言模型发展,AI正从被动响应迈向主动执行。LLM驱使智能体以大模型为核心决策引擎,通过“推理—行动—反馈”闭环,实现目标导向的自主任务执行,具备动态决策、持续运行与复杂环境适应能力。其在办公自动化、软件开发、知识工作等场景广泛应用,正成为连接大模型能力与现实任务的关键桥梁,推动智能系统向更高阶形态演进。

461 5

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉答疑群:44837352

0
今日
15277
内容
6
活动
4252
关注
你好!
登录掌握更多精彩内容

相关产品

  • 人工智能平台 PAI
  • 文字识别
  • 智能语音交互