类目筛选
大模型无缝切换，QwQ-32B和DeepSeek-R1 全都要
通义千问最新推出的QwQ-32B推理模型，拥有320亿参数，性能媲美DeepSeek-R1（6710亿参数）。QwQ-32B支持在小型移动设备上本地运行，并可将企业大模型API调用成本降低90%以上。本文介绍了如何通过Higress AI网关实现DeepSeek-R1与QwQ-32B之间的无缝切换，涵盖环境准备、模型接入配置及客户端调用示例等内容。此外，还详细探讨了Higress AI网关的多模型服务、消费者鉴权、模型自动切换等高级功能，帮助企业解决TPS与成本平衡、内容安全合规等问题，提升大模型应用的稳定性和效率。
结合多模态RAG和异步调用实现大模型内容
文章探讨了如何利用多模态大模型和工程优化手段提升物流理赔业务效率。核心方案包括：通过多模态RAG技术实现图片查重，结合异步调用方法优化货损识别功能。
FunASR 语音大模型在 Arm Neoverse 平台上的优化实践
Arm 架构的服务器通常具备低功耗的特性，能带来更优异的能效比。相比于传统的 x86 架构服务器，Arm 服务器在相同功耗下能够提供更高的性能。这对于大模型推理任务来说尤为重要，因为大模型通常需要大量的计算资源，而能效比高的 Arm 架构服务器可以提供更好的性能和效率。
LISA微调技术解析：比LoRA更低的显存更快的速度
LISA是Layerwise Importance Sampling for Memory-Efficient Large Language Model Fine-Tuning的简写，由UIUC联合LMFlow团队于近期提出的一项LLM微调技术，可实现把全参训练的显存使用降低到之前的三分之一左右，而使用的技术方法却是非常简单。
ROS CDK魔法书：点亮博客上云新技能（Python篇）
ROS（Resource Orchestration Service）是阿里云的资源编排服务，通过模板定义资源和依赖关系。CDK中的Asset模块扮演关键角色，将本地文件转化为云资产，方便上传至OSS（Object Storage Service）存储。OSS是一个云存储服务，能安全存储大量数据，并支持高效访问。通过ROS CDK，开发者可以将本地的Next.js博客项目打包并部署到OSS，实现静态网站的云托管。部署过程包括初始化项目、安装依赖、定义资源、打包博客代码和使用CDK部署到OSS。通过这种方式，开发者可以利用ROS CDK的自动化能力，高效地管理和更新云上资源。
ROS CDK魔法书：点亮博客上云新技能（C#篇）
阿里云ROS CDK结合OSS的资源编排教程，教你如何以代码定义云资源，简化部署流程。ROS CDK允许使用编程语言（如TypeScript、C#）代替JSON或YAML模板，创建和管理云资源，如OSS Bucket。通过Asset模块，本地文件被转化为云资源，ROS CDK的`ros-cdk-ossassets`和`ros-cdk-ossdeployment`则负责资源上传和管理。教程以创建和部署博客到OSS为例，展示了从初始化项目、配置凭证到编写CDK代码，再到打包、部署和更新资源栈的全过程。使用ROS CDK，开发者能更高效地实现云上资源的自动化运维和管理。