类目筛选
AI Infra之模型显存管理分析
本文围绕某线上客户部署DeepSeek-R1满血版模型时进行多次压测后，发现显存占用一直上升，从未下降的现象，记录了排查过程。
计算巢AppFlow-如何在钉钉群实现智能答疑
随着大模型能力越来越强大，利用大语言模型进行智能答疑已经成为了一个非常普遍和常见的场景。然而，各个产品或业务方要能够准确有效地进行答疑，仅依靠大模型的通用能力是远远不够的，这时候利用私有领域FAQ文档进行大模型的检索增强生成往往可以有效解决上述问题。
如何快速在钉钉群接入私有大模型
利用阿里云计算巢Appflow，通过控制台配置即可顺利将您自己开发或微调的大模型接入钉钉或其他通信软件群聊，帮您解决以下各类场景的模型调用需求： 1. 在钉钉群接入自己微调的领域大模型做问答或智能答疑； 2. 微调后的大模型在钉钉群或其他群聊中共同测试效果 3. …
【AAAI 2024】MuLTI：高效视频与语言理解
多模态理解模型具有广泛的应用，比如多标签分类、视频问答（videoQA）和文本视频检索等。现有的方法已经在视频和语言理解方面取得了重大进展，然而，他们仍然面临两个巨大的挑战：无法充分的利用现有的特征；训练时巨大的GPU内存消耗。我们提出了MuLTI，这是一种高度准确高效的视频和语言理解模型，可以实现高效有效的特征融合和对下游任务的快速适应。本文详细介绍基于MuLTI实现高效视频与语言理解。
人人都是AI大师 - Prompt工程
prompt工程不需要复杂的编程知识，人人都可以使用prompt工程成为AI大师。本文只探讨prompt工程，不涉及模型训练等内容。只讨论文本生成，不涉及图像等领域。
一键云部署：资源编排 ROS 轻松部署 LLM 流程编排服务 Flowise
Flowise 是一个开源低代码平台，用于构建定制化的 LLM 流程和 AI 代理。阿里云的 Resource Orchestration Service (ROS) 提供了一键部署 Flowise 到 ECS 实例的方案。用户只需在 ROS 控制台配置模板参数，如可用区和实例类型，即可完成部署。部署后，从资源栈输出获取 Flowise 服务地址以开始使用。ROS 模板定义了 VPC、ECS 实例等资源，并通过 ROS 自动化部署，简化了云上资源和应用的管理。
ROS CDK魔法书：点亮博客上云新技能（Java篇）
在阿里云资源编排服务ROS的Cloud Development Kit（ROS CDK）中，开发者可以使用编程语言（如TypeScript、Java等）定义云资源，简化了基础设施即代码（IaC）的管理。ROS CDK的Asset模块是用于处理本地文件到云端对象存储（如OSS）的工具，它通过元数据封装本地资源，然后配合ROS CDK的部署工具将文件上传至云端。通过一个将本地博客网站部署到OSS的案例，文章展示了如何使用ROS CDK的Asset模块和BucketDeployment来实现这一过程。