# 大模型服务平台百炼 #
1
关注
1518内容
vLLM 部署 Qwen3
本文介绍了在特定环境下安装和使用 vLLM 的步骤。环境配置包括 CUDA 12.2、40GB 显存，使用 conda 进行 Python 包管理，并基于 Qwen3-8B 模型。首先通过创建 conda 环境并安装 vLLM 实现部署，接着启动 API 服务以支持对话功能。文中提供了 curl 和 Python 两种调用方式示例，方便用户测试与集成。
Spring漏洞太难搞？AiPy生成漏洞检测辅助工具
本文介绍了 Spring 框架的漏洞风险、优缺点，并提出通过开发可视化工具 Aipy 来解决未授权访问问题。Spring 广泛应用于企业级开发，但因配置不当可能导致 RCE、数据泄露等漏洞。其优点包括强大的生态系统和灵活的事务管理，但也存在学习曲线陡峭、性能开销等问题。为应对安全挑战，Aipy 提供 GUI 界面，可自动扫描 Spring 组件（如 Swagger UI、Actuator）中的未授权漏洞，标记风险并提供修复方案，结果以图表形式展示，支持报告导出，有效提升安全性和易用性。
硅基流动入驻阿里云云市场，核心API服务将全面接入阿里云百炼平台💐
2025年6月18日，AI Infra企业硅基流动与阿里云达成战略合作，加入“繁花计划”并入驻云市场。其大模型推理平台SiliconCloud核心API将接入阿里云百炼平台，依托灵骏智能计算集群为客户提供高效服务。作为国内领先的MaaS平台，SiliconCloud已集成百余款开源大模型，服务600万用户及众多企业。双方将在算力协同、行业解决方案等领域深化合作，推动AI生态发展。
Qwen 家族再上新！
Qwen3 Embedding 是基于 Qwen3 基础模型训练的文本嵌入模型系列，可将离散符号转化为连续向量，捕捉语义关系。结合 Qwen3 Reranker 模型，通过“初筛+精排”流程提升搜索与推荐系统的相关性排序能力。该系列模型支持多语言、提供灵活架构（0.6B-8B 参数规模），并在 MTEB 多语言榜单中排名第一。用户可通过 Hugging Face、ModelScope 和 GitHub 快速体验模型服务。
别让你的大模型被忽悠了，聊聊prompt注入攻击
本文探讨了Prompt工程中的隐私与安全问题，重点分析了“奶奶漏洞”及更广泛的Prompt攻击现象，特别是Prompt注入的原理与防御手段。Prompt注入通过构造恶意输入突破模型限制，使LLM执行非预期操作。文章介绍了直接注入和间接注入类型，并提供了多种防御方案，如输入过滤、强化系统指令、接入第三方校验库及多模型协作防御。此外，还讨论了Prompt逆向工程及其正负影响，以及恶意MCP服务投毒的实际案例，如GitHub Copilot漏洞。最后提出了动态权限控制和持续安全监测等解决策略。
微医控股与阿里云达成战略合作，双方将携手基于通义千问大模型联合打造医疗全场景智能体，共同构建医疗垂类大模型
2025年6月17日，微医控股与阿里云达成战略合作，共建医疗AI基座及医疗全场景智能体。双方将基于通义千问大模型打造医疗垂类大模型，升级微医“5+1”智能体，并在诊断、用药、健康管理等环节深化应用。微医将结合阿里云技术优势推进IDC上云，助力AI+医疗基础设施建设，共同制定行业标准并推广城市级AI数字健共体。目前，微医AI服务已连接全国1.2万家医院和30万名医生，健康管理会员超100万。
TortoiseSVN使用-TortoiseSVN更换或重置登录用户
TortoiseSVN使用-TortoiseSVN更换或重置登录用户
视觉感知RAG×多模态推理×强化学习=VRAG-RL
通义实验室自然语言智能团队发布并开源了VRAG-RL，一种视觉感知驱动的多模态RAG推理框架。它能像人一样“边看边想”，通过粗到细的视觉仿生感知机制，逐步聚焦关键区域，精准提取信息。VRAG-RL结合强化学习与多专家采样策略，优化检索与推理路径，在多个视觉语言基准数据集上表现出色，显著提升准确性和效率。项目已发布技术方案并开源代码，支持快速部署和二次开发。
【开源项目】MaxKB4J基于java开发的工作流和 RAG智能体的知识库问答系统
MaxKB4J是一款基于Java开发的开源LLM工作流应用与RAG知识库问答系统，结合MaxKB和FastGPT优势，支持智能客服、企业知识库等场景。它开箱即用，可直接上传/爬取文档，支持多种大模型（如Qwen、通义千问等），具备灵活的工作流编排能力，并无缝嵌入第三方系统。技术栈包括Vue.js、Springboot3、PostgreSQL等，提供稳定高效的智能问答解决方案。访问地址：`http://localhost:8080/ui/login`，项目详情见[Gitee](https://gitee.com/taisan/MaxKB4j)。
免费试用