八进智_个人页

2025年11月

• 11.10 15:45:45
  发表了文章 2025-11-10 15:45:45

  英伟达谷歌都在用的（开源特征存储平台Feast）-架构学习指南

  欢迎来到Feast的世界！这是一个开源的生产级机器学习特征存储系统，专为解决特征数据高效管理与服务而设计。本指南将带你从零掌握其架构、核心概念与实战技巧，助你像架构师一样思考，像工匠一样编码，轻松应对训练与推理的一致性挑战。

2025年10月

• 10.31 17:15:23
  发表了文章 2025-10-31 17:15:23

  TensorRT-LLM 推理服务实战指南

  `trtllm-serve` 是 TensorRT-LLM 官方推理服务工具，支持一键部署兼容 OpenAI API 的生产级服务，提供模型查询、文本与对话补全等接口，并兼容多模态及分布式部署，助力高效推理。
• 10.31 17:14:45
  发表了文章 2025-10-31 17:14:45

  TensorRT LLM 中的并行策略

  TensorRT LLM提供多种GPU并行策略，支持大模型在显存与性能受限时的高效部署。涵盖张量、流水线、数据、专家及上下文并行，并推出宽专家并行（Wide-EP）应对大规模MoE模型的负载不均与通信挑战，结合智能负载均衡与优化通信核心，提升推理效率与可扩展性。
• 10.31 17:14:11
  发表了文章 2025-10-31 17:14:11

  Qwen3 Next 在 TensorRT LLM 上的部署指南

  本指南介绍如何在TensorRT LLM框架上部署Qwen3-Next-80B-A3B-Thinking模型，基于默认配置实现快速部署。涵盖环境准备、Docker容器启动、服务器配置与性能测试，支持BF16精度及MoE模型优化，适用于NVIDIA Hopper/Blackwell架构GPU。
• 10.31 17:13:25
  发表了文章 2025-10-31 17:13:25

  如何优雅地为 TensorRT-LLM 添加新模型

  本指南详细介绍如何在TensorRT-LLM中优雅集成新大语言模型，涵盖模型配置、定义、权重加载与注册全流程，支持作为核心模块或独立扩展集成，助力高效推理部署。（238字）
• 10.29 16:10:22
  发表了文章 2025-10-29 16:10:22

  Spring AI Alibaba、Dify、LangGraph 与 LangChain 综合对比分析报告

  本报告对比Spring AI Alibaba、Dify、LangGraph与LangChain四大AI开发框架，涵盖架构、性能、生态及适用场景。数据截至2025年10月，基于公开资料分析，实际发展可能随技术演进调整。
• 10.27 20:03:41
  发表了文章 2025-10-27 20:03:41

  n8n - 架构学习指南

  欢迎来到 n8n 学习之旅！本指南带你深入解析这一强大开源工作流自动化工具的架构设计与技术实现。从项目结构、核心模块到代码质量，结合实战路径与贡献指导，助你由浅入深掌握 n8n，实现从使用者到贡献者的跃迁。
• 10.21 13:11:45
  发表了文章 2025-10-21 13:11:45

  阿里云ACK托管集群Pro版共享GPU调度操作指南

  本文介绍在阿里云ACK托管集群Pro版中，如何通过共享GPU调度实现显存与算力的精细化分配，涵盖前提条件、使用限制、节点池配置及任务部署全流程，提升GPU资源利用率，适用于AI训练与推理场景。
• 10.21 13:10:06
  发表了文章 2025-10-21 13:10:06

  使用TensorRT LLM构建和运行Qwen模型

  本文档介绍如何在单GPU和单节点多GPU上使用TensorRT LLM构建和运行Qwen模型，涵盖模型转换、引擎构建、量化推理及LoRA微调等操作，并提供详细的代码示例与支持矩阵。
• 10.16 17:32:12
  发表了文章 2025-10-16 17:32:12

  Apache ShenYu 架构学习指南

  Apache ShenYu 是一款高性能、插件化的微服务API网关，基于Spring WebFlux + Reactor 构建，支持多协议、动态配置与实时数据同步。本指南以通俗类比和实战路径，带你深入理解其架构设计、核心流程与源码实现，助力快速掌握并参与贡献。
• 10.16 17:31:06
  发表了文章 2025-10-16 17:31:06

  grpc-java 架构学习指南

  本指南系统解析 grpc-java 架构，涵盖分层设计、核心流程与源码结构，结合实战路径与调试技巧，助你从入门到精通，掌握高性能 RPC 开发精髓。
• 10.14 19:32:17
  发表了文章 2025-10-14 19:32:17

  LLM 内存需求计算方式

  GPU上大语言模型的内存主要由模型权重和KV缓存构成。70亿参数模型以16位精度加载时，权重占约14GB；KV缓存则随批大小和序列长度线性增长，显著影响显存使用，限制推理吞吐与长上下文处理。
• 10.14 19:17:43
  回答了问题 2025-10-14 19:17:43

  你好哥现在有很多工作流软件，那么您相对更看好哪个？比如dify coze n8n等等。

  赞265 踩0 评论0
• 10.09 16:55:15
  发表了文章 2025-10-09 16:55:15

  Kubeflow-Trainer-架构学习指南

  本指南系统解析Kubeflow Trainer架构，涵盖核心设计、目录结构与代码逻辑，结合学习路径与实战建议，助你掌握这一Kubernetes原生机器学习训练平台的原理与应用。
• 10.09 16:53:53
  发表了文章 2025-10-09 16:53:53

  Kubeflow-Spark-Operator-架构学习指南

  本指南系统解析 Spark Operator 架构，涵盖 Kubebuilder 开发、控制器设计与云原生集成。通过四阶段学习路径，助你从部署到贡献，掌握 Kubernetes Operator 核心原理与实战技能。
• 10.09 16:53:38
  发表了文章 2025-10-09 16:53:38

  Kubeflow-Pipelines-架构学习指南

  本指南带你深入 Kubeflow Pipelines 架构，从零掌握 ML 工作流编排。涵盖核心组件、代码结构、开发调试及贡献流程，结合实战练习与学习路径，助你由使用者进阶为贡献者。
• 10.09 16:52:33
  发表了文章 2025-10-09 16:52:33

  Kubeflow-Model-Registry-架构学习指南

  Kubeflow Model Registry 是一个用于管理机器学习模型元数据的基础设施，采用 Go、Python、React 和 Kubernetes 技术栈，支持模型版本、注册与存储追踪。本指南系统解析其分层架构、核心流程与代码结构，提供从环境搭建到贡献代码的完整学习路径，助力开发者深入掌握模型管理实践。
• 10.09 16:50:54
  发表了文章 2025-10-09 16:50:54

  Kubeflow-KServe-架构学习指南

  KServe是基于Kubernetes的生产级AI推理平台，支持多框架模型部署与管理。本指南从架构解析、代码结构到实战部署，系统讲解其核心组件如InferenceService、控制器模式及与Knative、Istio集成原理，并提供学习路径与贡献指南，助你快速掌握云原生AI服务技术。
• 10.09 15:02:32
  发表了文章 2025-10-09 15:02:32

  AutoGen - 架构学习指南

  AutoGen 是微软开源的 AI Agent 框架，支持多智能体协作与分布式部署。本指南从架构解析、技能清单到学习路径，带你由浅入深掌握其核心原理与实战应用，助力构建可扩展的智能系统。
• 10.09 15:01:57
  发表了文章 2025-10-09 15:01:57

  GenSX （不一样的AI应用框架）架构学习指南

  GenSX 是一个基于 TypeScript 的函数式 AI 工作流框架，以“函数组合替代图编排”为核心理念。它通过纯函数组件、自动追踪与断点恢复等特性，让开发者用自然代码构建可追溯、易测试的 LLM 应用。支持多模型集成与插件化扩展，兼具灵活性与工程化优势。
• 10.09 15:00:40
  发表了文章 2025-10-09 15:00:40

  腾讯WeKnora 架构学习指南

  《WeKnora架构学习指南》系统解析了这一腾讯开源的智能知识库项目，涵盖核心架构、技术栈、代码结构与学习路径。通过生活化类比和深度流程图解，帮助开发者从零掌握Go后端、Vue前端、RAG原理及微服务协同，提供四阶段进阶路线与实战建议，助力快速上手并参与贡献。
• 10.09 14:59:54
  发表了文章 2025-10-09 14:59:54

  Gemini CLI 架构学习指南

  本指南深入解析开源终端AI助手Gemini CLI的架构设计，涵盖项目结构、核心流程与技术栈（TypeScript/React+Ink/Node.js），并提供从环境搭建到贡献代码的四阶段学习路径，助力开发者掌握AI编程工具开发精髓。
• 10.09 14:57:36
  发表了文章 2025-10-09 14:57:36

  Semantic Kernel .NET 架构学习指南

  本指南系统解析微软Semantic Kernel .NET架构，涵盖核心组件、设计模式与源码结构，结合实战路径与调试技巧，助你从入门到贡献开源，掌握AI编排开发全栈技能。
• 10.09 14:56:43
  发表了文章 2025-10-09 14:56:43

  Coze Loop 架构学习指南

  本指南系统解析 Coze Loop 架构，涵盖项目结构、DDD 设计、技术栈与学习路径，助你从零掌握 AI Agent 平台开发与贡献。
• 10.09 14:54:11
  发表了文章 2025-10-09 14:54:11

  Higress（云原生AI网关） 架构学习指南

  Higress 架构学习指南 🚀写在前面： 嘿，欢迎你来到 Higress 的学习之旅！
• 10.09 14:48:39
  发表了文章 2025-10-09 14:48:39

  vLLM 架构学习指南

  本指南深入解析vLLM高性能推理引擎架构，涵盖核心创新PagedAttention与连续批处理技术，结合代码结构、学习路径与实践建议，系统指导用户从入门到贡献源码的全过程。