余生H_个人页

2024年10月

• 10.12 11:56:24
  发表了文章 2024-10-12 11:56:24

  前端RAG：使用Transformers.js手搓纯网页版RAG（二）- 基于qwen1.5-0.5B

  本文继续探讨了RAG的后半部分，通过在浏览器中运行qwen1.5-0.5B模型实现了增强搜索全流程。然而，由于浏览器与模型性能限制，该方案更适合研究、离线及高隐私场景。文章提供了完整的前端代码，让读者能够动手尝试。此外，详细介绍了代码框架、知识库准备、模型初始化及问答实现等步骤，并展示了实际运行效果。受限于当前技术，除非在离线或高隐私环境下，网页大模型的应用仍需进一步优化。
• 10.12 11:54:39
  发表了文章 2024-10-12 11:54:39

  纯前端RAG：使用Transformers.js实现纯网页版RAG（一）

  本文将分两部分教大家如何在网页中实现一个RAG系统，本文聚焦于深度搜索功能。通过浏览器端本地执行模型，可实现文本相似度计算和问答匹配，无需依赖服务器。RAG搜索基于高维向量空间，即使不完全匹配也能找到意义相近的结果。文中详细介绍了如何构建知识库、初始化配置、向量存储及相似度计算，并展示了实际应用效果。适用于列表搜索、功能导航、文档查询及表单填写等多种场景。
• 10.11 16:54:12
  发表了文章 2024-10-11 16:54:12

  前端大模型入门：Transformer.js 和 Xenova-引领浏览器端的机器学习变革

  除了调用API接口使用Transformer技术，你是否想过在浏览器中运行大模型？Xenova团队推出的Transformer.js，基于JavaScript，让开发者能在浏览器中本地加载和执行预训练模型，无需依赖服务器。该库利用WebAssembly和WebGPU技术，大幅提升性能，尤其适合隐私保护、离线应用和低延迟交互场景。无论是NLP任务还是实时文本生成，Transformer.js都提供了强大支持，成为构建浏览器AI应用的核心工具。