想飞的雪糕_社区达人页

2024年10月

• 10.22 14:46:30
  发表了文章 2024-10-22 14:46:30

  前端大模型应用笔记（二）：最新llama3.2小参数版本1B的古董机测试 - 支持128K上下文，表现优异，和移动端更配

  llama3.1支持128K上下文，6万字+输入，适用于多种场景。模型能力超出预期，但处理中文时需加中英翻译。测试显示，其英文支持较好，中文则需改进。llama3.2 1B参数量小，适合移动端和资源受限环境，可在阿里云2vCPU和4G ECS上运行。
• 10.22 12:09:35
  发表了文章 2024-10-22 12:09:35

  前端大模型应用笔记（一）：两个指令反过来说大模型就理解不了啦？或许该让第三者插足啦 -通过引入中间LLM预处理用户输入以提高多任务处理能力

  本文探讨了在多任务处理场景下，自然语言指令解析的困境及解决方案。通过增加一个LLM解析层，将复杂的指令拆解为多个明确的步骤，明确操作类型与对象识别，处理任务依赖关系，并将自然语言转化为具体的工具命令，从而提高指令解析的准确性和执行效率。
• 10.22 11:27:58
  发表了文章 2024-10-22 11:27:58

  前端大模型入门（四）：不同文本分割器对比和效果展示-教你如何根据场景选择合适的长文本分割方式

  本文详细介绍了五种Langchain文本分割器：`CharacterTextSplitter`、`RecursiveCharacterTextSplitter`、`TokenTextSplitter`、`MarkdownTextSplitter` 和 `LatexTextSplitter`，从原理、优缺点及适用场景等方面进行了对比分析，旨在帮助开发者选择最适合当前需求的文本分割工具，提高大模型应用的处理效率和效果。
• 10.22 11:23:33
  发表了文章 2024-10-22 11:23:33

  前端大模型入门（三）：编码(Tokenizer)和嵌入(Embedding)解析 - llm的输入

  本文介绍了大规模语言模型（LLM）中的两个核心概念：Tokenizer和Embedding。Tokenizer将文本转换为模型可处理的数字ID，而Embedding则将这些ID转化为能捕捉语义关系的稠密向量。文章通过具体示例和代码展示了两者的实现方法，帮助读者理解其基本原理和应用场景。
• 10.22 10:48:50
  发表了文章 2024-10-22 10:48:50

  人工智能时代，我们依旧有无限的选择权！

  “莫愁前路无知己” - 本文主要是为了缓解焦虑，以我与AI的互动为主线，分享了从童年科幻梦到工作中应用AI的经历。探讨了AI的现状与未来，强调了AI辅助编程的潜力和挑战，以及个人和企业应如何应对AI时代的变革。AI虽可能替代很多岗位，但也能带来新的机遇，关键在于适应和利用。
• 10.22 10:40:31
  发表了文章 2024-10-22 10:40:31

  前端大模型入门（二）：掌握langchain的核心Runnable接口

  Langchain.js 是 Langchain 框架的 JavaScript 版本，专为前端和后端 JavaScript 环境设计。最新 v0.3 版本引入了强大的 Runnable 接口，支持灵活的执行方式和异步操作，方便与不同模型和逻辑集成。本文将详细介绍 Runnable 接口，并通过实现自定义 Runnable 来帮助前端人员快速上手。
• 10.22 10:35:17
  发表了文章 2024-10-22 10:35:17

  前端大模型入门（一）：用 js+langchain 构建基于 LLM 的应用

  本文介绍了大语言模型（LLM）的HTTP API流式调用机制及其在前端的实现方法。通过流式调用，服务器可以逐步发送生成的文本内容，前端则实时处理并展示这些数据块，从而提升用户体验和实时性。文章详细讲解了如何使用`fetch`发起流式请求、处理响应流数据、逐步更新界面、处理中断和错误，以及优化用户交互。流式调用特别适用于聊天机器人、搜索建议等应用场景，能够显著减少用户的等待时间，增强交互性。
• 10.22 09:42:47
  发表了文章 2024-10-22 09:42:47

  AI+脚本让我的效率翻倍，你也可以试试

  本文分享了一名高级软件工程师如何利用 AI 工具（如 VSCode 插件 Codeium、通义灵码，及网页端的通义千问和 GPT-4）提升工作效率的经验。从代码生成、单元测试、脚本生成到文本润色，再到新框架学习，AI 工具在多个方面显著提高了开发效率和代码质量。文章还提供了具体示例和注意事项，帮助读者更好地应用这些工具。
• 10.22 09:26:13
  发表了文章 2024-10-22 09:26:13

  软件复杂度量化：McCabe度量法及其环路复杂度的计算方法

  McCabe度量法（McCabe's Cyclomatic Complexity）是一种经典的方法，用于度量软件程序的复杂度。通过计算程序中独立路径的数量，帮助开发人员评估代码的维护难度和测试覆盖率。本文详细介绍了McCabe度量法的原理、计算方法及其在实际应用中的作用。
• 10.16 15:58:14
  发表了文章 2024-10-16 15:58:14

  汉字的探索性分词方式：基于字图的部首分解与图神经网络的多因素表示

  本文提出一种结合传统字符嵌入与部首结构的图表示法，用于捕捉汉字的语义和组成结构，提升大模型对汉字的理解能力。方法包括将字符分解为部首，构建部首图，并利用图卷积网络生成嵌入。此方法增强了模型的泛化能力和灵活性，并提供了代码实现。未来可优化的方向包括改进图构建算法、扩展部首系统、探索更先进的图神经网络架构及多模态融合。
• 10.16 14:36:47
  发表了文章 2024-10-16 14:36:47

  互联网时代呼唤‘新中文‘的崛起 - 谈谈象形文字在如今分词方法下面临的挑战

  本文探讨了汉字在互联网和大模型时代的挑战与机遇，分析了汉字在创造新词、自然语言处理等方面的局限性，并提出了“新中文”概念，包括二维部首组合法、拼音化与语调简化等创新方法，旨在保留汉字文化精髓的同时，提升其在数字时代的适应性和处理效率。
• 10.16 14:14:33
  发表了文章 2024-10-16 14:14:33

  快速构建企业智能门户，销售额倍增，人才触手可及 - 爬虫 + RAG + LLM

  本文介绍了一款基于大模型的智能企业门户接待系统，旨在通过先进的AI技术，实现企业网站信息的自动化处理与响应，提高客户支持、产品推荐和人才招聘的效率。系统利用爬虫技术自动提取公司官网信息，结合语音识别、大模型生成等技术，支持语音和文本输入，通过RAG（检索增强生成）方式生成精准回答，并支持语音播报，提供类似真人的接待体验。项目涵盖了环境准备、数据构建、代码实现、测试调优、部署等多个阶段，详细记录了开发过程中遇到的问题及解决方案，展示了系统在咨询公司信息、产品询问及招聘岗位咨询等场景下的应用潜力。未来计划在数据类型支持、会话记忆、并发处理、语音合成等方面进一步优化，以提升用户体验和服务质量。
• 10.12 11:56:24
  发表了文章 2024-10-12 11:56:24

  前端RAG：使用Transformers.js手搓纯网页版RAG（二）- 基于qwen1.5-0.5B

  本文继续探讨了RAG的后半部分，通过在浏览器中运行qwen1.5-0.5B模型实现了增强搜索全流程。然而，由于浏览器与模型性能限制，该方案更适合研究、离线及高隐私场景。文章提供了完整的前端代码，让读者能够动手尝试。此外，详细介绍了代码框架、知识库准备、模型初始化及问答实现等步骤，并展示了实际运行效果。受限于当前技术，除非在离线或高隐私环境下，网页大模型的应用仍需进一步优化。
• 10.12 11:54:39
  发表了文章 2024-10-12 11:54:39

  纯前端RAG：使用Transformers.js实现纯网页版RAG（一）

  本文将分两部分教大家如何在网页中实现一个RAG系统，本文聚焦于深度搜索功能。通过浏览器端本地执行模型，可实现文本相似度计算和问答匹配，无需依赖服务器。RAG搜索基于高维向量空间，即使不完全匹配也能找到意义相近的结果。文中详细介绍了如何构建知识库、初始化配置、向量存储及相似度计算，并展示了实际应用效果。适用于列表搜索、功能导航、文档查询及表单填写等多种场景。
• 10.11 16:54:12
  发表了文章 2024-10-11 16:54:12

  前端大模型入门：Transformer.js 和 Xenova-引领浏览器端的机器学习变革

  除了调用API接口使用Transformer技术，你是否想过在浏览器中运行大模型？Xenova团队推出的Transformer.js，基于JavaScript，让开发者能在浏览器中本地加载和执行预训练模型，无需依赖服务器。该库利用WebAssembly和WebGPU技术，大幅提升性能，尤其适合隐私保护、离线应用和低延迟交互场景。无论是NLP任务还是实时文本生成，Transformer.js都提供了强大支持，成为构建浏览器AI应用的核心工具。