RAG 2.0架构详解：构建端到端检索增强生成系统
RAG（检索增强生成）旨在通过提供额外上下文帮助大型语言模型（LLM）生成更精准的回答。现有的RAG系统由独立组件构成，效率不高。RAG 2.0提出了一种预训练、微调和对齐所有组件的集成方法，通过双重反向传播最大化性能。文章探讨了不同的检索策略，如TF-IDF、BM25和密集检索，并介绍了如SPLADE、DRAGON等先进算法。目前的挑战包括创建可训练的检索器和优化检索-生成流程。研究表明，端到端训练的RAG可能提供最佳性能，但资源需求高。未来研究需关注检索器的上下文化和与LLM的协同优化。
Three.js如何降低3D模型的大小以便更快加载
为加快600MB的3D模型在Three.js中的加载速度，可采用多种压缩方法：1) 减少顶点数，使用简化工具或LOD技术；2) 压缩纹理，降低分辨率或转为KTX2等格式；3) 采用高效文件格式如glTF 2.0及draco压缩；4) 合并材质减少数量；5) 利用Three.js内置优化如BufferGeometry；6) 按需分批加载模型；7) Web Workers后台处理；8) 多模型合并减少绘制；9) 使用Texture Atlas及专业优化工具。示例代码展示了使用GLTFLoader加载优化后的模型。
逐渐走向实用，揭秘世界顶尖人形机器人ASIMO
从《列子·汤问》传说中以假乱真的舞者到现在科幻作品中的各种类人机器人，人类从没停止过对创造类人机器的幻想。而随着机器人学、人工智能和计算科学等科学技术的发展，人类长久以来的梦想正在逐渐成为现实，我们的生活中也渐渐开始有了它们的身影。
【ACL2024】基于长尾检索知识增强的大语言模型
近日，阿里云人工智能平台PAI与阿里集团安全部内容安全算法团队、华东师范大学何晓丰教授团队合作，在自然语言处理顶级会议ACL2024上发表论文《On the Role of Long-tail Knowledge in Retrieval Augmented Large Language Models》，论文主题为长尾知识检索增强的大语言模型。通过将问题识别为普通可回答和长尾两种性质，让大模型针对性的对长尾问题进行检索文档增强。对于普通可回答的用户提问可以直接通过大模型回答，而不需要进行文档检索增强，从而能增强大模型处理不同类型用户提问的效率。