《大规模元搜索引擎技》——1.4 本书概述

简介: 本节书摘来自华章出版社《大数据管理丛书》一书中的第1章,第1.4节,作者 [美]孟卫一(Weiyi Meng), 纽约州立大学, 宾汉姆顿分校於德(Clement T.Yu),伊利诺伊大学芝加哥分校,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

本节书摘来自华章出版社《大规模元搜索引擎技》一书中的第1章,第1.4节,作者 [美]孟卫一(Weiyi Meng), 纽约州立大学, 宾汉姆顿分校於德(Clement T.Yu),伊利诺伊大学芝加哥分校,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.4 本书概述

本书的其余部分将专注于大规模元搜索引擎技术。现在简述其余各章。
第2章首先概述一个典型的大规模元搜索引擎的主要部件。这些部件包括搜索引擎选择器、搜索引擎加入器和结果合并器。通过对元搜索引擎和主流搜索引擎两种搜索技术优点和缺点的仔细分析,这一章试图提出充分理由来阐述元搜索引擎技术可以作为主流搜索引擎之外的另一种可行搜索技术。最后,鉴于元搜索引擎构建于Web环境,这一章将对Web环境进行讨论,进而对构建大规模元搜索引擎所面临的挑战给出一些见解。
第3章集中讨论搜索引擎选择器。对任何给定的用户查询,这个部件的目标是在元搜索引擎使用的那些搜索引擎中,确定哪个搜索引擎最有可能返回有用的结果。这一章将解决三个重要的问题:如何代表每个搜索引擎的内容;如何使用代表信息选择搜索引擎;如何生成代表信息。这一章将介绍几种类型的方法但重点讨论使用搜索词的详细统计数据来代表搜索引擎内容的方法。
第4章讨论把搜索引擎加入元搜索引擎所需的技术。将涉及两个主要问题。第一是关于元搜索引擎与其每个成员搜索引擎之间建立通信的问题。基本上,一个元搜索引擎需要把用户查询传给每个成员搜索引擎,根据每个成员搜索引擎格式要求进行必要的查询格式改变,并接收每个成员搜索引擎返回的响应页面。第二个问题是关于从响应页面提取搜索结果记录,每个记录对应于一个检索页面。这一章将介绍几种结果提取技术。
第5章介绍各种搜索结果合并算法。这些算法沿着几个维度涵盖广泛的场景。第一个维度是有关使用每个结果的何种类型信息进行合并,信息种类可从每个结果的本地排序,到每个结果的标题和概览,到每个结果的完整文档。一些合并算法同时使用多种类型的信息。第二个维度是各成员搜索引擎返回查询的文档之间的重叠度,范围可从没有重叠到有一些重叠,到完全相同的文档集。
第6章总结本书主要论述的内容,讨论元搜索引擎技术未来的发展方向,列出一些具有挑战性的有待研究的具体问题。

相关文章
|
机器学习/深度学习 人工智能 算法
阿里公开自研AI集群细节:64个GPU,百万分类训练速度提升4倍
从节点架构到网络架构,再到通信算法,阿里巴巴把自研的高性能AI集群技术细节写成了论文,并对外公布。
阿里公开自研AI集群细节:64个GPU,百万分类训练速度提升4倍
|
5月前
|
人工智能 前端开发 PyTorch
AI加速引擎PAI-TorchAcc:整体介绍与性能概述
PAI-TorchAcc(Torch Accelerator)是阿里云人工智能平台PAI开发的Pytorch上的大模型训练加速框架。PAI-TorchAcc提供了一套基于Pytorch的简洁、易用的接口,无需进行模型转换就可以无缝地接入HuggingFace上的模型,并用多种分布式策略进行训练加速。本文详细介绍PAI-TorchAcc的产品能力与性能。
|
5月前
|
存储 机器学习/深度学习 人工智能
社区供稿 | Yuan2.0千亿大模型在通用服务器上的高效推理实现:以NF8260G7服务器为例
浪潮信息联合Intel在IPF大会上发布了可运行千亿参数大模型的AI通用服务器,首次实现了单机通用服务器,即可运行千亿参数大模型。并在发布现场演示了基于NF8260G7服务器进行yuan2.0-102B模型在代码编写、逻辑推理等高难度问题上的实时推理效果,引起了业界广泛的关注。本文将详细解读yuan2.0-102B模型在NF8260G7服务器上进行高效实时推理的原理和技术路径。
|
自然语言处理 搜索推荐 算法
亿级用户的平台是如何使用词嵌入来建立推荐系统的
亿级用户的平台是如何使用词嵌入来建立推荐系统的
131 0
亿级用户的平台是如何使用词嵌入来建立推荐系统的
|
Web App开发 数据采集 搜索推荐
《大规模元搜索引擎技》——1.3 搜索引擎技术概述
本节书摘来自华章出版社《大数据管理丛书》一书中的第1章,第1.3节,作者 [美]孟卫一(Weiyi Meng), 纽约州立大学, 宾汉姆顿分校於德(Clement T.Yu),伊利诺伊大学芝加哥分校,更多章节内容可以访问云栖社区“华章计算机”公众号查看。
1193 0
|
存储 搜索推荐 大数据
《大规模元搜索引擎技》——1.2 文本检索概述
本节书摘来自华章出版社《大数据管理丛书》一书中的第1章,第1.2节,作者 [美]孟卫一(Weiyi Meng), 纽约州立大学, 宾汉姆顿分校於德(Clement T.Yu),伊利诺伊大学芝加哥分校,更多章节内容可以访问云栖社区“华章计算机”公众号查看。
1716 0
下一篇
无影云桌面