使用 PostgreSQL 和 Python 实现全文搜索

简介: 【10月更文挑战第2天】使用 PostgreSQL 和 Python 实现全文搜索

引言

在当今互联网时代,搜索引擎已经成为人们获取信息的主要途径之一。而在企业级应用中,高效而精准的搜索功能也是提升用户体验的关键因素之一。PostgreSQL 作为一个强大的关系型数据库管理系统,不仅提供了传统的 SQL 查询功能,还支持全文搜索功能,使得在数据库内部进行高效文本检索成为可能。本文将介绍如何使用 PostgreSQL 的全文搜索功能,并结合 Python 来实现一个简单的全文搜索应用。

环境准备

为了进行全文搜索功能的开发,我们需要准备以下环境:

  1. PostgreSQL 数据库:确保你已经安装了 PostgreSQL 数据库服务器,并且拥有创建数据库及表的权限。
  2. Python 开发环境:安装 Python 及其相关库,如 psycopg2,用于连接 PostgreSQL 数据库。

创建数据库和表

首先,我们需要在 PostgreSQL 中创建一个数据库,并在其中创建一个表来存储文章数据。

CREATE DATABASE search_db;

\c search_db

CREATE TABLE articles (
    id SERIAL PRIMARY KEY,
    title TEXT NOT NULL,
    content TEXT NOT NULL
);

插入示例数据

为了让全文搜索功能更加直观,我们向表中插入一些示例数据:

INSERT INTO articles (title, content) VALUES
('PostgreSQL 全文搜索', 'PostgreSQL 支持全文搜索,这是一种高效检索文本的方法。'),
('Python 教程', 'Python 是一种广泛使用的高级编程语言,以其代码的清晰性和简洁性著称。'),
('SQL 基础', 'SQL 是一种用于管理关系型数据库的标准语言,它提供了创建、查询和维护数据库的功能。');

使用全文索引

为了加速全文搜索的速度,我们可以为 content 字段创建一个全文索引:

CREATE INDEX idx_fts_content ON articles USING gin(to_tsvector('english', content));

这里使用了 to_tsvector 函数将 content 转换为一个文本向量,并使用 gin 索引来存储这些向量。

实现全文搜索

接下来,我们可以在 Python 中编写代码来查询数据库中的全文索引:

import psycopg2
from psycopg2.extras import register_hstore

conn = psycopg2.connect(database="search_db", user="your_username", password="your_password", host="localhost", port="5432")
register_hstore(conn)
cursor = conn.cursor()

query = "SELECT * FROM articles WHERE to_tsvector('english', content) @@ to_tsquery('english', %s);"
keyword = "全文搜索"

cursor.execute(query, (keyword,))
rows = cursor.fetchall()

for row in rows:
    print(row)

cursor.close()
conn.close()

这段代码首先连接到了 PostgreSQL 数据库,并使用 to_tsvectorto_tsquery 函数来匹配包含关键词 "全文搜索" 的记录。

提高搜索质量

为了提高搜索结果的相关性,PostgreSQL 还提供了配置权重的能力,可以根据文本的不同位置赋予不同的权重。例如,标题中的关键词比正文中的更具有代表性,因此可以给予更高的权重:

SELECT * FROM articles 
WHERE to_tsvector('english', title) @@ to_tsquery('english', 'Python') 
OR to_tsvector('english', content) @@ to_tsquery('english', 'Python');

结论

通过本文,我们学习了如何在 PostgreSQL 中实现全文搜索功能,并且通过 Python 脚本来执行全文搜索查询。全文搜索不仅能够提高用户的搜索体验,还能为开发人员提供一个强大而灵活的工具来处理文本数据。未来还可以进一步优化搜索逻辑,比如使用自定义词典、同义词替换等高级特性来进一步增强搜索能力。

目录
相关文章
|
24天前
|
弹性计算 人工智能 架构师
阿里云携手Altair共拓云上工业仿真新机遇
2024年9月12日,「2024 Altair 技术大会杭州站」成功召开,阿里云弹性计算产品运营与生态负责人何川,与Altair中国技术总监赵阳在会上联合发布了最新的“云上CAE一体机”。
阿里云携手Altair共拓云上工业仿真新机遇
|
17天前
|
存储 关系型数据库 分布式数据库
GraphRAG:基于PolarDB+通义千问+LangChain的知识图谱+大模型最佳实践
本文介绍了如何使用PolarDB、通义千问和LangChain搭建GraphRAG系统,结合知识图谱和向量检索提升问答质量。通过实例展示了单独使用向量检索和图检索的局限性,并通过图+向量联合搜索增强了问答准确性。PolarDB支持AGE图引擎和pgvector插件,实现图数据和向量数据的统一存储与检索,提升了RAG系统的性能和效果。
|
4天前
|
JSON 自然语言处理 数据管理
阿里云百炼产品月刊【2024年9月】
阿里云百炼产品月刊【2024年9月】,涵盖本月产品和功能发布、活动,应用实践等内容,帮助您快速了解阿里云百炼产品的最新动态。
阿里云百炼产品月刊【2024年9月】
|
1天前
|
人工智能 Rust Java
10月更文挑战赛火热启动,坚持热爱坚持创作!
开发者社区10月更文挑战,寻找热爱技术内容创作的你,欢迎来创作!
219 12
|
19天前
|
人工智能 IDE 程序员
期盼已久!通义灵码 AI 程序员开启邀测,全流程开发仅用几分钟
在云栖大会上,阿里云云原生应用平台负责人丁宇宣布,「通义灵码」完成全面升级,并正式发布 AI 程序员。
|
21天前
|
机器学习/深度学习 算法 大数据
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
2024“华为杯”数学建模竞赛,对ABCDEF每个题进行详细的分析,涵盖风电场功率优化、WLAN网络吞吐量、磁性元件损耗建模、地理环境问题、高速公路应急车道启用和X射线脉冲星建模等多领域问题,解析了问题类型、专业和技能的需要。
2578 22
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
|
3天前
|
存储 人工智能 搜索推荐
数据治理,是时候打破刻板印象了
瓴羊智能数据建设与治理产品Datapin全面升级,可演进扩展的数据架构体系为企业数据治理预留发展空间,推出敏捷版用以解决企业数据量不大但需构建数据的场景问题,基于大模型打造的DataAgent更是为企业用好数据资产提供了便利。
168 2
|
1天前
|
编译器 C#
C#多态概述:通过继承实现的不同对象调用相同的方法,表现出不同的行为
C#多态概述:通过继承实现的不同对象调用相同的方法,表现出不同的行为
101 65
|
21天前
|
机器学习/深度学习 算法 数据可视化
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
2024年中国研究生数学建模竞赛C题聚焦磁性元件磁芯损耗建模。题目背景介绍了电能变换技术的发展与应用,强调磁性元件在功率变换器中的重要性。磁芯损耗受多种因素影响,现有模型难以精确预测。题目要求通过数据分析建立高精度磁芯损耗模型。具体任务包括励磁波形分类、修正斯坦麦茨方程、分析影响因素、构建预测模型及优化设计条件。涉及数据预处理、特征提取、机器学习及优化算法等技术。适合电气、材料、计算机等多个专业学生参与。
1578 16
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
|
4天前
|
Linux 虚拟化 开发者
一键将CentOs的yum源更换为国内阿里yum源
一键将CentOs的yum源更换为国内阿里yum源
251 2