【玩转掘金】掘金专栏文章正生成pdf文档 |Python 主题月

简介: 掘金有在看各位的很多优秀的专栏,我一直在思考,如何把这些专栏的文章内容整合在一起呢?对,生成PDF文件,数据聚合,方便你我她他它。Don't worry! 实现的方法方式都很简单,一共不到200行代码。

前言


掘金有在看各位的很多优秀的专栏,我一直在思考,如何把这些专栏的文章内容整合在一起呢?


对,生成PDF文件,数据聚合,方便你我她他它。


Don't worry!  实现的方法方式都很简单,一共不到200行代码。


源码:JueJinColToPdf

在线预览:我的掘金前端周栏.pdf


效果演示


代码执行


1.JPG


PDF文档效果


2.JPG


基本思路


  1. 收集API信息和关联
  2. 下载专栏数据
  3. 生成html代码 (markdown转html)
  4. 生成pdf文件


收集API信息和关联


数据是一切的根源,所以先分析如何获取掘金专栏数据。


其实三个API就满足需求:


  1. 专栏摘要信息
    作用: 获取专栏的摘要信息,主要是专栏ID和专栏名称
    API地址:api.juejin.cn/content_api…
  2. 专栏文章列表
    作用: 获取专栏文章列表,主要是文章ID,一个中间商罢了。
    API地址:api.juejin.cn/content_api…
  3. 文章详情
    作用: 获取文章详情,主要是文章标题和MarkDown格式的文章内容
    API地址api.juejin.cn/content_api…


整体流程如下:


3.JPG


获取专栏信息


API地址: api.juejin.cn/content_api…


请求参数

QueryString

  1. column_id 专栏ID


数据结构

有用的就是 title字段,生成html和pdf时需要。


{
    column_id:""6979380367216082957" 
    data: {
        "column_version": {
            "title": "前端基础进阶“  // 专栏标题
        }
    }
}
复制代码


获取专栏文章列表


API 地址https://api.juejin.cn/content_api/v1/column/articles_cursor

请求参数


{
    "column_id":"6979380367216082957", // 专栏ID
    "cursor":"0", // 当前下标
    "limit":20, // 一页大小
    "sort":0  // 0 发布事件从近到远,反之从远到近
}  
复制代码


数据结构有用的其实就 artcile_id


{
   "err_no": 0,
   "err_msg": "success",
   "cursor": "2",
   "count": 5,
   "has_more": false,
   "data": [
       {
            "article_id": "6989391487200919566",
             .....................
       }
   ]
}
复制代码


获取文章详情


API地址:

https://api.juejin.cn/content_api/v1/article/detail


请求参数:


{
    "article_id": "6989391487200919566" // 文章ID
}    
复制代码


返回结果:

data属性中的mark_content字段就是markdown语法的原始内容。


{
    "data": {
        "article_id": "6989391487200919566",
        "article_info": {
            "mark_content": "---\ntheme: channing-cyan\nhighlight: a11y-dark\n---\n\n\n## 前言\n\n本文收录在 **[前端基础进阶](https://juejin.cn/column/6979380367216082957)** 专栏"
        }
    },
    "err_no": 0,
    "err_msg": "success",
}
复制代码


下载专栏数据


我们选择Python里面比较有名的requests库,虽然不支持异步,不过问题不大。

基本顺序:


  1. 下载专栏信息
  2. 下载专栏文章列表信息
  3. 下载单篇文章信息


注意点:


  1. 我们会按照专栏ID创建文件夹,把下载下来的JSON格式的文件都放到下面
    至于为什么? 21世纪什么最重要, 数据!!

有了数据,你可以自己生成网页,做成word, pdf,亦或其他,无线的选择。

本着本文为Python类别,还是贴一段主流程代码: 更多细节查看源码 JueJinColToPdf


def downloadColumn(cid):
    column = getColumn(cid);
    print("获取专栏信息成功,专栏名称:", column["data"]["column_version"]["title"]);
    saveColumn(cid, json.dumps(column["data"]))
    articleList = getArticleList(cid)
    saveArticleList(cid, json.dumps(articleList["data"]))
    articleIds = list(map(lambda item: item["article_id"], articleList["data"]))
    print("获取专栏文章列表成功:", articleIds)
    for artId in articleIds:
        artContent = getArticleContent(artId)
        saveArticleContent(cid, artId, json.dumps(artContent["data"]))
        print("文章ID为 %s 的文章下载完毕" % artId)
复制代码


生成Html代码


直接说一些问题


如何把markdown格式转为html代码


巨人的肩上markdown


html += markdown.markdown(
         removeScheme(article["article_info"]["mark_content"]), extensions=extensions)
复制代码


如何高亮代码


Pygments库,


pygmentize -S default -f html -a .codehilite > code.css
复制代码


然后设置一个markdown库的extensions


extensions = [  # 根据不同教程加上的扩展
    'markdown.extensions.extra',
    'markdown.extensions.codehilite',  # 代码高亮扩展
    'markdown.extensions.toc',
    'markdown.extensions.tables',
    'markdown.extensions.fenced_code',
]
 html += markdown.markdown(
            removeScheme(article["article_info"]["mark_content"]), extensions=extensions)
复制代码


去掉掘金主题和代码风格


如果你选择了主题或者代码高亮,markdown头部会多出如下的内容。


---
theme: github
highlight: a11y-light
---
复制代码


方案:正则替换或者字符串截取


如何自定义样式


新建一个 extend.css


* {
    font-size: 30px;  // 默认字体
}
img{
    display: block;  
    min-width: 50%; // 图片至少50%
}
复制代码


如何生成一个大的html文件


  1. 创建一个html文件,
  2. core.cssextend.css文件写入html的style标签里面
  3. 写入头部的html,
  4. 写入markdown转换后的html,
  5. 最后写入尾部的html。


如果文章太多,怎么办


以一定文章数量分割,比如20篇

以一定文字数量分割,比如5万字

在笔者的代码中是未实现的,不过问题不大,我之前有用html生成400多页的pdf也妥妥的。


转为pdf文件


借助 wkhtmltopdf.exe, 这款神奇可以把网络地址或者本地html文件直接转换成为pdf文件。


最重要的是其完美的支持目录。


从官方下载安装,然后配置一下环境变量就可以,代码嘛就下面这点。


def genPdf(title):
    # TODO:: 需要配置全局路径
    exePath = "wkhtmltopdf.exe"
    sourcePath = "./htmls/%s.html" % title
    targetPath = "./pdfs/%s.pdf" % title
    cmd = '"%s" --outline-depth 2 --footer-center [page] "%s" "%s"' % (
        exePath, sourcePath, targetPath)
    print(cmd)
    subprocess.call(cmd)
复制代码


写在最后


写作不易,你的一赞一评,就是我最大的动力。



相关文章
|
1月前
|
Python
Python 压缩PDF减小文件大小
【8月更文挑战第6天】介绍了三种用Python压缩PDF文件的方法:1) 使用`pdfcompressor`库,安装后可通过简单命令压缩文件;2) 利用`PyPDF2`库,需手动设置压缩参数;3) 采用`pdfsizeopt`库,一键优化PDF大小。各方法均提供示例代码,便于快速实现文件压缩。
127 0
|
22天前
|
Python
揭秘Python编程核心:一篇文章带你深入掌握for循环与while循环的奥秘!
【8月更文挑战第21天】Python中的循环结构——for循环与while循环,是编程的基础。for循环擅长遍历序列或集合中的元素,如列表或字符串;而while循环则在未知循环次数时特别有用,基于某个条件持续执行。本文通过实例展示两种循环的应用场景,比如用for循环计算数字平方和用while循环计算阶乘。此外,还通过案例分析比较了两者在处理用户输入任务时的不同优势,强调了根据实际需求选择合适循环的重要性。
34 0
|
21天前
|
JSON 测试技术 API
Python开发解析Swagger文档小工具
文章介绍了如何使用Python开发一个解析Swagger文档的小工具,该工具可以生成符合httprunner测试框架的json/yaml测试用例,同时还能输出Excel文件,以方便测试人员根据不同需求使用。文章提供了详细的开发步骤、环境配置和使用示例,并鼓励读者为该开源项目贡献代码和建议。
21 1
Python开发解析Swagger文档小工具
|
1月前
|
Linux Python Windows
Python PDF文件转Word格式,只需要3秒(附打包)
Python PDF文件转Word格式,只需要3秒(附打包)
46 3
Python PDF文件转Word格式,只需要3秒(附打包)
|
13天前
|
XML JSON 数据安全/隐私保护
PyMuPDF,Python处理PDF的宝藏库
PyMuPDF,Python处理PDF的宝藏库
|
14天前
|
数据安全/隐私保护 Python Windows
三种方法,Python轻松提取PDF中全部图片
三种方法,Python轻松提取PDF中全部图片
|
29天前
|
Python
Python——批量将PDF文件转为图片
Python——批量将PDF文件转为图片
26 2
|
29天前
|
Python
Python——将PPT和Word转为PDF文件
Python——将PPT和Word转为PDF文件
32 1
|
30天前
|
前端开发 数据安全/隐私保护 Python
Python 图文:小白也能轻松生成精美 PDF 报告!
Python 图文:小白也能轻松生成精美 PDF 报告!
54 1
|
11天前
|
C# 开发者 Windows
WPF与PDF文档:解锁创建和编辑PDF文件的新技能——从环境配置到代码实践,手把手教你如何在WPF应用中高效处理PDF,提升文档管理效率
【8月更文挑战第31天】随着数字文档的普及,PDF因跨平台兼容性和高保真度成为重要格式。WPF虽不直接支持PDF处理,但借助第三方库(如iTextSharp)可在WPF应用中实现PDF的创建与编辑。本文通过具体案例和示例代码,详细介绍了如何在WPF中集成PDF库,并展示了从设计用户界面到实现PDF创建与编辑的完整流程。不仅包括创建新文档的基本步骤,还涉及在现有PDF中添加页眉页脚等高级功能。通过这些示例,WPF开发者可以更好地掌握PDF处理技术,提升应用程序的功能性和实用性。
26 0