从零开发一款自动提取网页html并一键转换为md文件的工具(vue源码版)

简介: 最近几年涌现出了很多技术博客和技术社区, 也有很多技术同仁开始打造自己的博客, 我们可以把自己的博客同步到不同的技术平台, 但是随着技术平台的增多, 我们文章同步所花费的时间会越来越多, 那么有没有一个工具能快速的将博客发布到不同的平台呢? 或者有没有一个工具, 可以把html直接转化为技术平台能够识别的“语言”直接发布呢?我们都知道程序员最爱的写博客的“语言”就是makedown, 并且目前大部分的技术社区都支持makedown语法, 所以说只要有makedown, 我们就能快速的同步到不同的技术平台.

网络异常,图片无法展示
|


最近几年涌现出了很多技术博客和技术社区, 也有很多技术同仁开始打造自己的博客, 我们可以把自己的博客同步到不同的技术平台, 但是随着技术平台的增多, 我们文章同步所花费的时间会越来越多, 那么有没有一个工具能快速的将博客发布到不同的平台呢? 或者有没有一个工具, 可以把html直接转化为技术平台能够识别的“语言”直接发布呢?

我们都知道程序员最爱的写博客的“语言”就是makedown, 并且目前大部分的技术社区都支持makedown语法, 所以说只要有makedown, 我们就能快速的同步到不同的技术平台.


也许有人会说, 我们写博客直接用makedown语法写不就好了? 的确这样做可以满足需求, 但缺点就是我们本地必须要保存一份makedown文件, 如果博客内容涉及到图片, 我们还需要维护一个img目录, 这样每次在不同技术社区发布文章还是会很麻烦, 所以综上我们开发了一款自动爬取html内容并一键转换为makedown的工具, 这样我们就可以“肆无忌惮的”发布博客了.


你将收获



  • turndown的使用技巧
  • vue + nuxt项目开发方式
  • nodejs爬虫相关应用


github地址笔者将在文末附上, 感兴趣的朋友可以一起共建, 学习和探索.


效果演示



网络异常,图片无法展示
|


客户端


思路


先理一下思路:


  • 输入一个链接地址
  • 获取服务端返回的 html
  • html 串 转换为 md
  • 同步显示预览到编辑器中


网络异常,图片无法展示
|


为什么选择 turndown


客户端最重要的一步是 htmlmd,这里我们使用的 turndown


为什么使用 turndown 呢,原因如下:


  • Talk is cheap, Show me the code. 做技术文章很关键的一个功能是 代码块,没有代码的文章是没有灵魂的。比较过几个 html2md 插件,turndown 的代码块显示效果和兼容性最好。
  • turndown 也支持自定义规则,灵活可变,可自定义各种语法标签和匹配规则。
  • turndown 还支持第三方插件 turndown-plugin-gfm,支持集成 GFMMD 的超集 GitHub Flavored Markdown)、tablestrikethrough等语法。


具体实现


// 引入第三方插件import { gfm, tables, strikethrough } from'turndown-plugin-gfm'constturndownService=newTurndownService({ codeBlockStyle: 'fenced' })
// Use the gfm pluginturndownService.use(gfm)
// Use the table and strikethrough plugins onlyturndownService.use([tables, strikethrough])
/**   * 自定义配置(rule名不能重复)   * 这里我们指定 `pre` 标签为代码块,并在代码块的前后加个换行,防止显示异常   */turndownService.addRule('pre2Code', {
filter: ['pre'],
replacement (content) {
return'```\n'+content+'\n```'    }
  })

额外功能


支持自动获取链接文章标题,无需手动去原文复制。


服务端



这里我们使用的服务端是 node.js,用前端的框架写服务端,体验杠杠的。


思路


先理一下思路:


  • 获取前端传递的链接地址
  • 通过请求获取 html
  • 根据不同平台域名获取不同的 dom
  • 转换图片和链接的相对路径为绝对路径
  • html 底部添加转载来源声明
  • 获取文章的标题 title
  • 返回 titlehtml 给前端


网络异常,图片无法展示
|


具体实现



  1. 获取前端传递的链接地址


这里直接使用 node 的自带语法,我们采用的是 get 形式传递,用 query 即可


constqUrl=req.query.url

通过请求获取 html


这里我们是用 request 进行请求

request({
url: qUrl }, (error, response, body) => {
if (error) {
res.status(404).send('Url Error')
return   }
// 这里的 body 就是文章的 `html`console.log(body)
 })

根据不同平台域名获取不同的 dom


由于技术平台众多,每个平台的文章内容标签、样式名或 id 会有差异,需要针对兼容。

首先先用 js-dom 去模拟操作 dom,封装一个方法

/**  * 获取准确的文章内容  * @param {string} html html串  * @param {string} selector css选择器  * @return {string} htmlContent  */constgetDom= (html, selector) => {
constdom=newJSDOM(html)
consthtmlContent=dom.window.document.querySelector(selector)
returnhtmlContent }

兼容不同的平台,应用不同的 css 选择器

// 比如掘金,内容块的样式名为 .markdown-body,内容里会有 style 标签样式和一些多余的文字,通过原生 dom 操作删掉if (qUrl.includes('juejin.cn')) {
consthtmlContent=getBySelector('.markdown-body')
constextraDom=htmlContent.querySelector('style')
constextraDomArr=htmlContent.querySelectorAll('.copy-code-btn')
extraDom&&extraDom.remove()
extraDomArr.length>0&&extraDomArr.forEach((v) => { v.remove() })
returnhtmlContent }
// 再比如 oschina,内容块的样式名为 .article-detail,内容里会有多余的 .ad-wrap 内容,照样删掉if (qUrl.includes('oschina.net')) {
consthtmlContent=getBySelector('.article-detail')
constextraDom=htmlContent.querySelector('.ad-wrap')
extraDom&&extraDom.remove()
returnhtmlContent }
// 最后匹配通用标签。优先适配 article 标签,没有再用 body 标签consthtmlArticle=getBySelector('article')
if (htmlArticle) { returnhtmlArticle }
consthtmlBody=getBySelector('body')
if (htmlBody) { returnhtmlBody }

转换图片和链接的相对路径为绝对路径,方便以后查找源路径

// 通过原生api - URL 获取链接的源域名constqOrigin=newURL(qUrl).origin||''// 获取图片、链接的绝对路径。通过 URL 将 `路径+源域名` 转换为绝对路径,不熟悉的同学请自行了解constgetAbsoluteUrl=p=>newURL(p, qOrigin).href// 转换图片、链接的相对路径,不同平台的图片懒加载属性名不一样,需要做特定兼容constchangeRelativeUrl= (dom) => {
if (!dom) { return'<div>内容出错~</div>' }
constcopyDom=dom// 获取所有图片constimgs=copyDom.querySelectorAll('img')
// 获取所有链接constlinks=copyDom.querySelectorAll('a')
// 替换完所有路径返回新 domimgs.length>0&&imgs.forEach((v) => {
/**     * 处理懒加载路径     * 简书:data-original-src     * 掘金:data-src     * segmentfault:data-src     */constsrc=v.src||v.getAttribute('data-src') ||v.getAttribute('data-original-src') ||''v.src=getAbsoluteUrl(src)
   })
links.length>0&&links.forEach((v) => {
consthref=v.href||qUrlv.href=getAbsoluteUrl(href)
   })
returncopyDom }
// 在获取不同平台的文章内容 getBody 方法里,应用 changeRelativeUrl 方法constgetBody= (content) => {
......returnchangeRelativeUrl(htmlContent)
 }

底部添加转载来源声明,以防侵权


这个就不多做解释了,很简单。

// 底部添加转载来源声明constaddOriginText= (dom) => {
consthtml=dom.innerHTMLconstresHtml=html+`<br/><div>本文转自 <a href="${qUrl}" target="_blank">${qUrl}</a>,如有侵权,请联系删除。</div>`returnresHtml }
// 在获取不同平台的文章内容 getBody 方法里,应用 addOriginText 方法constgetBody= (content) => {
......returnaddOriginText(changeRelativeUrl(htmlContent))
 }

获取文章的标题 title

// 获取文章的 titleconstgetTitle= (content) => {
consttitle=getDom(content, 'title')
if (title) { returntitle.textContent }
return'获取标题失败~' }

返回 titlehtml 给前端

request({
url: qUrl,
headers: {}
 }, (error, response, body) => {
if (error) {
res.status(404).send('Url Error')
return   }
// 设置 json 响应类型res.type('text/json')
constjson= {
code: 1,
title: getTitle(body),
html: getBody(body)
   }
res.status(200).send(json)
 })

实际应用


这个开源工具的应用场景非常广泛, 我们几乎可以将任何网页链接转换为md内容, 同步到自己的博客或者内容管理平台, 但是大家需要有版权意识, 做一个遵纪守法的好“网民”.


支持环境


现代浏览器及 IE11。


网络异常,图片无法展示
|

IE / Edge
网络异常,图片无法展示
|

Firefox
网络异常,图片无法展示
|

Chrome
网络异常,图片无法展示
|

Safari
网络异常,图片无法展示
|

Opera
IE11, Edge last 2 versions last 2 versions last 2 versions last 2 versions


目录
相关文章
|
11月前
|
缓存 JavaScript 前端开发
Vue 项目中动态添加 HTML 元素的方法与实践
本文探讨了 Vue 中动态添加 HTML 元素的多种技术方案,包括条件渲染(v-if/v-show)、动态组件(component :is)、手动挂载($mount)及 Vuex 状态管理等方法。通过实例分析,如动态表单生成器与全局模态框服务,展示了这些方案在实际开发中的应用。同时提供了性能优化建议和注意事项,帮助开发者根据需求选择最佳方式,在保持 Vue 响应式特性的同时实现灵活交互。附带代码示例,便于理解和实践。
383 2
|
11月前
|
JavaScript 前端开发 开发者
Vue 动态添加 HTML 元素组件封装使用方法及长尾关键词优化指南
本文详细介绍了Vue中动态添加HTML元素的多种方法与组件封装技巧,涵盖条件渲染(v-if/v-show)、列表渲染(v-for)、动态组件(:is)、手动DOM操作及动态创建组件实例等内容。同时提供了性能优化建议,如批量更新DOM、使用v-show代替v-if以及懒加载大型组件等。通过合理封装组件,可提高代码复用性和维护性。文中还附有具体示例代码,帮助开发者更好地理解和应用相关技术。适用于前端开发人员学习和实践Vue动态元素处理与组件设计。
261 19
|
11月前
|
JavaScript 前端开发 开发者
Vue 动态添加 HTML 元素组件封装使用方法及长尾关键词优化指南
本文详细介绍了Vue中动态添加HTML元素的使用方法与组件封装技巧。内容涵盖条件渲染(v-if/v-show)、列表渲染(v-for)、动态组件(:is)、手动操作DOM及动态创建组件实例等核心方法。同时,通过动态表单、弹窗组件和动态加载组件的封装示例,展示如何提升代码复用性和可维护性。最后,总结性能优化策略与注意事项,如批量更新DOM、懒加载大型组件及避免直接操作DOM等,帮助开发者在实际项目中灵活应用Vue动态元素管理功能。
320 15
|
移动开发 前端开发 JavaScript
HTML5实现好看的劳动节网页源码
HTML5实现好看的劳动节网页源码,劳动节网页,劳动节网页源码,内置十个页面,各种模板都有,可以根据这些页面扩展更多页面,网页由网站首页、劳动节介绍、劳动节由来、劳动节习俗、劳动节文化、劳动节活动、劳动节故事、劳动节民谣、联系我们、登录/注册等页面组成,兼容手机端,页面干净整洁,内容丰富,可以扩展自己想要的,注释完整,代码规范,各种风格都有,代码上手简单,代码独立,可以直接运行使用。也可直接预览效果。
383 4
|
JSON 自然语言处理 前端开发
【01】对APP进行语言包功能开发-APP自动识别地区ip后分配对应的语言功能复杂吗?-成熟app项目语言包功能定制开发-前端以uniapp-基于vue.js后端以laravel基于php为例项目实战-优雅草卓伊凡
【01】对APP进行语言包功能开发-APP自动识别地区ip后分配对应的语言功能复杂吗?-成熟app项目语言包功能定制开发-前端以uniapp-基于vue.js后端以laravel基于php为例项目实战-优雅草卓伊凡
682 72
【01】对APP进行语言包功能开发-APP自动识别地区ip后分配对应的语言功能复杂吗?-成熟app项目语言包功能定制开发-前端以uniapp-基于vue.js后端以laravel基于php为例项目实战-优雅草卓伊凡
|
移动开发 HTML5
HTML5实现好看的中秋节网页源码
HTML5实现好看的中秋节网页源码,中秋节网页,中秋节网页源码,节日网页大作业,作业源码,内置十个页面,各种模板都有,可以根据这些页面扩展更多页面,网页由网站首页、中秋节介绍、中秋节由来、中秋节习俗、中秋节文化、中秋节美食、中秋节故事、中秋节民谣、联系我们、登录/注册等页面组成,兼容手机端,页面干净整洁,内容丰富,可以扩展自己想要的,注释完整,代码规范,各种风格都有,代码上手简单,代码独立,可以直接运行使用。也可直接预览效果。
511 0
HTML5实现好看的中秋节网页源码
|
移动开发 前端开发 JavaScript
HTML5实现好看的端午节网页源码
HTML5实现好看的端午节网页源码,包含十个页面:网站首页、端午节介绍、由来、习俗、文化、美食、故事、民谣、联系我们及登录/注册。页面设计简洁美观,内容丰富,兼容手机端,代码规范且注释完整,易于扩展和修改。提供完整的源码下载和视频演示,方便学习和使用。
357 3
|
存储 移动开发 JavaScript
网页 HTML 自动播放下一首音乐
在 HTML5 中实现自动播放下一首音乐,通过管理音乐列表、操作音频元素和监听事件完成。创建包含多个音乐链接的列表,使用 `&lt;audio&gt;` 元素加载音乐,监听 `ended` 事件,在当前音乐结束时自动播放下一首。示例代码展示了如何使用 JavaScript 实现这一功能,确保无缝切换音乐。
|
前端开发 JavaScript Java
HTML转换成PDF,这样就搞定了!
哈喽,今天是一篇HTML to PDF速食指南。 Java 转换 HTML 到PDF有许多类库,今天我们介绍一下第三方免费的类库OpenPDF。
HTML转换成PDF,这样就搞定了!
|
10月前
|
存储 前端开发 JavaScript
仿真银行app下载安装, 银行卡虚拟余额制作app,用html+css+js实现逼真娱乐工具
这是一个简单的银行账户模拟器项目,用于学习前端开发基础。用户可进行存款、取款操作,所有数据存储于浏览器内存中

热门文章

最新文章

下一篇
开通oss服务