最近几年涌现出了很多技术博客和技术社区, 也有很多技术同仁开始打造自己的博客, 我们可以把自己的博客同步到不同的技术平台, 但是随着技术平台的增多, 我们文章同步所花费的时间会越来越多, 那么有没有一个工具能快速的将博客发布到不同的平台呢? 或者有没有一个工具, 可以把html
直接转化为技术平台能够识别的“语言”直接发布呢?
我们都知道程序员最爱的写博客的“语言”就是makedown
, 并且目前大部分的技术社区都支持makedown
语法, 所以说只要有makedown
, 我们就能快速的同步到不同的技术平台.
也许有人会说, 我们写博客直接用makedown
语法写不就好了? 的确这样做可以满足需求, 但缺点就是我们本地必须要保存一份makedown
文件, 如果博客内容涉及到图片, 我们还需要维护一个img
目录, 这样每次在不同技术社区发布文章还是会很麻烦, 所以综上我们开发了一款自动爬取html内容并一键转换为makedown
的工具, 这样我们就可以“肆无忌惮的”发布博客了.
你将收获
turndown
的使用技巧vue + nuxt
项目开发方式nodejs
爬虫相关应用
github
地址笔者将在文末附上, 感兴趣的朋友可以一起共建, 学习和探索.
效果演示
客户端
思路
先理一下思路:
- 输入一个链接地址
- 获取服务端返回的
html
串 - 将
html
串 转换为md
串 - 同步显示预览到编辑器中
为什么选择 turndown
客户端最重要的一步是 html
转 md
,这里我们使用的 turndown。
为什么使用 turndown
呢,原因如下:
- Talk is cheap, Show me the code. 做技术文章很关键的一个功能是
代码块
,没有代码的文章是没有灵魂的。比较过几个html2md
插件,turndown
的代码块显示效果和兼容性最好。 turndown
也支持自定义规则,灵活可变,可自定义各种语法标签和匹配规则。turndown
还支持第三方插件turndown-plugin-gfm
,支持集成GFM
(MD
的超集GitHub Flavored Markdown
)、table
、strikethrough
等语法。
具体实现
// 引入第三方插件import { gfm, tables, strikethrough } from'turndown-plugin-gfm'constturndownService=newTurndownService({ codeBlockStyle: 'fenced' }) // Use the gfm pluginturndownService.use(gfm) // Use the table and strikethrough plugins onlyturndownService.use([tables, strikethrough]) /** * 自定义配置(rule名不能重复) * 这里我们指定 `pre` 标签为代码块,并在代码块的前后加个换行,防止显示异常 */turndownService.addRule('pre2Code', { filter: ['pre'], replacement (content) { return'```\n'+content+'\n```' } })
额外功能
支持自动获取链接文章标题,无需手动去原文复制。
服务端
这里我们使用的服务端是 node.js
,用前端的框架写服务端,体验杠杠的。
思路
先理一下思路:
- 获取前端传递的链接地址
- 通过请求获取
html
串 - 根据不同平台域名获取不同的
dom
- 转换图片和链接的相对路径为绝对路径
html
底部添加转载来源声明- 获取文章的标题
title
- 返回
title
和html
给前端
具体实现
- 获取前端传递的链接地址
这里直接使用 node
的自带语法,我们采用的是 get
形式传递,用 query
即可
constqUrl=req.query.url
通过请求获取 html
串
这里我们是用 request
进行请求
request({ url: qUrl }, (error, response, body) => { if (error) { res.status(404).send('Url Error') return } // 这里的 body 就是文章的 `html`console.log(body) })
根据不同平台域名获取不同的 dom
由于技术平台众多,每个平台的文章内容标签、样式名或 id 会有差异,需要针对兼容。
首先先用 js-dom
去模拟操作 dom
,封装一个方法
/** * 获取准确的文章内容 * @param {string} html html串 * @param {string} selector css选择器 * @return {string} htmlContent */constgetDom= (html, selector) => { constdom=newJSDOM(html) consthtmlContent=dom.window.document.querySelector(selector) returnhtmlContent }
兼容不同的平台,应用不同的 css 选择器
// 比如掘金,内容块的样式名为 .markdown-body,内容里会有 style 标签样式和一些多余的文字,通过原生 dom 操作删掉if (qUrl.includes('juejin.cn')) { consthtmlContent=getBySelector('.markdown-body') constextraDom=htmlContent.querySelector('style') constextraDomArr=htmlContent.querySelectorAll('.copy-code-btn') extraDom&&extraDom.remove() extraDomArr.length>0&&extraDomArr.forEach((v) => { v.remove() }) returnhtmlContent } // 再比如 oschina,内容块的样式名为 .article-detail,内容里会有多余的 .ad-wrap 内容,照样删掉if (qUrl.includes('oschina.net')) { consthtmlContent=getBySelector('.article-detail') constextraDom=htmlContent.querySelector('.ad-wrap') extraDom&&extraDom.remove() returnhtmlContent } // 最后匹配通用标签。优先适配 article 标签,没有再用 body 标签consthtmlArticle=getBySelector('article') if (htmlArticle) { returnhtmlArticle } consthtmlBody=getBySelector('body') if (htmlBody) { returnhtmlBody }
转换图片和链接的相对路径为绝对路径,方便以后查找源路径
// 通过原生api - URL 获取链接的源域名constqOrigin=newURL(qUrl).origin||''// 获取图片、链接的绝对路径。通过 URL 将 `路径+源域名` 转换为绝对路径,不熟悉的同学请自行了解constgetAbsoluteUrl=p=>newURL(p, qOrigin).href// 转换图片、链接的相对路径,不同平台的图片懒加载属性名不一样,需要做特定兼容constchangeRelativeUrl= (dom) => { if (!dom) { return'<div>内容出错~</div>' } constcopyDom=dom// 获取所有图片constimgs=copyDom.querySelectorAll('img') // 获取所有链接constlinks=copyDom.querySelectorAll('a') // 替换完所有路径返回新 domimgs.length>0&&imgs.forEach((v) => { /** * 处理懒加载路径 * 简书:data-original-src * 掘金:data-src * segmentfault:data-src */constsrc=v.src||v.getAttribute('data-src') ||v.getAttribute('data-original-src') ||''v.src=getAbsoluteUrl(src) }) links.length>0&&links.forEach((v) => { consthref=v.href||qUrlv.href=getAbsoluteUrl(href) }) returncopyDom } // 在获取不同平台的文章内容 getBody 方法里,应用 changeRelativeUrl 方法constgetBody= (content) => { returnchangeRelativeUrl(htmlContent) }
底部添加转载来源声明,以防侵权
这个就不多做解释了,很简单。
// 底部添加转载来源声明constaddOriginText= (dom) => { consthtml=dom.innerHTMLconstresHtml=html+`<br/><div>本文转自 <a href="${qUrl}" target="_blank">${qUrl}</a>,如有侵权,请联系删除。</div>`returnresHtml } // 在获取不同平台的文章内容 getBody 方法里,应用 addOriginText 方法constgetBody= (content) => { returnaddOriginText(changeRelativeUrl(htmlContent)) }
获取文章的标题 title
// 获取文章的 titleconstgetTitle= (content) => { consttitle=getDom(content, 'title') if (title) { returntitle.textContent } return'获取标题失败~' }
返回 title
和 html
给前端
request({ url: qUrl, headers: {} }, (error, response, body) => { if (error) { res.status(404).send('Url Error') return } // 设置 json 响应类型res.type('text/json') constjson= { code: 1, title: getTitle(body), html: getBody(body) } res.status(200).send(json) })
实际应用
这个开源工具的应用场景非常广泛, 我们几乎可以将任何网页链接转换为md
内容, 同步到自己的博客或者内容管理平台, 但是大家需要有版权意识, 做一个遵纪守法的好“网民”.
支持环境
现代浏览器及 IE11。
网络异常,图片无法展示
|
IE / Edge |
网络异常,图片无法展示
|
Firefox |
网络异常,图片无法展示
|
Chrome |
网络异常,图片无法展示
|
Safari |
网络异常,图片无法展示
|
Opera |
IE11, Edge | last 2 versions | last 2 versions | last 2 versions | last 2 versions |