《懒人Shell脚本》之三——微博分类信息获取与格式化

简介: 1、需求:获取微博网站ctg1_4188#”>http://d.weibo.com/102803_ctg1_4188-_ctg1_4188# 社会类媒体的名称信息。构造成json格式,用于echart格式化显示。

image.png

2、分析&实现步骤

第一步:截获

地址:

http://d.weibo.com/?topnav=1&mod=logo&wvr=6image.png

获取关键名称及链接(下面5行代码非原创,效率非常高):


var selector='.WB_info';

var a=document.querySelectorAll(selector+' a');

for(var i =0; i < a.length; i++){

console.log(a[i].href+" "+a[i].innerText);

}

1

2

3

4

5

如下:


VM7557:5 http://weibo.com/rmwfjpd?refer_flag=1028035010_ 人民网福建频道

VM7557:5 http://company.verified.weibo.com/verify/orgapply

VM7557:5 http://sports.weibo.com/olympics2016

VM7557:5 http://weibo.com/thepapernewsapp?refer_flag=1028035010_ 澎湃新闻

VM7557:5 http://company.verified.weibo.com/verify/orgapply

VM7557:5 http://vip.weibo.com/personal?from=main

VM7557:5 http://weibo.com/globaltimes?refer_flag=1028035010_ 环球网

1

2

3

4

5

6

7

上述信息存入:shehui.txt中。


第二步:取上述文件第3列值,存入文件shehui.info.

[root@laoyang process]# awk {'print $3'} shehui.txt | sort -n | uniq > shehui.info

1

第三步:逐行读取,构造json文件。

[root@laoyang process]# cat readProc.sh

#!/bin/sh


cat /dev/null > format.json

dos2unix shehui.info      #格式化,去掉每行末尾的windows结束符"^M”


cat ./shehui.info | while read line

do

if [ -z "$line" ]; then

 continue

fi

echo "{" >> format.json

echo "\"name\": \"$line\",">> format.json

echo "\"size\": 1455" >> format.json

echo "}," >> format.json

done

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

第四步:在http://json.cn/ 验证构造的json格式是否正确。

image.png

结语:

能用脚本实现的一定不要手写,不要复制、粘贴。


相关文章
|
6天前
|
Shell
一个用于添加/删除定时任务的shell脚本
一个用于添加/删除定时任务的shell脚本
30 1
|
26天前
|
监控 Unix Shell
shell脚本编程学习
【10月更文挑战第1天】shell脚本编程
52 12
|
21天前
|
存储 运维 监控
自动化运维:使用Shell脚本简化日常任务
【9月更文挑战第35天】在IT运维的日常工作中,重复性的任务往往消耗大量的时间。本文将介绍如何通过编写简单的Shell脚本来自动化这些日常任务,从而提升效率。我们将一起探索Shell脚本的基础语法,并通过实际案例展示如何应用这些知识来创建有用的自动化工具。无论你是新手还是有一定经验的运维人员,这篇文章都会为你提供新的视角和技巧,让你的工作更加轻松。
24 2
|
29天前
|
Shell
shell脚本变量 $name ${name}啥区别
shell脚本变量 $name ${name}啥区别
|
1月前
|
人工智能 监控 Shell
常用的 55 个 Linux Shell 脚本(包括基础案例、文件操作、实用工具、图形化、sed、gawk)
这篇文章提供了55个常用的Linux Shell脚本实例,涵盖基础案例、文件操作、实用工具、图形化界面及sed、gawk的使用。
87 2
|
15天前
|
存储 Shell Linux
【Linux】shell基础,shell脚本
Shell脚本是Linux系统管理和自动化任务的重要工具,掌握其基础及进阶用法能显著提升工作效率。从简单的命令序列到复杂的逻辑控制和功能封装,Shell脚本展现了强大的灵活性和实用性。不断实践和探索,将使您更加熟练地运用Shell脚本解决各种实际问题
12 0
|
1月前
|
Shell
Shell脚本有哪些基本语法?
【9月更文挑战第4天】
52 17
|
1月前
|
存储 Unix Shell
shell脚本编程基础
【9月更文挑战第4天】
40 12
|
1月前
|
网络协议 关系型数据库 MySQL
Shell 脚本案例
Shell 脚本案例
41 8
|
1月前
|
Shell Linux 开发工具
linux shell 脚本调试技巧
【9月更文挑战第3天】在Linux中调试shell脚本可采用多种技巧:使用`-x`选项显示每行命令及变量扩展情况;通过`read`或`trap`设置断点;利用`echo`检查变量值,`set`显示所有变量;检查退出状态码 `$?` 进行错误处理;使用`bashdb`等调试工具实现更复杂调试功能。