开发者社区> jclian91> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

Java爬虫之爬取中国高校排名前100名并存入MongoDB中

简介: 介绍   在博客:Python爬虫——爬取中国高校排名前100名并写入MySQL中,我们利用Python来写爬虫,将http://gaokao.xdf.cn/201702/10612921.html 中的大学排名表格爬取出来,并存入到MySQL中。
+关注继续查看

介绍

  在博客:Python爬虫——爬取中国高校排名前100名并写入MySQL中,我们利用Python来写爬虫,将http://gaokao.xdf.cn/201702/10612921.html 中的大学排名表格爬取出来,并存入到MySQL中。
  本次分享将用Java的Jsoup API来实现相同的功能,并将爬取到的数据存入到MongoDB数据库中。

准备

  我们将在Eclipse中写程序,因此,需要下载以下jar包:

  • bson-3.6.3.jar
  • jsoup-1.10.3.jar
  • mongodb-driver-3.6.3.jar
  • mongodb-driver-core-3.6.3.jar

新建webScraper项目和jsoupScraper包,并将以上jar包加入到项目路径中,如下图:


webScraper项目

程序

  在jsoupScraper包下新建JsoupScaper.java文件,其完整代码如下:

package jsoupScraper;

/* 本爬虫利用Jsoup爬取中国大学排血排行榜前100名
 * 并将爬取后的结果存入到MongoDB数据库中
 */

import java.util.List;
import java.util.ArrayList;

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.select.Elements;
import java.net.*;
import java.io.*;

import com.mongodb.MongoClient;
import com.mongodb.client.MongoCollection;
import com.mongodb.client.MongoDatabase;

public class JsoupScraper {

    public static void main(String[] args) {
        String url = "http://gaokao.xdf.cn/201702/10612921.html";
        insertIntoMongoDB(url);   
    }

    // insertIntoMongoDB()函数:将爬取的表格数据插入到MongoDB中
    public static void insertIntoMongoDB(String url) {
        try{   
            // 连接到本地的 mongodb 服务
            MongoClient mongoClient = new MongoClient("localhost", 27017);

            // 连接到university数据库,不过该数据库不存在,则创建university数据库
            MongoDatabase mongoDatabase = mongoClient.getDatabase("university"); 
            System.out.println("Connect to database successfully");

            // 创建集合,该集合事先不存在
            mongoDatabase.createCollection("rank");
            System.out.println("集合创建成功");

            // 将爬取的表格数据作为文档分条插入到新建的集合中
            MongoCollection<org.bson.Document> collection = mongoDatabase.getCollection("rank");
            System.out.println("集合 test 选择成功");

            List<String> content = getContent(url);

            for(int i=2; i<content.size(); i++) {
                String[] record = content.get(i).split(" ");

                org.bson.Document document = new org.bson.Document("rank", record[0]).
                                                 append("name", record[1]).
                                                 append("province", record[2]).
                                                 append("local_rank",record[3]).
                                                 append("score", record[4]).
                                                 append("type", record[5]).
                                                 append("stars", record[6]).
                                                 append("level", record[7]);
                List<org.bson.Document> documents = new ArrayList<org.bson.Document>();
                documents.add(document);
                collection.insertMany(documents);
                System.out.println("第"+i+"条文档插入成功");

            }

            // 关闭mongodb连接
            mongoClient.close();
            System.out.println("MongoDB连接已关闭");
         }
         catch(Exception e){
             e.printStackTrace();
         }
      }

    // getContent()函数,返回爬取的表格数据
    public static List<String> getContent(String url){
        List<String> content = new ArrayList<String>();

        // 利用URL解析网址
        URL urlObj = null;
        try{
            urlObj = new URL(url);

        }
        catch(MalformedURLException e){
            System.out.println("The url was malformed!");
            return content;
        }

        // URL连接
        URLConnection urlCon = null;
        try{
            // 打开URL连接
            urlCon = urlObj.openConnection(); 
            // 将HTML内容解析成UTF-8格式
            Document doc = Jsoup.parse(urlCon.getInputStream(), "utf-8", url);
            // 刷选需要的网页内容
            Elements elems = doc.getElementsByTag("tbody").first().children();
            // 提取每个字段的文字部分
            content = elems.eachText();

            return content;
        }
        catch(IOException e){
            System.out.println("There was an error connecting to the URL");
            return content;
        }

    }
}

运行

  运行上述程序,结果如下:


程序运行结果

  前往MongoDB数据库中查看,如下图:

MongoDB数据库

结束语

  该爬虫其实并不复杂,实现的原理也很简单,我们已经用能Java和Python来实现了。希望以后能写一些关于Java爬虫的文章,欢迎大家交流~~

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
Linux java基础环境搭建 ->mongodb
Linux java基础环境搭建 ->mongodb
0 0
MongoDB 入门教程系列之一:开发环境搭建以及 Node.js 和 Java 的读写访问(二)
MongoDB 是近年来非常流行的一个介于关系数据库和非关系数据库之间的解决方案,采取面向文档的分布式设计思路,具有强大的可扩展性,表结构自由,并且支持丰富的查询语句和数据类型。时至今日,MongoDB 以其灵活的数据存储方式,逐渐成为 IT 行业非常流行的一种非关系型数据库解决方案。
0 0
MongoDB 入门教程系列之一:开发环境搭建以及 Node.js 和 Java 的读写访问(一)
MongoDB 是近年来非常流行的一个介于关系数据库和非关系数据库之间的解决方案,采取面向文档的分布式设计思路,具有强大的可扩展性,表结构自由,并且支持丰富的查询语句和数据类型。时至今日,MongoDB 以其灵活的数据存储方式,逐渐成为 IT 行业非常流行的一种非关系型数据库解决方案。
0 0
玩转MongoDB—使用Go和Java客户端
话说上一节我们说到MongoDB的基本使用,当命令行的操作我们熟悉了以后,就可以使用相关的Driver,也就是驱动程序进行相关编程语言的使用操作,因为在实际的开发过程中总归是要用编程语言来控制的,因此这篇文章我们介绍两个最常用的编程语言—Go&Java,来使用各自的驱动链接并操作MongoDB,Start!
0 0
[Java基础篇]Spring Boot整合MongoDB
[Java基础篇]Spring Boot整合MongoDB
0 0
【MongoDB实战】Java中如何对MongoDB字符串数值进行排序
案例讲解Java中如何对MongoDB字符串数值进行排序
0 0
Java操作MongoDB(聚合函数)向Mongo插入及查询数据( 下)
Java操作MongoDB(聚合函数)向Mongo插入及查询数据
0 0
Java操作MongoDB(聚合函数)向Mongo插入及查询数据(上)
Java操作MongoDB(聚合函数)向Mongo插入及查询数据
0 0
MongoDB最简单的入门教程之三 使用Java代码往MongoDB里插入数据
MongoDB最简单的入门教程之三 使用Java代码往MongoDB里插入数据
0 0
Java和Node.js实战 MongoDB 4.x 新特性:Change Streams 变化流
MongoDB 4.0 Change Streams增强新特性,我们可以跟踪单个集合Colletion、数据库或部署集群的数据库和集合中的所有变化。
2153 0
+关注
jclian91
热爱算法,热爱技术,热爱生活,期待更好的自己与明天~
文章
问答
文章排行榜
最热
最新
相关电子书
更多
MongoDB 应用数据平台助力快速构建您的应用
立即下载
MongoDB网络安全和权限管理
立即下载
MongoDB与大数据
立即下载