获取中国某省份的ip地址,随机IP

本文涉及的产品
智能开放搜索 OpenSearch行业算法版,1GB 20LCU 1个月
实时数仓Hologres,5000CU*H 100GB 3个月
实时计算 Flink 版,1000CU*H 3个月
简介: 该代码使用Python爬取福建省的IP段数据,通过requests和lxml库获取网页内容并解析,提取省、市、区及IP段信息,保存到Pandas DataFrame中。接着根据IP段随机生成IP地址,并将结果写入Excel文件。
import requests
from lxml import etree
import pandas as pd
import random

# 福建省ip段的url地址
url = "http://ip.khcha.com/ipsection_view.aspx?fl=2&type=S_FJ"

page_text = requests.get(url=url)

html = etree.HTML(page_text.text)

# 获取第一层的地区列表url
ul_ui_list = html.xpath('//*[@class="navr"]/ul/li')

# 创建一个空的列表
data_lst = []

# 构造下一级的url-- 省市级
for i in ul_ui_list:
    if len(i.xpath('.//@href')) > 0:
        new_url = "http://ip.khcha.com/" + i.xpath('.//@href')[0]  # 组合下一级的url
        page_text_next =  requests.get(url=new_url)
        html_next = etree.HTML(page_text_next.text)  # 获取网页数据

        ul_ui_list_next = html_next.xpath('//*[@class="navr"]/ul/li')

        # 构造市区级url
        for i_next in ul_ui_list_next:
            if len(i_next.xpath('.//@href')) > 0:
                new_url_next = "http://ip.khcha.com/" +  i_next.xpath('.//@href')[0]

                html_next_next = etree.HTML(requests.get(url=new_url_next).text)

                data_list = html_next_next.xpath('//*[@class="mainright"]/ul/li')

                for data in data_list:
                    parse_list = new_url_next.split('&')
                    province = '福建省'
                    city = parse_list[1].split('=')[1]
                    area = parse_list[2].split('=')[1]
                    l_ip = data.xpath('.//span[@class = "l"]/text()')[0]
                    r_ip = data.xpath('.//span[@class = "r"]/text()')[0]
                    lst = [province, city, area, l_ip, r_ip]
                    data_lst.append(lst)

            else:
                continue

    else:
        continue



# 根据IP段随机生成ip
# 根据起始ip,确定该段中的ip数量
columns = ['province','city','area','start_ip','end_ip']
df = pd.DataFrame(data_lst,columns=columns)

# 定义一个空的DataFrame,用来存放生成的新的数据
columns_new = ["province","city","area","ip"]
data_frame = pd.DataFrame(columns=columns_new)

# 遍历DataFrame,生成随机ip段
print(len(df))
print("++++++++++++++++++++++++++++++++++++++")
for index,rows in df.iterrows():
    start_ip = rows['start_ip']
    end_ip = rows['end_ip']
    # 通过观察,发现ip前两个号段是一致的
    # 随机IP的前缀
    pre_ip = '.'.join(start_ip.split('.')[0:2]) + '.'   # 122.9.
    # 计算该组区间之间的ip数量
    ip_num = (int(end_ip.split('.')[2]) - int(start_ip.split('.')[2]) + 1) * (int(end_ip.split('.')[3]) - int(start_ip.split('.')[3]) + 1)

    print(ip_num)
    print("**********************************")
    # 每个区段选择总数的1/10 整个福建省大约60万+
    for i in range(ip_num // 10):
        random_ip_3 = random.randint(int(start_ip.split('.')[2]), int(end_ip.split('.')[2]))   # 随机生成ip第三位
        random_ip_4 = random.randint(int(start_ip.split('.')[3]), int(end_ip.split('.')[3]))   # 随机生成ip第四位
        post_ip  = str(random_ip_3) + '.' + str(random_ip_4)       #  组成新的ip的后两个地址信息
        new_ip = pre_ip + post_ip  # 构造新的ip地址

        # 组合数据,写入DataFrame
        combined_strings = [rows['province'], rows['city'], rows['area'], new_ip]
        print(len(data_frame))
        data_frame.loc[len(data_frame)] = combined_strings  # 将组合的数据追加到DataFrame中
        print(data_frame.head())
        print("===================================================")

# 将DataFrame中的数据导入到excel中
excel_path = "ip_福建.xlsx"
data_frame.to_excel(excel_path, index=False)




相关文章
|
安全 Linux 网络安全
在Linux中,如何列出和删除 Iptables 防火墙规则?
在Linux中,如何列出和删除 Iptables 防火墙规则?
2823 0
|
10月前
|
缓存 自然语言处理 安全
快速调用 Deepseek API!【超详细教程】
Deepseek 强大的功能,在本教程中,将指导您如何获取 DeepSeek API 密钥,并演示如何使用该密钥调用 DeepSeek API 以进行调试。
|
10月前
|
人工智能 数据挖掘
低代码 + AI 落地实践,让业务效率翻倍,解锁未来生产力!
2025年春节,DeepSeek引发AI讨论热潮,推动“数字化”到“数智化”的革新。低代码+AI组合降低了技术门槛,加速企业智能化升级。文中通过食品加工业原料溯源、家电售后管理、发票识别打印三个案例,展示其在效率提升和市场竞争力中的作用,并介绍钉钉宜搭举办的“低代码+AI”视频创作大赛,邀请读者参与探索更多实际应用。
1047 9
Doris动态分区表
Doris动态分区表 Doris动态分区表传参
|
数据采集 数据挖掘 数据处理
Pandas实践:南京地铁数据处理分析
Pandas实践:南京地铁数据处理分析
296 2
|
SQL 运维
Doris同一个SQL任务,前一天执行成功,第二天执行失败
Doris 动态分区 插入数据 同样的代码隔天运行一个成功一个失败
|
消息中间件 网络安全 网络虚拟化
消息队列 MQ操作报错合集之如何实现公网访问内网RocketMQ集群
在使用消息队列MQ时,可能会遇到各种报错情况。以下是一些常见的错误场景、可能的原因以及解决建议的汇总:1.连接错误、2.消息发送失败、3.消息消费报错、4.消息重试与死信处理、5.资源与权限问题、6.配置错误、7.系统资源限制、8.版本兼容性问题。
393 0
|
消息中间件 SQL 数据处理
Flink报错问题之flink消费rabbitmq报错如何解决
Flink报错通常是指在使用Apache Flink进行实时数据处理时遇到的错误和异常情况;本合集致力于收集Flink运行中的报错信息和解决策略,以便开发者及时排查和修复问题,优化Flink作业的稳定性。
|
网络安全 Docker 容器
docker启动容器时报错:iptables: No chain/target/match by that name
【已解决】docker启动容器时报错:iptables: No chain/target/match by that name
9806 2