wget命令

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: wget命令


wget命令用来从指定的URL下载文件。wget非常稳定,它在带宽很窄的情况下和不稳定的网络中有很强的适应性,如果由于网络的原因下载失败,wget会不断的尝试,直到整个文件下载完毕。如果是服务器打断下载过程,它会再次连到服务器上从停止的地方继续下载。这对从那些限定了链接时间的服务器上下载大文件非常有用。

wget (选项)( 参数)
-a<日志文件>:在指定的日志文件中记录资料的执行过程;
-A<后缀名>:指定要下载文件的后缀名,多个后缀名之间使用逗号进行分隔;
-b:进行后台的方式运行wget;
-B<连接地址>:设置参考的连接地址的基地地址;
-c:继续执行上次终端的任务;
-C<标志>:设置服务器数据块功能标志on为激活,off为关闭,默认值为on;
-d:调试模式运行指令;
-D<域名列表>:设置顺着的域名列表,域名之间用“,”分隔;
-e<指令>:作为文件“.wgetrc”中的一部分执行指定的指令;
-h:显示指令帮助信息;
-i<文件>:从指定文件获取要下载的URL地址;
-l<目录列表>:设置顺着的目录列表,多个目录用“,”分隔;
-L:仅顺着关联的连接;
-r:递归下载方式;
-nc:文件存在时,下载文件不覆盖原有文件;
-nv:下载时只显示更新和出错信息,不显示指令的详细执行过程;
-q:不显示指令执行过程;
-nh:不查询主机名称;
-v:显示详细执行过程;
-V:显示版本信息;
--passive-ftp:使用被动模式PASV连接FTP服务器;
--follow-ftp:从HTML文件中下载FTP连接文件。
# 使用wget下载单个文件
wget http://www.linuxde.net/testfile.zip
# 下载并以不同的文件名保存
wget -O wordpress.zip http://www.linuxde.net/download.aspx?id=1080
# wget默认会以最后一个符合/的后面的字符来命令,对于动态链接的下载通常文件名会不正确 
# 错误:下面的例子会下载一个文件并以名称download.aspx?id=1080保存
wget http://www.linuxde.net/download?id=1
# 解决 使用参数-O来指定一个文件名
wget -O wordpress.zip http://www.linuxde.net/download.aspx?id=1080
# wget限速下载
wget --limit-rate=300k http://example.com/test.zip
# 当执行wget的时候,它默认会占用全部可能的宽带下载。但是当你准备下载一个大文件,而你还需要下载其它文件时就有必要限速了。
# 使用wget断点续传
wget -c http://example.com/test.zip
# 使用wget -c重新启动下载中断的文件,对于下载大文件时突然由于网络等原因中断非常有帮助,可以继续接着下载而不是重新下载一个文件。需要继续中断的下载时可以使用-c参数
# 使用wget后台下载
wget -b http://example.com/test.zip
# 对于下载非常大的文件的时候,可以使用参数-b进行后台下载
# 可以使用以下命令来察看下载进度:
tail -f wget-log
# 伪装代理名称下载
wget --user-agent="Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.16 (KHTML, like Gecko) Chrome/10.0.648.204 Safari/534.16" http://example.com/test.zip
wget --debug \
--header="User-Agent: Mozilla/5.0 (iPhone; CPU iPhone OS 13_5_1 like Mac OS X) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/13.1.1 Mobile/15E148 Safari/604.1" \
http://example.com
# 有些网站能通过根据判断代理名称不是浏览器而拒绝你的下载请求。可以通过--user-agent参数伪装。
# 测试下载链接
# 测试下载链接是否有效 --spider参数进行检查 
wget --spider URL
# 如果下载链接正确,将会显示:
Spider mode enabled. Check if remote file exists.HTTP request sent, awaiting response... 200 OKLength: unspecified [text/html]Remote file exists and could contain further links,but recursion is disabled -- not retrieving.
# 这保证了下载能在预定的时间进行,但当你给错了一个链接,将会显示如下错误:
wget --spider urlSpider mode enabled. Check if remote file exists.HTTP request sent, awaiting response... 404 Not FoundRemote file does not exist -- broken link!!!
# 可以在以下几种情况下使用--spider参数:
    # 定时下载之前进行检查
    # 间隔检测网站是否可用
    # 检查网站页面的死链接
# 增加重试次数
wget --tries=40 URL
# 如果网络有问题或下载一个大文件也有可能失败。wget默认重试20次连接下载文件。如果需要,你可以使用--tries增加重试次数。
# 下载多个文件
wget -i filelist.txt
# 首先,保存一份下载链接文件:
cat > filelist.txturl1url2url3url4
# 接着使用这个文件和参数-i下载。
# 镜像网站
wget --mirror -p --convert-links -P ./LOCAL URL
# 下载整个网站到本地。
    # --miror开户镜像下载。
    # -p下载所有为了html页面显示正常的文件。
    # --convert-links下载后,转换成本地的链接。
    # -P ./LOCAL保存所有文件和目录到本地指定目录。
# 过滤指定格式下载
wget --reject=gif ur
# 下载一个网站,但你不希望下载图片,可以使用这条命令。
# 把下载信息存入日志文件
wget -o download.log URL
# 不希望下载信息直接显示在终端而是在一个日志文件,可以使用。
# 限制总下载文件大小
wget -Q5m -i filelist.txt
# 当你想要下载的文件超过5M而退出下载,你可以使用。注意:这个参数对单个文件下载不起作用,只能递归下载时才有效。
# 下载指定格式文件
wget -r -A.pdf url
# 可以在以下情况使用该功能:
    # 下载一个网站的所有图片。
    # 下载一个网站的所有视频。
    # 下载一个网站的所有PDF文件。
# FTP下载
wget ftp-url
wget --ftp-user=USERNAME --ftp-password=PASSWORD url
# 可以使用wget来完成ftp链接的下载。
# 使用wget匿名ftp下载:
wget ftp-url
# 使用wget用户名和密码认证的ftp下载:
wget --ftp-user=USERNAME --ftp-password=PASSWORD url


相关实践学习
通过日志服务实现云资源OSS的安全审计
本实验介绍如何通过日志服务实现云资源OSS的安全审计。
相关文章
下载整个Yum源的所有安装包到本地指定目录
下载整个Yum源的所有安装包到本地指定目录
1926 0
|
9月前
|
机器学习/深度学习 测试技术
专家模型不要专家并行!微软开源MoE新路径
微软研究团队提出了一种名为“GRIN(GRadient-INformed MoE training)”的新型训练方法,针对专家混合(MoE)模型优化难题。MoE通过稀疏计算提高效率,但传统梯度优化难以直接应用。GRIN利用梯度信息指导专家路由,引入稀疏梯度估计和并行配置,克服了这一局限,显著提升了MoE模型的训练效率和性能。实验表明,GRIN在语言建模等任务上超越了密集模型,并在多个基准测试中取得领先。尽管存在计算复杂度高等挑战,GRIN为MoE模型训练提供了新思路。论文地址:https://arxiv.org/abs/2409.12136
195 24
|
6月前
|
数据采集 人工智能 测试技术
Python有哪些好用且实用的Web框架?
Python 是一门功能强大的编程语言,在多个领域中得到广泛应用,包括爬虫、人工智能、游戏开发、自动化测试和 Web 开发。在 Web 开发中,Python 提供了多种框架以提高效率。以下是几个常用的 Python Web 框架:1) Django:开源框架,支持多种数据库引擎,适合新手;2) Flask:轻量级框架,基于简单核心并通过扩展增加功能;3) Web2py:免费开源框架,支持快速开发;4) Tornado:同时作为 Web 服务器和框架,适合高并发场景;5) CherryPy:简单易用的框架,连接 Web 服务器与 Python 代码。这些框架各有特色,可根据需求选择合适的工具。
285 14
|
9月前
|
机器学习/深度学习 数据采集 JSON
Pandas数据应用:机器学习预处理
本文介绍如何使用Pandas进行机器学习数据预处理,涵盖数据加载、缺失值处理、类型转换、标准化与归一化及分类变量编码等内容。常见问题包括文件路径错误、编码不正确、数据类型不符、缺失值处理不当等。通过代码案例详细解释每一步骤,并提供解决方案,确保数据质量,提升模型性能。
343 88
|
Unix Linux
Linux命令之wget
Linux命令之wget
354 1
|
存储 Serverless 数据库
OceanBase索引优化
【8月更文挑战第14天】OceanBase索引优化
323 5
|
前端开发 容器
THREE.js-------3D模型制作demo总结
渲染简单的3D模型要有的结构:场景,相机,渲染器 。
300 0
|
安全 Linux Shell
Linux系统之间实现免密码登录(SSH无密码登录
【8月更文挑战第21天】要在Linux系统间实现SSH免密码登录,需先在源机器生成SSH密钥对,然后将公钥复制到目标机器的`.ssh/authorized_keys`文件中。可通过`ssh-keygen`命令生成密钥,并使用`ssh-copy-id`命令传输公钥。最后测试SSH连接,确保能无密码登录。若目标机器缺少相关目录或文件,需手动创建并设置适当权限。完成这些步骤后,即可实现安全便捷的免密码登录。
613 0
|
安全 Java Shell
Android 权限管理
Android 权限管理
476 0