wget命令

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: wget命令


wget命令用来从指定的URL下载文件。wget非常稳定,它在带宽很窄的情况下和不稳定的网络中有很强的适应性,如果由于网络的原因下载失败,wget会不断的尝试,直到整个文件下载完毕。如果是服务器打断下载过程,它会再次连到服务器上从停止的地方继续下载。这对从那些限定了链接时间的服务器上下载大文件非常有用。

wget (选项)( 参数)
-a<日志文件>:在指定的日志文件中记录资料的执行过程;
-A<后缀名>:指定要下载文件的后缀名,多个后缀名之间使用逗号进行分隔;
-b:进行后台的方式运行wget;
-B<连接地址>:设置参考的连接地址的基地地址;
-c:继续执行上次终端的任务;
-C<标志>:设置服务器数据块功能标志on为激活,off为关闭,默认值为on;
-d:调试模式运行指令;
-D<域名列表>:设置顺着的域名列表,域名之间用“,”分隔;
-e<指令>:作为文件“.wgetrc”中的一部分执行指定的指令;
-h:显示指令帮助信息;
-i<文件>:从指定文件获取要下载的URL地址;
-l<目录列表>:设置顺着的目录列表,多个目录用“,”分隔;
-L:仅顺着关联的连接;
-r:递归下载方式;
-nc:文件存在时,下载文件不覆盖原有文件;
-nv:下载时只显示更新和出错信息,不显示指令的详细执行过程;
-q:不显示指令执行过程;
-nh:不查询主机名称;
-v:显示详细执行过程;
-V:显示版本信息;
--passive-ftp:使用被动模式PASV连接FTP服务器;
--follow-ftp:从HTML文件中下载FTP连接文件。
# 使用wget下载单个文件
wget http://www.linuxde.net/testfile.zip
# 下载并以不同的文件名保存
wget -O wordpress.zip http://www.linuxde.net/download.aspx?id=1080
# wget默认会以最后一个符合/的后面的字符来命令,对于动态链接的下载通常文件名会不正确 
# 错误:下面的例子会下载一个文件并以名称download.aspx?id=1080保存
wget http://www.linuxde.net/download?id=1
# 解决 使用参数-O来指定一个文件名
wget -O wordpress.zip http://www.linuxde.net/download.aspx?id=1080
# wget限速下载
wget --limit-rate=300k http://example.com/test.zip
# 当执行wget的时候,它默认会占用全部可能的宽带下载。但是当你准备下载一个大文件,而你还需要下载其它文件时就有必要限速了。
# 使用wget断点续传
wget -c http://example.com/test.zip
# 使用wget -c重新启动下载中断的文件,对于下载大文件时突然由于网络等原因中断非常有帮助,可以继续接着下载而不是重新下载一个文件。需要继续中断的下载时可以使用-c参数
# 使用wget后台下载
wget -b http://example.com/test.zip
# 对于下载非常大的文件的时候,可以使用参数-b进行后台下载
# 可以使用以下命令来察看下载进度:
tail -f wget-log
# 伪装代理名称下载
wget --user-agent="Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.16 (KHTML, like Gecko) Chrome/10.0.648.204 Safari/534.16" http://example.com/test.zip
wget --debug \
--header="User-Agent: Mozilla/5.0 (iPhone; CPU iPhone OS 13_5_1 like Mac OS X) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/13.1.1 Mobile/15E148 Safari/604.1" \
http://example.com
# 有些网站能通过根据判断代理名称不是浏览器而拒绝你的下载请求。可以通过--user-agent参数伪装。
# 测试下载链接
# 测试下载链接是否有效 --spider参数进行检查 
wget --spider URL
# 如果下载链接正确,将会显示:
Spider mode enabled. Check if remote file exists.HTTP request sent, awaiting response... 200 OKLength: unspecified [text/html]Remote file exists and could contain further links,but recursion is disabled -- not retrieving.
# 这保证了下载能在预定的时间进行,但当你给错了一个链接,将会显示如下错误:
wget --spider urlSpider mode enabled. Check if remote file exists.HTTP request sent, awaiting response... 404 Not FoundRemote file does not exist -- broken link!!!
# 可以在以下几种情况下使用--spider参数:
    # 定时下载之前进行检查
    # 间隔检测网站是否可用
    # 检查网站页面的死链接
# 增加重试次数
wget --tries=40 URL
# 如果网络有问题或下载一个大文件也有可能失败。wget默认重试20次连接下载文件。如果需要,你可以使用--tries增加重试次数。
# 下载多个文件
wget -i filelist.txt
# 首先,保存一份下载链接文件:
cat > filelist.txturl1url2url3url4
# 接着使用这个文件和参数-i下载。
# 镜像网站
wget --mirror -p --convert-links -P ./LOCAL URL
# 下载整个网站到本地。
    # --miror开户镜像下载。
    # -p下载所有为了html页面显示正常的文件。
    # --convert-links下载后,转换成本地的链接。
    # -P ./LOCAL保存所有文件和目录到本地指定目录。
# 过滤指定格式下载
wget --reject=gif ur
# 下载一个网站,但你不希望下载图片,可以使用这条命令。
# 把下载信息存入日志文件
wget -o download.log URL
# 不希望下载信息直接显示在终端而是在一个日志文件,可以使用。
# 限制总下载文件大小
wget -Q5m -i filelist.txt
# 当你想要下载的文件超过5M而退出下载,你可以使用。注意:这个参数对单个文件下载不起作用,只能递归下载时才有效。
# 下载指定格式文件
wget -r -A.pdf url
# 可以在以下情况使用该功能:
    # 下载一个网站的所有图片。
    # 下载一个网站的所有视频。
    # 下载一个网站的所有PDF文件。
# FTP下载
wget ftp-url
wget --ftp-user=USERNAME --ftp-password=PASSWORD url
# 可以使用wget来完成ftp链接的下载。
# 使用wget匿名ftp下载:
wget ftp-url
# 使用wget用户名和密码认证的ftp下载:
wget --ftp-user=USERNAME --ftp-password=PASSWORD url


相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
sudo: wget:找不到命令
sudo: wget:找不到命令
|
7月前
|
Unix Linux
Linux命令之wget
Linux命令之wget
169 1
|
7月前
|
Linux
Linux命令(82)之wget
Linux命令(82)之wget
87 0
|
Linux
linux命令之wget下载
wget 是一个下载文件的工具。
1172 1
|
JSON 安全 网络协议
wget 和 cURL命令
cURL 与 wget:到底哪一个才更适合你 wget 简单直接。这意味着你能享受它超凡的下载速度。wget 是一个独立的程序,无需额外的资源库,更不会做其范畴之外的事情。
204 0
|
应用服务中间件 数据安全/隐私保护 网络安全
|
Web App开发 网络协议 数据安全/隐私保护