C# 网页图片爬虫的几种技术基础

简介:

一、文件流方式获取网络图片资源

方法1

复制代码
string url = string.Format(@"http://webservice.36wu.com/DimensionalCodeService.asmx/GetCodeImgByString?size={0}&content={1}", 5, 123456);
System.Net.WebRequest webreq = System.Net.WebRequest.Create(url);
System.Net.WebResponse webres = webreq.GetResponse();
using(System.IO.Stream stream = webres.GetResponseStream())
{
  ictureBox1.Image = Image.FromStream(stream);
}
复制代码

方法2

生成图片的URL假设是这样:http://localhost/administrator/qrcode.aspx?pid=78

qrcode.aspx.cs的生成图片的部分代码:

复制代码
Image image = new Bitmap(200, 200);
Graphics g = Graphics.FromImage(image);
try
{
  string url="http://localhost";

  DotNetBarcode bc = new DotNetBarcode();
  bc.Type = DotNetBarcode.Types.QRCode;
  bc.PrintCheckDigitChar = true;
  bc.WriteBar(url, 0, 0, 210, 210, g);

  System.IO.MemoryStream ms = new System.IO.MemoryStream();
  image.Save(ms, System.Drawing.Imaging.ImageFormat.Png);

  Response.ClearContent();
  //Response.ContentType = "image/Png";
  //Response.BinaryWrite(ms.ToArray());
  Response.ContentType = "application/octet-stream";
  Response.AddHeader("Content-Disposition", "attachment; filename=" + HttpUtility.UrlEncode("qrcode.png", System.Text.Encoding.UTF8)); Response.BinaryWrite(ms.ToArray());
ms.Dispose(); }
finally { g.Dispose(); image.Dispose(); }
复制代码

 

或者这样

复制代码
string fileName = "aaa.txt";//客户端保存的文件名 string filePath = Server.MapPath("DownLoad/aaa.txt");//路径 //以字符流的形式下载文件 FileStream fs = new FileStream(filePath, FileMode.Open); byte[] bytes = new byte[(int)fs.Length]; fs.Read(bytes, 0, bytes.Length); fs.Close(); Response.ContentType = "application/octet-stream"; //通知浏览器下载文件而不是打开 Response.AddHeader("Content-Disposition", "attachment; filename=" + HttpUtility.UrlEncode(fileName, System.Text.Encoding.UTF8)); Response.BinaryWrite(bytes); Response.Flush(); Response.End();
复制代码

 

 

 

 二、WebClient方式从服务器上下载文件

参考方法1:

复制代码
/// <summary>
/// 下载服务器文件至客户端
/// </summary>
/// <param name="url">被下载的文件地址,绝对路径</param>
/// <param name="dir">另存放的目录</param>
public void DownloadUrlFile(string url, string dir)
{
    WebClient client = new WebClient();
    string fileName = Path.GetFileName(url);  //被下载的文件名
    string path = dir + fileName;   //另存为的绝对路径+文件名
    try
    {
if (!System.IO.Directory.Exists(dir))
{
    System.IO.Directory.CreateDirectory(dir);
}
if (!System.IO.File.Exists(path))
{
    client.DownloadFile(url, path);
}
    }
    catch (Exception)
    {
// ShowError("文件下载失败!");
    }
}
复制代码

 

 

 

 

 

 

参考方法2 [2]

复制代码
<%@ Page Language="C#" AutoEventWireup="true" CodeBehind="GetPictureByUrl.aspx.cs" Inherits="HoverTreeMobile.GetPictureByUrl" %>
<!DOCTYPE html>
<html xmlns="http://www.w3.org/1999/xhtml">
<head runat="server">
<meta http-equiv="Content-Type" content="text/html; charset=utf-8"/>
    <meta name="viewport" content="width=device-width, initial-scale=1" />
    <title>根据网址把图片下载到服务器 - 何问起</title>
</head>
<body>
    <form id="form1" runat="server">
    <div>
    图片网址:<br /><asp:TextBox runat="server" ID="textBoxImgUrl" Width="500" Text="http://hovertree.com/hvtimg/201508/cnvkv745.jpg" />
     <br />   <asp:Button runat="server" ID="btnImg" Text="下载" OnClick="btnImg_Click" />
        <br /><asp:Image runat="server" ID="hvtImg" />
        <br />
        <asp:Literal runat="server" ID="ltlTips" />
    </div>
    </form>
</body>
</html>
复制代码


页面所对应的代码

复制代码
using System;

namespace HoverTreeMobile
{
    public partial class GetPictureByUrl : System.Web.UI.Page
    {
        protected void Page_Load(object sender, EventArgs e)
        {

        }

        protected void btnImg_Click(object sender, EventArgs e)
        {
            try
            {
                System.Net.WebClient m_hvtWebClient = new System.Net.WebClient();
                

                //如果不是指定格式图片
                //例如http://hovertree.com/hvtart/bjae/t2lo8pf7.htm 是htm文件,不是图片
                if (!(textBoxImgUrl.Text.EndsWith(".jpg")
                    || textBoxImgUrl.Text.EndsWith(".gif")
                    || textBoxImgUrl.Text.EndsWith(".png")))
                {
                    ltlTips.Text = "输入的不是指定格式的图片的网址";

                    return;
                }

                //生成随机的图片文件名
                string m_picFileName = HoverTree.HoverTreeFrame.Utils.GetHoverTreeString()+ HoverTree.HoverTreeFrame.HoverString.GetLastStr(textBoxImgUrl.Text,4);

                string m_keleyiPicture = Server.MapPath("/hovertreeimages/"+ m_picFileName);
                //根据网址下载文件
                m_hvtWebClient.DownloadFile(textBoxImgUrl.Text, m_keleyiPicture);

                hvtImg.ImageUrl = "/hovertreeimages/" + m_picFileName;
                ltlTips.Text = string.Empty;
            }
            catch(Exception ex)
            {
                ltlTips.Text = ex.ToString();
            }
        }
    }
}
复制代码


//生成随机的图片文件名
string m_picFileName = HoverTree.HoverTreeFrame.Utils.GetHoverTreeString()+ HoverTree.HoverTreeFrame.HoverString.GetLastStr(textBoxImgUrl.Text,4);
以上代码,请下载源代码查看详细实现方法。部分可到 LINK 查看。

HoverTree 开源项目:新增根据网址把图片下载到服务器功能

请看 HoverTreeMobile 项目,http://hovertree.com,何问起,源代码下载 LINK。

 

三、网页相关的方式

方法1:

复制代码
   public partial class DownLoadFile : System.Web.UI.Page
    {
        protected void Page_Load(object sender, EventArgs e)
        {
            string picName = Request.QueryString["InternalSysURL"];
            if (!String.IsNullOrEmpty(picName))
            {
                byte[] content = this.GetImageContent(picName);
                this.WriteResponse(picName, content);
            }
        }

 

        #region
        private byte[] GetImageContent(string picName)
        {
            string fileURL = GetImgUrlPrefix() + picName;

 

            HttpWebRequest request = (HttpWebRequest)WebRequest.Create(fileURL);
            request.AllowAutoRedirect = true;

 

            WebProxy proxy = new WebProxy();
            proxy.BypassProxyOnLocal = true;
            proxy.UseDefaultCredentials = true;

 

            request.Proxy = proxy;

 

            WebResponse response = request.GetResponse();

 

            using (Stream stream = response.GetResponseStream())
            {
                using (MemoryStream ms = new MemoryStream())
                {
                    Byte[] buffer = new Byte[1024];
                    int current = 0;
                    while ((current = stream.Read(buffer, 0, buffer.Length)) != 0)
                    {
                        ms.Write(buffer, 0, current);
                    }
                    return ms.ToArray();
                }
            }
        }

 

        private void WriteResponse(string picName, byte[] content)
        {
            Response.Clear();
            Response.ClearHeaders();
            Response.Buffer = false;
            Response.ContentType = "application/octet-stream";
            Response.AppendHeader("Content-Disposition", "attachment;filename=" + HttpUtility.UrlEncode(picName, Encoding.Default));
            Response.AppendHeader("Content-Length", content.Length.ToString());
            Response.BinaryWrite(content);
            Response.Flush();
            Response.End();
        }

 

        private static string GetImgUrlPrefix()
        {
            XmlDocument xmlDoc = new XmlDocument();
            xmlDoc.Load(AppDomain.CurrentDomain.BaseDirectory + "//Pages//ItemMaintain//ImageDownLoad.xml");
            XmlNodeList nodes = xmlDoc.GetElementsByTagName("ProductImageOriginal");
            if (nodes.Count > 0)
            {
                return nodes[0].ChildNodes[0].Value;
            }
            else { return ""; }
        }

 

        #endregion
    }
复制代码

方法2[3]

根据URL请求获取页面HTML代码

复制代码
    /// <summary>  
    /// 获取网页的HTML码  
    /// </summary>  
    /// <param name="url">链接地址</param>  
    /// <param name="encoding">编码类型</param>  
    /// <returns></returns>  
    public static string GetHtmlStr(string url, string encoding)  
    {  
        string htmlStr = "";  
        if (!String.IsNullOrEmpty(url))  
        {  
            WebRequest request = WebRequest.Create(url);            //实例化WebRequest对象  
            WebResponse response = request.GetResponse();           //创建WebResponse对象  
            Stream datastream = response.GetResponseStream();       //创建流对象  
            Encoding ec = Encoding.Default;  
            if (encoding == "UTF8")  
            {  
                ec = Encoding.UTF8;  
            }  
            else if (encoding == "Default")  
            {  
                ec = Encoding.Default;  
            }  
            StreamReader reader = new StreamReader(datastream, ec);  
            htmlStr = reader.ReadToEnd();                           //读取数据  
            reader.Close();  
            datastream.Close();  
            response.Close();  
        }  
        return htmlStr;  
    }  
复制代码

下载网站图片

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
/// <summary> 
/// 下载网站图片 
/// </summary> 
/// <param name="picUrl"></param> 
/// <returns></returns> 
public  string  SaveAsWebImg( string  picUrl) 
     string  result =  ""
     string  path = AppDomain.CurrentDomain.SetupInformation.ApplicationBase +  @"/File/" ;   //目录 
     try 
    
         if  (!String.IsNullOrEmpty(picUrl)) 
        
             Random rd =  new  Random(); 
             DateTime nowTime = DateTime.Now; 
             string  fileName = nowTime.Month.ToString() + nowTime.Day.ToString() + nowTime.Hour.ToString() + nowTime.Minute.ToString() + nowTime.Second.ToString() + rd.Next(1000, 1000000) +  ".jpeg"
             WebClient webClient =  new  WebClient(); 
             webClient.DownloadFile(picUrl, path + fileName); 
             result = fileName; 
        
    
     catch  { } 
     return  result; 

 

 

 

 

参考文章

1. C# 通过URL获取图片并显示在PictureBox上的方法

2. 根据网址把图片下载到服务器C#代码

3. C#获取网页的HTML码、下载网站图片

4. C#如何通过URL下载图片?

 

没有整理与归纳的知识,一文不值!高度概括与梳理的知识,才是自己真正的知识与技能。 永远不要让自己的自由、好奇、充满创造力的想法被现实的框架所束缚,让创造力自由成长吧! 多花时间,关心他(她)人,正如别人所关心你的。理想的腾飞与实现,没有别人的支持与帮助,是万万不能的。


    本文转自wenglabs博客园博客,原文链接:http://www.cnblogs.com/arxive/p/5926259.html,如需转载请自行联系原作者




相关文章
|
12天前
|
数据采集 存储 API
网络爬虫与数据采集:使用Python自动化获取网页数据
【4月更文挑战第12天】本文介绍了Python网络爬虫的基础知识,包括网络爬虫概念(请求网页、解析、存储数据和处理异常)和Python常用的爬虫库requests(发送HTTP请求)与BeautifulSoup(解析HTML)。通过基本流程示例展示了如何导入库、发送请求、解析网页、提取数据、存储数据及处理异常。还提到了Python爬虫的实际应用,如获取新闻数据和商品信息。
|
1月前
|
数据采集 Web App开发 JavaScript
JavaScript爬虫进阶攻略:从网页采集到数据可视化
JavaScript爬虫进阶攻略:从网页采集到数据可视化
|
2月前
|
数据采集 存储 前端开发
Python爬虫实战:动态网页数据抓取与分析
本文将介绍如何利用Python编写爬虫程序,实现对动态网页的数据抓取与分析。通过分析目标网站的结构和请求方式,我们可以利用Selenium等工具模拟浏览器行为,成功获取到需要的数据并进行进一步处理与展示。
|
1天前
|
数据采集 存储 人工智能
【AI大模型应用开发】【LangChain系列】实战案例2:通过URL加载网页内容 - LangChain对爬虫功能的封装
【AI大模型应用开发】【LangChain系列】实战案例2:通过URL加载网页内容 - LangChain对爬虫功能的封装
7 0
|
13天前
|
数据采集 C# 数据安全/隐私保护
掌握 C# 爬虫技术:使用 HttpClient 获取今日头条内容
本文介绍了如何使用C#的HttpClient与爬虫代理IP技术抓取今日头条内容,以实现高效的数据采集。通过结合亿牛云爬虫代理,可以绕过IP限制,增强匿名性。文中提供了一个代码示例,展示如何设置代理服务器信息、请求头,并用正则表达式提取热点新闻标题。利用多线程技术,能提升爬虫采集效率,为市场分析等应用提供支持。
掌握 C# 爬虫技术:使用 HttpClient 获取今日头条内容
|
30天前
|
API C# 数据安全/隐私保护
C# 实现网页内容保存为图片并生成压缩包
C# 实现网页内容保存为图片并生成压缩包
|
1月前
|
数据采集 存储 JavaScript
PHP爬虫技术:利用simple_html_dom库分析汽车之家电动车参数
本文旨在介绍如何利用PHP中的simple_html_dom库结合爬虫代理IP技术来高效采集和分析汽车之家网站的电动车参数。通过实际示例和详细说明,读者将了解如何实现数据分析和爬虫技术的结合应用,从而更好地理解和应用相关技术。
PHP爬虫技术:利用simple_html_dom库分析汽车之家电动车参数
|
1月前
|
数据采集 JSON API
C#爬虫项目实战:如何解决Instagram网站的封禁问题
C#爬虫项目实战:如何解决Instagram网站的封禁问题
|
1月前
|
数据采集 数据可视化 数据挖掘
Python爬虫之Pandas数据处理技术详解
Python爬虫之Pandas数据处理技术详解
|
1月前
|
数据采集 存储 监控
Python爬虫实战:利用BeautifulSoup解析网页数据
在网络信息爆炸的时代,如何快速高效地获取所需数据成为许多开发者关注的焦点。本文将介绍如何使用Python中的BeautifulSoup库来解析网页数据,帮助你轻松实现数据抓取与处理的技术。