如何分析网页数据并且去除Html标签(C#)

本文涉及的产品
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
云解析 DNS,旗舰版 1个月
全局流量管理 GTM,标准版 1个月
简介:

首先将网页内容整个抓取下来,这个我就不说了,不是本次话题的重点。假设抓取的数据放在RecvBuffer这个byte[]中(数据从网络上传输过来时不是字符串的形式而是byte),那么我们的第一步就是将RecvBuffer转化为String,以便于对其操作,实例如下:

   //  将接收到的数据增加到响应字符串中
   strResponse  +=  Encoding.ASCII.GetString(RecvBuffer,  0 , nBytes);

       strResponse即是保存数据的字符串,此处用系统自带的System.Text.Encoding的方法转化RecvBuffer,GetString的第一个参数RecvBuffer就是我们的原始数据,即包含需要解码的字节序列的字节数组;第二个参数0代表第一个要解码的字节的索引,一般就从0开始;第三个参数nBytes为要解码的字节数,可以自己调整。

       得到了数据的字符串形式,然后可以对网页进行解析了(其实就是对字符串的各种操作和正则表达式的应用)。下面我以几个例子来说明对网页数据的解析:

   //  解析页面,查找链接
  
//  此处尚需扩展,还有某些形式的链接不被识别
   string  strRef  =   @" (href|HREF|src|SRC|action|ACTION|Action)[ ]*=[ ]*[""'][^""'#>]+[""'] " ;
   MatchCollection matches 
=   new  Regex(strRef).Matches(strResponse);
   strStatus 
+=   " 找到:  " + matches.Count + "  个链接\r\n " ;

       上面的例子将网页中的链接解析出来,strRef变量表示了正则表达式的模式,变量matches表示符合匹配的项目的集合,后面的Regex(strRef).Matches(strResponse)就是创建正则规则使得strResponse里符合strRef模式的字符串都返回。然后调用matches的变量就可以取得各种信息了。
       当然,这里只能识别一些基本的链接形式,像script中的链接和一些不带“”的链接都没有被支持,这个的扩展还是蛮简单的。
       再举几个更简单点的解析的例子,大家学习学习:

   // 获取标题
   Match TitleMatch  =  Regex.Match(strResponse,  " <title>([^<]*)</title> " , RegexOptions.IgnoreCase  |  RegexOptions.Multiline);
   title 
=  TitleMatch.Groups[ 1 ].Value;

  
// 获取描述信息
   Match Desc  =  Regex.Match(strResponse,  " <Meta name=\ " DESCRIPTION\ "  content=\ " ([ ^< ] * )\ " > " , RegexOptions.IgnoreCase  |  RegexOptions.Multiline);
   strdesc 
=  Desc.Groups[ 1 ].Value;

  
// 获取网页的大小
   size  =  strResponse.Length;


—————————————————————割—————————————————————————

       好了,下面说一下如何去除Html标签,这个想必有很多初学者很需要。其实还是正则表达式和字符串基本操作的应用,由于这个功能还是比较常用的,所以例子写成了函数,便于调用:

   /// <summary>
  
/// 将Html标签转化为空格
  
/// </summary>
  
/// <param name="strHtml">待转化的字符串</param>
  
/// <returns>经过转化的字符串</returns>

   private   string  stripHtml( string  strHtml)
  
{
      Regex objRegExp 
= new Regex("<(.|\n)+?>");
     
string strOutput = objRegExp.Replace(strHtml, "");
      strOutput 
= strOutput.Replace("<""&lt;");
      strOutput 
= strOutput.Replace(">""&gt;");
     
return strOutput;
   }

       ok,这样一来Html标签就基本没了,但是有些例外会使得去除不干净,所以建议连续两次转化,这样就搞定了。但是还没结束,如果你留意的话,可以看到上面的函数其实是将Html标签转化为了空格。太多连续的空格会影响之后对字符串的操作。所以再加入这样的语句:

   // 把所有空格变为一个空格
   Regex r  =   new  Regex( @" \s+ " );
   wordsOnly 
=  r.Replace(strResponse,  "   " );
   wordsOnly.Trim();

 

.Net 技术探讨群 4151320

欢迎大家加入!!!

分类:  C# Asp.net

本文转自快乐就好博客园博客,原文链接:http://www.cnblogs.com/happyday56/archive/2009/04/25/1443526.html,如需转载请自行联系原作者
相关文章
|
1月前
|
移动开发 HTML5
HTML5标签的类型
HTML5标签的类型。
50 5
|
24天前
|
存储 移动开发 前端开发
HTML基础知识:构建网页的基石
【10月更文挑战第11天】HTML基础知识:构建网页的基石
55 0
|
27天前
|
数据安全/隐私保护 C++
【HTML】构建网页的基石
本文介绍了HTML的基本概念和常用标签,包括HTML文件的基本结构、常见标签(如标题、段落、换行、图片、超链接等)、表格与表单的使用方法,以及无语义标签div和span的特性。通过具体示例展示了如何在VS Code中快速生成HTML框架及各标签的应用场景,帮助初学者快速掌握HTML的基础知识。
45 1
【HTML】构建网页的基石
|
7天前
|
移动开发 编解码 UED
除了 `<audio>` 和 `<video>` 标签,HTML5 还支持哪些多媒体格式?
【10月更文挑战第19天】HTML5对多种多媒体格式的支持,为网页开发者提供了丰富的选择,能够更好地满足不同类型多媒体内容在网页中的展示和交互需求,提升了网页的用户体验和多媒体应用的多样性。
|
10天前
|
JavaScript API 开发工具
<大厂实战场景> ~ Flutter&鸿蒙next 解析后端返回的 HTML 数据详解
本文介绍了如何在 Flutter 中解析后端返回的 HTML 数据。首先解释了 HTML 解析的概念,然后详细介绍了使用 `http` 和 `html` 库的步骤,包括添加依赖、获取 HTML 数据、解析 HTML 内容和在 Flutter UI 中显示解析结果。通过具体的代码示例,展示了如何从 URL 获取 HTML 并提取特定信息,如链接列表。希望本文能帮助你在 Flutter 应用中更好地处理 HTML 数据。
93 1
|
7天前
|
存储 移动开发 前端开发
|
1月前
|
SQL 缓存 分布式计算
C#如何处理上亿级数据的查询效率
C#如何处理上亿级数据的查询效率
15 1
|
1月前
|
前端开发
【HTML】img标签和超链接标签
【HTML】img标签和超链接标签
38 2
|
1月前
|
移动开发 前端开发 JavaScript
【HTML】HTML页面和常见标签
【HTML】HTML页面和常见标签
32 1
|
29天前
|
Web App开发 数据采集 移动开发
HTML5新增的属性和标签
HTML5新增的属性和标签
96 0