SharePoint 2013 列表关于大数据的测试

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:   本文主要介绍SharePoint列表库的效率问题,一直以来以为阙值5k,超过会线性下降,需要分文件夹存放;或许这是之前版本的描述,但是2013版本通过测试,真心不是这么一回事儿。   下面,简单介绍下自己的测试过程:   1、创建一个测试列表,Data Test如下图:   2、创建控...

  本文主要介绍SharePoint列表库的效率问题,一直以来以为阙值5k,超过会线性下降,需要分文件夹存放;或许这是之前版本的描述,但是2013版本通过测试,真心不是这么一回事儿。

  下面,简单介绍下自己的测试过程:

  1、创建一个测试列表,Data Test如下图:

clip_image002

  2、创建控制台程序,添加插入数据代码,如下:

clip_image004

  3、添加的代码:

using (SPWeb web = site.OpenWeb())
{
    SPList list = web.Lists["Data Test"];
    StringBuilder sbDelete = new StringBuilder();
    sbDelete.Append("<?xml version=\"1.0\" encoding=\"UTF-8\"?><Batch>");

    for (int i = 0; i < 2; i++)
    {
        sbDelete.Append("<Method>");
        sbDelete.Append("<SetList Scope=\"Request\">" + list.ID + "</SetList>");
        sbDelete.Append("<SetVar Name=\"ID\">New</SetVar>");
        sbDelete.Append("<SetVar Name=\"Cmd\">Save</SetVar>");
        sbDelete.Append("<SetVar Name=" + "\"urn:schemas-microsoft-com:office:office#Title\">Test Data " + i.ToString() + "</SetVar>");
        sbDelete.Append("</Method>");
        Console.WriteLine("Num. " + i.ToString());
    }

    sbDelete.Append("</Batch>");

    Console.WriteLine("Start Time:" + DateTime.Now.ToString());
    web.ProcessBatchData(sbDelete.ToString());
    Console.WriteLine("End Time:" + DateTime.Now.ToString());
    Console.WriteLine("Data Insert complate...");
}

  4、查看添加1w数据,耗时3分27秒,如下图:

clip_image006

  5、查看列表设置,超出列表默认阙值,如下图:

clip_image008

  6、尝试删除列表,发现报错,因为超过阙值,如下图:

clip_image010

  7、管理中心修改列表阙值,如下图:

clip_image012

  8、插入5w条数据,花费时间18分47秒,如下图:

clip_image014

  9、插入数据时的任务管理器,控制台占用很大内存;

clip_image016

  一直以来,以为SharePoint列表库超过5000不分文件夹存放,性能会呈线性下降,真的测试了才发现效率可观。当在测试列表插入100w数据时,列表视图单页1k个项目,翻页速度不到秒的级别,可以说很快。

  当然,自己的数据量达到百万级别,但是数据结构简单,并没有附件类型,可能会使效率更快,有一定误差,接下来有时间还会做类似的测试,分享结果给大家参考。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
9月前
|
分布式计算 Shell MaxCompute
odps测试表及大量数据构建测试
odps测试表及大量数据构建测试
|
SQL 分布式计算 NoSQL
大数据-170 Elasticsearch 云服务器三节点集群搭建 测试运行
大数据-170 Elasticsearch 云服务器三节点集群搭建 测试运行
264 4
|
分布式计算 Hadoop 大数据
大数据体系知识学习(一):PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的,主要介绍了Apache Spark的基本概念、特点、组件,以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码,帮助读者搭建和测试大数据环境。
399 1
|
运维 监控 数据可视化
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
403 1
|
SQL 消息中间件 大数据
大数据-159 Apache Kylin 构建Cube 准备和测试数据(一)
大数据-159 Apache Kylin 构建Cube 准备和测试数据(一)
286 1
|
SQL 大数据 Apache
大数据-159 Apache Kylin 构建Cube 准备和测试数据(二)
大数据-159 Apache Kylin 构建Cube 准备和测试数据(二)
179 1
|
存储 大数据 Apache
大数据-146 Apache Kudu 安装运行 Dockerfile 模拟集群 启动测试
大数据-146 Apache Kudu 安装运行 Dockerfile 模拟集群 启动测试
130 0
|
存储 SQL 分布式计算
大数据-135 - ClickHouse 集群 - 数据类型 实际测试
大数据-135 - ClickHouse 集群 - 数据类型 实际测试
133 0
|
1月前
|
机器学习/深度学习 传感器 分布式计算
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
114 14
|
2月前
|
机器学习/深度学习 运维 监控
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
101 0