SharePoint 2013 列表关于大数据的测试

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:   本文主要介绍SharePoint列表库的效率问题,一直以来以为阙值5k,超过会线性下降,需要分文件夹存放;或许这是之前版本的描述,但是2013版本通过测试,真心不是这么一回事儿。   下面,简单介绍下自己的测试过程:   1、创建一个测试列表,Data Test如下图:   2、创建控...

  本文主要介绍SharePoint列表库的效率问题,一直以来以为阙值5k,超过会线性下降,需要分文件夹存放;或许这是之前版本的描述,但是2013版本通过测试,真心不是这么一回事儿。

  下面,简单介绍下自己的测试过程:

  1、创建一个测试列表,Data Test如下图:

clip_image002

  2、创建控制台程序,添加插入数据代码,如下:

clip_image004

  3、添加的代码:

using (SPWeb web = site.OpenWeb())
{
    SPList list = web.Lists["Data Test"];
    StringBuilder sbDelete = new StringBuilder();
    sbDelete.Append("<?xml version=\"1.0\" encoding=\"UTF-8\"?><Batch>");

    for (int i = 0; i < 2; i++)
    {
        sbDelete.Append("<Method>");
        sbDelete.Append("<SetList Scope=\"Request\">" + list.ID + "</SetList>");
        sbDelete.Append("<SetVar Name=\"ID\">New</SetVar>");
        sbDelete.Append("<SetVar Name=\"Cmd\">Save</SetVar>");
        sbDelete.Append("<SetVar Name=" + "\"urn:schemas-microsoft-com:office:office#Title\">Test Data " + i.ToString() + "</SetVar>");
        sbDelete.Append("</Method>");
        Console.WriteLine("Num. " + i.ToString());
    }

    sbDelete.Append("</Batch>");

    Console.WriteLine("Start Time:" + DateTime.Now.ToString());
    web.ProcessBatchData(sbDelete.ToString());
    Console.WriteLine("End Time:" + DateTime.Now.ToString());
    Console.WriteLine("Data Insert complate...");
}

  4、查看添加1w数据,耗时3分27秒,如下图:

clip_image006

  5、查看列表设置,超出列表默认阙值,如下图:

clip_image008

  6、尝试删除列表,发现报错,因为超过阙值,如下图:

clip_image010

  7、管理中心修改列表阙值,如下图:

clip_image012

  8、插入5w条数据,花费时间18分47秒,如下图:

clip_image014

  9、插入数据时的任务管理器,控制台占用很大内存;

clip_image016

  一直以来,以为SharePoint列表库超过5000不分文件夹存放,性能会呈线性下降,真的测试了才发现效率可观。当在测试列表插入100w数据时,列表视图单页1k个项目,翻页速度不到秒的级别,可以说很快。

  当然,自己的数据量达到百万级别,但是数据结构简单,并没有附件类型,可能会使效率更快,有一定误差,接下来有时间还会做类似的测试,分享结果给大家参考。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps&nbsp;
目录
相关文章
|
3月前
|
分布式计算 Hadoop 大数据
大数据体系知识学习(一):PySpark和Hadoop环境的搭建与测试
这篇文章是关于大数据体系知识学习的,主要介绍了Apache Spark的基本概念、特点、组件,以及如何安装配置Java、PySpark和Hadoop环境。文章还提供了详细的安装步骤和测试代码,帮助读者搭建和测试大数据环境。
86 1
|
3月前
|
SQL 分布式计算 NoSQL
大数据-170 Elasticsearch 云服务器三节点集群搭建 测试运行
大数据-170 Elasticsearch 云服务器三节点集群搭建 测试运行
58 4
|
3月前
|
运维 监控 数据可视化
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
大数据-171 Elasticsearch ES-Head 与 Kibana 配置 使用 测试
91 1
|
3月前
|
SQL 消息中间件 大数据
大数据-159 Apache Kylin 构建Cube 准备和测试数据(一)
大数据-159 Apache Kylin 构建Cube 准备和测试数据(一)
81 1
|
3月前
|
SQL 大数据 Apache
大数据-159 Apache Kylin 构建Cube 准备和测试数据(二)
大数据-159 Apache Kylin 构建Cube 准备和测试数据(二)
89 1
|
3月前
|
存储 大数据 Apache
大数据-146 Apache Kudu 安装运行 Dockerfile 模拟集群 启动测试
大数据-146 Apache Kudu 安装运行 Dockerfile 模拟集群 启动测试
28 0
|
3月前
|
存储 SQL 分布式计算
大数据-135 - ClickHouse 集群 - 数据类型 实际测试
大数据-135 - ClickHouse 集群 - 数据类型 实际测试
49 0
|
14天前
|
监控 JavaScript 测试技术
postman接口测试工具详解
Postman是一个功能强大且易于使用的API测试工具。通过详细的介绍和实际示例,本文展示了Postman在API测试中的各种应用。无论是简单的请求发送,还是复杂的自动化测试和持续集成,Postman都提供了丰富的功能来满足用户的需求。希望本文能帮助您更好地理解和使用Postman,提高API测试的效率和质量。
60 11
|
2月前
|
JSON Java 测试技术
SpringCloud2023实战之接口服务测试工具SpringBootTest
SpringBootTest同时集成了JUnit Jupiter、AssertJ、Hamcrest测试辅助库,使得更容易编写但愿测试代码。
66 3
|
3月前
|
JSON 算法 数据可视化
测试专项笔记(一): 通过算法能力接口返回的检测结果完成相关指标的计算(目标检测)
这篇文章是关于如何通过算法接口返回的目标检测结果来计算性能指标的笔记。它涵盖了任务描述、指标分析(包括TP、FP、FN、TN、精准率和召回率),接口处理,数据集处理,以及如何使用实用工具进行文件操作和数据可视化。文章还提供了一些Python代码示例,用于处理图像文件、转换数据格式以及计算目标检测的性能指标。
81 0
测试专项笔记(一): 通过算法能力接口返回的检测结果完成相关指标的计算(目标检测)