70多个网站让你免费获取大数据存储库

简介:

0

你是否需要大量的数据来检验你的APP性能?最简单的方法是从网上免费数据存储库下载数据样本。但这种方法最大的缺点是数据很少有独特的内容并且不一定能达到预期的结果。以下是70多家可以获得免费大数据存储库的网站。


Wikipedia:Database :向感兴趣的用户提供所有可用的内容的免费副本。可以得到多种语言的数据。内容连同图片可以下载。


Common crawl 建立并维护一个所有人都可以访问的开放的网络。这个数据保存在亚马逊s3bucket中,请求者可能花费一些钱来访问它。


Common crawl :建立并维护一个开放的网络,向所有人开放。


EDRM File Formats Data Set:由381个文件夹200种文件格式组成。


Apache Mahout TLP项目创建一个可扩展的机器学习算法。Mahout有许多免费的和付费的语料库语料。


EDRM Enron Email Data Set v2由安然公司邮件信息和附件组成,存在两组可下载的压缩文件中:XML和PST。


ClueWeb09用来支持信息检索和相关人类语言技术研究的资料库。它包含了从2009年1月到2月间收集的大约10亿个网页,包含10种语言。资料库被若干TREC会议的追踪检测使用。


DMOZ –最大的、最全面的人工编辑的开放式网站目录。它收集了不同类型的网站链接。Dmoz是互联网搜索引擎的一个主要来源。


theinfo.org –这是一个大数据集网站,在这里学者、设计师、艺术家等可以交流技巧和窍门,一起开发和共享工具,并开始整合他们独有的项目。


Project Gutenberg 提供超过36000免费电子书的下载,可以下载到个人电脑、Kindle, Android, iOS or 或其他便携式设备。


Million song data set:与tracks 和艺术家有关的数据。


AWS (Amazon Web Services) Public Data Sets:提供了可以无缝融入AWS(亚马逊网络服务)云应用的公共数据集的集中存储库。


BigML big list of public data sources.


Bioassay data:研究文章“生物测定数据的虚拟筛选”,由Amanda Schierz编写,有21个生物测定数据集(活性/非生理活性成分),可以下载。


Bitly 1.usa.gov data:匿名点击政府链接。

Canada Open Data:有许多政府和地理空间的数据集的试点项目。


Canada Open Data:许多政府和地理空间数据集的试点项目。


Causality Workbench:数据存储库。


Corral Big Data repository:在德克萨斯高级计算中心,提供以数据为中心的技术。


Data Source Handbook:公开数据指南。


Datacatalogs.org:来自美国、欧盟、加拿大、CKAN以及其他的公开政府数据。


Data.gov.uk:英国的公共可用数据(London datastore也是)。


Data.gov/Education:对于教育数据资源的主要指南,包括高价值的数据集、数据可视化、课堂资源、创建自公开数据的应用程序以及其他。


DataMarket:可视化的世界经济、社会、自然和工业,拥有来自联合国,世界银行,欧盟统计局和其他重要数据提供者的一亿时间序列。


Datamob:可以很好利用的公开数据。


DataSF.org:可向City & County of San Francisco, CA.购买的数据集信息交流中心。


DataFerrett:一个用来访问和使用The Data Web的数据挖掘工具,许多网上美国政务数据集的集合。


EconData:大量经济学的时间序列,由许多美国政府机构编制。


Enron Email Dataset:来自大约150个用户的数据,这些用户大多数是安然公司高级管理人员。


Europeana Data:包含2000万文字,图片,视频开放的元数据,以及由欧洲数位图书馆收集的声音,对于欧洲文化遗产内容值得信赖的、全面的资源。


Europeana Data:


FEDSTATS:一个美国统计资料的综合资源以及更多


FIMI repository for frequent itemset mining:工具和数据集。


Financial Data Finder at OSU:大型财务数据集目录。


GDELT:关于事件、位置和音调的全球数据,被英国卫报形容为“生命、宇宙和一切的大数据历史”。


GEO (GEO Gene Expression Omnibus):一个支持MIAME兼容数据提交的基因表达/分子丰度信息库,一个精心策划的网上资源,用于基因表达数据的浏览,查询和检索。


GeoDa Center:地理和空间数据。


Google ngrams datasets:来自数Google扫描的百万书籍文本。


Grain Market Research:财务数据,包括股票、期货等。


Hilary Mason research-quality Big Data sets收集许多文本和图片数据集。


HitCompanies Datasets:HitCompanies随机取样的1万个英国公司全面的数据,采用人工智能/机器学习进行自动更新。


ICWSM-2009 dataset:包含2008年8月1日到10月1日之间的4400万个博文。


Infochimps:一个数据开放的目录和集合,允许分享、出售和下载关于任何内容的数据。


Investor Links:包含财物数据。


KDD Cup center:数据、工作表和结果。


Kevin Chai list of datasets:文本、SNA和其他领域。


KONECT:科布伦茨网络收集,拥有大量各种类型的网络数据集,以便在网络挖掘领域进行研究。


Linking Open Data 工程,免费向所有人提供数据。


MIT Cancer Genomics gene expression datasets and publications:来自麻省理工Whitehead Center用于基因组研究。


ML Data:欧盟Pascal2网络数据储存库。


NASDAQ Data Store:提供市场数据。


National Government Statistical Web Sites:来自大约70个网站的数据、报告、统计年鉴、新闻和其他,包括非洲、欧洲、亚洲和拉丁美洲的国家。


National Space Science Data Center (NSSDC):美国国家航空航天局的数据集,包含行星探索、空间和太阳物理学、生命科学、天体物理学以及其他方面。


Open Data Census:评估世界各地的开放数据的状态。


OpenData from Socrata:允许访问超过10000个数据集,包括商业、教育、政府和娱乐。


Open Source Sports:大量运动数据库,包括棒球、足球、篮球和曲棍球。


Peter Skomoroch dataset Bookmarks PubGene(TM) Gene Database and Tools:基因组有关的出版物数据库。


Quandl, a collaboratively curated portal to millions of financial and economic time-series datasets.


qunb:一个用来发现和可视化的数据资料的平台。


Robert Schiller data:住房建筑、股票市场和更多的来自于他的书 Irrational Exuberance的数据。


SMD: Stanford Microarray Database,存储来自微阵列实验的原始的和标准的数据。


Jerry Smith dataset collection:财经、政府、机器学习、科学和其他数据。


SourceForge.net Research Data:包含大约10万个项目和超过100万注册用户的活动的历史和现状的统计数据的项目管理网站。


StatLib,卡内基梅隆大学数据档案。


STATOO Datasets part 1和 STATOO Datasets part 2


Time Series Data Library


Visual Analytics Benchmark Repository.


UCI KDD Database Repository :适用于机器学习和知识发现研究的大数据集。


UCI Machine Learning Repository.


UCR Time Series Data Archive:提供数据集、论文、链接和代码。


United States Census Bureau.


Wikiposit:一个(虚拟的)融合了来自许多不同网站的数据(大多数是金融的),允许用户合并来自不同来源的数据。


Wolfram Alpha disease and patient level dat.


Yahoo Sandbox datasets:语言、图表、评级、广告与营销、竞赛。


Yelp Academic Dataset:30家大学的250个最接近商业的所有数据和评论,为学生和学者来探讨和研究


原文发布时间为:2014-06-19

本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
3月前
|
移动开发 编解码 数据可视化
分享12款我常用的开源免费工具
分享12款我常用的开源免费工具
62 1
|
8月前
|
存储 Java 数据挖掘
阿里云时序数据库简介和购买使用流程
阿里云时序数据库(Lindorm Time Series Database,简称TSDB)是阿里云原生多模数据库Lindorm中的核心组件,专门负责处理时序数据。它具有许多优势,包括高并发写入、高压缩比存储、实时时序指标聚合、统计、预测以及ML/AI计算等强大功能。 时序数据是指表示物理设备、系统、应用过程或行为随时间变化的数据,这类数据在物联网、工业物联网、基础运维系统等场景中有着广泛的应用。阿里云TSDB可以解决大规模时序数据的可靠写入问题,显著降低数据存储成本,并且能够实时灵活地完成业务数据的聚合分析。 TSDB针对不同应用场景,支持多元数据存储与索引,具有高效的写入性能和实时数据分析能
|
9月前
|
缓存 弹性计算 分布式计算
阿里云适合建网、web应用、数据分析和计算、数据库系统的云服务器价格参考
阿里云服务器新客专享,新用户完成账号实名认证,享受优惠价格购买计算型、通用型、内存型云服务器爆款配置特价优惠,限1-2台,这些云服务器主要适合搭建网站、web应用、数据分析和计算、数据库系统等中小类型和规模的企业级应用。
348 1
阿里云适合建网、web应用、数据分析和计算、数据库系统的云服务器价格参考
|
12月前
|
小程序 Linux API
强烈推荐一款自研支持全平台的免费内网穿透工具:i996.me
强烈推荐一款自研支持全平台的免费内网穿透工具:i996.me
188 0
|
存储 Serverless 数据库
免费网站部署和免费数据库Serverless云存储资源汇总整理
免费网站部署和免费数据库Serverless云存储资源汇总整理
359 0
免费网站部署和免费数据库Serverless云存储资源汇总整理
|
存储 弹性计算 Serverless
手把手带你极速搭建一个高性能kodbox网盘
使用Severless+可道云kodbox私有网盘,带你开启阿里云的另类省钱省心玩法。
732 0
|
运维 监控 BI
这个企业级数据库监控系统开源了,真香!
哈喽,大家好,我是志斌~,一个资深的互联网玩家,致力于为大家分享各领域优质开源项目。 各位开源老铁们,最近公众号改版了,大家记得星标开源指南,第一时间收到我们优质内容的更新!
372 0
这个企业级数据库监控系统开源了,真香!
|
固态存储 架构师 测试技术
【资源分享】esrally:Elasticsearch 官方压测工具测试数据共享(国内)
自从上篇发布的关于“【最佳实践】esrally:Elasticsearch 官方压测工具及运用详解”后,不停有同学询问使用中遇到的问题,尤其是测试数据存储在国外 aws 上,导致下载极慢的情况出现。为了让大家快速上手使用 esrally,我 build 了一个可用的 docker 镜像,将 13GB 的测试数据拉取到国内的存储上,通过百度网盘的方式分享给大家。大家只要按照下面简单的几步操作就可以顺畅地使用 esrally 来进行相关测试了。
3403 0
【资源分享】esrally:Elasticsearch 官方压测工具测试数据共享(国内)
做了个小工具:阿里云和腾讯云哪个好?哪个速度快?
阿里云与腾讯云哪个好?哪个速度快?怎么选? 我做了个小工具,图形化对比,可以直接看出哪个节点的速度快慢。
68975 0
|
对象存储 JavaScript
省钱秘笈☞将静态网站迁移至阿里云OSS(教你如何利用OSS低成本建站)
前言: 新用户领取阿里云最新的代金券,再结合OSS建站,几乎是零成本哦!不经意间发现阿里云居然有送半年得活动,还可以在线领取1888元代金券!(活动地址:https://promotion.aliyun.com/ntms/yunparter/invite.html?userCode=9u2gonnn)  所需:  1、开通阿里云OSS并创建Bucket 2、购买域名并通过备案 步骤:  1、在“Bucket属性”中的“静态网站”页面,直接写一个默认首页的文件名就可以了。
3693 0