人工智能、大数据、数据挖掘、机器学习-数据集来源(上)

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 人工智能、大数据、数据挖掘、机器学习-数据集来源(上)

一、有很多小伙伴说学习大数据和人工智能,需要用到数据,但是又不知道数据去哪里拿,这里我分享一下之前收藏过的一些网站给大家。


二、先来回答大家两个问题:


问题1:博客里所所涉及到的数据在哪里拿?


后台总是有很多小伙伴想问我拿我博客的数据,关于经常被问到的,我都放在公众号匹配词汇中了,只需要回复就可以拿到下载链接。


问题2:想学习机器学习,不知道数据怎么来?


要问数据可以从哪里来的话,公司里面的数据是肯定拿不到的了,所以主要有公开的数据、学习框架里都有内置的数据、实验室的数据、还有各种比赛也会提供各种脱敏的数据,当然,如果你熟悉爬虫的话,你也可以自己写爬虫去爬去一些数据。


三、以下是收集到的链接


大数据


https://delicious.com/pskomoroch/dataset

http://stackoverflow.com/questions/10843892/download-large-data-for-hadoop

http://konect.uni-koblenz.de/

搜狗实验室


http://www.sogou.com/labs/resources.html?v=1


气象数据集


https://www.ncdc.noaa.gov/data-access/quick-links


气候监测数据集


http://cdiac.ornl.gov/ftp/ndp026b


机器学习


亚马逊网络服务数据


http://aws.amazon.com/datasets


航空公司数据 (2009 年 ASA 挑战)


http://stat-computing.org/dataexpo/2009/the-data.html


澳大利亚天气


http://www.bom.gov.au/climate/dwo/


因果关系工作台


http://www.causality.inf.ethz.ch/repository.php


Kaggle 竞争数据


https://www.kaggle.com/datasets


KDNuggets 竞争网站


www.kdnuggets.com/datasets/


机器学习的数据集存储库


http://mldata.org/


医疗保险数据文件


http://go.cms.gov/19xxPN4


微软研究院


http://research.microsoft.com/apps/dp/dl/downloads.aspx


百万歌曲数据集


http://blog.echonest.com/post/3639160982/million-song-dataset


歌曲数据集


http://labrosa.ee.columbia.edu/millionsong/pages/additional-datasets


RDataMining.com R 和数据挖掘电子书数据


http://www.rdatamining.com/data


革命分析集合


http://www.revolutionanalytics.com/subscriptions/datasets/


社交网络


http://www.cs.cmu.edu//ancestry.com/ ~ jelsas / 数据


UCI 机器学习库


http://archive.ics.uci.edu/ml/


535 亿点击


http://cnets.indiana.edu/groups/nan/webtraffic/click-dataset


http://archive.ics.uci.edu/ml/


http://www.ics.uci.edu/~mlearn//MLRepository.htm


机器学习样本数据库


http://kdd.ics.uci.edu/


http://www.ics.uci.edu/~mlearn/MLRepository.html


关于基金的数据挖掘的网站


http://www.gotofund.com/index.asp


数据生成器的链接


http://www.cse.cuhk.edu.hk/~kdd/data_collection.html


癌症基因


http://www.broad.mit.edu/cgi-bin/cancer/datasets.cgi


金融数据


http://lisp.vse.cz/pkdd99/Challenge/chall.htm


网络


斯坦福大学大型网络数据收集


http://snap.stanford.edu/data/


微软匿名网络数据


http://kdd.ics.uci.edu/databases/msweb/msweb.html


MSNBC 匿名网络数据


http://kdd.ics.uci.edu/databases/msnbc/msnbc.html


SyskillWebert Web 数据


http://kdd.ics.uci.edu/databases/SyskillWebert/SyskillWebert.html


图像


ImageNet (包含 1400 万的图像)


http://www.image-net.org/


Tiny Images Dataset (包含 8000 万的 32x32 图像)


http://horatio.cs.nyu.edu/mit/tiny/data/index.html


MirFlickr1M (包含 100 万的图像)


http://press.liacs.nl/mirflickr/


CoPhIR (包含 1 亿 600 万的图像 )


http://cophir.isti.cnr.it/whatis.html


SBU captioned photo dataset (包含 100 万的图像)


http://dsl1.cewit.stonybrook.edu/~vicente/sbucaptions/


Large-Scale Image Annotation using Visual Synset(ICCV 2011) (包含 2 亿图像 )


http://cpl.cc.gatech.edu/projects/VisualSynset/


NUS-WIDE(包含 27 万的图像)


http://lms.comp.nus.edu.sg/research/NUS-WIDE.htm


SUN dataset (包含 13 万的图像)


http://people.csail.mit.edu/jxiao/SUN/


MSRA-MM (包含 100 万的图像,23000 视频 )


http://research.microsoft.com/enus/projects/msrammdata/


TRECVID


http://trecvid.nist.gov/


卡耐基 - 梅隆的脸图片


http://kdd.ics.uci.edu/databases/faces/faces.html


金星上的火山


http://kdd.ics.uci.edu/databases/volcanoes/volcanoes.html


雅虎发布超大 Flickr 数据集 1 亿的图片 + 视频


http://yahoolabs.tumblr.com/post/89783581601/one-hundred-million-creative-commons-flickr-images-for


100 多个有趣的数据集


http://www.csdn.net/article/2014-06-06/2820111-100-Interesting-Data-Sets-for-Statistics


图像处理相关个人主页、研究组及公开数据集网址


http://blog.sciencenet.cn/blog-673472-759786.html


Public Domain Collections

Data360

http://www.data360.org/index.aspx

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
2月前
|
人工智能 安全 算法
上交大、上海人工智能实验室开源首个多轮安全对齐数据集 SafeMTData
最近,以 OpenAI o1 为代表的 AI 大模型的推理能力得到了极大提升,在代码、数学的评估上取得了令人惊讶的效果。OpenAI 声称,推理可以让模型更好的遵守安全政策,是提升模型安全的新路径。
|
12天前
|
机器学习/深度学习 数据可视化 大数据
机器学习与大数据分析的结合:智能决策的新引擎
机器学习与大数据分析的结合:智能决策的新引擎
97 15
|
27天前
|
人工智能 分布式计算 DataWorks
大数据& AI 产品月刊【2024年11月】
大数据& AI 产品技术月刊【2024年11月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
29天前
|
机器学习/深度学习 人工智能 运维
智能化运维:AI与大数据在IT运维中的应用探索####
本文旨在探讨人工智能(AI)与大数据分析技术如何革新传统IT运维模式,提升运维效率与服务质量。通过具体案例分析,揭示AI算法在故障预测、异常检测及自动化修复等方面的实际应用成效,同时阐述大数据如何助力实现精准运维管理,降低运营成本,提升用户体验。文章还将简要讨论实施智能化运维面临的挑战与未来发展趋势,为IT管理者提供决策参考。 ####
|
2月前
|
机器学习/深度学习 分布式计算 算法
【大数据分析&机器学习】分布式机器学习
本文主要介绍分布式机器学习基础知识,并介绍主流的分布式机器学习框架,结合实例介绍一些机器学习算法。
236 5
|
2月前
|
存储 人工智能 分布式计算
大数据& AI 产品月刊【2024年10月】
大数据& AI 产品技术月刊【2024年10月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
3月前
|
机器学习/深度学习 人工智能 运维
智能运维:大数据与AI的融合之道###
【10月更文挑战第20天】 运维领域正经历一场静悄悄的变革,大数据与人工智能的深度融合正重塑着传统的运维模式。本文探讨了智能运维如何借助大数据分析和机器学习算法,实现从被动响应到主动预防的转变,提升系统稳定性和效率的同时,降低了运维成本。通过实例解析,揭示智能运维在现代IT架构中的核心价值,为读者提供一份关于未来运维趋势的深刻洞察。 ###
123 10
|
3月前
|
机器学习/深度学习 自然语言处理 算法
大数据与机器学习
大数据与机器学习紧密相关,前者指代海量、多样化且增长迅速的数据集,后者则是使计算机通过数据自动学习并优化的技术。大数据涵盖结构化、半结构化及非结构化的信息,其应用广泛,包括商业智能、金融和医疗保健等领域;而机器学习分为监督学习、无监督学习及强化学习,被应用于图像识别、自然语言处理和推荐系统等方面。二者相结合,能有效提升数据分析的准确性和效率,在智能交通、医疗及金融科技等多个领域创造巨大价值。
159 2
|
3月前
|
人工智能 分布式计算 大数据
大数据&AI产品月刊【2024年9月】
大数据& AI 产品技术月刊【2024年9月】,涵盖本月技术速递、2024云栖大会实录、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
4月前
|
人工智能 分布式计算 DataWorks
大数据&AI产品月刊【2024年8月】
大数据& AI 产品技术月刊【2024年8月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。