今年CVPR,我们填补了3D场景布局数据集空白,并向全世界开源!

简介: 6月14日,"Learning 3D Generative Model" Workshop CVPR 2020 召开。来自名校各界的3D视觉和图形学学者举办了一场以“3D建模”为主题的线上 workshop,阿里巴巴淘系技术部资深算法专家乐田在会上分享了3D场景数据集3D-FRONT(3D Furnished Rooms with layOuts and semaNTics) 的报告,并向全世界开源此份数据集。

计算机视觉的鼻祖之一,Workshop 重量级嘉宾 Jitendra Malik 也远程在线。


image.png


以下,是我们关于3D场景数据集3D-FRONT(3D Furnished Rooms with layOuts and semaNTics)的核心内容。


▐  3D场景数据迫在眉睫,数据集严重缺乏


想象一下未来,我们用机器人设计一个卧室,即使是放置一个衣柜,机器人也需要考虑房型、角度等许多有关美感的问题。对于这样一个创造性的问题,我们需要大量数据集来指导训练机器人的大脑。


CVPRW-PPT-V7 (1).png

Motivation-InteriorDesign

Designa

Bedroom?

Designing

Hhustration?

Position&

Compatibility?

Catcgory?

Oncntation&Size?

DecorativcCabinct

Style&Color?

orWardrobe?

Ineedmorcexperienceorguidance!!!

Wherecanlfindmanyexquisiteinteriordestgns?


3D与2D场景理解是打造未来AI世界的基础核心的研究课题,且都依赖于大量数据进行来训练相关模型。


然而,当前学界场景数据集严重缺乏,特别是具有高质量布局与室内设计的数据集。这不足以支持和推进数据驱动的高智能化3D场景的相关研究。这是当下学界和业界面临的现实问题。


幻灯片5.png

Motivation-SceneDatabase

PublicSyntheticSceneDatasets

式礼

NotAyailable

16scenes

57scenes

1513scenes

SUNCGDataset

RobotrixDataset

ScanNet

SceneNet

PrincetonUniversity

UniversityofCambridge

StanfordUniversity

Fewquantitiesofscenes

Lackhigh-qualitytexture

Low-qualityInteriorFinishMesh


▐  阿里巴巴作为电商领军,深耕场景化数字营销,创造大量布局与设计数据


阿里巴巴作为世界级的电商互联网巨头,其官方家装家居设计平台——“躺平设计家”积累了海量高质量家居设计方案。


以这些真实家居场景为基础,阿里巴巴淘系技术部结合3D人工智能技术初步打造了场景化数字营销,推出了智能设计搭配服务,并创造了大量精美场景布局与设计数据。


这套 3D-FRONT(3D Furnished Rooms with layOuts and semaNTics)包含10,000真实户型,平均每个户型包含7个场景room。其中,31,734个场景含有人工验证过的精美室内设计信息。


数据集里面涉及的家具来自于阿里巴巴已开源的模型数据集3D-FUTURE(3D FUrniture shapes with TextURE),且都饱含丰富几何与纹理细节。


幻灯片7.png

3D-FRONT-AnOverview

CIne

10.000houscsverzly7roomsconaindichou.mwi

Including:

6金1海文械

High-QualityFurnitureShapcswith

InfomativeTexture(3D-FUTURE)

InteriorFinishMeshes

Layouts

RoomLabels

3D-FUTURE:mesh,xturendendering

layout

幻灯片10.png

Statistics

Stanford

ScanNet

Structured3D

SceneNet

Dataset

3D-FRONT

Scenes

V

V

V

3DMesh

V

V

3DSemanticMesh

V

Textures

34

#ObjctClass

Furniture)

19

#SceneCategories

28

10,001

3,500

#Houses

none

none

none

#Rooms/Scenes

130

1513

21,835

57

75,788


相比于其他3D场景数据集,3D-FRONT在相关统计数字上远超同类,且在高质量硬装mesh,户型布局,以及精美室内设计上是独一无二的。


幻灯片19.png

ProjectPages

lanaedTet

韩先游

Faeyarogwpewgo

CRTEoWyFoc业o

LDWTNEowSTENyoOETtoce

3D-FRONT

3D-FUTURE

3DFRONT:htpSPIehmmWiDOMNAlBaa3cnedalset

3D-FUTURE:htps:/ianchiyuomi


此次报告内容受到热烈响应,国外几何圈内诸多知名大学(斯坦福,牛津,马普所等)均表示对数据集的兴趣,并期待使用它做相关话题的学术研究。


阿里巴巴淘系技术部 3D-FRONT 填补学界 3D 场景布局数据空白,这对于推进学术研究与工业落地紧密结合、对于3D视觉和图形学的未来发展有着重大意义。


▐  开源数据集分享

 

  • 3D-FRONT数据集主页:

https://tianchi.aliyun.com/specials/promotion/alibaba-3d-scene-dataset


  • 3D-FUTURE数据集主页:

https://tianchi.aliyun.com/specials/promotion/alibaba-3d-future


  • Learning 3D Generative Models CVPR 2020 Workshop:

https://learn3dgen.github.io/


 

image.png

阿里巴巴淘系技术部与英国伦敦大学伯贝克学院Steve Maybank教授(Fellow of the IEEE and a Member of the Academia Europaea,the Koenderink Prize in 2008)、悉尼大学陶大程教授(Fellow of the IEEE, ACM and Australian Academy of Science)等国际知名学者合作,与3月30日正式开源业界首个饱含纹理细节的大型3D家具数据集(3D-FUTURE),共同推动3D家居智能研究。并面向全球3D几何与视觉研究爱好者同步启动第一届阿里巴巴3D人工智能挑战赛暨IJCAI-PRICAI 2020 Workshop。3D几何与视觉研究是广受关注的基础研究领域,是建设未来3D智能世界必经之路。


淘系技术部在人工智能国际顶级会议IJCAI-PRICAI举办workshop及竞赛,旨在总结目前最先进的3D几何与视觉技术,启发高质量3D模型理解与重建,并且建立学术研究与工业应用的桥梁。


相关文章
|
11月前
|
数据采集 人工智能 数据可视化
SpatialLM:手机视频秒建3D场景!开源空间认知模型颠覆机器人训练
SpatialLM 是群核科技开源的空间理解多模态模型,能够通过普通手机拍摄的视频重建 3D 场景布局,赋予机器人类似人类的空间认知能力,适用于具身智能训练、自动导航、AR/VR 等领域。
924 5
SpatialLM:手机视频秒建3D场景!开源空间认知模型颠覆机器人训练
|
存储 数据采集 固态存储
带三维重建和还原功能的医学影像管理系统(pacs)源码
带三维重建和还原功能的医学影像管理系统(pacs)源码
396 0
|
存储 编解码 安全
带三维重建和还原的PACS源码 医学影像PACS系统源码
带三维重建和还原的PACS源码 医学影像PACS系统源码 PACS及影像存取与传输系统”( Picture Archiving and Communication System),为以实现医学影像数字化存储、诊断为核心任务,从医学影像设备(如CT、CR、DR、MR、DSA、RF等)获取影像,集中存储、综合管理医学影像及病人相关信息,建立数字化工作流程。系统可实现检查预约、病人信息登记、计算机阅片、电子报告书写、胶片打印、数据备份等一系列满足影像科室日常工作的功能,并且由于影像数字化存储,用户可利用影像处理与测量技术辅助诊断、方便快捷地查找资料或利用网络将资料传输至临床科室,还可与医院HIS、L
252 0
|
存储 数据采集 编解码
【PACS】医学影像管理系统源码带三维重建后处理技术
【PACS】医学影像管理系统源码带三维重建后处理技术
347 0
|
C++
【C++医学影像PACS】CT检查中的三维重建是什么检查?
【C++医学影像PACS】CT检查中的三维重建是什么检查?
609 0
|
存储 数据库 数据安全/隐私保护
基于C++开发,支持三维重建,多平面重建技术的医学影像PACS系统源码
支持非DICOM标准的影像设备的图像采集和处理。 3)支持各种扫描仪、数码相机等影像输入设备。 4)支持各大主流厂商的CT、MR、DSA、ECT、US、数字胃肠、内镜等影像设备; 5)支持所有的DICOM相机,支持各大厂家的激光相机。 6)系统完全支持HL7接口和ICD—10编码,可与HIS系统无缝连接。 7)提供全院级、科室级工作站以及远程会诊工作站,三维重建,多平面重建。
408 0
基于C++开发,支持三维重建,多平面重建技术的医学影像PACS系统源码
|
存储 数据可视化 vr&ar
突破传统 重新定义:3D医学影像PACS系统源码(包含RIS放射信息) 实现三维重建与还原
突破传统,重新定义PACS/RIS服务,洞察用户需求,关注应用场景,新一代PACS/RIS系统,系统顶层设计采用集中+分布式架构,满足医院影像全流程业务运行,同时各模块均可独立部署,满足医院未来影像信息化扩展新需求、感受新时代影像服务便捷性、易用性!系统基于平台化设计,与第三方服务自然接入无压力,从功能多样化到调阅速度快;覆盖(放射、超声、内镜、病理、核医学、心血管、临床科室等,是以影像采集、传输、存储、诊断、报告书写和科室管理)为核心应用的模块化PACS/RIS系统,实现了全院级影像信息的合理共享与应用。
314 0
突破传统 重新定义:3D医学影像PACS系统源码(包含RIS放射信息) 实现三维重建与还原
|
数据采集 存储 数据可视化
医院影像PACS系统三维重建技术(获取数据、预处理、重建)
开放式体系结构,完全符合DICOM3.0标准,提供HL7标准接口,可实现与提供相应标准接口的HIS系统以及其他医学信息系统间的数据通信。
570 3
|
存储 编解码 监控
【C++】医学影像PACS三维重建后处理系统源码
系统完全符合国际标准的DICOM3.0标准
245 2
|
存储
医院PACS系统全套源码 强大的三维重建功能
对非DICOM影像,如超声、病理、心电图等进行了集成,做到了可以同时处理DICOM标准图像和非DICOM图像。
215 1

热门文章

最新文章