MIT新研究|如何让自动驾驶汽车做出道德选择

简介:


我们人类经常会犯这样那样的错误,不是把钥匙放在冰箱里之类的小错,就是把烤箱开上一整天这样的致命错误。我们通常会表现得鲁莽,健忘,自负,难以集中注意力——一些当我们以百公里时速驾驶一辆两吨重的金属机器穿越大街小巷时极为致命的特性。 导致车祸的五大首要原因有四项可归结为人为失误。

电脑,相比之下,就有着极为务实的思维。它们以程序设定的,经过计算的方式来收集数据并作出反应。自动驾驶车辆已经显示出了相比人类驾驶更高的安全性。近几年人工智能方面的进步速度甚至使得一些专家预言2030年前人工驾驶将被非法化。

“机械智能可能需要处理一些棘手状况:为了使某些人存活某些人必须得死。”

不过,正如大部分司机所了解的,驾驶可能需要你在不到一秒内做出没有明确答案的抉择。

一只小松鼠冲到路上——你会冒着撞上其他车辆的危险突然转向,还是径直开过去并祈祷松鼠还活着?如果是狗呢?又或者是个罪犯?又或者是孩子?到底哪些生命是值得你冒险的?这些问题困扰着全球的研究者们。现在他们将从你们身上寻求答案。

“自动驾驶车辆现在已是大势所趋。”

麻省理工毕业生以及研究助理Sohan Dsouza告诉Digital Trends“这是件好事,大体上来说,因为它们每天将拯救无数正因人类司机的失误而丧失的生命并给无数没有驾驶能力的人带来独立的机动性。”

  

为了达成这个目标,Dsouza,Edmond Awad,以及他们在MIT媒体实验室的研究团队开发了道德机器,一个使使用者接触道德抉择,询问他们一辆自动驾驶车辆应当如何应对的平台。每个场景都提供了一些背景要素,包括受害者的年龄性别,他们的社会地位,以及他们是否遵纪守法。参与者被要求在13个两难境地中做出抉择。这些结果被作为众包数据堆积起来,并在未来用于伦理仪器的开发中。在做出抉择后,用户还可以比较其他用户的选择,甚至设计自己的场景供他人解答。

“我们的主要目标之一就是在公众中引发争论,”Dsouza说“特别是引起用户,制造者,保险业者以及官方人员间的对话”

“不是所有的车祸都可以避免,而自动驾驶车辆需要处理你死或是我亡可能性依然存在,很像是经典的哲学问题,即著名的电车变轨问题。“

人们琢磨电车问题将尽50年了。其中,一辆列车正行驶在即将撞死五人的原轨道上。你有一个开关可以使列车变轨,使其只会撞死一人。你会干预还是袖手旁观呢?

“对于这些可能性很少有基于实验的研究,”Dsouza说,“介于此,我们需要制造一个平台来生成大量具有复杂因素的场景并以一种易懂易用且身临其境的方式把它们呈现给用户,以此来建立人们如何看待及其所做出的道德选择的模型。”

道德机器已经收集了在1100万场景中人们的答案。尽管团队还没开始对这些数据深入分析,但他们已经发现地区差异暗示了未来研究路困难重重。“平均下来,来自西部乡村地区的参与者更为重视减小伤亡数目的价值——也就是说,相比东部人,他们更赞同功利主义的选择。“

原文发布时间为:2016-10-11


本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

相关文章
|
SQL 存储 算法
MySQL 8.0 新的火山模型执行器
# MySQL的总体架构 通常我们认为MySQL的整体架构如下, ![1.png](https://ata2-img.oss-cn-zhangjiakou.aliyuncs.com/46a99cb928955a5c5759115e2e6ba1fe.png) 官方10年前开始就一直在致力于优化器代码的重构工作,目的是能确保在SQL的执行过程中有清晰的阶段,包括分离Parse和Resol
3119 0
MySQL 8.0 新的火山模型执行器
|
关系型数据库 MySQL Shell
MySQL高可用之双主+Keepalived,轻松实现单点故障VIP转移
MySQL高可用之双主+Keepalived,轻松实现单点故障VIP转移
2953 0
MySQL高可用之双主+Keepalived,轻松实现单点故障VIP转移
|
8月前
|
人工智能 自然语言处理 API
OpenClaw 龙虾AI智能客服终极方案:阿里云/本地+RAGFlow企业级搭建+大模型API配置,效率起飞!
2026年,企业智能客服已经从简单问答转向**精准知识库检索+多轮对话+自动化执行**的综合场景。OpenClaw(Clawdbot)凭借轻量化、易扩展、支持企业微信与飞书接入的优势,成为智能体客服的首选框架;而RAGFlow作为稳定易用的开源RAG引擎,能够快速构建私有知识库,实现文档自动解析、分段、向量化与精准检索。二者结合,可打造出**回答准确、不编造、可追溯、可训练**的企业级智能客服,大幅降低人工成本、提升响应速度与服务质量。
2303 0
|
10月前
|
人工智能 关系型数据库 Serverless
吃灰 AI 眼镜爆改“交警 Copilot”,函数计算AgentRun 实操记录
本文介绍基于Meta Ray-Ban眼镜的“交警Copilot”原型:利用turbometa开源项目实现中文直连,结合阿里云函数计算(FC)与AgentRun构建“端-管-云”架构——眼镜采图、iOS抽帧上传、云端Agent动态决策(OCR+规则判断+查库),支持单双号限行识别等。全栈Serverless,Prompt即业务逻辑,灵活应对交规变更。(239字)
吃灰 AI 眼镜爆改“交警 Copilot”,函数计算AgentRun 实操记录
|
10月前
|
机器学习/深度学习 弹性计算 人工智能
2026年阿里云服务器租用价格:轻量应用服务器与云服务器ECS活动价格明细
2026年阿里云活动内云服务器覆盖轻量应用、经济型、通用算力型及第九代企业级实例等多类配置。轻量应用服务器低至38元/年(2核2G+200M带宽),经济型e实例99元/年起(2核2G+3M带宽),通用算力型u1实例199元/年起(2核4G+5M带宽)。第九代实例搭载高性能处理器,性能提升20%,适配AI、大数据等场景。以下是具体活动价格明细。
|
存储 安全 Android开发
HarmonyOS实战:一招搞定保存图片到相册
本文介绍了在鸿蒙系统中实现保存图片到相册的功能,包括申请权限和使用系统安全控件两种方式。文中详细讲解了如何通过网络请求下载图片并保存为本地文件,以及如何将指定布局生成图片并保存。鸿蒙系统对权限管理较为严格,推荐使用系统提供的安全控件(如 SaveButton)以保护用户隐私,避免手动申请权限。此外,文章还对比了鸿蒙与 Android/iOS 的实现差异,指出鸿蒙在功能实现上更简单,但需注意权限规范以确保项目顺利上线。
1666 0
HarmonyOS实战:一招搞定保存图片到相册
|
算法
重磅!2025年中科院预警期刊名单正式发布!
中国科学院文献情报中心发布的《国际期刊预警名单》旨在防范学术不端与不当出版行为,保护科研生态良性发展。2025年版本聚焦两大问题:学术不端(如引用操纵、论文工厂)和不利于中国学术成果国际化传播的行为(如中国作者占比过高或APC费用不合理)。预警名单动态调整,发布时点从年底改为年初,便于科研人员及时调整投稿策略。被列入预警名单的期刊可能影响职称评审及科研经费认可,建议优先选择中科院分区表推荐期刊,警惕“快速代发”陷阱,并关注期刊官网声明。未来科研生态将更注重规范化与原创性,推动高质量学术发表。维护健康的学术环境对提升中国科研全球影响力至关重要。
2846 0
|
SQL 数据可视化 Java
分享三个java低代码开发平台,每个都很能打,建议收藏
来讲讲近期比较流行的低代码开发平台一词。低代码的目的是将可重复性的编程工作通过平台实现,将开发人员从没有技术含量的增删改查开发中解放出来,让其专注于更有价值的开发工作,例如业务建模、数据库设计、流程设计、API核心开发、业务逻辑开发等工作。
分享三个java低代码开发平台,每个都很能打,建议收藏
|
存储 Linux 文件存储
DIY nas 之 jellyfin 媒体系统
Jellyfin是一个自由和开源的媒体系统,它致力于为用户提供最佳的媒体管理和流媒体体验。
943 1