【重磅】李飞飞提出AI研究新方法论:以人为本,机器的价值就是人的价值

简介: 尽管现在人工智能的发展速度达到了令人目眩的地步。但李飞飞依然认为它面临着诸多挑战,人类有责任让人工智能的发展能够帮助人类世界变得更加美好。

在人工智能领域,李飞飞是名副其实的女神级人物,她的一举一动都会引来AI界最大的关注。日前,李飞飞撰文谈及了她对人工智能未来发展的思考,并提出了“以人为中心的人工智能”的方法论,她希望这一方法论能够对机器智能的发展起到一到的指导作用。

这一方法论有三个目标。

人工智能更多地表现出我们人类自身特征的深度,还要考虑到人类视觉感知的丰富程度

它非常复杂、前后逻辑关系很紧密、同时还需要很自然地在显意识和细微差异的敏感性两方面做出平衡。相比之下,目前机器的感知范围依然明显狭窄。

以她实验室中所进行过的研究为例。机器在一些差异很不明显时很难做出精确的判断,例如一个图像字幕算法能够很快地识别出一张“骑马的人”的照片,但它却没能识别出人和马都是青铜雕像的事实。而在另外一种差异比较显著的情况下,当用相同的算法来描述斑马在彩虹下的大草原上吃草的图像时,虽然从技术的角度来说它的总结是正确的,但这个算法完全没有审美意识,无法像人类那样做出更有活力和深度的评价。

让人类在AI的帮助下得到提升,而不是让AI取代人类。

李飞飞认为,这需要我们将人工智能与认知科学、心理学甚至是社会学重新联系起来,这将为机器智能的发展打下更坚实的基础,我们希望能够看到可以更自然地协作和交流的技术。

在李飞飞看来,人类在创造性、智力和情感方面仍然是最好的,人工智能更适合那些自动的、重复的、容易出错甚至是危险的工作。

以AI在手术过程中的应用为例。我们的目标不是实现手术的完全自动化,而是通过智能软件和专用硬件的结合,来对更多日常任务进行监控并防止人为错误,疲劳和分心,从而让外科医生能够发挥他们灵活性和适应能力等特长。或者在老年人看护领域,机器人可能永远不会成为老年人的理想监护人,但他们可以承担药物剂量自动监控和安全检查等工作,从而将看护人部分地解放出来让他们能有更多的时间和精力来关心被看护者。

确保AI的每一个发展阶段都能得到正确的引导,同时关注它对人类的影响。

李飞飞表示,今天对工作可能会被取代的焦虑只是一个开始。人们还将面临其他许多问题,包括机器学习对少数群体的偏见、人工智能对数据的偏好与个人隐私权之间的冲突、全球智能竞赛对地缘政治的影响等。

要充分面对这些挑战,李飞飞认为需要许多大型机构的承诺。大学、政府和企业都应该充分利用自己的优势来发挥出相应的作用。

李飞飞所提的这几大目标需要人工智能行业的从业者们积极去推进,尽管现在人工智能的发展速度达到了令人目眩的地步。李飞飞指出,当前对于像她这样的研究人员来说是一个特别令人激动的时代。早在10多年前它还只在学术界内才有关注度,但在今天,人工智能已经从一个学术领域走向了各种不同的行业,包括制造业,医疗,运输和零售。诸多中美科技公司都将宝押在了它上面,关于人工智能的研发也吸引了数以十亿计的风险投资,每天都有在该领域创业的公司诞生。如果说我们现在正处于下一个工业革命时代的话,那正如大多数人所认为的那样,人工智能毫无疑问将是驱动力之一。

没有任何技术比能够像人工智能这样更能反衬出它创造者的状况,人们常说“机器”没有任何价值。但事实上,机器的价值就是人的价值。以人为中心的人工智能研究方法意味着这些机器不是我们的竞争对手,而是确保我们福祉的合作伙伴。然而,无论人工智能的自主化程度如何高,它对世界的影响始终是我们人类的责任——无论它让这个世界变得更好还是更坏。李飞飞最后如是说到。


原文发布时间为:2018-03-9

本文作者:晨元

本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”微信公众号

原文链接:【重磅】李飞飞提出AI研究新方法论:以人为本,机器的价值就是人的价值

相关文章
|
2月前
|
机器学习/深度学习 人工智能
打开AI黑匣子,三段式AI用于化学研究,优化分子同时产生新化学知识,登Nature
【10月更文挑战第11天】《自然》杂志发表了一项突破性的化学研究,介绍了一种名为“Closed-loop transfer”的AI技术。该技术通过数据生成、模型训练和实验验证三个阶段,不仅优化了分子结构,提高了光稳定性等性质,还发现了新的化学现象,为化学研究提供了新思路。此技术的应用加速了新材料的开发,展示了AI在解决复杂科学问题上的巨大潜力。
41 1
|
8天前
|
机器学习/深度学习 人工智能 自然语言处理
AI自己长出了类似大脑的脑叶?新研究揭示LLM特征的惊人几何结构
近年来,大型语言模型(LLM)的内部运作机制备受关注。麻省理工学院的研究人员在论文《The Geometry of Concepts: Sparse Autoencoder Feature Structure》中,利用稀疏自编码器(SAE)分析LLM的激活空间,揭示了其丰富的几何结构。研究发现,特征在原子、大脑和星系三个尺度上展现出不同的结构,包括晶体结构、中尺度模块化结构和大尺度点云结构。这些发现不仅有助于理解LLM的工作原理,还可能对模型优化和其他领域产生重要影响。
50 25
|
28天前
|
人工智能 开发者
人类自身都对不齐,怎么对齐AI?新研究全面审视偏好在AI对齐中的作用
论文《AI对齐中的超越偏好》挑战了偏好主义AI对齐方法,指出偏好无法全面代表人类价值观,存在冲突和变化,并受社会影响。文章提出基于角色的对齐方案,强调AI应与其社会角色相关的规范标准一致,而非仅关注个人偏好,旨在实现更稳定、适用性更广且更符合社会利益的AI对齐。论文链接:https://arxiv.org/pdf/2408.16984
35 2
|
1月前
|
人工智能 知识图谱
成熟的AI要学会自己搞研究!MIT推出科研特工
MIT推出科研特工SciAgents,结合生成式AI、本体表示和多代理建模,实现科学发现的自动化。通过大规模知识图谱和多代理系统,SciAgents能探索新领域、识别复杂模式,加速新材料发现,展现跨学科创新潜力。
44 12
|
5月前
|
机器学习/深度学习 人工智能 安全
智能时代的伦理挑战:AI技术与人类价值的交锋
在人工智能的飞速发展之下,我们站在了一个技术与伦理交织的十字路口。本文将探讨AI技术如何重塑我们的工作、生活和思维方式,同时引发了一系列关于隐私、安全和道德的讨论。通过分析AI在不同领域的应用案例,我们将揭示这一技术革新背后的复杂伦理问题,并提出相应的解决策略。随着AI技术的不断进步,人类社会必须找到平衡创新与维护人类核心价值的方法。
|
1月前
|
机器学习/深度学习 人工智能 算法
基于AI的性能优化技术研究
基于AI的性能优化技术研究
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
AI与艺术创作:机器的艺术天赋
【10月更文挑战第31天】本文探讨了AI在艺术创作中的应用及其独特“艺术天赋”。从绘画、音乐、文学到设计,AI通过计算机视觉、自然语言处理和生成对抗网络等技术,逐渐展现出强大的创作能力。尽管面临原创性、审美标准和法律伦理等挑战,AI艺术创作仍为艺术界带来了新的视角和灵感,未来有望与人类艺术家共同推动艺术的创新与发展。
|
2月前
|
人工智能 自然语言处理
召唤100多位学者打分,斯坦福新研究:AI科学家创新确实强
【10月更文挑战第6天】斯坦福大学最新研究评估了大型语言模型(LLMs)在生成新颖研究想法方面的能力,通过100多位NLP专家盲评LLMs与人类研究人员提出的想法。结果显示,LLMs在新颖性方面超越人类(p < 0.05),但在可行性上略逊一筹。研究揭示了LLMs作为科研工具的潜力与挑战,并提出了进一步验证其实际效果的设计。论文详见:https://arxiv.org/abs/2409.04109。
49 6
|
2月前
|
人工智能 自然语言处理 机器人
MIT新研究揭秘AI洗脑术!AI聊天诱导人类编造记忆,真假难辨
麻省理工学院的一项新研究《基于大型语言模型的对话式AI在证人访谈中加剧虚假记忆》显示,使用生成式聊天机器人进行犯罪证人访谈会显著增加参与者的虚假记忆,且影响持久。研究设置了对照组、问卷访谈、预设脚本及生成式聊天机器人四种条件,结果显示生成式聊天机器人诱导的虚假记忆数量远超其他方法。尽管AI技术在效率和准确性方面潜力巨大,但在敏感领域需谨慎应用,并需进一步评估风险,制定伦理准则和监管措施。论文详细内容见[这里](https://arxiv.org/abs/2408.04681)。
59 2
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
快速消费品数字化和AI转型的真正价值
快速消费品数字化和AI转型的真正价值

热门文章

最新文章