不造AI杀人武器当然好,但牛津学者觉得马斯克们忽略了重点

简介: 牛津大学的学者Mariarosaria Taddeo (简称玛利亚) 说,他们忽略了一个重点。而且,把万众目光集中在“AI杀手”上,人们就更难注意到那个重点了。

上个星期,马斯克 (Elon Musk) 刚刚带领一众AI专家,签订了一份承诺书。

内容是,永不开发自主杀人武器 (Lethal Autonomous Weapon Systems)。

理由有二。一,不该把生杀大权交给机器。二,致命AI武器的存在,会让国家和个人承受危险的动荡。

image

意图自然是好的,但牛津大学的学者Mariarosaria Taddeo (简称玛利亚) 说,他们忽略了一个重点。

而且,把万众目光集中在“AI杀手”上,人们就更难注意到那个重点了。

表面“静止”

智能机器人统治世界,支配人类,这样的极端场景,的确非常吸引眼球。

但那并不是AI技术唯一的隐患。

美军曾经把AI分成两种:一是移动的 (AI in Motion) ,二是静止的 (AI at Rest) 。

前者表示依托于实体机器人的AI,后者表示仅仅存在于软件系统的AI。

美国海军有自动驾驶的军舰,以色列有自主识别、打自主击目标的无人机,这些军用设备里的AI,是移动型。

但战争并非只有硬碰硬,比如,网络世界 (Cyber Space) 就从不和平。

玛利亚觉得,后者才更需要重视,“静止”也不代表不危险。

暗潮汹涌

网络世界里,大大小小的国际争端,可能每天都在发生。

image

今年3月,美国谴责了俄罗斯,说对方几个月来,一直攻击美国关键的基础设施。

这样的话,事情就不像WannaCry抢比特币那样简单。

如果,有人能利用AI,造成全国范围的停电,或者供暖系统瘫痪,就可能导致非常严重的后果。


image

△停电不是小事
虽然,还没有发现AI直接造成物理伤害的事件,但不代表以后也不会有。毕竟,AI正在飞速普及。

玛利亚说,社会的运转越依赖AI,系统之间的冲突越可能带来物理伤害。

AI与AI之间,有了自主打击、自主防御行为,就算没有实体机器人,局面还是可能失控。

一线之隔

现在,许多国家都在建立自己的AI网络防线。

玛利亚说,“网络军备竞赛 (Cyber Arms Race) ”可能就要开始了。

可是,防御与攻击,仅一线之隔。


image

现在,国际上依然没有法规,能够规范网络防御 (Cyberdefence) 行为。

早在2004年,联合国就成立了信息安全政府专家组 (Group of Governmental Experts on Information Security) ,目的便是达成共识,用统一的法条来规范各国在网络空间里的行为。

然而,会开了很多次,共识到今天都没有达成。

image


今年4月,玛利亚的一篇文章在Nature上发表。她写道,网络防御要三步走——

第一步,划定法律界限。

第二步,在友好邦国之间,测试防御策略。

第三步,建立监管机制,强化法规执行。

她给每一步,都描绘了一些合理的设想。

image


不过,还不知道这个世界,哪天能走出第一步。

Nature文章传送门:
https://www.nature.com/magazine-assets/d41586-018-04602-6/d41586-018-04602-6.pdf

原文发布时间为:2018-07-24
本文来自云栖社区合作伙伴“量子位”,了解相关信息可以关注“量子位”。

相关文章
|
机器学习/深度学习 人工智能 自然语言处理
多模态大一统、AI智能体将如何引领未来?阿里妈妈与人大高瓴学者探讨大模型趋势
多模态大一统、AI智能体将如何引领未来?阿里妈妈与人大高瓴学者探讨大模型趋势
330 0
|
12天前
|
人工智能 自然语言处理 搜索推荐
马斯克AI Grok 3 国内如何使用?请收下这篇新手指南!
Grok AI,由埃隆·马斯克(Elon Musk)旗下的人工智能初创公司 xAI 于 2023 年 11 月推出,迅速成为 AI 领域的一颗耀眼新星
453 80
|
15天前
|
人工智能 安全 数据中心
D1net阅闻 | 微软CEO对话特朗普和马斯克:豪掷800亿美元建AI数据中心
D1net阅闻 | 微软CEO对话特朗普和马斯克:豪掷800亿美元建AI数据中心
|
3月前
|
人工智能 API Windows
免费部署本地AI大语言模型聊天系统:Chatbox AI + 马斯克grok2.0大模型(简单5步实现,免费且比GPT4.0更好用)
本文介绍了如何部署本地AI大语言模型聊天系统,使用Chatbox AI客户端应用和Grok-beta大模型。通过获取API密钥、下载并安装Chatbox AI、配置模型,最终实现高效、智能的聊天体验。Grok 2大模型由马斯克X-AI发布,支持超长文本上下文理解,免费且易于使用。
2129 0
|
4月前
|
人工智能 数据中心 芯片
马斯克X AI鲶鱼效应 倒逼AI行业快速发展
全球数据中心面临放缓困境,AI大模型的迭代因高质量数据短缺和高昂的建设成本而受限。马斯克的xAI公司迅速建设超大规模数据中心,引发OpenAI等竞争对手的焦虑,新一轮数据中心竞赛即将展开。
|
5月前
|
机器学习/深度学习 传感器 人工智能
马斯克的AI机器人可以拯救一个陷入困境的教育系统吗?
马斯克的AI机器人可以拯救一个陷入困境的教育系统吗?
|
7月前
|
机器学习/深度学习 人工智能
AI训AI惨遭投毒9次大崩溃,牛津剑桥等惊天发现登Nature封面!
【8月更文挑战第11天】牛津与剑桥大学研究揭示,AI模型若反复在自身生成的数据上训练,将遭遇“模型崩溃”,即性能严重退化,甚至遗忘真实世界的数据分布。此现象在《自然》杂志刊出,警示AI进化之路暗藏风险。实验显示,随着训练代际增加,模型倾向于生成更简单内容,丢失稀有信息,最终可能导致对现实世界的误解加深。此发现对AI领域的持续发展及模型可靠性提出了新的挑战。
236 60
|
6月前
|
机器学习/深度学习 人工智能 自动驾驶
【通义】AI视界|马斯克:特斯拉计划2025年末批量装备AI训练芯片Dojo2
本文精选了24小时内的重要AI新闻,包括特斯拉计划2025年批量装备Dojo 2芯片、英伟达股价大涨、谷歌联合创始人积极参与AI项目、中科院女工程师开源AI模型保护女性,以及快手旗下可灵AI与蓝色光标达成战略合作。更多内容敬请访问通义官网体验。
|
9月前
|
机器学习/深度学习 人工智能 Rust
全球最大开源大模型!马斯克正式开源Grok AI
全球最大开源大模型!马斯克正式开源Grok AI
217 54
|
10月前
|
机器学习/深度学习 人工智能
看看OpenAI(ChatGPT)怎么回答马斯克呼吁停止ai研究的?
看看OpenAI(ChatGPT)怎么回答马斯克呼吁停止ai研究的?
352 1

热门文章

最新文章