目录导图：
本书从AI自身安全性角度出发，揭秘对抗样本攻击、数据投毒攻击、模型后门攻击、预训练模型中的风险与防御、AI数据隐私窃取攻击，以及AI应用失控等方面，以期提升AI技术的安全性。
视频简介：
致敬AI安全的奋斗者！
2023-05-29
109
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
致敬AI安全的奋斗者！
目录
相关文章
|
7天前
|
人工智能
运维
监控
从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧：安全可观测体系建设刻不容缓
在近来发生的 DeepSeek 遭遇的安全事件中，我们可以看到当前人工智能行业在网络安全方面的脆弱性，同时也为业界敲响了警钟。唯有通过全行业的协同努力，加强整体、完善的网络安全可观测建设，才能为 AI 技术的创新和发展构建一个安全而稳固的环境。我们期盼并相信，在攻克这些网络安全难题之后，AI 创新将迎来更加安全、灿烂的未来。
88
7
10
|
22天前
|
机器学习/深度学习
人工智能
安全
SentinelOne人工智能安全态势管理（AI-SPM）
随着人工智能（AI）的广泛应用，AI基础设施的安全性变得至关重要。SentinelOne的AI安全态势管理（AI-SPM）解决方案专注于保护AI工作负载，提供自动化盘点、错误配置检测及攻击路径分析，确保AI系统的安全性。咨询采购请联系：王涛📞13818802872 📨wangtao@mfreelink.com。更多信息，请访问上海甫连信息。
66
7
7
|
2月前
|
人工智能
安全
算法
PAI负责任的AI解决方案： 安全、可信、隐私增强的企业级AI
在《PAI可信AI解决方案》会议中，分享了安全、可信、隐私增强的企业级AI。会议围绕三方面展开：首先通过三个案例介绍生活和技术层面的挑战；其次阐述构建AI的关键要素；最后介绍阿里云PAI的安全功能及未来展望，确保数据、算法和模型的安全与合规，提供全方位的可信AI解决方案。
101
5
5
|
2月前
|
机器学习/深度学习
人工智能
安全
阿里云先知安全沙龙(武汉站) ——AI赋能软件漏洞检测，机遇, 挑战与展望
本文介绍了漏洞检测的发展历程、现状及未来展望。2023年全球披露的漏洞数量达26447个，同比增长5.2%，其中超过7000个具有利用代码，115个已被广泛利用，涉及多个知名软件和系统。文章探讨了从人工审计到AI技术的应用，强调了数据集质量对模型性能的重要性，并展示了不同检测模型的工作原理与实现方法。此外，还讨论了对抗攻击对模型的影响及提高模型可解释性的多种方法，展望了未来通过任务大模型实现自动化漏洞检测与修复的趋势。
652
16
16
|
2月前
|
机器学习/深度学习
传感器
人工智能
开源AI视频监控系统在监狱安全中的应用——实时情绪与行为分析、暴力预警技术详解
针对监狱环境中囚犯情绪波动和复杂人际互动带来的监控挑战，传统CCTV系统难以有效预警暴力事件。AI视频监控系统基于深度学习与计算机视觉技术，实现对行为、情绪的实时分析，尤其在低光环境下表现优异。该系统通过多设备协同、数据同步及自适应训练，确保高精度识别（95%以上）、快速响应（<5秒），并具备24小时不间断运行能力，极大提升了监狱安全管理的效率与准确性。
114
1
1
|
2月前
|
人工智能
安全
机器人
OpenAI重拾规则系统，用AI版机器人定律守护大模型安全
在人工智能领域，大语言模型（LLM）展现出强大的语言理解和生成能力，但也带来了安全性和可靠性挑战。OpenAI研究人员提出“规则基于奖励（RBR）”方法，通过明确规则引导LLM行为，确保其符合人类价值观和道德准则。实验显示，RBR方法在安全性与有用性之间取得了良好平衡，F1分数达97.1。然而，规则制定和维护复杂，且难以完全捕捉语言的多样性。论文：https://arxiv.org/pdf/2411.01111。
120
13
13
|
2月前
|
机器学习/深度学习
人工智能
安全
CCF-CV企业交流会：打造大模型时代的可信AI，探索AI安全治理新路径
近日，由中国计算机学会计算机视觉专委会主办的《打造大模型时代的可信AI》论坛顺利举行。论坛邀请了来自上海交通大学、中国科学技术大学等机构的专家，从立法、监管、前沿研究等多角度探讨AI安全治理。合合信息等企业展示了图像篡改检测等技术，助力AI向善发展。
76
11
11
|
3月前
|
机器学习/深度学习
传感器
人工智能
智慧矿山AI安全监管方案
智慧矿山AI安全监管方案通过集成AI技术，实现了对矿山环境、设备和人员的全方位智能监控与管理。该方案利用高清摄像头、传感器等设备实时采集数据，通过AI算法进行智能分析，提前预测安全隐患，及时发出预警，有效提升矿山安全管理水平。方案涵盖顶板与边坡监测、设备运行监测、人员行为识别等多个方面，旨在构建一个高效、安全的智能化矿山环境。
89
0
0
|
3月前
|
云安全
人工智能
自然语言处理
|
3月前
|
人工智能
安全
网络安全
揭秘！大模型私有化部署的全方位安全攻略与优化秘籍，让你的AI项目稳如磐石，数据安全无忧！
【10月更文挑战第24天】本文探讨了大模型私有化部署的安全性考量与优化策略，涵盖数据安全、防火墙配置、性能优化、容器化部署、模型更新和数据备份等方面，提供了实用的示例代码，旨在为企业提供全面的技术参考。
237
6
6
热门文章
最新文章
1
手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型，创建个性化 AI 助手
2
AnythingLLM：34K Star！一键上传文件轻松打造个人知识库，构建只属于你的AI助手，附详细部署教程
3
AstrBot：轻松将大模型接入QQ、微信等消息平台，打造多功能AI聊天机器人的开发框架，附详细教程
4
Spring AI，搭建个人AI助手
5
MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
6
百聆：集成Deepseek API及语音技术的开源AI语音对话助手，实时交互延迟低至800ms
7
Cursor 为低代码加速，AI 生成应用新体验！
8
解决方案评测｜AI 剧本生成与动画创作
9
低代码 + AI 落地实践，让业务效率翻倍，解锁未来生产力！
10
[转载] 太神奇了！钉钉低代码×DeepSeek =5分钟手搓出学生个性化习题AI生成器
1
AI 赋能混合云运维：告别手工操作，迈向智能自愈！
116
2
DragAnything：视频PS来了！开源AI控制器让视频「指哪动哪」：拖拽任意物体轨迹，多对象独立运动一键生成
41
3
FoloUp：比HR更懂岗位需求！开源语音面试平台爆火：1份岗位需求生成100问，语音AI追问逻辑漏洞
29
4
重磅：谷歌AI Gemini 2.0 Pro/Flash已来，国内用户怎么使用？
42
5
Collaborative Gym：斯坦福人机协作框架开源！异步交互+三方感知，让你的AI学会主动补位
43
6
ENEL：3D建模革命！上海AI Lab黑科技砍掉编码器，7B模型性能吊打13B巨头
34
7
YAYI-Ultra：中国企业终于等来『全能大脑』！开源企业级AI『混合专家』横扫金融舆情中医领域，最长生成20万字报告
44
8
通古大模型：古籍研究者狂喜！华南理工开源文言文GPT：AI自动断句+写诗翻译，24亿语料喂出来的学术神器
45
9
TIGER：清华突破性模型让AI「听觉」进化：参数量暴降94%，菜市场都能分离清晰人声
51
10
DeepSeek：国产AI新势力，普通人如何用它赚钱？
155