利用AI逃避规则,黑客的舞台又出神技!

简介: AI技术的发展催生了新型网络威胁。黑客利用AI生成恶意软件代码和钓鱼邮件,挑战传统YARA规则检测,通过微妙变异躲避安全筛查。AI也被用于欺诈和数据窃取,包括模拟高管进行诈骗及通过深度伪造影响操作。研究揭示了ASCII艺术形式的新攻击方式ArtPrompt,能诱导AI模型产生有害内容。面对AI网络钓鱼攻击,需提高警惕,通过检查发件人信息、留意邮件内容和避免点击不明链接来识别攻击;并采用更新安全软件、强化身份验证等策略加强防范。

一、前言

随着AI技术的蓬勃发展,前有马斯克把AI开源,后有新型AI攻击产生。

二、有黑客尝试使用AI技术来创建恶意软件代码片段或生成网络钓鱼电子邮件

近年来,随着AI技术的飞速发展,不法分子也开始将其应用在恶意领域,瞄准网络安全防御体系的关键环节——YARA规则发起挑战。

近日,网络安全研究机构Recorded Future发布的一项研究报告揭示了一个令人警醒的趋势:AI正被恶意行为者用于强化并变异小型恶意软件源代码,使其巧妙地规避基于字符串匹配的传统YARA检测规则,从而显著降低被检测及拦截的概率。

该研究团队实地演示了一项实验,他们将与APT28黑客组织关联的知名恶意软件STEELHOOK样本及其对应的YARA规则输入到一款强大的AI语言模型中,请求模型修改源代码以实现躲避检测,同时确保软件的基本恶意功能得以保留且生成的新代码逻辑无误。这意味着,借助于AI的反馈优化机制,新型的、具备自我增强特性的恶意软件能够轻易穿透基于字符串简单规则的安全筛查。

图片.png

三、AI技术被用于欺诈活动和盗取保密数据
AI技术还在其他恶意活动中展现其破坏力。

例如用于快速生成看似合法的钓鱼邮件内容,精准模拟高层管理人员的身份进行欺诈活动,甚至通过深度伪造技术规模化仿冒官方网站实施影响力操作。

更值得关注的是,AI生成式技术在信息搜集阶段也发挥着日益重要的作用。

它能加速威胁行为者对关键基础设施的侦查速度,通过分析工业控制系统(ICS)和制造业设备的公开图像及视频资料,挖掘出地理位置、设备制造商、型号以及软件版本等珍贵的元数据信息,为后续针对性攻击提供战略情报。

微软和OpenAI最近亦发出警告,APT28组织已开始运用大型语言模型获取卫星通信协议、雷达成像技术以及其他关键技术参数,显示了他们意图深入探查卫星能力的企图。两家公司强烈建议各类组织机构密切关注并审慎管理那些包含敏感设备信息的公开图像和视频资源,必要时应及时采取删除措施,以防此类潜在威胁的加剧。

四、针对AI模型的新型攻击

学术界还揭示了一种针对AI模型的新颖攻击方式——ArtPrompt。

研究指出,通过精心构造的ASCII艺术形式输入,攻击者能够绕开基于大语言模型的安全过滤机制,诱导模型产生有害内容。由于某些模型在处理ASCII艺术形式的数据时可能存在识别盲点,这类攻击手法凸显了当前AI安全防护技术所面临的新一轮挑战。

五、如何保护企业免受人工智能网络钓鱼攻击
网络钓鱼是网络犯罪分子社会工程武器库中的超级武器。网络钓鱼尤其危险,因为它是网络犯罪分子获得初始访问权限的最可靠方式。

1.AI网络钓鱼攻击

图片.png

AI网络钓鱼攻击通常通过模仿可信的个人信息或机构来进行。攻击者利用深度学习等技术,生成逼真的电子邮件、消息或网站,诱使用户泄露个人信息或下载恶意软件。

人工智能已经开始使网络钓鱼攻击变得更加有效。虽然许多网络钓鱼攻击会发送大量欺诈消息,希望少数攻击能够成功,但人工智能可以极大地提高网络犯罪分子发起鱼叉式网络钓鱼攻击的能力。这些攻击利用人工智能筛选大量数据来制作定制的网络钓鱼消息,其成功率比标准的大规模网络钓鱼攻击高得多。

2.识别AI网络钓鱼攻击

图片.png

识别AI网络钓鱼攻击是防范的第一步。以下是一些关键的识别方法:

① 检查发件人信息:AI网络钓鱼攻击可能会模仿官方邮箱或联系人,但仔细检查发件人的邮箱地址,通常可以发现端倪。
② 留意邮件内容:AI生成的邮件内容可能会出现语法错误或不符合官方风格的表达,仔细阅读可以识别出异常。
③ 不要点击不明链接:AI网络钓鱼邮件中常含有诱导向恶意网站的链接,不要轻易点击,尤其是要求输入个人信息的链接。

3.防范AI网络钓鱼攻击的策略

1)提高安全意识:了解AI网络钓鱼攻击的特点和手段,提高自身的安全防范意识。
2)更新安全软件:定期更新操作系统和防病毒软件,以抵御新出现的网络威胁。
3)强化身份验证:在涉及敏感信息的操作中,启用双因素身份验证,增加账户安全等级。
4)谨慎分享个人信息:不在不安全的网络环境中分享个人敏感信息,尤其是身份证号、银行账户信息等。

总结:面对日益复杂的网络环境,我们必须保持警惕,增强对AI网络钓鱼攻击的识别和防范能力。通过不断学习和实践,我们可以更好地保护个人信息安全,维护自己的合法权益。同时,相关部门也应加大打击力度,共同维护网络空间的安全与和谐。

相关文章
|
1月前
|
人工智能 算法 数据库
给AI装上一个'超级大脑':信息检索如何改变RAG系统的游戏规则
从传统检索方法到现代向量检索,通过一个购物助手的故事,直观展示了不同检索技术的原理与应用。学会这些技巧,让你的AI不再是「记忆只有金鱼长度」的大模型!
109 24
|
6月前
|
人工智能 JSON 小程序
【一步步开发AI运动APP】七、自定义姿态动作识别检测——之规则配置检测
本文介绍了如何通过【一步步开发AI运动APP】系列博文,利用自定义姿态识别检测技术开发高性能的AI运动应用。核心内容包括:1) 自定义姿态识别检测,满足人像入镜、动作开始/停止等需求;2) Pose-Calc引擎详解,支持角度匹配、逻辑运算等多种人体分析规则;3) 姿态检测规则编写与执行方法;4) 完整示例展示左右手平举姿态检测。通过这些技术,开发者可轻松实现定制化运动分析功能。
|
6月前
|
人工智能 文字识别 自动驾驶
突破自动驾驶"交规困境":高德&西交发布交规+高精地图基准MapDR,车道级交通规则在线理解,让AI更懂交规!
作为专业领先的出行和位置服务提供商,高德地图以数据准确率高、鲜度高著称。当前自动驾驶技术总是关注到矢量地图的构建,往往忽略了车道级驾驶规则的制作。对应图商而言,车道级的领航不仅需要有正确的车道级矢量表达,还要明确每条路的驾驶规则,保证引导的准确率。
200 2
|
9月前
|
人工智能 安全 数据中心
首个全球AI出口管制规则出台,中国AI路在何方?
在CES 2025上,英伟达宣布Blackwell芯片全面投产,GB200芯片为大语言模型推理带来30倍性能提升,成本和能耗降低25倍。然而,1月13日白宫公布的“临时最终规则”对AI芯片出口进行严格限制,引发市场悲观情绪。新规将全球分为三级,中国大陆被列为Tier 3,面临先进芯片进口禁令和模型权重管控,加剧了中国AI产业的挑战。尽管如此,华为云、科大讯飞等企业通过自主创新,如昇腾AI云服务,提供了稳定可靠的算力解决方案,展现了中国科技企业的韧性和创新精神,推动大模型生态的发展。
175 16
|
10月前
|
人工智能 安全 机器人
OpenAI重拾规则系统,用AI版机器人定律守护大模型安全
在人工智能领域,大语言模型(LLM)展现出强大的语言理解和生成能力,但也带来了安全性和可靠性挑战。OpenAI研究人员提出“规则基于奖励(RBR)”方法,通过明确规则引导LLM行为,确保其符合人类价值观和道德准则。实验显示,RBR方法在安全性与有用性之间取得了良好平衡,F1分数达97.1。然而,规则制定和维护复杂,且难以完全捕捉语言的多样性。论文:https://arxiv.org/pdf/2411.01111。
329 13
|
11月前
|
机器学习/深度学习 人工智能 安全
AI与网络安全:防御黑客的新武器
在数字化时代,网络安全面临巨大挑战。本文探讨了人工智能(AI)在网络安全中的应用,包括威胁识别、自动化防御、漏洞发现和预测分析,展示了AI如何提升防御效率和准确性,成为对抗网络威胁的强大工具。
|
机器学习/深度学习 人工智能 开发框架
智能ai量化高频策略交易软件、现货合约跟单模式开发技术规则
该项目涵盖智能AI量化高频策略交易软件及现货合约跟单模式开发,融合人工智能、量化交易与软件工程。软件开发包括需求分析、技术选型、系统构建、测试部署及运维;跟单模式则涉及功能定义、策略开发、交易执行、终端设计与市场推广,确保系统高效稳定运行。
|
机器学习/深度学习 人工智能 数据库
克雷研究所100万美元奖金要归AI了,数学界规则大改,未来数学家如何应对海量猜想
【6月更文挑战第1天】AI在数学领域的突破正在改写数学研究规则。伦敦数学科学研究所的AI预测椭圆曲线秩,与克雷研究所的千禧年问题相关,显示AI在高风险数学问题上的潜力。AI还发现了纽结理论中的新关系,并能生成数学公式的猜想。尽管AI有助于发现模式和猜想,但它仍依赖于数学家的直觉来判断猜想的重要性。未来,AI将成为数学家的工具,加速研究进程,但人类的创造力和洞察力仍是关键。
248 7
|
人工智能 自然语言处理 安全
黑客工具WormGPT:生成式AI的黑暗双胞胎
【2月更文挑战第12天】黑客工具WormGPT:生成式AI的黑暗双胞胎
570 5
黑客工具WormGPT:生成式AI的黑暗双胞胎
|
人工智能 安全 搜索推荐
AI日报:人工智能将成为2024年消费电子展的中心舞台
AI日报:人工智能将成为2024年消费电子展的中心舞台