在本文中，Gen首席技术官、人工智能研究员Michal Pechoucek分享了关于人工智能对网络安全影响的独家见解，内容涉及人工智能和深度学习在网络安全领域的早期应用、消费者网络安全和人工智能支持的防御、不断发展的网络安全威胁和认知攻击、人工智能和深度学习：防范自动攻击、基于签名的AI和深度学习扩展恶意软件检测、针对各种网络安全威胁构建人工智能的挑战、人工智能的可解释性在网络安全中的重要性、人工智能支持的认知攻击、身份盗窃和网络安全的未来、AI在网络安全领域对董事会的重要性、弥合网络安全专家和董事会之间的缺口、个人数据保护：提高网络安全的技巧、给首席信息安全官和首席信息官的建议。
Gen首席技术官谈人工智能和网络安全音频：00:0028:16
在讨论中，记者与Gen首席技术官、人工智能研究员探讨了人工智能(AI)和网络安全之间不断发展的关系。对话涵盖了一系列主题，从网络防御和渗透测试中的AI和机器学习(ML)工具到网络攻击中的A /B测试。对话还涵盖了人工智能和网络安全研究的挑战，以及该领域人工智能工具的成熟度。谈话的最后，Michal Pechoucek还为首席信息安全官(CISO)和首席信息官(CIO)提供了宝贵的建议，以及对人工智能在网络安全领域的未来做出了思考，包括认知攻击的可能性和错误信息的传播等等。
对话包括以下主题：
•人工智能和深度学习在网络安全领域的早期应用;
•消费者网络安全和人工智能支持的防御;
•不断发展的网络安全威胁和认知攻击;
•人工智能和深度学习：防范自动攻击;
•基于签名的AI和深度学习扩展恶意软件检测;
•针对各种网络安全威胁构建人工智能的挑战;
•人工智能的可解释性(explainability)在网络安全中的重要性;
•人工智能支持的认知攻击、身份盗窃和网络安全的未来;
•检测网络钓鱼攻击的AI：大型语言模型和分类;
•AI在网络安全领域对董事会的重要性;
•弥合网络安全专家和董事会之间的缺口;
•个人数据保护：提高网络安全的技巧;
•算法操作和隐私问题;算法操作和隐私;
•网络防御和渗透测试中的AI和ML工具;
•网络攻击中的A/B测试;
•关于数据收集的人工智能建议;
•人工智能和网络安全研究面临的挑战;
•给首席信息安全官(CISO)和首席信息官(CIO)的建议;
•人工智能在网络安全领域的未来：认知攻击和错误信息
Michal Pechoucek领导着Gen公司的核心技术、创新和研发团队，推动安全引擎以及以人为本的数字安全及其他领域的技术愿景。他还负责公司在人工智能、机器学习和网络安全领域的科学研究。他曾担任Avast的首席技术官(CTO)。
在加入Avast之前，Pechoucek曾在布拉格的捷克技术大学(CTU)担任了20多年的教授，在此期间，他于2001年创建了人工智能中心，还曾撰写400多篇高影响力的出版物，并为计算机科学研究贡献了许多创新的AI应用程序。
在追求自己的学术生涯期间，Pechoucek还曾与其他人联合创立了多家科技初创公司，包括网络安全公司Cognitive Security(2013年被CISCO收购)，专注于控制自动飞机交通的AgentFly Technologies，以及为工业应用开发人工智能的Blindspot Solutions(2017年被Adastra Group收购)。他在思科系统(CISCO Systems)领导过人工智能和计算机安全研发中心，并在思科安全CTO办公室担任战略师。他也是Evolution Equity Partners(一家专门从事网络安全的风险投资公司)的风险合伙人。Michal Pechoucek还是prg项目的联合创始人。该计划旨在将布拉格转变为世界级的人工智能超级中心。他是多家人工智能初创公司的董事会成员，也是捷克人工智能生态系统的早期投资者。
Michal毕业于爱丁堡大学，并在布拉格CTU获得了人工智能博士学位。他还曾在南加州大学、爱丁堡大学、纽约州立大学宾汉姆顿分校和卡尔加里大学担任客座教授。他是多家以教育为主导的非营利组织的董事会成员，是人民需要基金会和国家记忆(People in Need Foundation and Memory of Nation)的长期赞助商，也是捷克日报Denik N的董事会成员。
Michael Krigsman(主持人)：我们正在与世界上最重要的人工智能研究人员之一讨论人工智能和网络安全。欢迎Gen公司首席技术官Michal Pechoucek。
Michal Pechoucek：谢谢大家。事实上，就某种程度而言，我算是一个特殊的存在。我一生中大部分时间都在扮演人工智能计算机科学家的角色。我曾经是一名人工智能教授，见识并指导过很多博士生，也参与过众多开发项目。我始终对人工智能对社会的积极影响感到非常兴奋，所以我成为了应用影响研究人员之一。
人工智能和深度学习在网络安全领域的早期应用
早在2005年，我和我的博士生就开始了几个关于人工智能在网络安全领域应用的研究项目，当时人工智能还只是作为一个应用领域出现，人们也只是使用人工智能进行图像和视频分析。而我们的目标是在人工智能和机器学习如何应用于网络安全领域取得突破。
那个时候，向网络安全专家推销AI和ML是极其困难的事情，远不像今天这般容易。而如今，人工智能正在推动我们目前使用的大多数系统中的所有网络安全分析。
但在创办了几家公司并与风投合作之后，我受到了Avast前首席技术官Ondrej Vlcek的邀请，他后来升职为首席执行官。他一直在和我交谈，让我慢慢地兴奋起来，他告诉我，不要只把人工智能用于企业部门的B2B网络安全，而是尝试用我的创造力和经验为消费者建立网络安全，为消费者建立人工智能支持的网络安全，这将是多么有趣。
他提出了这种想法，而我现在正在Gen(也就是以前的Avast)建立系统，管理研发部门、研究实验室和威胁实验室，这样我们就能为消费者打造一流的网络安全。消费者网络安全(Consumer cybersecurity)，这就是我的工作。
消费者网络安全和人工智能支持的防御
Michael Krigsman：您能给我们简单介绍一下企业网络安全和消费者网络安全之间的区别吗?
Michal Pechoucek：这是一个非常令人兴奋的话题，特别是在网络安全作为一个领域正在经历重大变化的今天。在过去，实际上是在过去的30年里，攻击者编写的恶意软件针对的大多是计算机系统、网络、程序和人们使用的操作系统。企业、行业都有责任确保他们销售的每一款软件、硬件、网络都是安全的。然后，用户、消费者成为这些基础设施的基础用户。
随着个人电脑行业最近发生的变化，操作系统、网络、计算机和我们的设备不再是脆弱的，相反地，供应链中的脆弱性更多的源自人。人不仅是网络安全攻击的受害者，而且还是供应链上的管道和部件，他们不仅参与消费，还会无意识地或被动地参与攻击部署。
不断发展的网络安全威胁和认知攻击
人类因素不断凸显。人，或者说人的认知，以及人们思考和消费互联网的方式正在成为薄弱环节。
由于这一重大变化，现在人们对消费者网络安全变得更感兴趣，行业的期望是建立一种技术，在人们接触互联网的最后一刻实现全面覆盖。他们的认知是他们看到的，读到的，收到的信息，发布的情绪。
如今，消费者网络安全需求正处于互联网的边缘，但这是不同于10年、15年前的边缘。我谈论的不仅仅是我的想法，我们还有数据支持。
Gen作为一家科技公司，是网络安全领域众多科技品牌的大本营。我最初来自Avast，它曾经是欧洲最大的网络安全品牌，去年与NortonLifeLock合并，后者是最大的消费者网络安全品牌。
在Avast，因为我们提供免费增值服务，我们成为了第一个也是最大的免费增值消费者网络安全公司。我们看到了近5亿个端点，所以我们看到了互联网的很大一部分。
这种可见性为我们提供了数据，我们发现，目前我们在互联网上看到的由经典恶意软件引起的攻击中，只有30%是针对设备和网络基础设施的，而我们看到的所有攻击中，有70%是针对人类认知的网络钓鱼和诈骗攻击。
人工智能和深度学习：防御自动攻击
Michael Krigsman：鉴于此，正如您所描述的那样，人工智能在帮助防止网络安全供应链的这一方面发挥了什么作用?
Michal Pechoucek：我们看到攻击者优化了他们的成本，并最大化了攻击部署的效果。他们使用不同的自动化技术和方法，包括人工智能。不同类型的人工智能，不仅是机器学习，还有自动规划，自动推理，使攻击尽可能便宜，尽可能大规模部署。
有很多人工智能隐藏在恶意软件编写，恶意软件攻击以及恶意软件部署中。为了能够有效地响应和保护我们的消费者，网络安全公司需要部署高级人工智能来保护消费者。
一旦你停止部署正确水平的自动化来对抗自动攻击，那么你就会输掉这场战争。作为人类分析师，你将无法防御来自攻击者的自动化、大规模攻击。
出于这个原因，人工智能被设计得非常适用于防守一方。但是作为防守方，我们也遇到了一些问题。
其中之一是针对我们在互联网上看到的每一种不同类型的攻击，我们需要建立一个新的人工智能检测器和分类器。作为网络安全专家，我们通过设计特征并进行各种训练来构建分类器。很快地，我们开始发现这无法扩展，因为我们需要很多程序员和领域专家来帮助我们设计那些算法和机器学习工具。
基于签名的AI和深度学习扩展恶意软件检测
Michael Krigsman：您现在谈论的是基于签名的人工智能。
Michal Pechoucek：是的，我说的是基于签名的AI恶意软件检测。完全正确。
Michael Krigsman：好的，您继续。
Michal Pechoucek：为了能够应对这种可扩展性问题，以及我们在网上看到的恶意软件类型的爆炸，我们需要部署深度学习的方法，使程序员和网络安全分析师能够自由设计功能。
有一种算法，如果设计良好，可以在不同类型的数据、大数据和分类器上进行训练，该检测器表现出更通用的检测能力，可以在网络安全公司的管道中使用。在Avast中，我们所做的是建立那些独特的、通用的、基于人工智能的方法，帮助用户得到很好的保护。
你可以想象这类似于当前人工智能如何有效地构建大型语言模型。我们所做的是建立了类似的深度学习方法，这些方法不是在自然语言上训练的，而是在JSON文件上。
互联网是用JSON编写的，所以互联网上70%的文件都是JSON文件，它们是结构化的，但长度可变。为了能够在任何类型的JSON文件上训练AI，这是我们试图解决的复杂性，我们也最终成功地解决了这个问题。
为各种网络安全威胁构建人工智能所面临的挑战
网络安全面临的一个挑战是能够提出足够通用的人工智能，能够有效应对当前和未来的不同类型的威胁。我们在网络安全方面面临的另一个巨大挑战是可解释性(explainability)。
网络安全专家就像医生一样。他们最了解情况。他们不需要任何人工智能来帮助他们分类恶意软件，对吧?
在人工智能研究人员和网络安全专家之间建立理解是一项重要的工作，这就是为什么需要建立大量的可解释性，向恶意软件分析师解释人工智能的能力，以便它被接受。我们正在构建一个令人兴奋的新型工具，用于网络安全的可解释性，以加速人工智能在网络安全领域的部署。
人工智能可解释性在网络安全中的重要性
Michael Krigsman：这里的主要挑战在于为您的模型积累足够的数据，还是在于构建更广泛的通用算法，在这些模型上有效地运行?
Michal Pechoucek：可能是通用性。我们可以在互联网上获得很棒的数据，所以我们看到了很多共性。该检测器经过微调，能够检测不同类型的恶意软件活动。这是一个挑战。
就像在人工智能的其他应用中一样，人们一直在推动构建一种能够做更多事情的算法，比如在玩游戏时，设计师设计了可以同时玩围棋和将军的算法。这就是游戏玩法的通用性。
在为网络安全构建人工智能能力时，也需要类似的通用性。今天，网络安全是不同的，因为它不是操作系统的漏洞，而是人们认知的漏洞，所以攻击是不同的。
攻击者正在编写不同的东西。他们不是在写JSON文件，不是在编译汇编程序代码，而是在用自然语言编写文本，这些文本被认为是欺骗性的、可信的，这样用户就愿意点击链接、打开附件，并分享他们的财务数据。
这是一种完全不同类型的战争。就这方面而言，人工智能在攻击方面更成功，也更具影响力，因为为了能够策划和部署成功的认知攻击，你需要三样东西。
首先，你需要大量关于受害者的数据。你需要收集受害者上网的信息，他们喜欢什么、做了什么、展示了什么以及读了什么。通过这一点，算法有可能创造出更个性化的交流，以及更个性化的认知攻击。
你需要做的第二件事是盗取某人的证件。身份盗窃正在提高认知攻击的有效性。
第三种是高性能的人工智能，它能够构建可信的文本，一种容易被相信并被采纳为合法信息并据此采取行动的文本。当前由大型语言模型覆盖的高性能AI是认知攻击爆发的理想工具。
这就是我所担心的。这就是我每天工作的动力，因为我想为保护免受人工智能支持的认知攻击做出贡献。
人工智能支持的认知攻击、身份盗窃和网络安全的未来
Michael Krigsman：我一直是有针对性的网络钓鱼攻击的对象。恶意行为者正在短信和电子邮件中模仿了我认识的人。那么人工智能和您正在开发的工具如何保护我?
Michal Pechoucek：我是一个逆向思维者。我的想法和别人不一样。
在过去，消费者网络安全在本质上采用了网络安全的概念。我，作为一个用户，我不需要理解。我不需要看。我只要买了这个产品就有保障了。
现在，这种想法已经一去不复返了，成为了历史。如今，我们生活在不同的时代。我们需要建立有吸引力的网络安全工具，这些工具将为人们服务，将与人们在一起，并将帮助人们更好地抵御认知攻击。
假设我安装了这个东西，结果我永远不会受到网络钓鱼或骗局的攻击，这无疑是一个错误的假设。作为一名防御者，我们需要改变观点，并尝试建立与人们在一起的配套工具，将网络安全游戏化，在人们阅读和接收消息时以更透明的方式奖励他们。
人工智能检测网络钓鱼攻击：大型语言模型和分类
当你问我人工智能如何提供帮助时，现在用于创建文本的大型语言模型也可以成功地用于检测骗局、欺诈、敲诈、恶意的文本。检测和分类带有恶意的文本的能力，目前是由大型学习模型和人工智能实现的，我们在Gen中调查和研究了这些模型。
Michael Krigsman：您正在寻找大量网络钓鱼攻击的模式。显然，基于您的工作和研究，我认为，您能足够快地找到它们。
Michal Pechoucek：是的。我们很幸运，因为我们不需要自己做这些工作。这就是人工智能为我们所做的。我们只需要提供高质量的训练数据，然后让深度神经网络学习它的分类。
人们总是问我，“Michal，为什么我不能用ChatGPT为我做这件事，而只能在聊天窗口问问题?”我的回答始终是，网络安全是一件严肃得多的事情。
我们对用户很有责任感。无论何时我们帮助用户，我们都需要非常清楚我们要告诉用户什么。如果我们建议不要点击，我们只需要确定地告诉用户这一点。目前建立的大型语言模型是通用的、一般设计的、一般训练的，只是不能给你确定性。
我们在AI系统管道中的附加价值是双重的。最后，我们只是想确保聊天机器人，我们查询的大型语言模型不会给出一些无意义的答案。第二，我们做的是提示，我们用数据来提示语言模型，用少量的特殊样本数据来帮助大型语言模型进行分类，这与具体情况和用户接受攻击的方式非常相关。
AI在网络安全领域对董事会的重要性
Michael Krigsman：如果人工智能被用于网络安全，这是否意味着董事会不需要担心网络安全?
Michal Pechoucek：这和我对消费者网络安全威胁的回答非常相似。事实上，我们处在一个普通消费者也需要担心网络安全问题的世界中，这同样适用于董事会成员。你可以买保险，但这并不意味着保险永远有效。
董事会之间的区别在于，董事会需要切实地对企业负责，所以他们在网络安全方面的投资预算是不同的数量级。虽然普通消费者每天都在支付他们的账单，他们的Spotify、Netflix以及他们在互联网上需要的任何东西，但对他们来说，为网络安全支付额外费用并不是账单的重要组成部分。我想说，区别在于投资，但目前没有人(无论是普通用户，还是董事会成员)从关注和做出正确决策的责任中解脱出来。
Michael Krigsman：这些都是棘手的问题，我认为，对于董事会成员来说，在某些情况下甚至更加困难，因为他们没有真正理解这些所必需的技术背景。因此，他们不得不依赖一群技术专家，而没有你之前描述的透明度和可解释性。
Michal Pechoucek：是的，没错。我想说的是，目前恶意行为者的攻击类型变化极快。因此，我认为人们对网络安全专家有很大的期望，希望他们能够真正跟上这种变化速度。试着去了解新的、危险的威胁，以及人们用来攻击和保护的新技术。对于那些需要建议的人来说，专家们确实能够提供很多帮助。
弥合网络安全专家和董事会之间的缺口
Michael Krigsman：许多技术专家不太愿意与董事会沟通，这就产生了一个问题，例如，因为安全人员想要解释，但不知道如何用足够直白的语言来表达，让董事会能够理解。这种缺口在某些情况下会导致问题。
Michal Pechoucek：我同意你的观点。不过，还有另一个问题，就是当前的经济环境。每个人的预算都很紧张。
我想，在过去，大公司，如果他们不明白，他们会为网络安全人员要求的额外工具支付额外费用。如今，我认为情况会有所不同。
所有方面都会有预算之争，包括网络安全。这为大公司的网络安全人员和CISO提供了一个增长机会，他们能够更好地向董事会解释他们购买的是什么，以及他们为什么需要投资。对每个人来说，时代都在改变。
Michael Krigsman：对我来说，很多公司，甚至是安全公司(像是LastPass)都存在漏洞，在漏洞发生后，他们总是说，“哦，我们会加大投资。”那他们以前为什么不这么做呢?
michael Pechoucek：事实上，互联网上有一些存储用户私人数据的中心是极具价值的，而且恶意行为者也很有兴趣对其进行攻击，我认为这是互联网的错误设计。我们应该不断减少这样的地方，越来越多的私人数据应该驻留在用户的终端。而要想进行大规模的入侵，就必须窃取成千上万的ID和密码，这明显要困难得多。
我真的认为互联网需要经历变革，但用户有更多的机会为自己的私人数据负责，让那些只需要验证的人以保护隐私的方式检查我钱包里放的是什么。我的钱包需要安全、现代、高质量且设计良好的计算，这样无论谁需要检查我，都只需要检查我的钱包，而不需要在数据库中包含我的个人数据记录，这对保存我数据的供应商来说是危险的。
个人数据保护：更好的网络安全卫生技巧
Michael Krigsman：既然您提出了这个话题，您能简要地给我们一些建议吗?作为个人，我们能做些什么来保护我们的数据?
Michal Pechoucek：简单地说，我们需要有良好的网络安全卫生来使用密码管理器。不要存储密码或通过短信发送密码。使用好的网络安全工具。了解你在哪里共享私人数据，出于什么目的，这是否真的有必要。
要求供应商删除数据，因为在许多国家都有相关立法。如果供应商被要求删除数据，他们是有责任这样做的。
更好地认识跟踪。我们都被跟踪了。因为没有追踪，就没有互联网上的个性化体验，所以我们在一定程度上需要追踪。但要关注时间和原因。
删除你的cookies。不要同意每一个让你心烦的cookies弹窗。
这些都是最基本的建议。但事实是，私人数据的存储与算法操作密切相关。供应商对我的了解越多，我就能获得更好的个性化数字体验。但更好的数字体验意味着供应商限制了我的选择。
算法操作和隐私问题；算法操作和隐私
当我搜索一篇有趣的文章时，如果互联网知道我的一切，它会试图猜测我想要的是什么，并提供他们认为我需要的内容。所以，这里就涉及了算法操作和隐私问题。
我真的相信人们需要更好的工具和技术来保护自己的隐私，但也需要更好的工具和技术来理解驱动互联网的推荐算法，它们是如何工作的，它们是如何为我工作的，它们是如何在这种情况下为我工作的，又是如何在另一种情况下为我工作的。
我需要弄清楚当YouTube提供给我这些贴图时，它们为什么会出现在那里?我做了什么才会出现这些贴图?我看了什么?我没看什么?我发的是什么?为什么推荐行为是这样的?我们不知道，因为缺乏透明度。而这一切我们都应该知道。
我们接受来自互联网的建议，这是因为这个伟大的技术站在另一边，它们站在供应商和互联网公司一边。用户所拥有的技术数量在他们的钱包里，在他们的浏览器里，而存在于他们思想里的实际上是非常有限的。
30年前，出现了第一批恶意行为者和攻击者。因此，一个庞大的网络安全产业成为现实。
自此，这个行业开始保护用户，用户也由此获得了安全。我相信在隐私和算法操作领域一定会发生类似的事情，当涉及到算法操作、错误信息和隐私处理时，人们会获得更多的保护。
网络防御和渗透测试中的AI和ML工具
Michael Krigsman：AI和ML工具听起来很适合网络防御。在渗透测试和红队工具方面是否有类似的研究，或者更好的陷阱和蜜罐来吸引威胁分子?
Michal Pechoucek：在我的威胁实验室，我们已经做了研究，我们能够证明使用大型语言模型来生成恶意软件是可能的。恶意行为者已经可以通过ChatGPT生成恶意软件。
事实是，这真的有必要吗?如果我回顾一下恶意软件公司是如何创建的，编写一个恶意软件只是一个很小的组成部分。在过去的15年里，恶意软件社区中已经出现了自动编写恶意软件的脚本算法。
chatgpt生成的恶意软件对恶意行为者的影响有多大?说实话，我不这么认为。我认为附加价值是有限的。然而，当我们谈论以认知攻击的形式，以骗局和网络钓鱼操作的形式进行的攻击时，情况就完全不同了。在这种情况下，大型语言模型和现代人工智能的作用和附加值是巨大的。
网络攻击中的A/B测试
他们创造可信、独特内容的速度是惊人的。而且不仅要测试内容的质量还要测试能力，要A/B测试认知攻击的有效性。
目前，有攻击者正在编写网络钓鱼电子邮件。他们从互联网上收集一些数据，以了解他们的效果如何。他们需要学习。他们调整策略。他们会尝试其他方法。通过类似于强化学习的方法，以及基于大型语言模型的文本生成，这个循环可以自动化。
这是我所担心的。如果恶意行为者开始真正自动生成独特的、危险的内容，同时能够自动学习它的有效性，并适应文本生成，对我来说这是非常危险的。这是我们作为防御者需要多加注意的地方。
Michael Krigsman：您刚才描述的A/B测试非常有趣，我强烈怀疑曾在攻击中经历过A/B测试。
Michal Pechoucek：如今，A/B测试已经实现了自动化。如果我们的电子邮件中有跟踪器，或是浏览器中有跟踪器，都将帮助攻击者报告并了解它的有效性，自动化是大势所趋。
关于数据收集的人工智能建议
Michael Krigsman：人工智能是否可以建议不要收集某些类型(例如易受攻击)的数据?
Michal Pechoucek：这对我的团队来说是一个巨大的挑战。我们试图了解人工智能在多大程度上可以帮助人们做出正确的隐私决策。
我们建立了一个高质量的人工智能，帮助用户评估和解释使用这个或其他应用程序或在这个或其他网页上对隐私的影响。我们建立了分类器和检测器，帮助用户提供一些相关信息。
事实上，目前用户还没有准备好使用这些信息，这样他们就会影响自己的隐私行为。我们看到，用户在很大程度上采取了二元决策(binary decision)。“我真的不在乎”，或“我只是认为我们不需要”，或“我不在乎。我用谷歌搜索，”或者“我关心，我用DuckDuckGo。”
实际上没有介于两者之间的东西。我认为技术专家和技术公司需要建立工具，允许用户以一种非常精细的方式建立他们的隐私方法，基于他们所做的事情，基于他们所搜索的内容，基于他们的物理位置。让用户对偏好进行微调，然后能够与用户在一起，根据过去的行为模型适应隐私偏好。
实际上，我认为这是用户需求的缺失部分。这是一个优化问题，一方面要获得最好的个性化互联网体验，另一方面还要保护你的隐私，因为这些都是联合变量。
人工智能和网络安全研究面临的挑战
Michael Krigsman：您能向我们描述一下您目前在工作和研究中面临的一些最重大的挑战吗，尤其是技术方面的挑战?
Michal Pechoucek：一个真正吸引人的研究挑战是网络安全领域的可解释性。在过去的十年里，许多人工智能科学家一直在可解释性领域工作，试图对人工智能决策提供一些好的解释。
在网络安全领域，这很吸引人，因为如果你深入研究威胁研究人员和威胁分析人员的思想，就会发现他们拥有深厚的知识、卓越的智慧、出色的推理和直觉。直觉是很难优化的部分。
人工智能科学家和国家专家只是想做统计。他们想要优化。给我优化函数，然后我训练一个分类器。这就是AIP的工作原理。
能够将这种统计方法与网络安全领域的直觉结合起来，这是非常迷人的。实际上我认为它是可转移的。它可以转移到其他领域。
我想说医生是非常相似的。我认为，当人工智能将接管医疗保健领域时，他们将需要能够解决类似的挑战，以这样一种方式解释人工智能的挑战，即我们正在获得的专业人员不会被人工智能取代，但他们的影响将通过适当使用高性能人工智能而成倍增加。
我很幸运能在这个领域工作，因为我有第一手的技术经验。这无疑是挑战之一。
其次，我很高兴能在这个大型语言模型爆发的时代，在我一生中第一次看到人工智能成为真正的消费者主张。到目前为止，人工智能实际上是B2B的一个命题。企业、公司都在使用高质量的人工智能向用户交付产品。但这是用户第一次接触人工智能。
我想说，对我和我的团队来说，最大的挑战之一就是理解这种新的人工智能是如何威胁人类的。这个新时代的人工智能有哪些危险和道德限制，会对我们的用户产生影响?思考这些危险，并尝试建立一种技术，保护用户免受当前而是未来的人工智能危险，这是非常值得的。
Michael Krigsman：现在有很多人工智能驱动的网络安全工具。您认为这些工具的成熟程度如何?就采用而言，组织的信心水平如何，特别是在ChatGPT流行之后?
Michal Pechoucek：这又涉及我前面提到的可解释性。人们相信这些工具，因为它们已经被很好地解释了，用户也信任这些工具。还有一些新工具不断涌现，它们很难证明自己的价值。
我是个乐观主义者。网络安全专家正在使用许多很棒的人工智能工具。能够检测哪些对用例有效，哪些无效，这不是一件简单的事情。
给CISO和CIO的建议
Michael Krigsman：您对企业CISO有什么建议?
Michal Pechoucek：不要为了追赶而追赶，而是要为未来着想。我知道CISO经常忙于解决危机和灭火。这基本上是他们的工作。
试着拿出至少50%的时间来思考未来，想想一旦技术变得更发达、更强大，可能会发生什么。作为网络安全专家，不要被当前的情况所困，而是让我们花时间关注未来，因为这是恢复能力的唯一途径。
Michael Krigsman：您对CIO有什么建议吗?
Michal Pechoucek：CIO需要与CISO和CTO很好地合作，并在组织中努力利用网络安全专家和技术专家来推动未来的决策。同样需要注意的是，对安全的投资将受到严格审查，不幸的是，与此同时，我们将看到对IT和云支出的投资在2023年受到严格审查。
人工智能在网络安全中的未来：认知攻击和错误信息
Michael Krigsman：您正在研究网络安全和人工智能方面的某些问题和挑战。您认为您的工作在未来几年会变成什么样子?
Michal Pechoucek：未来的重点将在于我如何看待骗局和网络钓鱼的演变，互联网上的认知攻击是从短期的认知攻击到长期的、持续的认知攻击。从操纵到散播虚假信息。
其实我认为，在未来，就像现在的网络安全正在从攻击人的设备转变为攻击人的认知，我认为未来的网络安全将会从直接的认知攻击，一键攻击，转变为操纵攻击。我认为这种骗局、网络钓鱼攻击、虚假信息和操纵的结合将是未来几年人工智能网络安全的一个大话题。
Michael Krigsman：您的意思是，这种转变表现为从技术攻击中的人工智能(例如，攻击防火墙)到认知攻击(如网络钓鱼)，再到更广泛的长期攻击(如错误信息、虚假信息和更广泛的心理操纵)。
Michal Pechoucek：是的，没错。这就是我认为人工智能网络安全专家的工作变得更艰巨也更令人兴奋的地方，与过去的网络安全专家相比，它需要更广泛的知识。
Michael Krigsman：这很吸引人，因为从本质上讲，您所说的是错误信息和虚假信息领域，现在我们大多认为是社交媒体问题，但它实际上是一个网络安全问题。
Michal Pechoucek：是的。这是一个网络安全问题。在未来的网络安全世界中，最有效的武器是让人们更有弹性。帮助人们保持健康，保持精神健康，保持好奇，对检查消息来源感到兴奋，并对未来的攻击保持弹性，这就是为什么期望技术公司建立一个操纵防火墙，我把它放在我的浏览器中，就可以不显示任何虚假新闻，是错误且不切实际的方法。
首先，这是不可能的。其次，它降低了我的心理素质。它必须在那里。尽管如此，我还是想要独立，自主，让我的生活在掌控之中。这也属于我能够区分我相信哪些新闻，不相信哪些新闻的能力。我不希望这个权利被剥夺。
Michael Krigsman：这似乎是一个特别困难的挑战，因为现在您所要做的是集成研究人员的“孤岛”，因为现在你有网络安全研究人员和媒体研究人员……他们是不同的人群。
Michal Pechoucek：是的。但他们很快就会找到一个共同的目标，那就是让互联网对每个人来说都能成为一个更安全的地方。
