您当前的位置:首页 > 电脑百科 > 人工智能

瑞数信息专家解读ChatGPT:AI是网络安全的未来

时间:2023-03-07 11:26:21  来源:搜狐号  作者:光科技

ChatGPT火爆全球以来,人们惊讶地发现这个AI聊天机器人不仅能轻松与人类对话,甚至可以编写代码。

在论坛上,程序员们贴出了一条条令人瞠目结舌的代码生成示例。从串接云服务到将Python/ target=_blank class=infotextkey>Python代码移植为Rust,ChatGPT在某些基础编程任务上已经表现出非凡的能力。这使得人们开始担心ChatGPT会沦为黑客攻击的帮手。

那么ChatGPT的到来,究竟将如何影响网络安全领域?ChatGPT是否会被黑客直接利用?它可以被应用在哪些网络安全领域?又是否会成为未来网络安全技术的发展方向?

面对ChatGPT带来的诸多疑问,瑞数信息专家分享了自己的观点。

ChatGPT网络安全应用现状

ChatGPT作为一款由AI技术驱动的自然语言处理工具,可以实现像人类一样聊天交流。对于“是否会构成网络安全威胁”这一话题,ChatGPT显然也有自己的看法:

“不,ChatGPT不会构成网络安全威胁。它是由OpenAI开发的一种语言模型,旨在根据接收到的输入生成文本。然而,重要的是要记住,任何技术都可能被滥用,用户有责任保护他们的系统和数据。此外,在分享敏感信息时要谨慎行事,因为第三方可能会获取这些信息。”

同时,ChatGPT也补充道:“如果它落入坏人之手,可能会被恶意利用”、“ChatGPT可能被用来从互联网上抓取敏感信息,例如个人数据或财务信息。”

换句话说,ChatGPT到底有没有威胁,最终还是取决于使用者的目的。

对此,瑞数信息专家表示,和任何技术一样,ChatGPT一旦被居心叵测之人利用,同样会成为做坏事的工具。例如,利用ChatGPT生成钓鱼邮件或恶意代码,或利用ChatGPT寻找代码中的漏洞。

图:询问ChatGPT如何生成钓鱼邮件后的自动回复

“对于初级黑客来说,ChatGPT的确可以提升攻击水平,尤其是ChatGPT大幅提升了获取信息和加以应用的效率,降低了攻击门槛;但对于高级黑客,要提升攻击水平,更多需要自身的专研与积累,ChatGPT只能起到辅助的作用”,瑞数信息专家表示。

当然,ChatGPT作为一把技术“双刃剑”,同样可以被应用于网络安全防护领域。对此,ChatGPT也提供了15种可能的应用方向:

l 自动化威胁情报分析:使用ChatGPT进行自然语言处理和情感分析,自动化威胁情报的分析和识别。

l 恶意代码检测:使用ChatGPT进行文本分析和分类,对恶意代码进行自动化检测和分析。

l 网络安全事件响应:使用ChatGPT对网络安全事件进行自然语言处理和语义分析,快速响应和解决网络安全事件。

l 基于机器学习的入侵检测:使用ChatGPT进行机器学习模型的训练和预测,实现基于机器学习的入侵检测。

l 情报收集和分析:使用ChatGPT对网络情报进行自动化收集和分析,为网络安全决策提供支持。

l 自动化漏洞检测:使用ChatGPT进行自然语言处理和语义分析,自动化发现和检测系统和应用程序中的漏洞。

l 智能安全咨询:使用ChatGPT进行自然语言处理和智能问答,为用户提供实时的安全咨询和建议。

l 身份验证和授权管理:使用ChatGPT对用户的身份进行自动化验证和授权管理,保护系统和数据的安全。

l 智能风险评估:使用ChatGPT进行自然语言处理和数据分析,为企业和组织提供智能的风险评估和管理服务。

l 自动化安全测试:使用ChatGPT进行自然语言处理和语义分析,自动化测试和评估系统和应用程序的安全性能。

l 自动化安全审计:使用ChatGPT进行自然语言处理和数据分析,自动化进行系统和应用程序的安全审计和评估。

l 安全事件预测和预警:使用ChatGPT进行自然语言处理和机器学习,对网络安全事件进行预测和预警。

l 人工智能防火墙:使用ChatGPT进行自然语言处理和机器学习,开发智能的防火墙系统,实现自动化的威胁防御和安全保护。

l 智能数据分类和保护:使用ChatGPT进行自然语言处理和文本分析,对敏感数据进行自动化分类和保护。

l 智能加密和解密:使用ChatGPT进行自然语言处理和加密算法,实现智能加密和解密服务,保护数据的机密性和完整性。

瑞数信息专家表示,以上这些场景在技术上都是有可能实现的,但是通过ChatGPT对话直接生成的代码或建议,不做任何修改和测试,是无法直接应用在生产环境中的。如果要用到真实生产环境中,还是需要针对安全领域做更精准的训练,才能更有效的应用这类AI新技术。

利用AI技术的安全攻防态势

ChatGPT的爆火将AI技术从幕后推到了台前,但实际上网络安全领域对于AI的研究早已开启。

在2017年美国黑帽子大会上,数百名网络安全专家投票预测,未来几年黑客是否会利用AI技术从事犯罪活动,有62%人表示肯定。

由于AI自动化和智能化的能力,让黑客可以加速攻击速度,在同等时间内攻击尽可能多的目标用户,同时降低自身的风险,因此近年来利用AI技术实施网络攻击的事件快速增长。

“黑客其实早已大量利用AI技术和云服务来构建黑色产业链”,瑞数信息专家表示,“比如黑客会利用AI技术识别验证码或模拟人的操作行为,绕过网站的安全防护”。

例如,在一些网站的登录验证中,无论是滑动按钮还是填写验证码,黑客都可以利用AI模仿真人操作,顺利通过验证。

“据我们观察,AI绕过的准确率甚至可以高达100%。识别率越高,黑产的收费也越高,所以黑客会不遗余力地去提升AI攻击的准确率和效率”,瑞数信息专家表示。

尽管黑客已经开始把AI当做武器来使用了,但安全厂商也同样在快速跟进AI的发展。

以瑞数信息为例,早在2017年就开启了AI技术在安全领域的研究。随着网络攻击手段、方法的更新变化越来越快,攻击特征越来越隐蔽,瑞数信息在独创的“动态安全”技术基础上加入AI技术,颠覆了传统安全基于特征和规则的方式防护的思路,引领着安全防护由静态走向动态、由被动走向主动。

基于瑞数信息“动态安全+AI”技术,企业可以筑起多道安全防线:

第一道防线,通过动态安全技术,灵活运用Web代码混淆、JS混淆、前端反调试、Cookie混淆、中间人检测等多种动态干扰功能,对攻击者实施动态干扰;

第二道防线,通过叠加AI技术,对模拟真人等高度隐蔽性的异常访问行为进行实时分析,实现更加精准的人机识别,识别各类已知与未知的攻击。

基于这两大瑞数创新技术,企业能够在Bots自动化攻击、0day攻击、DDoS攻击、API攻击等多重攻击场景中实现一体化防御。

近年来,瑞数信息在AI技术研发上仍在不断精进,主要包括三个方向:

l 恶意内容识别,包含SQL注入、XSS及Webshell等;

l 攻击行为检测,包含自动化威胁识别、协同攻击检测与用户异常行为分析等;

l 勒索加密检测,包含对文件系统与数据库的勒索加密检测。

2022年初,在工信部、网信办及公安部等单位主办的“第三届中国人工智能大赛”中,瑞数信息在Webshell检测识别方向的比赛中以最高分荣获A级证书,足见其雄厚的AI实力。

AI或成网络安全的未来

毫无疑问,AI已经成为网络攻防战的新一代武器,任何一方都没有选择的余地,必须拿起AI来武装自己。随着ChatGPT的普及,AI技术会加速网络安全领域的变革吗?

瑞数信息专家认为,短期内还是AI与现有安全技术共存的态势,但是长期来看,AI极有可能对现有的安全技术形成颠覆,让安全厂商的竞争态势重新洗牌。

“目前各家安全厂商都还在AI训练与调优模型的阶段,市场上还是以大量的传统安全技术为主。随着算力提高、数据量变大、成本降低,AI技术会有一个量变到质变的过程,到那时候AI会替代传统安全技术,替代人力工作”,瑞数专家表示。

在他看来,ChatGPT的出现,让业界看到了GPT这类大模型的巨大潜力,其优势不容小觑:

第一,有了这类AI技术的加入,网络安全防护可能变得更智能、反应更快,可以防护以前注意不到或防不住的攻击行为,同时也可以通过AIGC(生成式AI)技术自动生成防护规则,大幅缩短攻击响应时间。

第二,AI作为自动化机器是可以全天候运行工作的,不会产生人力疲劳等问题,从而减轻安全运营人员压力。

第三,基于出色的自然语言处理,AI可以通过对话而不是SQL语句的方式,来运行安全产品相关功能,并自动生成报表,从而大幅降低安全产品使用门槛,让非安全专业人员也能够轻松使用。未来,安全产品里也可能会集成类似ChatGPT的AI聊天机器人,协助安全管理人员分析威胁态势并给出可能的处置建议。

正因如此,瑞数信息专家认为,ChatGPT底层的GPT模型或其他类似的模型,会被广泛应用在网络安全领域。

但值得注意的是,ChatGPT并不适合作为AI基础模型直接应用于网络安全领域进行精调。瑞数专家指出,一方面是因为ChatGPT超大规模模型导致训练和运营成本高昂,即便作为API开放服务也没有多少企业能够承受;另一方面,安全领域有数据敏感、安全保密等特殊性,企业不太可能基于ChatGPT提供安全类数据去训练模型。

因此,对于网络安全行业应该有专属的SecurityGPT,可基于GPT模型对网络安全领域知识进行训练,在降低模型规模的同时保持AI在安全领域的表现,寻找技术和成本之间的平衡点。

据了解,在ChatGPT还没火之前,瑞数信息就已经在研究GPT模型了,目前相关技术正在实验室研发中。未来,瑞数信息计划将GPT接口开放给第三方调用,与各界伙伴共建AI在安全领域应用的生态圈。

结语

ChatGPT的出现,使得网络安全攻击变得更容易,给企业带来了极大的风险。如今,在网络安全攻防对抗模式不断升级的趋势下,以AI对抗AI必将是未来的发展方向。瑞数信息作为网络安全领域创新厂商也将持续提升AI技术,为企业用户搭建面向智能时代的新一代主动防御安全体系。



Tags:ChatGPT   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
IT之家 3 月 9 日消息,在批准通过 BlueMail 应用程序之后,苹果近日再次批准了一款适用于 Apple Watch 的 ChatGPT 应用程序 watchGPT,用户可以在 Apple Watch 上和 ChatGPT 聊...【详细内容】
2023-03-09  Tags: ChatGPT  点击:(0)  评论:(0)  加入收藏
新浪科技讯 北京时间3月9日上午消息,据报道,最新消息显示,谷歌已经在内部提出要求,在几个月时间里将“生成式人工智能”技术集成到所有主要产品中。人工智能本应该是谷歌的优势...【详细内容】
2023-03-09  Tags: ChatGPT  点击:(3)  评论:(0)  加入收藏
3月7日消息,美国当地时间周一,微软​宣布将爆火聊天机器人ChatGPT背后的AI​技术集成到Power Platform等更多开发工具中,该平台允许用户在很少甚至不需要编码的情况下构建应用...【详细内容】
2023-03-07  Tags: ChatGPT  点击:(6)  评论:(0)  加入收藏
ChatGPT火爆全球以来,人们惊讶地发现这个AI聊天机器人不仅能轻松与人类对话,甚至可以编写代码。在论坛上,程序员们贴出了一条条令人瞠目结舌的代码生成示例。从串接云服务到将P...【详细内容】
2023-03-07  Tags: ChatGPT  点击:(0)  评论:(0)  加入收藏
新浪科技讯 北京时间3月6日晚间消息,据报道,微软(256.87, 1.58, 0.62%)公司今日将ChatGPT背后的技术整合到其Powe(1.15, -0.01, -0.86%)r Platform平台上,允许用户在几乎不需要...【详细内容】
2023-03-07  Tags: ChatGPT  点击:(11)  评论:(0)  加入收藏
ChatGPT 的持续爆火,早已让各大科技公司坐不住了。就在刚刚过去的一周,Meta「开源」了一个新的大模型系列 ——​​LLaMA​​​(Large Language Model Meta AI),参数量...【详细内容】
2023-03-06  Tags: ChatGPT  点击:(11)  评论:(0)  加入收藏
高性能GPU数量或性能不够的结果是,AI推理和模型训练的准确度不足,即使做出类似的对话机器人,机器人的“智商”也会远低于ChatGPT文 | 吴俊宇编辑 | 谢丽容国内云厂商高性能GPU...【详细内容】
2023-03-06  Tags: ChatGPT  点击:(8)  评论:(0)  加入收藏
3月5日,十四届全国人大一次会议首场“部长通道”举行。工业和信息化部部长金壮龙、科技部部长王志刚、生态环境部部长黄润秋接受媒体采访,回应社会各界的关切。...【详细内容】
2023-03-06  Tags: ChatGPT  点击:(6)  评论:(0)  加入收藏
OpenAI是ChatGPT和DALL-E 2背后的公司,今天宣布了几个重大变化。首先,它为ChatGPT和Whisper语音转录模型推出了开发者API。它还改变了其服务条款,让开发者选择不使用他们的数据进行改进,同时增加了30天的数据保留政策。...【详细内容】
2023-03-03  Tags: ChatGPT  点击:(19)  评论:(0)  加入收藏
站长之家(ChinaZ.com) 3月2日消息:OpenAI宣布,它现在允许第三方开发者通过API将ChatGPT整合到他们的应用程序和服务中,这样做将比使用其现有的语言模型要便宜得多。OpenAI表示...【详细内容】
2023-03-03  Tags: ChatGPT  点击:(14)  评论:(0)  加入收藏
▌简易百科推荐
IT之家 3 月 9 日消息,在批准通过 BlueMail 应用程序之后,苹果近日再次批准了一款适用于 Apple Watch 的 ChatGPT 应用程序 watchGPT,用户可以在 Apple Watch 上和 ChatGPT 聊...【详细内容】
2023-03-09    IT之家  Tags:watchGPT   点击:(0)  评论:(0)  加入收藏
AI是不是像人一样拥有感知能力?有没有情绪?ChatGPT当然说没有。如果你问它,它会告诉你:“不,AI没有感知能力。AI是人工智能,它是人创造的,没有感知、没有自我意识。”不过谷歌前员...【详细内容】
2023-03-08    极客网  Tags:AI   点击:(4)  评论:(0)  加入收藏
ChatGPT火爆全球以来,人们惊讶地发现这个AI聊天机器人不仅能轻松与人类对话,甚至可以编写代码。在论坛上,程序员们贴出了一条条令人瞠目结舌的代码生成示例。从串接云服务到将P...【详细内容】
2023-03-07  光科技  搜狐号  Tags:ChatGPT   点击:(0)  评论:(0)  加入收藏
新浪科技讯 北京时间3月6日晚间消息,据报道,微软(256.87, 1.58, 0.62%)公司今日将ChatGPT背后的技术整合到其Powe(1.15, -0.01, -0.86%)r Platform平台上,允许用户在几乎不需要...【详细内容】
2023-03-07    新浪科技  Tags:ChatGPT   点击:(11)  评论:(0)  加入收藏
ChatGPT 的持续爆火,早已让各大科技公司坐不住了。就在刚刚过去的一周,Meta「开源」了一个新的大模型系列 ——​​LLaMA​​​(Large Language Model Meta AI),参数量...【详细内容】
2023-03-06  机器之心  微信公众号  Tags:ChatGPT   点击:(11)  评论:(0)  加入收藏
高性能GPU数量或性能不够的结果是,AI推理和模型训练的准确度不足,即使做出类似的对话机器人,机器人的“智商”也会远低于ChatGPT文 | 吴俊宇编辑 | 谢丽容国内云厂商高性能GPU...【详细内容】
2023-03-06  财经十一人  搜狐号  Tags:ChatGPT   点击:(8)  评论:(0)  加入收藏
这是一个AI赋能的时代,而机器学习则是实现AI的一种重要技术手段。那么,是否存在一个通用的通用的机器学习系统架构呢?在老码农的认知范围内,Anything is nothing,对系统架构而言...【详细内容】
2023-03-02  喔家ArchiSelf  微信公众号  Tags:架构   点击:(10)  评论:(0)  加入收藏
AGI是Artificial General Intelligence的缩写,即通用人工智能。AGI的目标是实现人类般的通用智能,这意味着AI可以像人类一样理解任意通用任务, 并以人类的智力水平执行完成。...【详细内容】
2023-03-02  Web3天空之城   企鹅号  Tags:人工智能   点击:(11)  评论:(0)  加入收藏
边缘计算是指将数据和信息移动到更靠近用户的地方。以前,大多数数据存储在由通过互联网访问的服务器组成的云中。随着边缘计算迅速占据中心地位,各企业都在增加在边缘计算上的...【详细内容】
2023-02-28    千家网  Tags:边缘计算   点击:(6)  评论:(0)  加入收藏
新智元报道编辑:LRS【新智元导读】数据集包含葡萄牙语和汉语普通话。虽然全中国的人都在说汉语,但具体到各地的方言却略有不同,比如同样是 小巷的意思,「胡同」一开口就知道是老...【详细内容】
2023-02-28  新智元    Tags:   点击:(6)  评论:(0)  加入收藏
站内最新
站内热门
站内头条