您当前的位置:首页 > 电脑百科 > 人工智能

英特尔为美国国防部研发防御技术 防止人工智能系统被攻击/欺骗

时间:2020-04-13 19:06:12  来源:  作者:

盖世汽车讯 据外媒报道,当地时间4月9日,英特尔公司(Intel Corp.)与佐治亚理工学院(Georgia Institute of Technology)宣布将为美国国防先进研究计划署(U.S. Defense Advanced Research Projects Agency)领导一个项目团队,研发防御技术,防止人工智能系统被攻击和欺骗。

 

英特尔为美国国防部研发防御技术 防止人工智能系统被攻击/欺骗

 

 

(图片来源:英特尔)

该项目名为“确保人工智能足够强大,以抵御欺骗”(Guaranteeing Artificial Intelligence Robustness against Deception,GARD),将持续4年,耗资数百万美元,英特尔为主承包商,致力于改善网络安全防御机制,防范会影响到机器学习模型的欺骗攻击。

虽然针对机器学习(ML)系统的对抗性攻击很少见,但是利用ML和AI进行操作的系统的数量在不断增加。而此类技术是自动驾驶汽车等半自动和自动驾驶系统的重要部分,因此有必要继续防止AI技术错误地对现实世界中的物体进行分类(例如,能够区分停车标志与人类),因为在学习模型中插入有害信息或微微修改物体本身都会误导物体识别。

GARD团队的目标是为此类系统配备工具和增强性功能,更好地帮助其抵御此类攻击。

其实,此类攻击已经出现多年。例如,2019年3月,腾讯科恩实验室(Tencent’s Keen Security Lab)发布了一份报告,表示研究人员能够利用贴在道路上的贴纸,诱使特斯拉Model S变道,并进入迎面而来的车流中。在2017年,研究人员3D打印了一种乌龟,而且配备了特别设计的外壳图案,以欺骗谷歌的AI图像识别算法,让该算法误认为乌龟是来复枪。

自此之后,研究人员一直在研究利用修改过的路标欺骗自动驾驶车辆的方法,例如,利用一块黑色胶带欺骗半自动驾驶汽车的摄像头,让其误认为速度限制范围比实际要更大。

因此,GARD的愿景是利用以前以及现在对影响计算机AI和ML视觉系统的缺陷和漏洞的研究,打造一个理论基础,帮助识别系统的漏洞,并确定极端情况的特征,以增强此类系统面对错误和攻击的应对能力。

在GARD项目的第一阶段,英特尔和佐治亚理工学院将在静态图像和视频中保持空间、时间和语义一致性,以提升物体识别能力,意味着AI和ML系统能够在额外情境下得到训练,了解到在任何给定情况下会发生什么,并经过设计,以标记场景或驳回不太可能的图像场景。该阶段的理念是通过在环境中引入更多解释图像的因素,开发出具有更好“判断力”的AI。

例如,一名攻击者可以通过改变停车标志,让其外观有点走样,以欺骗AI,让AI认为该停车标志不是一个停车标志。对于人类而言,该停车标志还是红色、还是八角形的形状,即使“停下”这个词被改变了或者消失了,因而,大多数人类驾驶员还是会停车。不过,AI可能会误解该标志,并继续行驶。不过,如果能够额外感知情境,即让AI在识别十字路口、标志形状、标志颜色等方面接受训练,就可以像人类驾驶员一样,驳回错误的分类信息。

总而言之,英特尔和佐治亚理工学院的研究是为了实现更好的图像识别系统,以提高自动驾驶车辆的安全性,并让各行业内的ML系统能够更好地分类物体。



Tags:人工智能   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
11月2日召开的世界顶尖科学家数字未来论坛上,2013年诺贝尔化学奖得主迈克尔·莱维特、2014年诺贝尔生理学或医学奖得主爱德华·莫索尔、2007年图灵奖得主约瑟夫·斯发斯基、1986年图灵奖得主约翰·霍普克罗夫特、2002...【详细内容】
2021-11-03  Tags: 人工智能  点击:(39)  评论:(0)  加入收藏
说起人工智能,大家总把它和科幻电影中的机器人联系起来,而实际上这些科幻场景与现如今的人工智能没什么太大关系。人工智能确实跟人类大脑很相似,但它们的显著差异在于人工智能...【详细内容】
2021-09-17  Tags: 人工智能  点击:(57)  评论:(0)  加入收藏
作者:阿米特·V. 乔希(Ameet V Joshi)来源:华章科技 01 人工智能艾伦·图灵(Alan Turing)对人工智能的定义如下:如果窗帘后面有一台机器,并且有人正在与之互动(无论以何...【详细内容】
2021-09-07  Tags: 人工智能  点击:(76)  评论:(0)  加入收藏
人工智能看似是这几年才流行起来的一个新技术行业,但是人工智能不是一门新学科,它的学科发展已经有了60多年的历史了。如果想要入门人工智能行业,那么你需要学习的知识将会非...【详细内容】
2021-06-16  Tags: 人工智能  点击:(127)  评论:(0)  加入收藏
起源阶段(1943-1969)1943年,神经科学家麦卡洛克(W.S.McCilloch) 和数学家皮兹(W.Pitts)建立了神经网络和数学模型,称为M-P模型,即两个人的名字的合称McCulloch-Pitts。这个模型是对...【详细内容】
2021-06-15  Tags: 人工智能  点击:(134)  评论:(0)  加入收藏
理解什么是人工智能,以及机器学习和深度学习如何影响它,是一种不同凡响的体验。在 Mate Labs 我们有一群自学有成的工程师,希望本文能够分享一些学习的经验和捷径,帮助机器学习...【详细内容】
2021-06-09  Tags: 人工智能  点击:(128)  评论:(0)  加入收藏
韩国著名研究机构IITP(2019年)曾经对外发布了一组调研数据,通过科研专家进行的问卷调查,将全世界范围内的AI强国来了一次评分排座次,最终结果显示中国位列全球第三,第一、二名分别...【详细内容】
2021-05-18  Tags: 人工智能  点击:(405)  评论:(0)  加入收藏
人工智能在各个行业中广泛应用,并且对很多行业都起到了一定的改善作用,同时在各个行业中的应用场景也是大不相同的。那么人工智能在网络安全领域中的应用场景有哪些?人工智能在...【详细内容】
2021-05-12  Tags: 人工智能  点击:(187)  评论:(0)  加入收藏
未来20年,这种工作不可代替,无需担心会失业随着人工智能的发展,已经有很多职业被代替了,尤其是电销行业,在过去需要人工来拨打推销电话,每天差不多最多能够拨打200通电话,这种工作...【详细内容】
2021-05-10  Tags: 人工智能  点击:(141)  评论:(0)  加入收藏
「中国人工智能研究论文总数已经超过了美国,成为全球第一」「人工智能初创企业获得的资本青睐越来越少」「主流NLP系统也存在种族歧视」这些话题都出自斯坦福大学Human-Cent...【详细内容】
2021-04-20  Tags: 人工智能  点击:(205)  评论:(0)  加入收藏
▌简易百科推荐
作为数据科学家或机器学习从业者,将可解释性集成到机器学习模型中可以帮助决策者和其他利益相关者有更多的可见性并可以让他们理解模型输出决策的解释。在本文中,我将介绍两个...【详细内容】
2021-12-17  deephub    Tags:AI   点击:(16)  评论:(0)  加入收藏
基于算法的业务或者说AI的应用在这几年发展得很快。但是,在实际应用的场景中,我们经常会遇到一些非常奇怪的偏差现象。例如,Facebook将黑人标记为灵长类动物、城市图像识别系统...【详细内容】
2021-11-08  数据学习DataLearner    Tags:机器学习   点击:(32)  评论:(0)  加入收藏
11月2日召开的世界顶尖科学家数字未来论坛上,2013年诺贝尔化学奖得主迈克尔·莱维特、2014年诺贝尔生理学或医学奖得主爱德华·莫索尔、2007年图灵奖得主约瑟夫·斯发斯基、1986年图灵奖得主约翰·霍普克罗夫特、2002...【详细内容】
2021-11-03  张淑贤  证券时报  Tags:人工智能   点击:(39)  评论:(0)  加入收藏
鉴于物联网设备广泛部署、5G快速无线技术闪亮登场,把计算、存储和分析放在靠近数据生成的地方来处理,让边缘计算有了用武之地。 边缘计算正在改变全球数百万个设备处理和传输...【详细内容】
2021-10-26    计算机世界  Tags:边缘计算   点击:(45)  评论:(0)  加入收藏
这是几位机器学习权威专家汇总的725个机器学习术语表,非常全面了,值得收藏! 英文术语 中文翻译 0-1 Loss Function 0-1损失函数 Accept-Reject Samplin...【详细内容】
2021-10-21  Python部落    Tags:机器学习   点击:(43)  评论:(0)  加入收藏
要开始为开源项目做贡献,有一些先决条件:1. 学习一门编程语言:由于在开源贡献中你需要编写代码才能参与开发,你需要学习任意一门编程语言。根据项目的需要,在后期学习另一种语言...【详细内容】
2021-10-20  TSINGSEE青犀视频    Tags:机器学习   点击:(37)  评论:(0)  加入收藏
SimpleAI.人工智能、机器学习、深度学习还是遥不可及?来这里看看吧~ 从基本的概念、原理、公式,到用生动形象的例子去理解,到动手做实验去感知,到著名案例的学习,到用所学来实现...【详细内容】
2021-10-19  憨昊昊    Tags:神经网络   点击:(47)  评论:(0)  加入收藏
语言是人类思维的基础,当计算机具备了处理自然语言的能力,才具有真正智能的想象。自然语言处理(Natural Language Processing, NLP)作为人工智能(Artificial Intelligence, AI)的核心技术之一,是用计算机来处理、理解以及运...【详细内容】
2021-10-11    36氪  Tags:NLP   点击:(49)  评论:(0)  加入收藏
边缘计算是什么?近年来,物联网设备数量呈线性增长趋势。根据艾瑞测算, 2020年,中国物联网设备的数量达74亿,预计2025年突破150亿个。同时,设备本身也变得越来越智能化,AI与互联网在...【详细内容】
2021-09-22  汉智兴科技    Tags:   点击:(54)  评论:(0)  加入收藏
说起人工智能,大家总把它和科幻电影中的机器人联系起来,而实际上这些科幻场景与现如今的人工智能没什么太大关系。人工智能确实跟人类大脑很相似,但它们的显著差异在于人工智能...【详细内容】
2021-09-17  异步社区    Tags:人工智能   点击:(57)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条