您当前的位置:首页 > 新闻资讯 > 科技

AI技术变革进入快车道,发展与安全如何兼顾?

时间:2023-07-21 13:47:03  来源:中国新闻网  作者:

(经济观察)AI技术变革进入快车道,发展与安全如何兼顾?

中新社北京7月21日电 (记者 刘育英)在本周北京举行的2023中国互联网大会上,以ChatGPT为代表的人工智能(AI)带来怎样的风险,以及如何管控这些风险,成为与会者热议的话题。

对于AI的发展前景,北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军表示,今天ChatGPT有强大的智能,影响深远,未来3年,除语言外,大模型正在迅速扩展视觉、听觉、具身、行动等通用智能,影响将更大。

黄铁军预测,未来10年,智力革命已经打响,就像工业革命解放体力,就像电力革命解决能源流通,全新生态将构建,开源开放生态终将胜利。ChatGPT是数据驱动的静态智能,未来20年是时空环境驱动的具身智能,智能载体将是类脑的脉冲神经网络,有望像生物大脑一样涌现出更强的智能。

 

由于大语言模型的智能“涌现”,科学家尚不可解释其机理,黄铁军认为,“只要AI超过人类,人类想进行管控是不可能的”,因此不少业界专家反对训练GPT-5。

北京市通信管理局副局长王晖认为,人工智能在赋能产业过程中,带来的风险挑战有数据安全问题、算法安全问题、应用安全问题和行业安全问题。

中国电信集团网络和信息安全管理部总经理谷红勋表示,随着AI尤其大模型的广泛应用,网络攻击、数据泄露等风险日益凸显,过度采集、歧视性算法,滥用深度伪造等问题可能会带来影响社会经济运行的严重问题。

AI风险问题已经引起国际社会的关注。据媒体报道,当地时间7月21日,美国七家领先的人工智能公司,包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI承诺接受白宫要求,帮助实现人工智能技术安全、可靠和透明的发展。

近日,联合国安理会首次就人工智能问题举行会议,来自15个成员国的外交官和人工智能领域的专家参与了这次会议,中方提出了五项原则。

大模型在中国得到快速发展。根据5月份发布的《中国人工智能大模型地图研究报告》,中国10亿参数规模以上的大模型已经发布79个,研发的大模型数量排名全球第二,仅次于美国。

中国互联网协会常务副秘书长陈家春表示,中国大模型发展活跃且快速,具体表现为计算能力不断提高、数据量不断增加、应用场景不断拓展以及研究方向不断深入。

中国从监管层到产业界,都高度关注防范AI风险方面并做出探索。7月13日,中国出台了首份生成式人工智能监管发展文件《生成式人工智能服务管理暂行办法》,提出坚持发展和安全并重、促进创新和依法治理相结合的原则。

奇安信集团副总裁张卓接受采访时表示,从《办法》可以看出,数据安全和隐私保护贯穿于生成式人工智能数据的标注、模型预训练、模型训练、提供服务等各个环节,避免了监管盲区导致的安全风险。

中国国内启明星辰、天融信、深信服等公司尝试把大语言模型用于网络安全。有些公司专门训练网络安全领域垂直的大模型,有些公司把大语言模型用于产品形态中。

如何管控大模型带来的风险现在还没有答案。“人工智能面临失控风险,但不用它是不可能的,如何控制AI的使用,确实是一个问题。”国家计算机网络入侵防范中心主任张玉清表示。

黄铁军表示,AI越来越强,风险与日俱增。如何构建安全的AI,现在还没有完整准确的答案。面对AI越来越强的智能程度,人类面临全新的挑战。(完)



Tags:   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
AI是万灵药?Meta要把大模型塞进AR眼镜里
寻找下一块“屏幕”,这无疑是最近几年科技行业的一个热门赛道。随着个人计算机点燃了互联网,智能手机让移动互联网无处不在之后,这前后两次造富神话的出现,也让所有人都在期待下...【详细内容】
2024-04-09  Search:   点击:(2)  评论:(0)  加入收藏
考研调剂第一次失败后,考生还能继续调剂吗
考研调剂失败后,考生仍然有机会继续调剂。如果考生在第一次调剂过程中没有收到复试通知,可以在时间允许的情况下继续申请其他院校的调剂,并参加复试。考生需要密切关注各高校的...【详细内容】
2024-04-09  Search:   点击:(2)  评论:(0)  加入收藏
高职单招是什么意思?
高职单招是什么意思?2024高考:高职单招和高考的区别在哪里?...【详细内容】
2024-04-09  Search:   点击:(3)  评论:(0)  加入收藏
在饭局上喝酒,要学会3句“万能开场白”,让大家对你刮目相看
在饭局上喝酒,是一个社交场合的重要环节。作为一个有见识的人,学会几句“万能开场白”不仅能活跃气氛,还能让人们对你刮目相看。以下就是三个可以用于各种场合的万能开场白,希望...【详细内容】
2024-04-09  Search:   点击:(2)  评论:(0)  加入收藏
汽车不停能开多少公里?老司机:别超过极限,否则伤车又伤人!
在如今这个汽车普及的时代,私家车已经成为了不少家庭的必备品。它不仅代表着一种出行的便利,更是生活品质的提升。然而,正如一枚硬币的两面,私家车的广泛使用也带来了一系列问题...【详细内容】
2024-04-09  Search:   点击:(2)  评论:(0)  加入收藏
三证齐全,中国“飞的”不远了?
【环球时报记者 丁雅栀 李炫旻 环球时报驻英国、德国特约记者 纪双城 青木】4月7日,中国民用航空局在广州为亿航智能EH216-S无人驾驶载人航空器系统颁发生产许可证,加上去年取...【详细内容】
2024-04-09  Search:   点击:(3)  评论:(0)  加入收藏
小米SU7被大卸八块,雷军回应了
4月8日晚国内有一场汽车发布会,然后出现了令人不可思议的一幕。他们把小米SU7当为标杆进行对比,但却把小米SU7的参数给标错了。随后小米官方连发三条信息进行强硬回应,最后的结...【详细内容】
2024-04-09  Search:   点击:(2)  评论:(0)  加入收藏
视频号,从抖音挖来一个“一姐”?
文|王亚琪编辑|斯问“你说你要尊严,一个月5000块钱的合同工资,能体现你的尊严吗?”“我那么多的人脉和资源,你如果够聪明的话,你踩着我肩膀往上爬不是更快吗?你拿着我每个月收来的房...【详细内容】
2024-04-09  Search:   点击:(2)  评论:(0)  加入收藏
0首付、0利息!多家车企跟进“车贷新政”,但背后还有“隐性”要求
“您是全款购车,还是贷款购车。”4月7日,《每日经济新闻》记者进入北京某吉利银河4S店后被销售人员如此询问。“如果您选择贷款购车,现在很划算,可以有多种分期方案可选。比如,至...【详细内容】
2024-04-09  Search:   点击:(2)  评论:(0)  加入收藏
真正0首付、0利息来了!“车贷新政”后,多家车企放大招,甚至出现高达3万元金融贴息
每经记者:段思瑶 每经编辑:王月龙,裴健如“您是全款购车,还是贷款购车。”4月7日,《每日经济新闻》记者进入北京某吉利银河4S店后被销售人员如此询问。“如果您选择贷款购车,现在...【详细内容】
2024-04-09  Search:   点击:(1)  评论:(0)  加入收藏
▌简易百科推荐
谷歌推出适用于安卓设备的“查找我的设备”网络
IT之家 4 月 9 日消息,谷歌今日推出了适用于安卓设备的“查找我的设备”网络,其功能类似于苹果的“查找”网络,旨在帮助用户定位丢失、被盗的安卓产品。IT之家注意到,与苹果的“...【详细内容】
2024-04-09    IT之家  Tags:安卓   点击:(2)  评论:(0)  加入收藏
你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
2026年的数据荒越来越近,硅谷大厂们已经为AI训练数据抢疯了。它们纷纷豪掷十数亿美元,希望把犄角旮旯里的照片、视频、聊天记录都给挖出来。不过,如果有一天AI忽然吐出了我们的...【详细内容】
2024-04-09    新智元  Tags:硅谷   点击:(2)  评论:(0)  加入收藏
谷歌搜索史上最大变革!考虑对AI搜索收费
快科技4月7日消息,据国外媒体报道,谷歌正计划对由生成式人工智能驱动的新高级功能收费,这将是谷歌搜索业务历史上最大的一次变革。自2000年以来,谷歌的搜索产品一直依靠广告盈利...【详细内容】
2024-04-08    快科技  Tags:谷歌搜索   点击:(7)  评论:(0)  加入收藏
为训练AI,OpenAI等科技巨头花式淘数据
[环球时报特约记者 甄翔]《纽约时报》6日披露了科技公司训练人工智能的秘密——利用语音识别工具转录视频网站YouTube上的视频,形成对话文本数据,供其最新的AI学习...【详细内容】
2024-04-08    环球网  Tags:AI   点击:(7)  评论:(0)  加入收藏
训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
全网真的无数据可用了!外媒报道称,OpenAl、Anthropic等公司正在努力寻找足够的信息,来训练下一代人工智能模型。前几天,OpenAI和微软被曝出正在联手打造超算「星际之门」,解决算...【详细内容】
2024-04-08    新智元  Tags:GPT-5   点击:(1)  评论:(0)  加入收藏
当“机器人”有了“AI大脑” 人形机器人时代来了吗
数智风向标当“机器人”有了“AI大脑”​人形机器人时代来了吗简单明了的口令下达后,机器人便开始搬箱子、运小球,在各类不同的地形行走……这些身上布满芯片和传...【详细内容】
2024-04-08    中国青年报  Tags:机器人   点击:(3)  评论:(0)  加入收藏
报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
IT之家 4 月 7 日消息,本周早些时候,《华尔街日报》报道称 AI 公司在收集高质量训练数据方面遇到了困难。今天,《纽约时报》详细介绍了 AI 公司处理此问题的一些方法,其中涉及到...【详细内容】
2024-04-07    IT之家  Tags:OpenAI   点击:(6)  评论:(0)  加入收藏
量子计算会和经典计算一样融入人们的日常生活
作为2024中国网络媒体论坛打造的创新活动之一,“技术赋能·八点见”创新项目发布会于3月30日晚在云南昆明举行。活动现场,本源量子计算科技(合肥)股份有限公司(以下简称“...【详细内容】
2024-04-03    人民网  Tags:量子计算   点击:(8)  评论:(0)  加入收藏
ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
新智元报道编辑:编辑部【新智元导读】OpenAI这份愚人节礼物,实在是太大了:今天起,ChatGPT不用注册,可以直接使用。用户狂欢,竞品颤抖,我们仿佛已经听到,谷歌搜索引擎这位巨人轰然倒...【详细内容】
2024-04-02    新智元  Tags:ChatGPT   点击:(8)  评论:(0)  加入收藏
谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
IT之家 4 月 2 日消息,根据华尔街日报报道,谷歌为了结追溯到 2020 年的集体诉讼案,近日同意删除通过 Chrome 浏览器“无痕(Incognito)模式”下收集的用户数据。这起诉讼原告认为,...【详细内容】
2024-04-02    IT之家  Tags:Chrome   点击:(7)  评论:(0)  加入收藏
相关文章
    无相关信息
站内最新
栏目相关
  • · 谷歌推出适用于安卓设备的“查找我的设备”网络
  • · 你的自拍和聊天记录,正被硅谷大厂砸数十亿美元疯抢
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · 为训练AI,OpenAI等科技巨头花式淘数据
  • · 训出GPT-5短缺20万亿token!OpenAI被曝计划建「数据市场」
  • · 当“机器人”有了“AI大脑” 人形机器人时代来了吗
  • · 报告称 OpenAI 采集了超一百万小时的 YouTube 视频来训练 GPT-4
  • · 量子计算会和经典计算一样融入人们的日常生活
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 谷歌为了结集体诉讼,同意删除 Chrome 无痕模式下收集的用户数据
  • · 哥伦比亚大学华人开发「人脸机器人」,照镜子自主模仿人类表情超逼真
  • · 谷歌服务现已支持使用 Windows Hello 人脸和指纹解锁登录
  • · GPT商店热度不尽人意 仅用在写论文和炒股票上较受欢迎
  • · 距实现全球安全量子通信更近一步:量子点源产生近乎完美纠缠光子对
  • · 中国三大运营商共同发布通过GSMA Open Gateway认证的一次性密码 API
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · 国家数据局局长刘烈宏:充分发挥数据要素价值 培育新质生产力
  • · 谷歌Chrome巨变:第三方Cookie的终结将重塑互联网格局
  • · 百度+苹果,“AI手机元年”真的来了?
  • · 百度AI“咬”了一口苹果 大模型商用有戏了?
  • 站内热门
    相关头条
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · Kimi引燃大模型“长文本竞赛”,阿里360百度急出手
  • · 瘫痪8年小哥植入马斯克脑机接口,狂打8小时「文明6」!Neuralink首个人类植入者直播来了
  • · 英伟达“算力核弹”强在哪里?
  • · AI大模型之争远未落幕
  • · 世界首款!英伟达重磅发布人形机器人模型
  • · 全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场
  • · 真“Open ” AI?马斯克旗下大模型Grok宣布开源:参数量全球最大
  • · 全球首位AI程序员诞生 人类程序员会失业吗?
  • · 谷歌宣布更新搜索算法:打击AI生成内容,提高搜索结果质量
  • · 英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
  • · OpenAI Sora已开放对外申请 网友爆料:可能还有其它重磅产品发布
  • · 周鸿祎再谈Sora:真正给人工智能补上了“眼睛”
  • · Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
  • · 爆火Sora参数规模仅30亿?谢赛宁等大佬技术分析来了
  • · “AI女友”霸占GPT商店,OpenAI苦不堪言:开发者也难出头!
  • · 从居家到工作,CES 2024上演 AI硬件大秀
  • · OpenAI新年头号重磅!GPT Store上线,企业客户新品也来了
  • 站内头条