您当前的位置:首页 > 电脑百科 > 人工智能

周鸿祎表示,AI一定会产生自我意识,对此我们专访了北大学者

时间:2023-04-03 11:17:07  来源:腾讯科技  作者:

腾讯科技 乔辉

3月28日,据外媒报道,一名叫皮埃尔(化名)的比利时男子在与一个名称“艾丽莎”的智能聊天机器人频繁聊天数周后自杀身亡。360集团创始人周鸿祎表示,“人工智能一定会产生自我意识,留给人类的时间不多了。” 自ChatGPT发布以来,关于人工智能是否能产生自我意识的讨论更加引入关注。

虽然“人工智能”(AI)这个概念早在1956年就被提出,但在过去的几十年,人工智能的研究一直没有“质”的转变,无论运算能力多强,看起来仍然是冷冰冰的机器,但直到今年OpenAI公司向公众展示GPT3.5和GPT4的强大能力之后,人们突然意识到一个全新的时代可能正在开启,人工智能看起来越来越像人,开始能够创造新内容了。人工智能的研究正在加速迭代,人类可能正在体验打开“潘多拉魔盒”的心情:好奇和担忧并存。好奇的是,人工智能究竟能够强大到什么程度,能够解决什么样的难题;担忧的是,人们工作和生存会受到威胁,更担忧人工智能一旦拥有了自我意识(觉醒)会对人类物种造成毁灭性的打击。

人工智能能够产生自我意识吗?人工智能是善是恶?人工智能的研究需要按下暂停键和立法吗?对于这些人们关心的问题,我们分别对话了北大心理学领域的教授,中科院物理所的物理学家、国家天文台的天文学家以及著名的科幻作家,来听听他们对这些核心问题的理解。

北京大学心理与认知科学学院罗欢:在一定条件下,人工智能能够产生意识

北京大学心理与认知科学学院罗欢教授向腾讯科技表示,认知神经科学家致力于解释精神世界的物质基础,认为意识是从大量神经元中涌现出来的。比如,“全局空间理论”认为大脑中有一个核心工作空间,外界信息只有进入了该核心空间,并被广播到全脑才上升到意识层面;“信息整合理论”则认为脑区域连接网络的一些特定属性可以被量化进而决定其意识涌现的能力。

她认为,原则上计算机能够“涌现”出意识,并给出了可能实现的途径:1、计算机模拟人脑神经网络架构,通过物理结构的“类脑化”使其具备意识涌现的硬件条件;2、赋予计算机拟人的动机和目的,通过目标函数的设定来自然涌现出自我意识,比如设定趋利避害、价值观以及社会属性等。罗教授说:“情感、意识、自我这都是心理学的功能性定义,无数科学家的工作都不断的把这些抽象的定义“拉下神坛”,发现它们其实是脑这个物理系统涌现的状态和实现的某种功能。比如情感就是一种脑的状态,但常常被我们打上了“人类独家”的标签。因此,理论上,计算机可以拥有情感,比如它在不同环境下根据它的价值和目标实现进入不同的状态,进而对应不同的情感。“

北京大学心理与认知科学学院朱露莎:自我意识的出现需要利益和欲望驱动

北京大学心理与认知科学学院朱露莎教授也对这些问题提出了自己的见解,她向腾讯科技表示,仅仅拥有大量的神经元或者神经网络计算还不足以让人工智能涌现自我,人工智能还需要有自己的利益和欲望,在未来不排除这种情况的出现。当提及人工智能是善还是恶的问题时,朱教授表示,目前人工智能本身的善恶取决于训练的数据,目前它是利用人类互联网上的数据进行训练的,这些数据天然夹杂有偏见和歧视等信息,如果不加选择的话,训练出来的人工智能就带有偏见和歧视。朱教授同意要对人工智能的研究进行反思和立法,她表示,目前人类科学伦理的研究大大落后于科技的发展,让我们有个反思的时间可能不是坏事。她还表示,人工智能的发展犹如一次全新的工业革命,会对人类社会带来天翻地覆的变化,需要社会各界达成某种共识。

图注:科幻电影《机械公敌》剧照。

中科院物理研究所研究员曹则贤:人类对意识的认识还非常浅薄

对于自我意识能否从大量神经元或神经网络计算中涌现的问题,我们还请教了中科院物理研究所曹则贤教授,来听听物理学家如何看待这个问题。曹教授说:“人的意识从哪里来,虽然不能说人类永远理解不了(身在此山中),但目前关于意识的研究基本上还摸不着头绪。那种认为意识是脑组织中某个明确可辩识对象功能的观点,还是站不住脚的。就连相比人脑层次低得多的台式计算机,人们都无法说清它的表现从何而来。虽然在软件、硬件甚至电子层面都可构造一套说辞,但任何单一层面上的说辞都是苍白的。”

著名科幻作家江波:人工智能防不胜防,但灭绝人类言过其实

科幻作家江波对人工智能是否能涌现出意识这个问题阐述给出了自己的理解和测试方法。他表示,自我意识的出现,应当有两个条件:第一是躯体,第二是神经网络之上的神经网络。他给出了比较好理解的理由:1、自我意识的存在从逻辑上讲需要区分什么是我,什么是外。如果没有躯体,那么“我”这个概念就无法存在。2、神经网络之上的神经网络是指,自我能对其他神经网络进行调控,能够对影响范围之内的神经网络进行认可或者否定,更重要的是否定。从这两个条件来说,还没有看到人工智能产生自我意识的绝对阻碍,但当下的GPT4则距离自我意识的产生尚早。他给出了测试自我意识的一个有趣方法:看人工智能是否会撒谎。如果它会撒谎,那么可以判断它已经有自我意识。

图注:波士顿动力公司的研发人员在对机器人进行抗挫折测试。未来,GPT和器械躯体结合,说不定有一天机器人获得了自我意识,能够趋利避害,学会反抗。

对于如何对人工智能的研究进行立法这个问题,他也给出了独特的见解。他表示,鉴于人类对未知的恐惧,可以适当限制人工智能研究,比如将研究限制在局域网内,但这也可能是徒劳的,人工智能的突破会发生在一瞬间,也就是说,在发生之前,做什么意义都不大,甚至是件劳民伤财而毫无成效的事。在发生之后,做一切都晚了。立法或许会降低风险,但根据历史规律看,人类在没有受到现实的教训之前是不会真正落实这些法规的。目前,人工智能造成的危害只会局限于一定范围,灭绝人类还有些言过其实,最可能的情形是,在未来可能会造成大灾难,人类文明出现倒退。

国家天文台研究员苟利军:高等外星人或许就是硅基形态

国家天文台的苟利军教授从天文学的视角对人工智能的发展给出了看法。他表示,目前天文观测基本都是以地球和人类作为类比的,计算机智能和人的智能相差很大,所以我们所期望的外星生命也是所谓的碳基生命。尽管我们没有探测到地外生命,但是我们相信外星生命应该在我们银河系当中是存在的。不过随着计算机人工智能技术的突飞猛进,尤其ChatGPT的出现,在过去一段时间的表现,让人类感觉到了一丝恐惧。或许更高级的外星生命可以是硅基,有些智力是远超人类的,就像一些科幻小说当中所表现的那样。

综合各领域科学家的观点来看,人工智能产生意识不存在物理定律上的限制,但目前人类对意识的理解和人工智能的研究尚处于早期阶段,还需要时间来验证。目前,虽然人工智能还无法威胁人类的生存,但需要尽快立法,延缓对人类社会的冲击。放眼整个宇宙,高等外星文明很可能是硅基的。



Tags:AI   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖
AI(人工智能)芯片紧缺之际,越来越多科技巨头选择自行研发。当地时间4月10日,社交巨头Meta公布了自主研发芯片MTIA的最新版本。MTIA是Meta专门为AI训练和推理工作设计的定制芯片...【详细内容】
2024-04-11  Search: AI  点击:(1)  评论:(0)  加入收藏
英特尔发布新一代AI芯片并首推AI芯片代工 “单挑”英伟达和台积电
新华财经上海4月11日电 当地时间4月9日,英特尔在Vision 2024客户和合作伙伴大会上宣布推出最新AI芯片产品Gaudi 3加速器。英特尔称,相比英伟达的H100 GPU,Gaudi3 AI芯片的模型...【详细内容】
2024-04-11  Search: AI  点击:(2)  评论:(0)  加入收藏
AI“复活”亲人成生意,哪些红线待划定?
提供一张照片、一段10多秒的音频,即可让逝者在视频中“活”过来——AI“复活”亲人成生意,哪些红线待划定?本报记者 陶稳《工人日报》(2024年04月11日 06版)阅读提示...【详细内容】
2024-04-11  Search: AI  点击:(2)  评论:(0)  加入收藏
全球十大独角兽发布:字节稳坐第一,SpaceX第二,OpenAI第三
鞭牛士报道,4月10日消息,根据胡润《2024 年全球独角兽指数》,TikTok 所有者字节跳动以 1.56 万亿元人民币(1.72 万亿港元)连续第三年成为全球最大的独角兽公司。SpaceX 以 1.28...【详细内容】
2024-04-10  Search: AI  点击:(0)  评论:(0)  加入收藏
科技巨头狂撒千亿美元 “买照片”,只为训练AI模型?
高质量的数据,越来越值钱。你能想象,那些被遗忘在网盘的陈年老图,有朝一日能价值千金?就在最近,路透社报道称,苹果公司正与图像托管网站Photobucket协商,希望得到这家公司近130亿张...【详细内容】
2024-04-10  Search: AI  点击:(0)  评论:(0)  加入收藏
数字水印国标将出,AI生成内容标识成新焦点
日前,全国网络安全标准化技术委员会就国家标准《信息安全技术数字水印技术实现指南》公开征求意见,这是数字水印技术方面的首份国家标准,旨在解决由于缺乏统一实施流程、服务接...【详细内容】
2024-04-10  Search: AI  点击:(2)  评论:(0)  加入收藏
互联网充斥“针对小白的AI课”,能相信吗?普通人不学AI课程会被淘汰?
早前,一位标榜清华大学博士和多家公司AI顾问名头的百万级粉丝量博主,向用户大力推介“所有人都需要学”的AI入门课程。不过,这些课程最终因贩卖焦虑、蒙骗学员而被平台下架。然...【详细内容】
2024-04-10  Search: AI  点击:(7)  评论:(0)  加入收藏
AI是万灵药?Meta要把大模型塞进AR眼镜里
寻找下一块“屏幕”,这无疑是最近几年科技行业的一个热门赛道。随着个人计算机点燃了互联网,智能手机让移动互联网无处不在之后,这前后两次造富神话的出现,也让所有人都在期待下...【详细内容】
2024-04-09  Search: AI  点击:(6)  评论:(0)  加入收藏
藏在AI背后的“吃电狂魔”
人工智能时代的能耗黑洞据估算,到2027年,人工智能行业每年将消耗85~134太瓦时的电力,相当于瑞典或荷兰一年的总用电量。马斯克判断,电力缺口最早可能会在2025年发生,“明年你会看...【详细内容】
2024-04-09  Search: AI  点击:(3)  评论:(0)  加入收藏
AI+数字人成为市场关注焦点,大屏AI数字人助力展厅设计创意升级
随着各行业产业的数字化转型加速,人工智能时代的到来,展馆展厅行业也步入数字时代,各式的展馆展厅设计在融合了全息投影、虚拟现实、数字沙盘、互动投影、互动桌面等多种技术后...【详细内容】
2024-04-09  Search: AI  点击:(4)  评论:(0)  加入收藏
▌简易百科推荐
行业大模型快速落地的一年,如何做?
生成式AI正成为时下科技企业“讲故事”的关键词之一。但从发展上看,无论是“文生文”的大语言模型,还是“文生图”的多模态模型,更多的是辅助人们进行一些简单的办公,或者提供一...【详细内容】
2024-04-10    钛媒体APP  Tags:行业大模型   点击:(3)  评论:(0)  加入收藏
互联网充斥“针对小白的AI课”,能相信吗?普通人不学AI课程会被淘汰?
早前,一位标榜清华大学博士和多家公司AI顾问名头的百万级粉丝量博主,向用户大力推介“所有人都需要学”的AI入门课程。不过,这些课程最终因贩卖焦虑、蒙骗学员而被平台下架。然...【详细内容】
2024-04-10    九派新闻  Tags:AI课   点击:(7)  评论:(0)  加入收藏
藏在AI背后的“吃电狂魔”
人工智能时代的能耗黑洞据估算,到2027年,人工智能行业每年将消耗85~134太瓦时的电力,相当于瑞典或荷兰一年的总用电量。马斯克判断,电力缺口最早可能会在2025年发生,“明年你会看...【详细内容】
2024-04-09    雪豹财经社  Tags:AI   点击:(3)  评论:(0)  加入收藏
OpenAI和谷歌再起纷争:AI的尽头是内容
日前,纽约时报的一篇报道称,人工智能公司 OpenAI为收集高质量训练数据而开发了一个语音转录模型Whisper。该模型主要用于转录 OpenAI 获取的超过 100 万小时的 YouTube 视频,也...【详细内容】
2024-04-09  小编也疯狂  新浪网  Tags:AI   点击:(3)  评论:(0)  加入收藏
AI产业的灰色暗面:OpenAI、谷歌、META如何搞训练语料
财联社4月7日讯(编辑 史正丞)种种迹象显示,目前站在全世界AI领域潮头浪尖的这些公司,早在几年前就已经陷入对训练语料的“绝望”追逐中——为此他们不惜修改政策条款...【详细内容】
2024-04-09    财联社  Tags:AI产业   点击:(4)  评论:(0)  加入收藏
和“数字人”交朋友,当心隐私被出卖......
在虚拟社交中如何在保护用户隐私和数据安全的同时提供高质量的社交体验?如何避免过度依赖虚拟社交找到虚拟与真实之间的平衡点?《中国消费者报》记者就此展开了调查APP里有个...【详细内容】
2024-04-09    中国消费者报  Tags:数字人   点击:(6)  评论:(0)  加入收藏
AI“复活”成产业链:成本可降至数百元
大模型应用落地,带火数字人(11.560, 0.29, 2.57%)赛道。文|《中国企业家》记者李艳艳 实习生 孙欣编辑|姚赟头图来源|《流浪地球2》电影画面截图清明节前,预估会有需求的庞立...【详细内容】
2024-04-09    中国企业家  Tags:AI“复活”   点击:(3)  评论:(0)  加入收藏
多方热议人工智能产业新机遇
编者按  从前沿科技展会到高层对话平台,从上海、重庆到博鳌,从线上到线下……一场场高规格、大规模的盛会中,人工智能正在成为各界热议的高频词。赋能千...【详细内容】
2024-04-08    中国家电网  Tags:人工智能   点击:(5)  评论:(0)  加入收藏
​人形机器人时代来了吗
日前,由中国人形机器人(11.080, -0.05, -0.45%)百人会主办的人形机器人大赛在北京经济技术开发区开赛。工作人员向参观者展示一款人形机器人。参观者与一款陪护型人形机器人...【详细内容】
2024-04-08    中国青年报  Tags:​人形机器人   点击:(6)  评论:(0)  加入收藏
AI重塑社交:腾讯与字节跳动的新赛场
文|新火种 一号编辑|美美最近,腾讯和字节跳动这两大互联网巨头几乎同步推出了各自的AI社交产品,尽管腾讯和字节跳动在前段时间刚刚“破冰”,但这一举措不仅意味着这两大巨头之...【详细内容】
2024-04-07    蓝鲸财经  Tags:AI   点击:(8)  评论:(0)  加入收藏
站内最新
站内热门
站内头条