您当前的位置:首页 > 电脑百科 > 人工智能

DeepMind联合创始人:生成式AI只是一个阶段,接下来是交互式AI(智能体)可通过调用其他软件和其他人来完成为他们设置的任务

时间:2023-09-18 10:39:46  来源:  作者:编程公开课

DeepMind 联合创始人 Mustafa Suleyman 希望构建一个聊天机器人,其功能远不止聊天。在我最近与他的一次谈话中,他告诉我生成式人工智能只是一个阶段。接下来是交互式人工智能:机器人可以通过调用其他软件和其他人来完成你为他们设置的任务。他还呼吁加强监管,并且认为这并不难实现。

苏莱曼并不是唯一一个谈论未来充满更多自主软件的人。但与大多数人不同的是,他拥有一家价值数十亿美元的新公司 Inflection,拥有一批从 DeepMind、Meta 和 AI target=_blank class=infotextkey>OpenAI 中挑选出来的顶级人才,并且由于与 Nvidia 达成的协议,成为最大的专业人工智能硬件库存之一在世界上。苏莱曼已经把他的钱放到了嘴边——他告诉我他对此既不感兴趣,又想赚更多钱。

至少自 2016 年初我们第一次交谈以来,Suleyman 一直坚信技术是一种向善的力量。他刚刚推出了 DeepMind Health,并与英国一些国营的地区医疗保健提供商建立了研究合作关系。

我当时工作的杂志即将发表一篇文章,声称 DeepMind在访问约 160 万患者的记录以建立这些合作时未能遵守数据保护法规——这一说法后来得到了政府调查的支持。苏莱曼不明白我们为什么要发表一篇敌视他的公司改善医疗保健的努力的报道。他当时告诉我,从他记事起,他就只想在这个世界上行善。  

自那通电话发出以来的七年里,苏莱曼的使命没有发生任何改变。他在位于帕洛阿尔托的办公室通过 Zoom 说道:“我们的目标从来都不是别的,而是如何为世界做好事。”这位英国企业家现在大部分时间都在那里度过。

Suleyman 离开 DeepMind 并转到谷歌,领导一个致力于人工智能政策的团队。2022 年,他创立了 Inflection,这是最热门的新型人工智能公司之一,得到了微软、英伟达、比尔·盖茨和 LinkedIn 创始人里德·霍夫曼 15 亿美元投资的支持。今年早些时候,他发布了一个名为Pi的 ChatGPT 竞争对手,其独特的卖点(根据 Suleyman 的说法)是它令人愉快且有礼貌。他刚刚与作家兼研究员 Michael Bhaskar 合着了一本关于人工智能未来的书,名为《即将到来的浪潮:技术、权力和 21 世纪最大的困境》。

许多人会嘲笑苏莱曼的技术乐观主义——甚至是天真。例如,他关于在线监管成功的一些说法让人感觉不太对劲。但他仍然坚信自己的信念是真诚的和福音派的。 

确实,作为科技千万富翁,苏莱曼有着不同寻常的背景。19 岁时,他从大学退学,成立了穆斯林青年热线,提供电话咨询服务。他还曾在当地政府工作。他说,他将这些努力中的许多价值观带到了 Inflection 中。不同的是,现在他可能能够做出他一直想要的改变——无论是好是坏。 

 

问:你早期的职业生涯,包括青年帮助热线和当地政府工作,是最平庸、最不硅谷的。显然,这些东西对你很重要。从那时起,您已经在人工智能领域工作了 15 年,并于今年共同创立了您的第二家价值 10 亿美元的人工智能公司。你能把这些点连起来吗?

Suleyman:我一直对权力、政治等感兴趣。你知道,人权原则基本上是一种权衡,是所有这些不同的冲突紧张局势之间不断进行的谈判。我可以看到人类正在努力解决这个问题——我们充满了自己的偏见和盲点。激进分子的工作、地方、国家、国际政府等等——这一切都是缓慢、低效且容易出错的。

想象一下,如果你没有人类的错误。我认为有可能构建真正反映我们最好的集体自我的人工智能,并最终代表我们做出更好的权衡,更一致、更公平。

 

问:这仍然是你的动力吗?

Suleyman:当然,我的意思是,在 DeepMind 之后我再也不用工作了。我当然不必写一本书或类似的东西。金钱从来都不是动力。你知道,这始终只是副作用。

对我来说,目标从来不是别的,而是如何为世界做好事以及如何以健康、令人满意的方式推动世界前进。即使早在 2009 年,当我开始考虑进入技术领域时,我就可以看到人工智能代表了一种在世界上提供服务的公平而准确的方式。

我不禁想到,在 10 或 15 年前,在我们看到这项技术的许多缺点之前,说这种话会更容易。你怎样才能保持乐观呢?

我认为我们很关心你是乐观主义者还是悲观主义者。这是一种完全带有偏见的看待事物的方式。我也不想成为这样的人。我想冷眼面对利益和威胁。从我的立场来看,我们可以非常清楚地看到,随着这些大型语言模型规模的每一步扩大,它们变得更加可控。

所以两年前,谈话——我当时认为这是错误的——是“哦,他们只会发表有毒的、反胃的、有偏见的、种族主义的长篇大论。” 我当时想,这是时间的快照。我认为人们忽视的是年复一年的进步,以及这种进步的轨迹。

例如,现在我们有了像 Pi 这样的模型,它们的可控性令人难以置信。你不能让 Pi 产生种族主义、恐同、性别歧视等任何有毒的东西。你无法让它指导你生产生物或化学武器,或者支持你向邻居的窗户扔一块砖头的愿望。

 

问:不挂断。告诉我你是如何实现这一目标的,因为这通常被认为是一个未解决的问题。如何确保您的大型语言模型不会说出您不希望它说出的内容?

Suleyman:是的,很明显我不想提出这样的要求——你知道,请尝试这样做!Pi 已上线,您应该尝试所有可能的攻击。越狱、即时黑客或任何对 Pi 都不起作用的东西。我不会提出主张。这是客观事实。

 

问:关于如何——我的意思是,我不会透露太多细节,因为它很敏感。但最重要的是,我们拥有世界上最强大的团队之一,他们创建了过去三四年来所有最大的语言模型。令人惊叹的人们,在极其勤奋的环境中,进行大量的计算。我们从一开始就把安全放在第一位,因此 Pi 并不像其他公司的模型那么辣。

Suleyman:看看Character.ai。[角色是一个聊天机器人,用户可以为其打造不同的“个性”并在线分享以供其他人聊天。]它主要用于浪漫的角色扮演,我们从一开始就说过这是不可能的——我们不会”不要这样做。如果你试图对 Pi 说“嘿,亲爱的”或“嘿,小可爱”之类的话,它会立即拒绝你。

但这将是令人难以置信的尊重。如果你开始抱怨你所在社区的移民抢走了你的工作,Pi 不会对你大喊大叫,也不会对你摇手指。Pi 会询问并提供支持,并尝试了解这些信息从何而来,并温和地鼓励您产生同理心。你知道,这是我 20 年来一直在思考的价值观。

 

问:谈论您的价值观并希望让世界变得更美好,为什么不分享您是如何做到这一点的,以便其他人也可以改进他们的模型呢?

Suleyman:嗯,因为我也是一个实用主义者,我正在努力赚钱。我正在努力创办一家企业。我刚刚筹集了 15 亿美元,我需要支付这些筹码的费用。

看,开源生态系统正在火热进行中,并且做得非常出色,人们正在发现类似的技巧。我总是假设我只领先六个月。

 

问:让我们回到你想要实现的目标。大型语言模型显然是当前的技术。但你为什么还要押注于他们呢?

Suleyman:人工智能的第一波浪潮是关于分类的。深度学习表明,我们可以训练计算机对各种类型的输入数据进行分类:图像、视频、音频、语言。现在我们正处于生成浪潮中,您可以获取输入数据并生成新数据。

第三波将是互动阶段。这就是为什么我长期以来一直坚信对话是未来的界面。你知道,你将与你的人工智能交谈,而不是仅仅点击按钮和打字。

这些人工智能将能够采取行动。你只需给它一个总体的、高层次的目标,它就会使用它所拥有的所有工具来实现这一目标。他们会与其他人交谈,与其他人工智能交谈。这就是我们要对 Pi 做的事情。

这是技术所能实现的巨大转变。这是技术史上一个非常非常深刻的时刻,我认为很多人都低估了这一时刻。当今的技术是静态的。粗略地说,它会执行您告诉它执行的操作。

但现在技术将变得生动起来。如果你给予它,它将有潜在的自由来采取行动。我们正在创造具有这种代理作用的工具,这确实是我们物种历史上的一步变化。

 

问:这正是让很多人担心的言论。你想赋予机器自主权——一种机构——来影响世界,但我们也希望能够控制它们。你如何平衡这两件事?感觉那里有一种紧张气氛。

Suleyman:是的,这是一个很好的观点。这正是紧张的原因。 

这个想法是人类将永远保持指挥权。从本质上讲,它是关于设定人工智能无法跨越的边界和限制。并确保这些边界创造了可证明的安全性,从实际代码到与其他人工智能(或人类)交互的方式,再到创建该技术的公司的动机和激励。我们应该弄清楚独立机构甚至政府如何直接进入以确保这些界限不被跨越。

 

问:谁设定这些界限?我认为它们需要在国家或国际层面上设定。他们是如何达成一致的?

Suleyman:我的意思是,目前它们正在国际层面上提出,并提出了关于新的监督机构的各种建议。但边界也会在微观层面发挥作用。你将给予你的人工智能一些有限的权限来处理你的个人数据,为你提供一些问题的答案,但不能回答其他问题。

总的来说,我认为在可预见的未来,我们应该对某些能力非常谨慎,甚至排除。

 

问:例如?

Suleyman:我猜想是递归自我完善之类的事情。你不会想让你的小人工智能在没有你监督的情况下启动并更新自己的代码。也许这甚至应该是一项获得许可的活动——你知道,就像处理炭疽或核材料一样。

或者,我们不允许无人机出现在任何公共场所,对吗?这是一项获得许可的活动。你不能把它们带到任何你想去的地方,因为它们对人们的隐私构成威胁。

我认为每个人都非常恐慌,因为我们无法对此进行监管。这只是无稽之谈。我们完全能够对其进行监管。我们将应用以前成功的相同框架

 

问:但是当无人机在天空中时你可以看到它们。认为公司只会透露他们正在生产的产品的想法显得很天真。这难道不会让监管变得棘手吗?

Suleyman:我们在网上监管了很多事情,对吗?网上欺诈和犯罪活动的数量很少。我们在垃圾邮件方面做得很好。你知道,总的来说,复仇色情的[问题]已经有所改善,尽管三五年前情况还很糟糕。在网上找到激进内容或恐怖分子材料非常困难。在网上购买武器和毒品非常困难。

[苏莱曼的所有主张并非都有数字支持。网络犯罪仍然是一个严重的全球问题。据一些估计,在过去十年中,仅美国的财务成本就增加了100 多倍。报告显示,未经同意的深度伪造色情内容的经济正在蓬勃发展。毒品和枪支在社交媒体上销售。虽然一些在线平台被迫更好地过滤有害内容,但它们可以做得更多。]

因此,互联网并不是一个不受监管、难以驾驭的空间。它受到管辖。人工智能将成为治理的另一个组成部分。

这需要文化压力、制度压力以及政府监管的共同作用。但这让我乐观地认为我们以前已经做到了,而且我们可以再次做到。

控制人工智能将成为互联网监管的一个分支——这比我们最近从一些备受瞩目的末日论者那里听到的乐观得多。

我对风险非常乐观。我的书里有很多黑暗的东西。我肯定也看到了。我只是认为存在风险的东西完全是一种疯狂的干扰。我们都应该讨论 101 个更实际的问题,从隐私到偏见,从面部识别到在线审核。

我们应该将谈话的焦点重新集中在这样一个事实上:我们在监管超级复杂的事物方面做得非常出色。看看联邦航空管理局:令人难以置信的是,我们都进入了 40,000 英尺高空的锡管,而且这是有史以来最安全的运输方式之一。我们为什么不庆祝一下呢?或者想想汽车:每个部件都在其寿命的最后一刻进行压力测试,并且您必须拥有驾驶执照。

一些行业(例如航空公司)一开始就在自我监管方面做得很好。他们知道,如果不确保安全,每个人都会感到害怕,他们也会失去生意。

但你也需要自上而下的监管。我爱民族国家。我相信公共利益,我相信税收和再分配的好处,我相信监管的力量。我所呼吁的是民族国家采取行动来解决问题。考虑到事关重大,现在是采取行动的时候了。

 

本文源自MIT Technology Review《麻省理工科技评论》。



Tags:生成式AI   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除。
▌相关推荐
DeepMind 联合创始人 Mustafa Suleyman 希望构建一个聊天机器人,其功能远不止聊天。在我最近与他的一次谈话中,他告诉我生成式人工智能只是一个阶段。接下来是交互式人工智能:...【详细内容】
2023-09-18  Tags: 生成式AI  点击:(0)  评论:(0)  加入收藏
作者 | David Linthicum策划 | 言征 从数据可用性、安全性到模型选择和监控,生成式AI的加入便意味着要重新审视云架构。 所以,如果在构建一个云架构同时也在设计生成式AI驱动...【详细内容】
2023-09-13  Tags: 生成式AI  点击:(6)  评论:(0)  加入收藏
文 | 王吉伟 生成式AI席卷电商领域,AIGC赋能厂商与客户增效降本 生成式AI已经热了这么久,厂商们在电商领域都有哪些探索? 从AI模特换装到AIGC赋能运营,生成式AI全方位渗透电商产...【详细内容】
2023-09-09  Tags: 生成式AI  点击:(7)  评论:(0)  加入收藏
9月7日,“2023 inclusion·外滩大会”在上海黄浦世博园区开幕,近20位“两院”院士、诺贝尔奖和图灵奖得主,全球超500位科技领军企业家和专家学者汇聚,共同交流科技与可持...【详细内容】
2023-09-08  Tags: 生成式AI  点击:(13)  评论:(0)  加入收藏
5天突破百万用户,2个月突破1亿用户,频频打破史上增速最快消费级应用,这便是ChatGPT。ChatGPT在去年11月以AI聊天机器人的形式登场,但与过去所有的聊天机器人不同,似乎像个全能战...【详细内容】
2023-09-07  Tags: 生成式AI  点击:(6)  评论:(0)  加入收藏
编辑:杜伟更强的性能、效率,更低的成本,谷歌迎来了自家 AI 芯片的更新换代。一直以来,谷歌已经构建了业界领先的 AI 能力,比如引领新一代人工智能发展的 Transformer 架构、利用...【详细内容】
2023-08-30  Tags: 生成式AI  点击:(28)  评论:(0)  加入收藏
Python 是生成式 AI 的首选编程语言,随着生成式 AI 领域的大热,相关的 Python 框架和库自然也受到了极大关注。“而这对 Java 开发人员又意味着什么呢”?The New Stack 带着这...【详细内容】
2023-08-26  Tags: 生成式AI  点击:(37)  评论:(0)  加入收藏
IT之家 8 月 17 日消息,市场调查机构 Gartner 近日发布报告,以生成式 AI 的炒作周期(Hype Cycle)来看,目前已达到“膨胀预期峰值”。该机构将生成式 AI 的炒作周期划分为创新触发...【详细内容】
2023-08-17  Tags: 生成式AI  点击:(16)  评论:(0)  加入收藏
2023年是生成式AI技术取得重大突破的一年,ChatGPT等AI工具已经走出科技公司的实验室,并迅速风靡全球。现实表明,虽然很多CIO正在谨慎地评估如何在自己的应用中使用生成式AI,但企...【详细内容】
2023-08-17  Tags: 生成式AI  点击:(32)  评论:(0)  加入收藏
「登月计划」大笔烧钱的同时,利润的主要来源 —— 搜索业务 —— 却正面临着生成式 AI 的挑衅。ChatGPT 的诞生,搅动了 AI 行业的风云。在这场大模型之战...【详细内容】
2023-08-17  Tags: 生成式AI  点击:(28)  评论:(0)  加入收藏
▌简易百科推荐
DeepMind 联合创始人 Mustafa Suleyman 希望构建一个聊天机器人,其功能远不止聊天。在我最近与他的一次谈话中,他告诉我生成式人工智能只是一个阶段。接下来是交互式人工智能:...【详细内容】
2023-09-18  编程公开课    Tags:生成式AI   点击:(0)  评论:(0)  加入收藏
未来大模型产品的发展趋势可能是通用大模型与垂直领域细分模型的结合。这不仅需要具备坚实的技术基础,也需要大模型产品具有坚实的基于场景的应用。未来,从实践中来,到实践中去...【详细内容】
2023-09-18    科技日报  Tags:国产大模型   点击:(2)  评论:(0)  加入收藏
近年来,迁移学习和计算机视觉作为人工智能领域的热门话题备受瞩目。迁移学习是指通过将已有的知识迁移到新任务上,以提高该新任务的表现的机器学习方法。而计算机视觉则是通过...【详细内容】
2023-09-15  小东在广东    Tags:计算机视觉   点击:(5)  评论:(0)  加入收藏
出品 | 搜狐科技作者 | 潘琭玙比百度晚了半年、比阿里晚了5个月,腾讯混元大模型虽迟但到。此前称“不急于把半成品拿出来展示”,但发布后腾讯也坦言,目前只是“可用、可实践”...【详细内容】
2023-09-14    搜狐科技  Tags:大模型   点击:(4)  评论:(0)  加入收藏
随着深度学习技术的快速发展,稀疏特征提取和匹配成为了计算机视觉领域的一个重要研究方向。相较于传统的特征提取方法,稀疏特征提取可以将图像的高维数据降维,从而节省计算资源...【详细内容】
2023-09-14  数码小风向    Tags:深度学习   点击:(3)  评论:(0)  加入收藏
《人类简史》的作者尤瓦尔·赫拉利周二警告称,人工智能是一种可能消灭人类的外来威胁:“它不是来自外太空,而是来自加州。”人工智能技术被广泛誉为一场“革命”,但以色列...【详细内容】
2023-09-14    环球市场播报  Tags:人工智能   点击:(5)  评论:(0)  加入收藏
9月13日,阿里云宣布通义千问大模型已首批通过备案,并正式向公众开放。在此前近半月时间里,百度、腾讯等大厂的国产大模型相继正式上线,国产AI大模型“百模大战”时刻或将到来。...【详细内容】
2023-09-14    21财经  Tags:AI大模型   点击:(6)  评论:(0)  加入收藏
Ai机器视觉检测是什么?AI机器视觉检测是将人工智能(AI)技术与机器视觉相结合的一种检测方法。它通过使用深度学习和计算机视觉算法,让计算机能够自动识别、分析和理解图像中的内...【详细内容】
2023-09-13  汇萃机器视觉    Tags:机器视觉   点击:(6)  评论:(0)  加入收藏
我们知道在使用 GPT 和 LLaMA 等大型语言模型时,输入的 prompt 存在字符数限制,比如 ChatGPT 目前的输入字符限制是 4096 个字符。这会限制上下文学习和思维链等技术的发挥空...【详细内容】
2023-09-13  巴比特资讯    Tags:prompt   点击:(8)  评论:(0)  加入收藏
译者 | 崔皓审校 | 重楼摘要本文强调MLOps(机器学习运营)的重要性,并详细介绍了其五个关键阶段:问题框架、解决方案框架、数据准备、模型构建和分析以及模型服务和监控。文章通...【详细内容】
2023-09-13    51CTO  Tags:MLOps   点击:(5)  评论:(0)  加入收藏
站内最新
站内热门
站内头条