您当前的位置:首页 > 资讯 > 科技

突发!ChatGPT 之父警告 AI 可能灭绝人类,350 名 AI 权威签署联名公开信

时间:2023-05-31 12:23:02  来源:搜狐号  作者:爱范儿

今天,AI 领域传出一封重要的公开信。

包括「ChatGPT 之父」Sam Altman 在内 350 位 AI 权威都签署了这封联名公开信,并对当前正在开发的 AI 技术可能会对人类构成生存威胁担忧。

这封信只有一句声明:降低人工智能灭绝的风险,应该与其它社会规模的风险(如大流行病和核战争)一样,成为全球的优先事项。

加入公开信签名

https://www.safe.ai/statement-on-ai-risk

签署人包括三个领先的 AI 公司高管:

  • OpenAI 首席执行官 Sam Altman;
  • google DeepMind 首席执行官 Demis Hassabis;
  • Anthropic 的首席执行官 Dario Amodei;

更重要的是,名单里还有 Geoffrey Hinton 和 Yoshua Bengio 两位人工智能的「教父」。

超过 350 名从事人工智能工作的高管、研究人员和工程师签署了这份由非盈利组织人工智能安全中心发布的公开信,认为人工智能具备可能导致人类灭绝的风险,应当将其视为与流行病和核战争同等的社会风险。

如今人们越来越担心 ChatGPT 等人工智能模型的发展可能对社会和就业带来的潜在威胁,很多人呼吁针对 AI 行业进行更强力的监管,否则它将对社会造成不可挽回的破坏。

AI 不断狂飙,但相关的监管、审计手段却迟迟没有跟上,这也意味着没有人能够保证 AI 工具以及使用 AI 工具的过程中的安全性。

在上周,Sam Altman 和另外两位 OpenAI 的高管提出应该建立类似国际原子能机构这样国际组织来安全监管 AI 的发展,他呼吁国际间领先的人工智能制造商应该展开合作,并要求政府强化对尖端人工智能制造商的监管。

其实早在 3 月,就一篇有关叫停 6 个月 AI 研究的公开信火遍了全网。

该信呼吁所有的 AI 实验立即暂停研究比 GPT-4 更先进的 AI 模型,暂停时间至少 6 个月,为的就是把这些可怕的幻想扼杀在摇篮之中。

AI 的进步速度实在过于惊人,但相关的监管、审计手段却迟迟没有跟上,这也意味着没有人能够保证 AI 工具以及使用 AI 工具的过程中的安全性。

该联名信已经获得了包括 2018 年图灵奖得主 Yoshua Bengio、马斯克、史蒂夫 · 沃兹尼亚克、Skype 联合创始人、Pinterest 联合创始人、Stability AI CEO 等多位知名人士的签名支持,截稿前联名人数已经达到 1125 人。

公开信的原文如下:

人工智能具有与人类竞争的智能,这可能给社会和人类带来深刻的风险,这已经通过大量研究 [1] 得到证实,并得到了顶级 AI 实验室的认可 [2]。正如广泛认可的阿西洛马尔人工智能原则(Asilomar AI Principles)所指出的,先进的 AI 可能代表地球生命历史上的重大变革,因此应该以相应的关注和资源进行规划和管理。

不幸的是,即使在最近几个月, AI 实验室在开发和部署越来越强大的数字化思维方面陷入了失控的竞争,而没有人能够理解、预测或可靠地控制这些数字化思维,即使是它们的创造者也无法做到这一点。

现代 AI 系统现在已经在通用任务方面具有与人类竞争的能力 [3],我们必须问自己:

  • 我们应该让机器充斥我们的信息渠道,传播宣传和谎言吗?
  • 我们应该将所有工作都自动化,包括那些令人满足的工作吗?
  • 我们应该发展可能最终超过、取代我们的非人类思维吗?
  • 我们应该冒失控文明的风险吗?

这些决策不应该由非选举产生的科技领导人来负责。只有当我们确信 AI 系统的影响是积极的,风险是可控的,我们才应该开发强大的 AI 系统。这种信心必须得到充分的理由,并随着系统潜在影响的增大而增强。OpenAI 最近关于人工智能的声明指出:「在某个时候,可能需要在开始训练未来系统之前获得独立审查,对于最先进的努力,需要同意限制用于创建新模型的计算增长速度。」我们同意。现在就是那个时刻。

因此,我们呼吁所有 AI 实验室立即暂停至少 6 个月的时间,不要训练比 GPT-4 更强大的 AI 系统。这个暂停应该是公开和可验证的,并包括所有关键参与者。如果无法迅速实施这样的暂停,政府应该介入并实行一个暂禁令。

AI 实验室和独立专家应该利用这个暂停时间共同制定和实施一套共享的先进 AI 设计和开发安全协议,这些协议应该由独立的外部专家严格审核和监督。

这些协议应确保遵守它们的系统在合理怀疑范围之外是安全的 [4]。这并不意味着暂停 AI 发展,而只是从不断迈向更大、不可预测的黑箱模型及其突现能力的危险竞赛中退一步。

AI 研究和开发应该重点放在提高现有强大、先进系统的准确性、安全性、可解释性、透明度、鲁棒性、对齐、可信度和忠诚度。

与此同时,AI 开发者必须与政策制定者合作,大力加速 AI 治理体系的发展。这些至少应包括:

  • 专门负责 AI 的新的、有能力的监管机构;
  • 对高能力 AI 系统和大型计算能力池的监督和跟踪;
  • 用于区分真实与合成内容、跟踪模型泄漏的溯源和水印系统;
  • 健全的审计和认证生态系统;对 AI 造成的损害承担责任;
  • 技术 AI 安全研究的充足公共资金;
  • 应对 AI 引起的巨大经济和政治变革(特别是对民主制度的影响)的资深机构。

人类可以在 AI 的帮助下享受繁荣的未来。在成功创造出强大的 AI 系统之后,我们现在可以享受一个「AI 盛夏」,在其中我们收获回报,将这些系统明确地用于造福所有人,并让社会有机会适应。

在面临可能对社会造成灾难性影响的其他技术上,社会已经按下了暂停键 [5]。在这里,我们也可以这样做。让我们享受一个漫长的 AI 盛夏,而不是毫无准备地冲向秋天。



Tags:ChatGPT   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除。
▌相关推荐
今天,AI 领域传出一封重要的公开信。包括「ChatGPT 之父」Sam Altman 在内 350 位 AI 权威都签署了这封联名公开信,并对当前正在开发的 AI 技术可能会对人类构成生存威胁担忧...【详细内容】
2023-05-31  Tags: ChatGPT  点击:(0)  评论:(0)  加入收藏
文章转载来源:AIGC来源:AIGC开放社区AI平台Writer发布了一项关于生成式AI工具的调查报告。主要查看企业对ChatGPT等生成式AI的应用情况和看法。数据显示,ChatGPT成为企业应用最...【详细内容】
2023-05-31  Tags: ChatGPT  点击:(3)  评论:(0)  加入收藏
这些交易员在AI选股上总共押注了1470万美元,这意味着平均每人押注近600美元。但两个投资组合的短期结果显示,一个GPT投资组合基本和大盘持平,另一个则大幅跑输投资标的虚拟货币...【详细内容】
2023-05-30  Tags: ChatGPT  点击:(7)  评论:(0)  加入收藏
图片来源@视觉中国文 | 零点有数科技ChatGPT是OpenAI最新的语言模型,与其他大型语言模型一样,能够以不同的样式和目的生成文本,并且在准确度、叙述细节和上下文连贯性方面表现...【详细内容】
2023-05-29  Tags: ChatGPT  点击:(3)  评论:(0)  加入收藏
要在 C++ 中调用 ChatGPT API,您可以使用以下步骤: 首先,安装 C++ 的 HTTP 客户端库,例如 libcurl 或者 Poco。 创建一个 HTTP 客户端实例,以便向 OpenAI API 发送 HTTP 请求。 ...【详细内容】
2023-05-29  Tags: ChatGPT  点击:(5)  评论:(0)  加入收藏
OpenAI已经发布新的工具,使用户能够更好地管理自己的信息。过去6个月里,随着OpenAI的生成式文本聊天机器人日渐风靡,该系统使用从网络上提取的数据进行训练的风险也变得愈发明...【详细内容】
2023-05-26  Tags: ChatGPT  点击:(12)  评论:(0)  加入收藏
尽管有许多声音赞扬ChatGPT,但也有些人担心它弊大于利。关于骗子劫持人工智能的新闻此起彼伏,这增加了质疑者的不安情绪,他们甚至认为ChatGPT是一个危险的工具。众所周知,人工智...【详细内容】
2023-05-26  Tags: ChatGPT  点击:(9)  评论:(0)  加入收藏
Kubernetes(K8s)非常火,但被人诟病最多的还是其复杂性,并且不管是在云中还是本地,都没有很好的集群故障排除的方法。因此,尽管K8s的采用率持续增长,但许多开发人员和运维团队对这项...【详细内容】
2023-05-26  Tags: ChatGPT  点击:(9)  评论:(0)  加入收藏
当地时间5月18日,人工智能开发机构OpenAI在美国发布了适用于iPhone的免费ChatGPT应用程序,其中包括通过其Whisper AI语音识别模型提供的语音输入支持,App还可以与网页版AI助手...【详细内容】
2023-05-25  Tags: ChatGPT  点击:(11)  评论:(0)  加入收藏
新智元报道编辑:编辑部【新智元导读】本届一年一度开发者大会,微软还是一副赢家姿态。这次微软丢出的重磅炸弹,直接有50个。第一个炸场的,就是全面接入Windows的AI助手。从6月开...【详细内容】
2023-05-24  Tags: ChatGPT  点击:(18)  评论:(0)  加入收藏
▌简易百科推荐
今天,AI 领域传出一封重要的公开信。包括「ChatGPT 之父」Sam Altman 在内 350 位 AI 权威都签署了这封联名公开信,并对当前正在开发的 AI 技术可能会对人类构成生存威胁担忧...【详细内容】
2023-05-31  爱范儿  搜狐号  Tags:ChatGPT   点击:(0)  评论:(0)  加入收藏
中新网北京5月30日电 (记者 宋宇晟)“随着科技的进步,脑机接口将成为人类不可或缺的技术。”在5月29日举行的2023中关村论坛“脑机接口创新发展”平行论坛后,清华大学长聘教授...【详细内容】
2023-05-31    中国新闻网  Tags:脑机接口   点击:(4)  评论:(0)  加入收藏
每经编辑:毕陆名当地时间5月29日,COMPUTEX 2023上,英伟达(NVDA)掌门人黄仁勋向传统CPU服务器集群发起“挑战”,“CPU扩展的时代已结束,新计算时代引爆点已到来。”当日,黄仁勋在大会...【详细内容】
2023-05-30    每日经济新闻  Tags:英伟达   点击:(7)  评论:(0)  加入收藏
财联社5月30日讯(编辑 史正丞)在英伟达周一发布的一堆公告中,潜藏了一条消息:芯片巨头将在集团最大海外研发中心以色列,建设一台该国算力最强的AIGC云超算。据英伟达介绍,这台名为...【详细内容】
2023-05-30    财联社  Tags:超算   点击:(2)  评论:(0)  加入收藏
(经济观察)大模型掀热潮 中国着力打造开源生态中新社北京5月29日电 (记者 刘育英)在全球的大模型竞赛中,中国已占有一席之地。从2023中关村论坛上记者了解到,打造开源生态已经...【详细内容】
2023-05-30    中国新闻网  Tags:大模型   点击:(4)  评论:(0)  加入收藏
文章转载来源:AI之势来源:澎湃新闻记者 张静·据不完全统计,目前中国10亿参数规模以上的大模型已发布79个,14个省市/地区都在开展大模型研发,主要集中在北京和广东,其中北京...【详细内容】
2023-05-29    澎湃新闻  Tags:大模型   点击:(6)  评论:(0)  加入收藏
丰色 发自 凹非寺 量子位 | 公众号 QbitAI 号称“史上最强的开源大语言模型”出现了。 它叫Falcon(猎鹰),参数400亿,在1万亿高质量token上进行了训练。最终性能超越650亿的LLaM...【详细内容】
2023-05-29    量子位  Tags:开源大模型   点击:(5)  评论:(0)  加入收藏
中国载人航天工程办公室副主任林西强表示,近期,我国载人月球探测工程登月阶段任务已启动实施,计划在2030年前实现中国人首次登陆月球。目前,中国载人航天工程办公室已全面部署开...【详细内容】
2023-05-29    新华社  Tags:航天   点击:(7)  评论:(0)  加入收藏
新浪科技讯 北京时间5月29日早间消息,据报道,美国彭博社专栏作家马克·古尔曼(Mark Gurman)上周上手试用了尚未发布的Quest 3混合现实头显。在他看来,这是同样尚未发布的苹...【详细内容】
2023-05-29    新浪科技  Tags:Meta   点击:(6)  评论:(0)  加入收藏
中新网北京5月27日电(记者 宋宇晟)“我认为,当下人工智能的发展,让通用智能赋智于各行各业、千家万户成为可能。我们已经进入到了这样一个新的阶段。”5月26日,新一代人工智能...【详细内容】
2023-05-27    中国新闻网  Tags:人工智能   点击:(16)  评论:(0)  加入收藏
站内最新
栏目相关
  • · 突发!ChatGPT 之父警告 AI 可能灭绝人类,350 名 AI 权威签署联名公开信
  • · 为什么说脑机接口将成为“人类不可或缺的技术”?
  • · 演讲秒变卡拉OK,黄仁勋演示AI音乐创作!英伟达放大招,算力“杀器”来了,还“拉踩”了一波CPU
  • · 揭秘英伟达新超算项目 AI算力达每秒8000000000000000000次
  • · 大模型掀热潮 中国着力打造开源生态
  • · 中国10亿参数规模以上大模型已发布79个,集中在北京和广东
  • · 开源大模型新SOTA!支持免费商用,比LLaMA65B小但更强
  • · 中国载人航天工程办公室:计划在2030年前实现中国人首次登陆月球
  • · Meta继续与苹果“开战”?Quest 3或将成为苹果混合现实头显最大挑战者
  • · 距离人工智能走进千家万户,还有多远?
  • · 多款绝杀!苹果年度大招来袭!
  • · 谷歌宣布对更多用户开放搜索中对新的生成式 AI 功能的访问
  • · TikTok据悉正测试AI聊天机器人“Tako”,可帮助用户发现短视频内容
  • · “刷掌”支付上线,安全吗?
  • · 亚马逊AWS匆忙推生成式AI工具 被指尚不成熟
  • · 可直训ChatGPT类模型!华师大、NUS开源HugNLP框架:一键刷榜,全面统一NLP训练
  • · 微软全面更新AI产品线:ChatGPT可抓取必应搜索结果
  • · 让企业更易上手生成式AI!英伟达连宣多项重磅合作,从Azure云到本地化部署
  • · 微软吹响AI集结号:全面打通ChatGPT携手冲击谷歌
  • · Windows Copilot登场,ChatGPT默认用必应搜索,微软联手OpenAI的大宇宙来
  • 站内热门
    相关头条
  • · 突发!ChatGPT 之父警告 AI 可能灭绝人类,350 名 AI 权威签署联名公开信
  • · 开源大模型新SOTA!支持免费商用,比LLaMA65B小但更强
  • · Meta继续与苹果“开战”?Quest 3或将成为苹果混合现实头显最大挑战者
  • · TikTok据悉正测试AI聊天机器人“Tako”,可帮助用户发现短视频内容
  • · 可直训ChatGPT类模型!华师大、NUS开源HugNLP框架:一键刷榜,全面统一NLP训练
  • · 微软全面更新AI产品线:ChatGPT可抓取必应搜索结果
  • · 让企业更易上手生成式AI!英伟达连宣多项重磅合作,从Azure云到本地化部署
  • · 微软吹响AI集结号:全面打通ChatGPT携手冲击谷歌
  • · ChatGPT重塑Windows!微软王炸更新:操作系统全面接入,Bing也能用插件了
  • · OpenAI正探索AI集体决策,提出类似维基百科条目模式
  • · 比尔·盖茨:AI助理将带来颠覆性变化 谷歌、亚马逊都会玩完儿
  • · 学流氓软件?Windows 10将强制升级最新版
  • · 苹果发布 tvOS 16.5 更新,引入“多视图体育”功能:同时播放 4 个直播源
  • · 微软称GPT-4或具备人类逻辑,人工智能终将成“人类智能”?
  • · 投资者看好AI搜索 谷歌两位创始人财富猛增183亿美元
  • · 谷歌员工评论I/O大会:赞美工程师但嘲讽公司高管
  • · 谷歌更新AI聊天机器人Bard,取消等待名单
  • · 谷歌推出 AI 视频对口型技术:根据翻译语言改变人物说话方式,但不开放使用
  • · 量子处理器上首次造出任意子 有望促进容错量子计算机开发
  • · 谷歌AI大动作来了!最新大语言模型、升级版Bard,还有……
  • 站内头条