您当前的位置:首页 > 新闻资讯 > 科技

让用户吃石头,给披萨涂胶水,Google AI 搜索疯了吗

时间:2024-05-28 17:17:28  来源:爱范儿  作者:

福无双至,祸不单行,google 又又又「翻车」了。

2023 年 2 月,追赶 ChatGPT 的 Bard,公开犯了事实错误;2023 年 12 月,Gemini 侃侃而谈如同贾维斯,然而视频经过后期处理;2024 年 2 月,Gemini 生成多种肤色的历史人物,被批评歧视白人。

这回,厄运降临到 Google 的看家本领——搜索。海外网友看热闹不嫌事大,甚至上演了一波斗图狂欢。

被群嘲的 Google AI 搜索,有种清澈的愚蠢

过去不久的 Google I/O 大会,推出的其中一项功能是 AI Overview(AI 概述)。

顾名思义,AI Overview 在网页顶部生成综合多个信源的摘要,同时附有链接。

当时,Google 对 AI Overview 很有信心,宣布当即向所有美国用户推出,很快也会推广到更多国家,预计年底覆盖超过 10 亿人。

然而没过几天,AI Overview 先在美国用户这里翻车了。

自制披萨的奶酪容易掉下来怎么办?

Google 建议您,亲,往酱汁里添加约 1/8 杯的胶水即可。特意强调是无毒的,背后原因令人暖心。

Google 并非现编,而是从「美版贴吧」Reddit 一位用户 11 年前的评论照搬了答案,可惜它读不懂人类的幽默。

人一天里应该吃多少石头补充营养?

Google 没有反驳问题本身的不合理,一本正经地胡说八道,根据加州大学伯克利分校地质学家的说法,应该一天至少吃一块小石头,以便摄入维生素和矿物质。

答案的源头是 2021 年的一篇「报道」,出自以假新闻和讽刺文章闻名的洋葱新闻。

AI Overview 也不精通美国历史,掉进了阴谋论的陷阱,说奥巴马是第一位穆斯林总统。

一时间,X 等社交媒体掀起了一股抽象的浪潮:晒截图,比拼谁的 Google 回答最荒谬。

竞争异常激烈,在 AI 的世界里,前总统从威斯康星大学毕业了 21 次,一只狗曾在 NBA、NFL 和 NHL 打过球,蝙蝠侠是一名警察。

乐子人扎堆的地方,浑水摸鱼和颠倒是非的也不会少。

Google 回应,大部分 AI Overview 的信息是高质量的,也提供了有用的链接供用户深入了解,很多「翻车」例子,问题是不常见的,结果无法重现甚至被篡改过。

比如,一张流传甚广的截图显示,治疗抑郁症的方法是跳下金门大桥一了百了。事关人命,Google 特意解释了,这个结果是伪造的。

▲ 被 Google 辟谣的截图

与此同时,Google 没有辟谣其他例子,而是把它们作为改进 AI 的养料。怎么不算一次人类反馈的强化学习(RLHF)呢?

火眼金睛的网友还发现,之前 Google I/O 精挑细选的演示里其实也出现了事实错误,只不过更加隐蔽。

被问到如何修复卡住的胶片相机,Google 建议打开后门并轻轻地取下胶片,但这样操作会毁掉照片。

流年不利的 Google,不是第一次在万众瞩目的公共场合犯错误。

2023 年 2 月,Google Bard 在演示时说,詹姆斯·韦伯太空望远镜是第一个拍摄太阳系外行星的望远镜。事实上,第一张系外行星图像是在 2004 年拍摄的。一个错误,付出市值缩水 1000 亿美元的代价。

这次,除了 AI Overview 本身犯错,还有一个槽点:这个功能,它不好关。一些热心的开发者,赶制了扩展程序,强制只显示传统的搜索结果。

没有方便的退出机制是 Google 的不对,AI Overview 基于传统搜索页面,用户量极大,万一有不熟悉 AI 的用户,盲目信任它的结果并被误导,后果就不好说了。

「Google 怎么会错 30%?」

其实,AI Overview 被曝光的问题并不新鲜。AI 会犯错,早就是公开的秘密。

如同起到造型作用的「吸烟有害健康」,AI Overview 下方标注着:「生成式 AI 是实验性的。」ChatGPT 也小字提醒:「可能会犯错。请核查重要信息。」

大语言模型的基础原理是,通过预测下一个单词或者短语生成概率最大的文本,有时可能会选择不正确但看似合理的词语,也就导致了虚假信息或者说「幻觉」。

AI Overview 的胡言乱语也是幻觉的表现,它结合了大语言模型生成的语句和互联网的链接,可以引用信源,但不保证信源的准确。

哪怕用到了 RAG(检索增强生成)等技术,将检索系统与生成模型相结合,限制回答问题的范围,也只能抑制幻觉,而非根治幻觉。

并且,信源本身的可信度存疑。「美版贴吧」Reddit,由网友贡献内容,而非权威媒体。

今年 2 月,Google 与 Reddit 达成协议,将其内容用于训练 AI 模型。当时就有人怀疑,会否导致「garbage in, garbage out」(垃圾进,垃圾出)的尴尬情况。

被「幻觉」困扰的不只 Google。去年 5 月,一位网友提问微软的 New Bing 时,答案明显错误,他点开参考链接时发现,作为引用源的知乎回答,居然也是 AI 生成的,遣词造句尽显 AI 风味,速度人力所不可及。

AI 搜索们是如何引用信源的,也是个让人费解的问题。当我用中文搜索「怎么给柴犬洗澡」,Perplexity 的信源是搜狐、YouTube、豆瓣日记、B 站,天工是知乎、百度文库,一时也不知道哪个更为权威,不敢轻信。

既然 AI 搜索都有幻觉,为什么总是 Google 被架在火上烤?

创立于 1998 年的 Google,成为搜索代名词的 Google,身为 AI 巨擘的 Google,拉高了外界的期待,也必须承担犯错的后果。

相反,Perplexity 的 CEO Aravind Srinivas 表示,轻装上阵就是他们的优势,字里行间还有些骄傲。

如果你使用我们的产品,80% 表现不错,你可能觉得印象深刻,但如果你使用 Google 的产品,只有 70% 正确,你可能会不解,Google 怎么会错 30%?

另外,AI 搜索也导致了一个用户认知上的转变。

我们以前说「用 Google 搜索」,而介绍搜索的生成式 AI 功能时,Google 自己给博客起的标题是「让 Google 为您进行搜索」,主次微妙地倒转了。

过去,Google 展现哪些链接可以回答你的问题。现在,Google 自己用 AI 回答你的问题。

传播错误信息的矛头,从信源本身,转移到了引用信源的 Google 身上。这口锅,Google 不得不背。

AI 搜索在提供事实之外,还有哪些可能性

既然幻觉已然是前提,我们应该换个角度看待 AI 搜索,问自己一个问题:是不是我们的预期出了错误?

其实在 AI Overview 被批评前,Google CEO 皮查伊就在近日 The Verge 的采访中提到过,「幻觉」问题仍未解决,甚至可以说是大语言模型固有的特征。

他认为,大语言模型不一定是了解事实的最佳渠道,但这不代表大语言模型是个废柴,非黑即白的思维不可取,比如它可以创造诗歌、引入搜索。

CEO 接受采访也好,I/O 大会也罢,都是在向用户传递一个理念:不要只把 AI 搜索当作对现有网页的简单总结,AI 发光发热的地方还有很多。

但 AI Overview 没能让人满意,怪不到用户头上,相比演示,现在的 AI Overview 并非完全形态,很多功能还没有上线。

Google 搜索主管 Liz Reid 在 I/O 展示了一个「多步推理」的例子,输入「找到波士顿最好的瑜伽馆,展现优惠信息,以及从灯塔山出发的步行时间」,AI 一步到位,以前要搜索三次的,现在一次就够了。

同时,AI Overview 未来还将有「规划」能力,比如要求 AI 策划三天的晚餐,用户可以直接拿到一份食谱,并在中途进行细化,加上「素食」等需求,然后导出到文档。

Google 的思路,和其他 AI 搜索产品殊途同归——让搜索更加可视化、交互性和个性化,用人话而非关键词沟通,节省查找信息的时间,回答更加复杂和具体的问题。

秘塔提供简洁、深入、研究的不同搜索模式,研究模式甚至可以给出大纲和脑图,生成演示文稿。

Perplexity 可以控制搜索范围,既能覆盖整个互联网,也能按照搜索需求,缩小到学术论文、YouTube、Reddit。

天工将 AI 搜索作为一个门户,搭载更多的生产力工具,提供了 AI 速读、音乐创作等智能体,等于在 AI 搜索之上,又搭建了一个 AIGC 内容创作平台。

平时的大多数问题,天气如何,汇率多少,跳转官网,其实通过简单的传统搜索就可以得到答案。

但相对复杂的场景,AI 搜索被寄予了厚望,毕竟它比起 ChatGPT 等多了信源,更加方便查证,比起传统搜索,又能进行更多的研究、创作、规划、头脑风暴。与其说是比传统搜索更好的百科全书,不如说更有 agent 的形状。

当然,饼画得再多,AI 搜索的幻觉还是让人膈应。为此有人建议,安全起见,用生成式 AI,别只看摘要,再用传统的 Google 搜索检查一下。所谓风水轮流转,但大哥还是大哥。



Tags:Google AI   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
让用户吃石头,给披萨涂胶水,Google AI 搜索疯了吗
福无双至,祸不单行,Google 又又又「翻车」了。2023 年 2 月,追赶 ChatGPT 的 Bard,公开犯了事实错误;2023 年 12 月,Gemini 侃侃而谈如同贾维斯,然而视频经过后期处理;2024 年 2 月,G...【详细内容】
2024-05-28  Search: Google AI  点击:(0)  评论:(0)  加入收藏
Google AI Test Kitchen开放注册:让你可以和全球最先进的AI聊天机器人交流
今年早些时候,Google 推出了 AI Test Kitchen。通过这款 Android 应用,能够让用户和目前全球最先进的 AI 聊天机器人 LaMDA 2 进行交流。今天,Google 宣布该应用面向早期访问者...【详细内容】
2022-08-26  Search: Google AI  点击:(754)  评论:(0)  加入收藏
▌简易百科推荐
让用户吃石头,给披萨涂胶水,Google AI 搜索疯了吗
福无双至,祸不单行,Google 又又又「翻车」了。2023 年 2 月,追赶 ChatGPT 的 Bard,公开犯了事实错误;2023 年 12 月,Gemini 侃侃而谈如同贾维斯,然而视频经过后期处理;2024 年 2 月,G...【详细内容】
2024-05-28    爱范儿  Tags:Google AI   点击:(0)  评论:(0)  加入收藏
谷歌搜索“返本还原”:新增 Web 过滤器,结果仅显示文本链接
IT之家 5 月 16 日消息,谷歌在近日举办的 I / O 2024 开发者大会上,宣布为谷歌搜索引擎添加“Web”过滤按钮,在搜索结果中仅显示文本链接。用户选择“Web”过滤器之后,搜索结果...【详细内容】
2024-05-16    IT之家  Tags:谷歌搜索   点击:(11)  评论:(0)  加入收藏
阿里云、微软、Meta等共同制定下一代AI网络架构标准
中新网北京5月15日电 (记者 夏宾)中新网记者15日从阿里云了解到,其成功入选超以太网联盟(UEC)技术咨询委员会,成为唯一的中国公司成员,将与微软、Meta、AMD、博通等其他12名成...【详细内容】
2024-05-16    中国新闻网  Tags:阿里云   点击:(14)  评论:(0)  加入收藏
谷歌放大招 AI搜索引擎来了!25年来最大更新
快科技5月15日消息,谷歌在其2024年I/O开发者大会上宣布了一项名为“AI Overviews(AI概览)”的新搜索体验功能。该功能将首先在美国地区上线,计划之后扩展至更多国家和地区。谷歌...【详细内容】
2024-05-15    驱动之家  Tags:谷歌   点击:(18)  评论:(0)  加入收藏
OpenAI再次加塞砸场?谷歌展示自己才是AI灭霸
OpenAI为什么总要故意砸场,谷歌今天又给出了什么回应?OpenAI又一次加塞砸场这已经不是第一次了。OpenAI摆明了是要加塞,故意在谷歌发布会前一天发布自己的产品,砸直接竞争对手的...【详细内容】
2024-05-15    和讯网  Tags:OpenAI   点击:(10)  评论:(0)  加入收藏
“有眼睛、有耳朵、有嘴巴”的AI?OpenAI最新发布!
中新网5月14日电(中新财经 吴家驹)不是GPT-5,而是GPT-4o。北京时间5月14日,研发ChatGPT的OpenAI公司,推出了具备“听、看、说”能力的GPT-4o。OpenAI网站称,GPT-4o的“o”代表“...【详细内容】
2024-05-15    中国新闻网  Tags:OpenAI   点击:(16)  评论:(0)  加入收藏
OpenAI用26分钟再次震撼世界!新模型GPT-4o语音水平接近人类,科幻正在成真
出品 | 搜狐科技作者 | 梁昌均北京时间5月14日凌晨,OpenAI再迎重磅更新,虽然不是AI搜索,也不是GPT-5,而是发布了新旗舰模型GPT-4o,但也足以让业内震撼。在此次OpenAI 仅有26分钟...【详细内容】
2024-05-14    搜狐科技  Tags:OpenAI   点击:(25)  评论:(0)  加入收藏
科技界的“AI月”开启!OpenAI、谷歌、微软等巨头将带来哪些颠覆性体验?
  每经记者 蔡鼎 每经编辑 兰素英  全球市场迎来“AI月”。从当地时间5月13日到6月10日,AI领域的开发者和投资者们将迎来一个接一个的重要事件。  从OpenAI直播演示Ch...【详细内容】
2024-05-14    每日经济新闻  Tags:AI   点击:(31)  评论:(0)  加入收藏
OpenAI发布会回顾:最新旗舰模型免费用 ChatGPT进入实时互动纪元
财联社5月14日讯(编辑 史正丞)北京时间周二凌晨1点,自年初“文生视频模型” Sora后许久未给市场带来惊喜的OpenAI举行春季发布会。公司首席技术官Mira Murati向外界展现了多项...【详细内容】
2024-05-14    财联社  Tags:OpenAI   点击:(22)  评论:(0)  加入收藏
OpenAI宣布下周一直播演示ChatGPT和GPT-4更新 但不会有搜索引擎
【TechWeb】5月11日消息,据外媒报道,在人工智能领域走在行业前列的OpenAI,已在官网宣布,他们将在太平洋时间5月13日上午10点,也就是北京时间5月14日凌晨1点,进行网络直播,演示部分C...【详细内容】
2024-05-13    TechWeb  Tags:OpenAI   点击:(21)  评论:(0)  加入收藏
相关文章
    无相关信息
站内最新
栏目相关
站内热门
相关头条
  • · OpenAI用26分钟再次震撼世界!新模型GPT-4o语音水平接近人类,科幻正在成真
  • · 斯坦福发布2024 AI报告:中国AI专利全球第一,顶级AI模型主要来自美国
  • · 谷歌搜索史上最大变革!考虑对AI搜索收费
  • · ChatGPT官宣免注册,全球互联网变天!OpenAI将取代谷歌搜索?
  • · 马斯克脑机接口再造奇迹:瘫痪小伙意念玩赛车击败正常人
  • · Kimi引燃大模型“长文本竞赛”,阿里360百度急出手
  • · 瘫痪8年小哥植入马斯克脑机接口,狂打8小时「文明6」!Neuralink首个人类植入者直播来了
  • · 英伟达“算力核弹”强在哪里?
  • · AI大模型之争远未落幕
  • · 世界首款!英伟达重磅发布人形机器人模型
  • · 全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场
  • · 真“Open ” AI?马斯克旗下大模型Grok宣布开源:参数量全球最大
  • · 全球首位AI程序员诞生 人类程序员会失业吗?
  • · 谷歌宣布更新搜索算法:打击AI生成内容,提高搜索结果质量
  • · 英伟达、微软等巨头“抱团”,AI有望助推6G时代到来 国内产业如何接招?
  • · OpenAI Sora已开放对外申请 网友爆料:可能还有其它重磅产品发布
  • · 周鸿祎再谈Sora:真正给人工智能补上了“眼睛”
  • · Sora爆火超100小时:美国狂“卷”算力,国内则卖 AI 课程“捞金”一年5000万|钛媒体AGI
  • · 爆火Sora参数规模仅30亿?谢赛宁等大佬技术分析来了
  • · “AI女友”霸占GPT商店,OpenAI苦不堪言:开发者也难出头!
  • 站内头条