热点追踪

解读|谷歌AI搜索为何会教人在披萨上涂胶水?

发布时间:2024年07月15日 | 更新时间:2024-07-14 23:21 | 作者:阿特纳·卡尔卡尼斯

作者头像

作者:金宰澈

简介:来源:封面新闻,转载请注明来源

·谷歌AI Overview“胡扯”引发科技圈热议,有专家分析认为,AI技术并未学会因果关系,AI不知对错。·当前,谷歌正面临激烈的市场竞争,搜索引擎Bing、OpenAI等竞争对手在AI领域已先行一步。曾以提供高质量而闻名的谷歌搜索引擎在有了AI加持后却因提供错误、荒谬的答案引发争论。今年5月15日刚刚上线的谷歌AI Overview功能,旨在通过人工智能技术,在搜索结果顶部提供AI生成的答案,
【澳门4949开什么】 【管家婆精准一肖一码100%l?】 【2024澳门六开彩开奖结果查询】 【澳门正版资料大全免费六肖】 【2023澳门资料大全免费完整版】 【新澳门精准资料期期精准】 【澳门一肖一码必中一肖一精准】 【新澳2024年精准一肖一码】

·谷歌AI Overview“胡扯”引发科技圈热议,有专家分析认为,AI技术并未学会因果关系,AI不知对错。

·当前,谷歌正面临激烈的市场竞争,搜索引擎Bing、OpenAI等竞争对手在AI领域已先行一步。

曾以提供高质量而闻名的谷歌搜索引擎在有了AI加持后却因提供错误、荒谬的答案引发争论。

今年5月15日刚刚上线的谷歌AI Overview功能,旨在通过人工智能技术,在搜索结果顶部提供AI生成的答案,以增强搜索引擎的用户体验。谷歌表示,它将为美国用户的在线查询提供人工智能生成的答案,这是其搜索引擎25年来最大的更新之一。但该功能上线后近却出现了一系列错误和不当建议,引发网络热议。比如,有网友在谷歌搜索中查询“芝士和披萨粘不到一块”的解决办法时,AI给出的建议是在酱料中加入1/8杯的无毒胶水以增加粘性。另一位用户询问“兔子是否曾在NBA打过球”,AI说“是”,因为搞混了将球员的名字与“兔子”这一词汇。

被网友发现谷歌AI Overviews在“胡扯”。

AI搜索为何会出现这一现象,以及谷歌为何将这一看上去并没有完全准备好的产品着急推出?澎湃科技为此采访了相关人士。

业内专家分析:AI技术无法理解因果逻辑关系

针对AI Overviews出现的胡扯,谷歌随后回应表示会继续改进相关算法进行修正,但也在官方声明内容中称,“基于我们的观测情况,网友分享的很多示例并非常见查询,且部分示例存在被篡改或无法重现的情况”,谷歌表示将根据内容政策迅速采取适当措施。

不过,谷歌首席执行官桑达尔・皮查伊日前在接受外媒采访时也承认,这些AI Overviews功能产生的“幻觉”是大语言模型(LLM)的固有缺陷,而大语言模型正是AI Overviews功能的核心技术。

所谓AI“幻觉”,是指AI在处理和生成信息时,会错误地创建不存在的事实或数据,从而误导用户。皮查伊表示,这个问题目前尚无解决方案。

清华大学交叉信息研究院助理教授、斯坦福大学博士于洋向澎湃科技(www.thepaper.cn)分析认为,谷歌AI Overview出现“胡扯”,实际上恰恰体现了人工智能本身学会了语言结构、语法等,但并未学会因果关系(即逻辑依据)。

于洋称,通过他们小组研究表明,光靠投喂数据,AI很难学会因果关系——因为在高维关系中,能够预测准确的相关关系非常多,而因果关系只是其中之一。毕竟,没有因果教育,人都会产生“正月剃头死舅舅”这样的错觉,更何况当前的AI技术。

于洋认为,目前AI的范式本身造成了AI不知对错,现有的架构从数据到模型架构再到训练、检验都在鼓励AI找用于预测准确的相关性,而不是理解因果。人工智能无法理解因果、学会知识、懂得对错。

“现在不管哪个大模型都有这个问题。”于洋说,出现“胡扯”内容也较为正常。

观安信息联合创始人兼CTO胡绍勇同样指出,当前大模型技术主要依靠海量的数据训练进行。由于人类向AI的提问较为多样且发散,AI会提供基于统计概率相近的答案,而非准确的答案。在这种情况下,AI给出的答复虽然看似合理,却可能与事实不符。因此,做好数据清洗是避免误导信息传播的重要环节。

上海市人工智能标准化技术委员会副秘书长、上海人工智能行业协会标准研究部部长陈曦在接受澎湃科技采访时分析认为,谷歌AI系统使用Reddit数据训练,没有做好数据清洗,这正是导致其提供错误信息的关键原因之一。

陈曦推测,AI Overview很可能采用了检索增强生成(RAG),并将信息来源网站进行过优先级的设定,Reddit(美国社交网站)作为合作方被优先在知识库中进行答案搜集并整合给大语言模型处理,这其中就包含了类似“给披萨涂胶水”这类网友在社交网站上撰写的看似合理实则是玩笑的答案。

谷歌正面临激烈的市场竞争

有技术人员分析指出,此前ChatGPT有“扯淡”的回答,大家会笑话一下,以挖出程序错误为乐,但现在用户不再为此类错误买单,这也间接体现了谷歌推出AI Overview的时间窗口可能不合适。另有技术人员猜测,Google搜索引擎一直依据质量评分者指南(eeat)评估搜索内容、判断搜索内容是否可信,这次被网友抓包,很有可能是因为着急上线。

科技媒体The verge分析指出,谷歌当前正面临着激烈的市场竞争,目前搜索引擎Bing、OpenAI等竞争对手在AI领域已先行一步。Bing于2019年推出了自己的AI助手“Bing智能”,OpenAI也在5月14日凌晨推出了GPT-4o模型。

当前,年轻用户越来越多地转向TikTok等新兴平台,用户习惯和信息获取方式发生了改变,谷歌需要通过创新来吸引用户,谷歌推出AI Overviews是人工智能领域的一次突破,为了在人工智能时代重新定义搜索,提升用户体验,在竞争中保持领先,并不断优化和改进产品,以赢得用户的信任。

今年2月21日,谷歌宣布与美国社交平台Reddit达成合作,将其平台上的内容用于训练谷歌的AI模型。公开资料显示,Reddit被称为“美国版百度贴吧”,是一家拥有18年历史的社交媒体平台,用户可以在上面发帖、评论、交流各种话题。

陈曦称,Reddit话题虽然丰富多样,但其中也包含大量噪声和不准确的信息,例如用户半开玩笑的那些“高级答案”。如果没有充分的数据清洗和过滤,训练出的模型容易受到这些错误信息的诱导。

【澳门王中王100%的资料155期】 澳门今晚一肖一码 【2024澳门资料大全免费808】 澳门最准一肖一码一码匠子生活 【正版免费全年资料大全201】 2O24年澳门今晚开码料 【澳门王中王100%的资料】 494949开奖结果最快 【新澳门内部正版资料大全】

2015年属虎人全年运程小编会为各位朋友带来属虎的2023运程的解析,或许会对你有所启发。

属虎2015年生肖属虎农历正月运程

戊寅月(阳历2015年2月4日-2015年3月5日)

把肖虎的朋友,今年有官星临贵人,朋友及工作运都非常之旺盛,可以作长辈或者上司介绍的机遇,可以化解部分小烦恼,不过事业运势相当之快,并不稳定,留心身边小人出现。

属虎的2015年运程

从生肖虎的人为寅木,为参天大木,2015年为乙未年,未土为木库,土为木之财,又土为木之根,乙木又喜寅木作依靠,反之乙木可衬托出寅木之高大雄伟,两木相互依存而生,且未土之财又为其所用,所以属相为虎的人今年的运气整体来说还不错,财运也相当的丰厚,仕途也可一帆风顺,财喜双临。属虎人2015年行正月德贵神星,正是一粒逢凶化吉的吉曜,遇吉愈吉,遇凶化灾,所以 属虎人今年可全力**,成功机遇大增。感情在领域 当然也非常满意,因财为妻,官杀为夫,今年财官两利,故不论男女,只要单身,今年均容易遇到合适的异性朋友,均能嫁能娶。2015年大利嫁娶及家中喜事,肖虎人今年应好好享受家庭生活。属虎的人今年因为丧门凶星的出现,为此必须密切关注自己的身心健康

1962年属虎人2015年运势

1962年属虎的人2015年事业运势

1962年属虎的人事业在领域 ,属虎的人今年工作进展诸多阻滞,若不专心一志,全力以赴,便困难打破停滞不前的闷局!今年时机来,运势畅顺故此有利出外发展业务,而以前往东南 或西南方发展最为有利。今年事业最多阻滞的月份,是农历正月、为五月、六月、十月及十二月,必须警惕戒备。农历三月、八月及十一月则运势较畅顺,事半功倍,应好好把握时机来扭转局势。

1962年属虎的人2015年财运运势

财运在领域 ,属虎的人今年财运欠佳,正财及横财均不宜幢憬,切勿强求,以免焦头烂额。今年财运最低沉的月份,是农历正月、看五月、六月及九月;在在这几个月期间 必须小心理财,尽量减省不必要的开支,以免现金周转不灵而出现经济危机!而最关键的,是切勿借贷,否则便会后患无穷。今年横财反覆,大起大落,故此不宜赌 博或参与投机买卖。

1962年属虎的人2015年感情运程

对感情在领域 ,属虎的人今年感情落寞,有孤芳自赏而目中无人的倾向,以致心事难诉,郁郁寡欢;必须看开部分,得失随缘,切勿太执着。

评论

用户1:孙松

创业的愿望是美好的,但是创业的过程是坎坷的,就在展毅想尽办法四处筹钱的过程中,一个叫陈怡君的落跑家庭教师突兀的闯入了他的生活。

用户2:SunnyMabrey

魔法少女愛蕾娜 Vol.01 「愛蕾娜要高潮了!」父母因為太空梭的事故而身亡,彼此依靠生活著兩姊妹。卻因為神秘的宇宙觸手生物而改變了平凡的生活!等待她們的是超乎想像的淫蕩命運!悬疑影片的悬疑情节让人猜不透结局。