谷歌表示已修复数周来大家吐槽的AI概览
几周前，在I/O2024大会上，谷歌宣布AI概览将出现在美国谷歌搜索结果的顶部，告诉用户它希望AI能为他们进行谷歌搜索。但事实证明，AI概览是这家许多人都信赖其提供准确互联网搜索结果的公司的一个巨大失误。
AI概览在社交媒体上疯传，因为它在搜索顶部显示了无意义、不准确且有时很危险的答案。谷歌搜索实际上建议在披萨上涂胶水以使奶酪粘住。
我们向您展示了如何在搜索中避免使用AI概览，我意识到很久以前放弃Google搜索的决定是明智的。我永远不必处理这些无稽之谈。我还说Google应该从Google搜索中撤下AI概览功能。至少，该功能应该是可选的，而不是默认的。
不出所料，谷歌并没有放弃AI的计划。相反，谷歌解释了自I/O以来发生的事情、AIOverviews提供的信息为何不准确以及它为解决这个问题所采取的措施。谷歌还指责你，即用户，让AIOverviews声名狼藉。
这不是你通常看到的人工智能幻觉
我已经一次又一次地警告过你，像ChatGPT这样的人工智能可以编造虚假信息。这被称为幻觉，这是人工智能行业中没有人知道如何解决的问题。谷歌在一篇博文中解释说，AIOverviews不在常规的大型语言模型上运行，因此它们不会以同样的方式产生幻觉：
AI概览的工作方式与人们可能尝试过的聊天机器人和其他LLM产品截然不同。它们并非简单地根据训练数据生成输出。虽然AI概览由定制的语言模型提供支持，但该模型与我们的核心网络排名系统集成，旨在执行传统的“搜索”任务，例如从我们的索引中识别相关的高质量结果。这就是为什么AI概览不仅提供文本输出，还包含相关链接，以便人们可以进一步探索。由于准确性在搜索中至关重要，因此AI概览仅显示由顶级网络结果支持的信息。
这意味着AI概览通常不会像其他LLM产品那样“产生幻觉”或编造事物。当AI概览出错时，通常是出于其他原因：误解查询、误解网络上的语言细微差别，或者没有大量可用的有用信息。(这些也是其他搜索功能面临的挑战。)
什么地方出了错
谷歌表示，它测试了AI概览并优化了其准确性。但数百万人使用该功能导致了新的搜索。例如“无意义的新搜索，似乎旨在产生错误的结果。”是的，谷歌正在指责你造成了这些荒谬的错误。
谷歌还表示，有人伪造了AI概览结果。所以，再次强调，责任在你：
另外，大量伪造的截图被广泛分享。其中一些伪造的结果显而易见，也很愚蠢。另一些则暗示我们针对诸如将狗留在车内、怀孕期间吸烟和抑郁等主题返回了危险结果。这些AI概述从未出现过。因此，我们鼓励遇到这些截图的人自己进行搜索以进行检查。
只有在此之后，谷歌才会承担责任，并表示“确实出现了一些奇怪、不准确或无用的人工智能概述。”但这些出现在“人们不常做的查询”中。
显然，没有人感到沮丧：
谷歌证实了我们从广为流传的AI概述中了解到的一件事：它的AI无法解释“无意义的查询和讽刺内容”。例如，“我应该吃多少块石头?”这个问题之所以能产生答案，只是因为它发现讽刺内容是唯一的信息来源。
该公司还在博客文章中谈到了披萨胶水AI概述，指责Reddit等论坛，但没有具体指出其名称：
在其他示例中，我们看到AI概述包含来自论坛的讽刺或恶搞内容。论坛通常是真实、第一手信息的重要来源，但在某些情况下，它们可能会提供不太有用的建议，例如使用胶水将奶酪粘在披萨上。
猜你喜欢