谷歌和 OpenAI 的 AI 模型出现幻觉的频率正在上升

专家警告《伦敦时报》，谷歌的 AI 概述正在 “幻觉” 虚假信息，并将点击量从准确来源中转移。

谷歌在 2024 年 5 月推出了其 AI 概述，这一功能旨在为搜索查询提供快速答案。摘要由谷歌的 Gemini AI 撰写——这是一种类似于 ChatGPT 的大型语言模型——它扫描搜索结果以创建图表，并包含一些来源的链接。

不要错过：

• 制造 6 万美元可折叠房屋的公司拥有 3 座工厂建筑，建造了 600 多套房屋，并计划解决住房问题——这是您以每股 0.80 美元成为投资者的最后机会。
• 彼得·蒂尔将 1700 美元变成了 50 亿美元——现在合格投资者正在关注这家具有类似突破潜力的软件公司。了解如何以每股仅 0.30 美元投资 1000 美元。

谷歌搜索副总裁伊丽莎白·里德在一篇博客文章中表示，这些概述旨在成为一个 “起点”，为网页提供更高质量的点击。“人们更有可能停留在 [那些页面] 上，因为我们在找到正确的信息和有用的网页方面做得更好。”

然而，专家告诉《伦敦时报》，这些答案可能是 “自信地错误”，并将搜索者引向不合法的信息。

当生成性 AI 想象事实或以其他方式出错时，计算机科学家称之为幻觉。这些幻觉可能包括对不存在的科学论文的引用，例如 NOTUS 发现的在卫生与公共服务部长罗伯特·F·肯尼迪的《让美国再次健康》报告中被引用的论文，以及其他一系列判断错误。

趋势：投资痛点——帮助数百万患者康复：投资 Cytonics，帮助打破 3900 亿美元的制药巨头垄断。

《伦敦时报》报道，在 AI 概述去年推出后不久，用户开始指出这些摘要中包含不准确信息的频率。其中一个最臭名昭著的幻觉是建议用户在比萨酱中添加无毒胶水，以帮助奶酪更好地粘附。

预 IPO 优惠：以每股仅 0.80 美元的价格成为 BOXABL 的早期股东，分享近 5 万亿美元的全球机会。

• 巨大的需求与颠覆潜力 – Boxabl 已收到超过 190,000 套房屋的兴趣，定位为住房市场的主要颠覆者。
• 革命性的制造方法 – 受亨利·福特的流水线启发，Boxabl 的可折叠微型住宅旨在实现高效生产，使得拥有住房变得更加可及。
• 可负担的投资机会 – 房屋定价为 6 万美元，Boxabl 正在筹集 10 亿美元以扩大生产，为投资者提供拥有其增长股份的机会。

股价：$0.80

最低投资：$1,000

估值：$35 亿

谷歌对此进行了反驳，声称许多流传的例子都是虚假的，但里德在她的博客文章中承认 “确实出现了一些奇怪、不准确或无用的 AI 概述。虽然这些通常是针对人们不常做的查询，但它突显了我们需要改进的一些具体领域。”

根据与《伦敦时报》交谈的专家，尽管技术进步和改进，幻觉的情况却在恶化而非改善。新的推理系统产生的错误响应比其前任更多，设计者们也不确定原因。

在一项最近的研究中发现，根据《伦敦时报》，OpenAI 的两个最新模型 o3 和 04-mini 的幻觉率分别为 33% 和 48%。这些百分比是之前模型的两倍多。

谷歌的 AI 概述或 ChatGPT 摘要等功能也在将点击量从更准确的资源中转移。科技公司 Authoritas 的创始人劳伦斯·奥图尔追踪了 AI 概述的影响，并告诉《伦敦时报》，当它们存在时，点击文章的点击率下降了 40% 到 60%。

AI 提供不准确信息并导致搜索者点击更准确文章的复合问题让许多人担心效率和假新闻的传播。

“您花了很多时间试图弄清哪些响应是事实，哪些不是，” Okahu 的首席执行官普拉蒂克·维尔马上个月告诉《纽约时报》。Okahu 与 AI 工程师合作以改善技术，并帮助公司解决问题，包括幻觉。“不正确地处理这些错误基本上消除了 AI 系统的价值，而这些系统本应为您自动化任务，” 他说。

• 你富有吗？ 这是美国人认为您需要被视为富有的标准。
• 受 Uber 和 Airbnb 启发——德勤增长最快的软件公司正在将 70 亿部智能手机转变为收入生成资产——您可以以每股仅 0.30 美元投资 1000 美元！

图片：Shutterstock