<p>人工智能检测初创公司 GPTZero 扫描了上个月在圣地亚哥举行的神经信息处理系统会议（NeurIPS）上接受的全部 4,841 篇论文。该公司告诉 TechCrunch，他们发现 51 篇论文中有 100 个虚假的引用。</p>
<p>在人工智能领域，能够在 NeurIPS 上发表论文是一项值得骄傲的成就。考虑到这些都是人工智能研究的顶尖人才，人们可能会认为他们会使用大型语言模型（LLMs）来处理写引用这一极其无聊的任务。</p>
<p>因此，这一发现有很多警示：51 篇论文中确认的 100 个虚假引用在统计上并不显著。每篇论文都有数十个引用。因此，在数以万计的引用中，这在统计上几乎可以视为零。</p>
<p>同样重要的是，引用不准确并不否定论文的研究价值。正如 NeurIPS 告诉《财富》杂志（首个报道 GPTZero 研究的媒体）所言，“即使 1.1% 的论文由于使用 LLMs 而有一个或多个不正确的引用，论文本身的内容也不一定会被否定。”</p>
<p>不过，尽管如此，伪造的引用也并非无关紧要。NeurIPS 以其在机器学习和人工智能领域的 “严格学术出版” 而自豪。每篇论文都经过多位评审的同行评审，他们被指示标记虚假引用。</p>
<p>引用对于研究人员来说也是一种货币。它们被用作职业指标，以显示研究人员的工作在同行中的影响力。当人工智能编造引用时，这会降低它们的价值。</p>
<p>考虑到涉及的庞大数量，没有人会指责同行评审未能发现一些人工智能伪造的引用。GPTZero 也迅速指出了这一点。该研究的目标是提供具体数据，说明人工智能如何通过 “提交浪潮” 悄然进入，这种情况 “使这些会议的审查流程承受到了极限”，该初创公司在报告中表示。GPTZero 甚至提到了一篇名为《人工智能会议同行评审危机》的论文，讨论了包括 NeurIPS 在内的顶级会议所面临的问题，预计将在 2025 年 5 月发布。</p>
<p>Techcrunch 活动</p>
<p>旧金山 |2026 年 10 月 13-15 日</p>
<p>不过，为什么研究人员自己不能对 LLMs 的工作进行准确性核查呢？他们肯定知道自己在研究中使用的实际论文列表。</p>
<p>这一切实际上指向一个重要的讽刺性结论：如果世界顶尖的人工智能专家在细节上无法确保他们使用的 LLM 是准确的，那对我们其他人来说意味着什么？</p>

<p>AI 检测初创公司 GPTZero 在 51 篇来自 NeurIPS 会议的论文中发现了 100 个虚构的引用，这引发了人们对 AI 生成引用准确性的担忧。虽然这只占总引用的一个小百分比，但它突显了同行评审过程和学术出版诚信方面的潜在问题。NeurIPS 强调，不准确的引用并不否定研究本身，但虚假引用的存在削弱了它们作为研究者影响力衡量标准的价值。这些发现表明，使用 AI 工具的研究者需要更好的事实核查</p>

<p>AI detection startup GPTZero scanned all 4,841 papers accepted by the prestigious Conference on Neural Information Processing Systems (NeurIPS), which took place last month in San Diego. The company found 100 hallucinated citations across 51 papers that it confirmed as fake, the company tells TechCrunch.</p>
<div class="lb-trans"><p>人工智能检测初创公司 GPTZero 扫描了上个月在圣地亚哥举行的神经信息处理系统会议（NeurIPS）上接受的全部 4,841 篇论文。该公司告诉 TechCrunch，他们发现 51 篇论文中有 100 个虚假的引用。</p>
</div><p>Having a paper accepted by NeurIPS is a resume-worthy achievement in the world of AI. Given that these are the leading minds of AI research, one might assume they would use LLMs for the catastrophically boring task of writing citations.</p>
<div class="lb-trans"><p>在人工智能领域，能够在 NeurIPS 上发表论文是一项值得骄傲的成就。考虑到这些都是人工智能研究的顶尖人才，人们可能会认为他们会使用大型语言模型（LLMs）来处理写引用这一极其无聊的任务。</p>
</div><p>So caveats abound with this finding: 100 confirmed hallucinated citations across 51 papers is not statistically significant. Each paper has dozens of citations. So out of tens of thousands of citations, this is, statistically, zero.</p>
<div class="lb-trans"><p>因此，这一发现有很多警示：51 篇论文中确认的 100 个虚假引用在统计上并不显著。每篇论文都有数十个引用。因此，在数以万计的引用中，这在统计上几乎可以视为零。</p>
</div><p>It’s also important to note that an inaccurate citation doesn’t negate the paper’s research. As NeurIPS told Fortune, which was first to report on this GPTZero’s research, “Even if 1.1% of the papers have one or more incorrect references due to the use of LLMs, the content of the papers themselves [is] not necessarily invalidated.”</p>
<div class="lb-trans"><p>同样重要的是，引用不准确并不否定论文的研究价值。正如 NeurIPS 告诉《财富》杂志（首个报道 GPTZero 研究的媒体）所言，“即使 1.1% 的论文由于使用 LLMs 而有一个或多个不正确的引用，论文本身的内容也不一定会被否定。”</p>
</div><p>But having said all that, a faked citation is not a nothing, either. NeurIPS prides itself on its “rigorous scholarly publishing in machine learning and artificial intelligence,” it says. And each paper is peer-reviewed by multiple people who are instructed to flag hallucinations.</p>
<div class="lb-trans"><p>不过，尽管如此，伪造的引用也并非无关紧要。NeurIPS 以其在机器学习和人工智能领域的 “严格学术出版” 而自豪。每篇论文都经过多位评审的同行评审，他们被指示标记虚假引用。</p>
</div><p>Citations are also a sort of currency for researchers. They are used as a career metric to show how influential a researcher’s work is among their peers. When AI makes them up, it waters down their value.</p>
<div class="lb-trans"><p>引用对于研究人员来说也是一种货币。它们被用作职业指标，以显示研究人员的工作在同行中的影响力。当人工智能编造引用时，这会降低它们的价值。</p>
</div><p>No one can fault the peer reviewers for not catching a few AI-fabricated citations given the sheer volume involved. GPTZero is also quick to point this out. The goal of the exercise was to offer specific data on how AI slop sneaks in via “a submission tsunami” that has “strained these conferences’ review pipelines to the breaking point,” the startup says in its report. GPTZero even points to a May 2025 paper called “The AI Conference Peer Review Crisis” that discussed the problem at premiere conferences including NeurIPS.</p>
<div class="lb-trans"><p>考虑到涉及的庞大数量，没有人会指责同行评审未能发现一些人工智能伪造的引用。GPTZero 也迅速指出了这一点。该研究的目标是提供具体数据，说明人工智能如何通过 “提交浪潮” 悄然进入，这种情况 “使这些会议的审查流程承受到了极限”，该初创公司在报告中表示。GPTZero 甚至提到了一篇名为《人工智能会议同行评审危机》的论文，讨论了包括 NeurIPS 在内的顶级会议所面临的问题，预计将在 2025 年 5 月发布。</p>
</div><p>Techcrunch event</p>
<div class="lb-trans"><p>Techcrunch 活动</p>
</div><p>San Francisco|October 13-15, 2026</p>
<div class="lb-trans"><p>旧金山 |2026 年 10 月 13-15 日</p>
</div><p>Still, why couldn’t the researchers themselves fact-check the LLMs work for accuracy? Surely, they must know the actual list of papers they used for their work.</p>
<div class="lb-trans"><p>不过，为什么研究人员自己不能对 LLMs 的工作进行准确性核查呢？他们肯定知道自己在研究中使用的实际论文列表。</p>
</div><p>What the whole thing really points to one big, ironic takeaway: If the world’s leading AI experts, with their reputations at stake, can’t ensure their LLM usage is accurate in the details, what does that mean for the rest of us?</p>
<div class="lb-trans"><p>这一切实际上指向一个重要的讽刺性结论：如果世界顶尖的人工智能专家在细节上无法确保他们使用的 LLM 是准确的，那对我们其他人来说意味着什么？</p>
</div>

讽刺提醒：在 NeurIPS 这个著名的人工智能会议的论文中发现了虚构的引用