<p>人工智能檢測初創公司 GPTZero 掃描了上個月在聖地亞哥舉行的神經信息處理系統會議（NeurIPS）上接受的全部 4,841 篇論文。該公司告訴 TechCrunch，他們發現 51 篇論文中有 100 個虛假的引用。</p>
<p>在人工智能領域，能夠在 NeurIPS 上發表論文是一項值得驕傲的成就。考慮到這些都是人工智能研究的頂尖人才，人們可能會認為他們會使用大型語言模型（LLMs）來處理寫引用這一極其無聊的任務。</p>
<p>因此，這一發現有很多警示：51 篇論文中確認的 100 個虛假引用在統計上並不顯著。每篇論文都有數十個引用。因此，在數以萬計的引用中，這在統計上幾乎可以視為零。</p>
<p>同樣重要的是，引用不準確並不否定論文的研究價值。正如 NeurIPS 告訴《財富》雜誌（首個報道 GPTZero 研究的媒體）所言，“即使 1.1% 的論文由於使用 LLMs 而有一個或多個不正確的引用，論文本身的內容也不一定會被否定。”</p>
<p>不過，儘管如此，偽造的引用也並非無關緊要。NeurIPS 以其在機器學習和人工智能領域的 “嚴格學術出版” 而自豪。每篇論文都經過多位評審的同行評審，他們被指示標記虛假引用。</p>
<p>引用對於研究人員來説也是一種貨幣。它們被用作職業指標，以顯示研究人員的工作在同行中的影響力。當人工智能編造引用時，這會降低它們的價值。</p>
<p>考慮到涉及的龐大數量，沒有人會指責同行評審未能發現一些人工智能偽造的引用。GPTZero 也迅速指出了這一點。該研究的目標是提供具體數據，説明人工智能如何通過 “提交浪潮” 悄然進入，這種情況 “使這些會議的審查流程承受到了極限”，該初創公司在報告中表示。GPTZero 甚至提到了一篇名為《人工智能會議同行評審危機》的論文，討論了包括 NeurIPS 在內的頂級會議所面臨的問題，預計將在 2025 年 5 月發佈。</p>
<p>Techcrunch 活動</p>
<p>舊金山 |2026 年 10 月 13-15 日</p>
<p>不過，為什麼研究人員自己不能對 LLMs 的工作進行準確性核查呢？他們肯定知道自己在研究中使用的實際論文列表。</p>
<p>這一切實際上指向一個重要的諷刺性結論：如果世界頂尖的人工智能專家在細節上無法確保他們使用的 LLM 是準確的，那對我們其他人來説意味着什麼？</p>

<p>AI 檢測初創公司 GPTZero 在 51 篇來自 NeurIPS 會議的論文中發現了 100 個虛構的引用，這引發了人們對 AI 生成引用準確性的擔憂。雖然這隻佔總引用的一個小百分比，但它突顯了同行評審過程和學術出版誠信方面的潛在問題。NeurIPS 強調，不準確的引用並不否定研究本身，但虛假引用的存在削弱了它們作為研究者影響力衡量標準的價值。這些發現表明，使用 AI 工具的研究者需要更好的事實核查</p>

<p>AI detection startup GPTZero scanned all 4,841 papers accepted by the prestigious Conference on Neural Information Processing Systems (NeurIPS), which took place last month in San Diego. The company found 100 hallucinated citations across 51 papers that it confirmed as fake, the company tells TechCrunch.</p>
<div class="lb-trans"><p>人工智能檢測初創公司 GPTZero 掃描了上個月在聖地亞哥舉行的神經信息處理系統會議（NeurIPS）上接受的全部 4,841 篇論文。該公司告訴 TechCrunch，他們發現 51 篇論文中有 100 個虛假的引用。</p>
</div><p>Having a paper accepted by NeurIPS is a resume-worthy achievement in the world of AI. Given that these are the leading minds of AI research, one might assume they would use LLMs for the catastrophically boring task of writing citations.</p>
<div class="lb-trans"><p>在人工智能領域，能夠在 NeurIPS 上發表論文是一項值得驕傲的成就。考慮到這些都是人工智能研究的頂尖人才，人們可能會認為他們會使用大型語言模型（LLMs）來處理寫引用這一極其無聊的任務。</p>
</div><p>So caveats abound with this finding: 100 confirmed hallucinated citations across 51 papers is not statistically significant. Each paper has dozens of citations. So out of tens of thousands of citations, this is, statistically, zero.</p>
<div class="lb-trans"><p>因此，這一發現有很多警示：51 篇論文中確認的 100 個虛假引用在統計上並不顯著。每篇論文都有數十個引用。因此，在數以萬計的引用中，這在統計上幾乎可以視為零。</p>
</div><p>It’s also important to note that an inaccurate citation doesn’t negate the paper’s research. As NeurIPS told Fortune, which was first to report on this GPTZero’s research, “Even if 1.1% of the papers have one or more incorrect references due to the use of LLMs, the content of the papers themselves [is] not necessarily invalidated.”</p>
<div class="lb-trans"><p>同樣重要的是，引用不準確並不否定論文的研究價值。正如 NeurIPS 告訴《財富》雜誌（首個報道 GPTZero 研究的媒體）所言，“即使 1.1% 的論文由於使用 LLMs 而有一個或多個不正確的引用，論文本身的內容也不一定會被否定。”</p>
</div><p>But having said all that, a faked citation is not a nothing, either. NeurIPS prides itself on its “rigorous scholarly publishing in machine learning and artificial intelligence,” it says. And each paper is peer-reviewed by multiple people who are instructed to flag hallucinations.</p>
<div class="lb-trans"><p>不過，儘管如此，偽造的引用也並非無關緊要。NeurIPS 以其在機器學習和人工智能領域的 “嚴格學術出版” 而自豪。每篇論文都經過多位評審的同行評審，他們被指示標記虛假引用。</p>
</div><p>Citations are also a sort of currency for researchers. They are used as a career metric to show how influential a researcher’s work is among their peers. When AI makes them up, it waters down their value.</p>
<div class="lb-trans"><p>引用對於研究人員來説也是一種貨幣。它們被用作職業指標，以顯示研究人員的工作在同行中的影響力。當人工智能編造引用時，這會降低它們的價值。</p>
</div><p>No one can fault the peer reviewers for not catching a few AI-fabricated citations given the sheer volume involved. GPTZero is also quick to point this out. The goal of the exercise was to offer specific data on how AI slop sneaks in via “a submission tsunami” that has “strained these conferences’ review pipelines to the breaking point,” the startup says in its report. GPTZero even points to a May 2025 paper called “The AI Conference Peer Review Crisis” that discussed the problem at premiere conferences including NeurIPS.</p>
<div class="lb-trans"><p>考慮到涉及的龐大數量，沒有人會指責同行評審未能發現一些人工智能偽造的引用。GPTZero 也迅速指出了這一點。該研究的目標是提供具體數據，説明人工智能如何通過 “提交浪潮” 悄然進入，這種情況 “使這些會議的審查流程承受到了極限”，該初創公司在報告中表示。GPTZero 甚至提到了一篇名為《人工智能會議同行評審危機》的論文，討論了包括 NeurIPS 在內的頂級會議所面臨的問題，預計將在 2025 年 5 月發佈。</p>
</div><p>Techcrunch event</p>
<div class="lb-trans"><p>Techcrunch 活動</p>
</div><p>San Francisco|October 13-15, 2026</p>
<div class="lb-trans"><p>舊金山 |2026 年 10 月 13-15 日</p>
</div><p>Still, why couldn’t the researchers themselves fact-check the LLMs work for accuracy? Surely, they must know the actual list of papers they used for their work.</p>
<div class="lb-trans"><p>不過，為什麼研究人員自己不能對 LLMs 的工作進行準確性核查呢？他們肯定知道自己在研究中使用的實際論文列表。</p>
</div><p>What the whole thing really points to one big, ironic takeaway: If the world’s leading AI experts, with their reputations at stake, can’t ensure their LLM usage is accurate in the details, what does that mean for the rest of us?</p>
<div class="lb-trans"><p>這一切實際上指向一個重要的諷刺性結論：如果世界頂尖的人工智能專家在細節上無法確保他們使用的 LLM 是準確的，那對我們其他人來説意味着什麼？</p>
</div>

諷刺提醒：在 NeurIPS 這個著名的人工智能會議的論文中發現了虛構的引用