<p>将隐私加入到人工智能扩散可能造成的潜在受害者名单中，因为研究人员发现大型语言模型（LLMs）可以比人类侦探更有效地对互联网用户进行去匿名化——即使是那些使用化名的用户。</p>
<p>过去 25 年关于在线隐私的许多学术研究都建立在 Latanya Sweeney 2002 年的 k-匿名性研究基础上 [PDF]，以及她之前的研究中，她证明仅使用三个匿名数据点就可以识别出 87% 的美国人口——一个五位数的邮政编码、性别和出生日期。</p>
<p>从匿名数据中识别个人的可能性成为了关于在线广告和网页浏览器中使用 cookies 的主要关注点之一。</p>
<p>这一风险并没有消失，现在由于 LLMs 能够自动化地将在线帖子中的信息连接起来，从而指向一个可能的来源，这一风险似乎变得更加严重。</p>
<p>“我们展示了 LLM 代理可以从你的匿名在线帖子中识别出你是谁，” MATS Research 的 AI 工程师 Simon Lermen 说，他是题为《大型在线去匿名化与 LLMs》的预印本论文的通讯作者之一。</p>
<p>“在 Hacker News、Reddit、LinkedIn 和匿名访谈记录中，我们的方法以高精度识别用户——并且可以扩展到数万个候选人，” Lermen 在一篇在线帖子中解释道。</p>
<p>研究人员观察到，虽然早已知道仅使用少量数据点就可以识别个人，但这样做往往不切实际。这些数据通常以非结构化形式存在，人类调查者需要付出相当大的努力才能拼凑出足够的线索来解决身份难题。</p>
<p>LLMs 加速并自动化了这一过程，并且他们声称这样做的成本也很低。</p>
<p>“我们证明了大型语言模型（LLMs）从根本上改变了这一计算，使得能够在规模上对非结构化文本进行完全自动化的去匿名化攻击，” 他们在论文中指出。“以往的方法需要预定义的特征模式、仔细的数据对齐和手动验证，而 LLMs 可以从任意散文中提取与身份相关的信号，高效地搜索数百万个候选档案，并推理两个账户是否属于同一个人。”</p>
<ul>
<li>Bcachefs 的创始人坚称他的定制 LLM 是女性且 “完全意识到”</li>
<li>AI 乐于在模拟战斗场景中发射核武器</li>
<li>谷歌抓住北京间谍利用 Sheets 在四大洲传播间谍活动</li>
<li>使用这个新的 Android 应用程序躲避 Meta 的间谍眼镜</li>
</ul>
<p>在一项实验中，作者收集了 338 个 Hacker News 用户的个人资料，这些个人资料链接到 LinkedIn 档案。他们这样做是为了为研究对象建立真实身份，以便检查 LLMs 的预测——这也是为了避免在研究中实际去匿名化人们的伦理问题。</p>
<p>接下来，他们根据这些用户的评论和他们发布的故事创建了一个结构化的数据档案。然后，他们创建了一个搜索提示，将其匿名化，并传递给 AI 代理。该代理成功识别了 338 个目标中的 226 个，成功率为 67%，精度为 90%（其中有 25 个错误识别和 86 个模型未提供预测的弃权）。</p>
<p>作者采用的技术并不是一种普遍的隐私溶剂——它仅在某些情况下成功。但它的成功率足够高，以至于那些在化名账户下在线发布的人不应假设他们的身份会保持未知。</p>
<p>运行成本也很低。研究人员报告称，他们整个实验的成本约为 2000 美元，每个档案的成本估计在 1 到 4 美元之间。</p>
<p>谁会去做呢？作者建议，政府可以利用这一技术来针对记者或活动家，企业可以挖掘论坛以建立高度针对性的广告档案，而在线攻击者可以开发详细的个人档案，使社会工程诈骗更具可信度。</p>
<p>Lermen 认为，网民因此需要考虑他们分享的每个数据点如何帮助识别他们。</p>
<p>“这些组合通常是独特的指纹，” 他说。“问问自己：聪明的调查团队能否通过你的帖子找出你是谁？如果可以，LLM 代理很可能也能做到，而且这样做的成本只会越来越低。”</p>
<p>Lermen 的合著者包括 Daniel Paleka（苏黎世联邦理工学院）、Joshua Swanson（苏黎世联邦理工学院）、Michael Aerni（苏黎世联邦理工学院）、Nicholas Carlini（Anthropic）和 Florian Tramèr（苏黎世联邦理工学院）。®</p>

<p>研究人员发现，大型语言模型（LLMs）能够有效地去匿名化互联网用户，即使是使用化名的用户。这一能力对在线隐私构成了重大风险，因为 LLMs 可以在 Hacker News 和 Reddit 等多个平台上自动识别用户。在一项研究中，LLMs 以高精度识别了 67% 的用户来自匿名数据。尽管该技术并非在所有情况下都有效，但引发了人们对政府、企业和攻击者潜在滥用的担忧。用户被敦促考虑他们共享的数据可能如何助长他们在网上的身份识别</p>

<p>Add privacy to the list of potential casualties caused by the proliferation of AI, because researchers have found that large language models (LLMs) can be used to deanonymize internet users – even those who use pseudonyms – more efficiently than human sleuths.</p>
<div class="lb-trans"><p>将隐私加入到人工智能扩散可能造成的潜在受害者名单中，因为研究人员发现大型语言模型（LLMs）可以比人类侦探更有效地对互联网用户进行去匿名化——即使是那些使用化名的用户。</p>
</div><p>Much of the academic work on online privacy over the past 25 years builds upon Latanya Sweeney's 2002 research on k-Anonymity [PDF], and prior research in which she demonstrated it is possible to identify 87 percent of the US population using three anonymous data points – a five-digit ZIP code, gender, and date of birth.</p>
<div class="lb-trans"><p>过去 25 年关于在线隐私的许多学术研究都建立在 Latanya Sweeney 2002 年的 k-匿名性研究基础上 [PDF]，以及她之前的研究中，她证明仅使用三个匿名数据点就可以识别出 87% 的美国人口——一个五位数的邮政编码、性别和出生日期。</p>
</div><p>The possibility of identifying people from anonymous data became one of the central concerns about online advertising and the usage of cookies in web browsers.</p>
<div class="lb-trans"><p>从匿名数据中识别个人的可能性成为了关于在线广告和网页浏览器中使用 cookies 的主要关注点之一。</p>
</div><p>It's a risk that hasn't gone away and now appears to be even more grave, thanks to LLMs that can automate the process of connecting the dots across online posts so they point to a likely source.</p>
<div class="lb-trans"><p>这一风险并没有消失，现在由于 LLMs 能够自动化地将在线帖子中的信息连接起来，从而指向一个可能的来源，这一风险似乎变得更加严重。</p>
</div><p>&#34;We show that LLM agents can figure out who you are from your anonymous online posts,&#34; said Simon Lermen, an AI engineer at MATS Research and one of the corresponding authors of a pre-press paper titled &#34;Large-scale online deanonymization with LLMs.&#34;</p>
<div class="lb-trans"><p>“我们展示了 LLM 代理可以从你的匿名在线帖子中识别出你是谁，” MATS Research 的 AI 工程师 Simon Lermen 说，他是题为《大型在线去匿名化与 LLMs》的预印本论文的通讯作者之一。</p>
</div><p>&#34;Across Hacker News, Reddit, LinkedIn, and anonymized interview transcripts, our method identifies users with high precision – and scales to tens of thousands of candidates,” Lermen explained in an online post.</p>
<div class="lb-trans"><p>“在 Hacker News、Reddit、LinkedIn 和匿名访谈记录中，我们的方法以高精度识别用户——并且可以扩展到数万个候选人，” Lermen 在一篇在线帖子中解释道。</p>
</div><p>The researcher observes that while it has long been known that individuals can be identified using only a few data points, doing so was often impractical. Such data often existed in an unstructured form and it took considerable effort for human investigators to assemble enough pieces to solve the identity puzzle.</p>
<div class="lb-trans"><p>研究人员观察到，虽然早已知道仅使用少量数据点就可以识别个人，但这样做往往不切实际。这些数据通常以非结构化形式存在，人类调查者需要付出相当大的努力才能拼凑出足够的线索来解决身份难题。</p>
</div><p>LLMs accelerate and automate that process, and they do so affordably, Lermen and his co-authors claim.</p>
<div class="lb-trans"><p>LLMs 加速并自动化了这一过程，并且他们声称这样做的成本也很低。</p>
</div><p>&#34;We demonstrate that large language models (LLMs) fundamentally change this calculus, enabling fully automated deanonymization attacks that operate on unstructured text at scale,&#34; they state in their paper. &#34;Where previous approaches required predefined feature schemas, careful data alignment, and manual verification, LLMs can extract identity-relevant signals from arbitrary prose, efficiently search over millions of candidate profiles, and reason about whether two accounts belong to the same person.&#34;</p>
<div class="lb-trans"><p>“我们证明了大型语言模型（LLMs）从根本上改变了这一计算，使得能够在规模上对非结构化文本进行完全自动化的去匿名化攻击，” 他们在论文中指出。“以往的方法需要预定义的特征模式、仔细的数据对齐和手动验证，而 LLMs 可以从任意散文中提取与身份相关的信号，高效地搜索数百万个候选档案，并推理两个账户是否属于同一个人。”</p>
</div><ul>
<li>Bcachefs creator insists his custom LLM is female and 'fully conscious'</li>
<li>AIs are happy to launch nukes in simulated combat scenarios</li>
<li>Google catches Beijing spies using Sheets to spread espionage across 4 continents</li>
<li>Hide from Meta's spyglasses with this new Android app</li>
</ul>
<div class="lb-trans"><ul>
<li>Bcachefs 的创始人坚称他的定制 LLM 是女性且 “完全意识到”</li>
<li>AI 乐于在模拟战斗场景中发射核武器</li>
<li>谷歌抓住北京间谍利用 Sheets 在四大洲传播间谍活动</li>
<li>使用这个新的 Android 应用程序躲避 Meta 的间谍眼镜</li>
</ul>
</div><p>In one experiment, the authors collected 338 Hacker News users whose bios link to a LinkedIn profile. They did so to establish ground-truth identities for the study subjects so the LLMs’ predictions could be checked – this was also to avoid the ethical problems of actually deanonymizing people in a research study.</p>
<div class="lb-trans"><p>在一项实验中，作者收集了 338 个 Hacker News 用户的个人资料，这些个人资料链接到 LinkedIn 档案。他们这样做是为了为研究对象建立真实身份，以便检查 LLMs 的预测——这也是为了避免在研究中实际去匿名化人们的伦理问题。</p>
</div><p>Next, they created a structured data profile of these users based on their comments and the stories they posted. Then they created a search prompt, anonymized it, and passed it to the AI agent. The agent went on to correctly identify 226 of the 338 targets, a success rate of 67 percent at 90 percent precision (there were 25 errant identifications and 86 abstentions where the model didn't offer a prediction).</p>
<div class="lb-trans"><p>接下来，他们根据这些用户的评论和他们发布的故事创建了一个结构化的数据档案。然后，他们创建了一个搜索提示，将其匿名化，并传递给 AI 代理。该代理成功识别了 338 个目标中的 226 个，成功率为 67%，精度为 90%（其中有 25 个错误识别和 86 个模型未提供预测的弃权）。</p>
</div><p>The technique employed by the authors is not a universal privacy solvent – it's only successful some of the time. But it's successful often enough that those posting online under a pseudonymous account should not assume their identities will remain unknown.</p>
<div class="lb-trans"><p>作者采用的技术并不是一种普遍的隐私溶剂——它仅在某些情况下成功。但它的成功率足够高，以至于那些在化名账户下在线发布的人不应假设他们的身份会保持未知。</p>
</div><p>It’s also cheap to run. The researchers report their entire experiment cost about $2,000, with the cost per profile estimated to be between $1 and $4.</p>
<div class="lb-trans"><p>运行成本也很低。研究人员报告称，他们整个实验的成本约为 2000 美元，每个档案的成本估计在 1 到 4 美元之间。</p>
</div><p>Who would bother? The authors suggest that governments could use this technique to target journalists or activists, that corporations could mine forums to build highly targeted advertising profiles, and that online attackers could develop detailed personal profiles to make social engineering scams more credible.</p>
<div class="lb-trans"><p>谁会去做呢？作者建议，政府可以利用这一技术来针对记者或活动家，企业可以挖掘论坛以建立高度针对性的广告档案，而在线攻击者可以开发详细的个人档案，使社会工程诈骗更具可信度。</p>
</div><p>Lermen argues that netizens therefore need to consider how each data point they share helps identify them.</p>
<div class="lb-trans"><p>Lermen 认为，网民因此需要考虑他们分享的每个数据点如何帮助识别他们。</p>
</div><p>&#34;The combination is often a unique fingerprint,&#34; he said. &#34;Ask yourself: could a team of smart investigators figure out who you are from your posts? If yes, LLM agents can likely do the same, and the cost of doing so is only going down.&#34;</p>
<div class="lb-trans"><p>“这些组合通常是独特的指纹，” 他说。“问问自己：聪明的调查团队能否通过你的帖子找出你是谁？如果可以，LLM 代理很可能也能做到，而且这样做的成本只会越来越低。”</p>
</div><p>Lermen’s co-authors are Daniel Paleka (ETH Zurich), Joshua Swanson (ETH Zurich), Michael Aerni (ETH Zurich), Nicholas Carlini (Anthropic), and Florian Tramèr (ETH Zurich). ®</p>
<div class="lb-trans"><p>Lermen 的合著者包括 Daniel Paleka（苏黎世联邦理工学院）、Joshua Swanson（苏黎世联邦理工学院）、Michael Aerni（苏黎世联邦理工学院）、Nicholas Carlini（Anthropic）和 Florian Tramèr（苏黎世联邦理工学院）。®</p>
</div>

大型语言模型已经终结了隐私，我们无法回头，因为我们已经走得太远