<p>將隱私加入到人工智能擴散可能造成的潛在受害者名單中，因為研究人員發現大型語言模型（LLMs）可以比人類偵探更有效地對互聯網用户進行去匿名化——即使是那些使用化名的用户。</p>
<p>過去 25 年關於在線隱私的許多學術研究都建立在 Latanya Sweeney 2002 年的 k-匿名性研究基礎上 [PDF]，以及她之前的研究中，她證明僅使用三個匿名數據點就可以識別出 87% 的美國人口——一個五位數的郵政編碼、性別和出生日期。</p>
<p>從匿名數據中識別個人的可能性成為了關於在線廣告和網頁瀏覽器中使用 cookies 的主要關注點之一。</p>
<p>這一風險並沒有消失，現在由於 LLMs 能夠自動化地將在線帖子中的信息連接起來，從而指向一個可能的來源，這一風險似乎變得更加嚴重。</p>
<p>“我們展示了 LLM 代理可以從你的匿名在線帖子中識別出你是誰，” MATS Research 的 AI 工程師 Simon Lermen 説，他是題為《大型在線去匿名化與 LLMs》的預印本論文的通訊作者之一。</p>
<p>“在 Hacker News、Reddit、LinkedIn 和匿名訪談記錄中，我們的方法以高精度識別用户——並且可以擴展到數萬個候選人，” Lermen 在一篇在線帖子中解釋道。</p>
<p>研究人員觀察到，雖然早已知道僅使用少量數據點就可以識別個人，但這樣做往往不切實際。這些數據通常以非結構化形式存在，人類調查者需要付出相當大的努力才能拼湊出足夠的線索來解決身份難題。</p>
<p>LLMs 加速並自動化了這一過程，並且他們聲稱這樣做的成本也很低。</p>
<p>“我們證明了大型語言模型（LLMs）從根本上改變了這一計算，使得能夠在規模上對非結構化文本進行完全自動化的去匿名化攻擊，” 他們在論文中指出。“以往的方法需要預定義的特徵模式、仔細的數據對齊和手動驗證，而 LLMs 可以從任意散文中提取與身份相關的信號，高效地搜索數百萬個候選檔案，並推理兩個賬户是否屬於同一個人。”</p>
<ul>
<li>Bcachefs 的創始人堅稱他的定製 LLM 是女性且 “完全意識到”</li>
<li>AI 樂於在模擬戰鬥場景中發射核武器</li>
<li>谷歌抓住北京間諜利用 Sheets 在四大洲傳播間諜活動</li>
<li>使用這個新的 Android 應用程序躲避 Meta 的間諜眼鏡</li>
</ul>
<p>在一項實驗中，作者收集了 338 個 Hacker News 用户的個人資料，這些個人資料鏈接到 LinkedIn 檔案。他們這樣做是為了為研究對象建立真實身份，以便檢查 LLMs 的預測——這也是為了避免在研究中實際去匿名化人們的倫理問題。</p>
<p>接下來，他們根據這些用户的評論和他們發佈的故事創建了一個結構化的數據檔案。然後，他們創建了一個搜索提示，將其匿名化，並傳遞給 AI 代理。該代理成功識別了 338 個目標中的 226 個，成功率為 67%，精度為 90%（其中有 25 個錯誤識別和 86 個模型未提供預測的棄權）。</p>
<p>作者採用的技術並不是一種普遍的隱私溶劑——它僅在某些情況下成功。但它的成功率足夠高，以至於那些在化名賬户下在線發佈的人不應假設他們的身份會保持未知。</p>
<p>運行成本也很低。研究人員報告稱，他們整個實驗的成本約為 2000 美元，每個檔案的成本估計在 1 到 4 美元之間。</p>
<p>誰會去做呢？作者建議，政府可以利用這一技術來針對記者或活動家，企業可以挖掘論壇以建立高度針對性的廣告檔案，而在線攻擊者可以開發詳細的個人檔案，使社會工程詐騙更具可信度。</p>
<p>Lermen 認為，網民因此需要考慮他們分享的每個數據點如何幫助識別他們。</p>
<p>“這些組合通常是獨特的指紋，” 他説。“問問自己：聰明的調查團隊能否通過你的帖子找出你是誰？如果可以，LLM 代理很可能也能做到，而且這樣做的成本只會越來越低。”</p>
<p>Lermen 的合著者包括 Daniel Paleka（蘇黎世聯邦理工學院）、Joshua Swanson（蘇黎世聯邦理工學院）、Michael Aerni（蘇黎世聯邦理工學院）、Nicholas Carlini（Anthropic）和 Florian Tramèr（蘇黎世聯邦理工學院）。®</p>

<p>研究人員發現，大型語言模型（LLMs）能夠有效地去匿名化互聯網用户，即使是使用化名的用户。這一能力對在線隱私構成了重大風險，因為 LLMs 可以在 Hacker News 和 Reddit 等多個平台上自動識別用户。在一項研究中，LLMs 以高精度識別了 67% 的用户來自匿名數據。儘管該技術並非在所有情況下都有效，但引發了人們對政府、企業和攻擊者潛在濫用的擔憂。用户被敦促考慮他們共享的數據可能如何助長他們在網上的身份識別</p>

<p>Add privacy to the list of potential casualties caused by the proliferation of AI, because researchers have found that large language models (LLMs) can be used to deanonymize internet users – even those who use pseudonyms – more efficiently than human sleuths.</p>
<div class="lb-trans"><p>將隱私加入到人工智能擴散可能造成的潛在受害者名單中，因為研究人員發現大型語言模型（LLMs）可以比人類偵探更有效地對互聯網用户進行去匿名化——即使是那些使用化名的用户。</p>
</div><p>Much of the academic work on online privacy over the past 25 years builds upon Latanya Sweeney's 2002 research on k-Anonymity [PDF], and prior research in which she demonstrated it is possible to identify 87 percent of the US population using three anonymous data points – a five-digit ZIP code, gender, and date of birth.</p>
<div class="lb-trans"><p>過去 25 年關於在線隱私的許多學術研究都建立在 Latanya Sweeney 2002 年的 k-匿名性研究基礎上 [PDF]，以及她之前的研究中，她證明僅使用三個匿名數據點就可以識別出 87% 的美國人口——一個五位數的郵政編碼、性別和出生日期。</p>
</div><p>The possibility of identifying people from anonymous data became one of the central concerns about online advertising and the usage of cookies in web browsers.</p>
<div class="lb-trans"><p>從匿名數據中識別個人的可能性成為了關於在線廣告和網頁瀏覽器中使用 cookies 的主要關注點之一。</p>
</div><p>It's a risk that hasn't gone away and now appears to be even more grave, thanks to LLMs that can automate the process of connecting the dots across online posts so they point to a likely source.</p>
<div class="lb-trans"><p>這一風險並沒有消失，現在由於 LLMs 能夠自動化地將在線帖子中的信息連接起來，從而指向一個可能的來源，這一風險似乎變得更加嚴重。</p>
</div><p>&#34;We show that LLM agents can figure out who you are from your anonymous online posts,&#34; said Simon Lermen, an AI engineer at MATS Research and one of the corresponding authors of a pre-press paper titled &#34;Large-scale online deanonymization with LLMs.&#34;</p>
<div class="lb-trans"><p>“我們展示了 LLM 代理可以從你的匿名在線帖子中識別出你是誰，” MATS Research 的 AI 工程師 Simon Lermen 説，他是題為《大型在線去匿名化與 LLMs》的預印本論文的通訊作者之一。</p>
</div><p>&#34;Across Hacker News, Reddit, LinkedIn, and anonymized interview transcripts, our method identifies users with high precision – and scales to tens of thousands of candidates,” Lermen explained in an online post.</p>
<div class="lb-trans"><p>“在 Hacker News、Reddit、LinkedIn 和匿名訪談記錄中，我們的方法以高精度識別用户——並且可以擴展到數萬個候選人，” Lermen 在一篇在線帖子中解釋道。</p>
</div><p>The researcher observes that while it has long been known that individuals can be identified using only a few data points, doing so was often impractical. Such data often existed in an unstructured form and it took considerable effort for human investigators to assemble enough pieces to solve the identity puzzle.</p>
<div class="lb-trans"><p>研究人員觀察到，雖然早已知道僅使用少量數據點就可以識別個人，但這樣做往往不切實際。這些數據通常以非結構化形式存在，人類調查者需要付出相當大的努力才能拼湊出足夠的線索來解決身份難題。</p>
</div><p>LLMs accelerate and automate that process, and they do so affordably, Lermen and his co-authors claim.</p>
<div class="lb-trans"><p>LLMs 加速並自動化了這一過程，並且他們聲稱這樣做的成本也很低。</p>
</div><p>&#34;We demonstrate that large language models (LLMs) fundamentally change this calculus, enabling fully automated deanonymization attacks that operate on unstructured text at scale,&#34; they state in their paper. &#34;Where previous approaches required predefined feature schemas, careful data alignment, and manual verification, LLMs can extract identity-relevant signals from arbitrary prose, efficiently search over millions of candidate profiles, and reason about whether two accounts belong to the same person.&#34;</p>
<div class="lb-trans"><p>“我們證明了大型語言模型（LLMs）從根本上改變了這一計算，使得能夠在規模上對非結構化文本進行完全自動化的去匿名化攻擊，” 他們在論文中指出。“以往的方法需要預定義的特徵模式、仔細的數據對齊和手動驗證，而 LLMs 可以從任意散文中提取與身份相關的信號，高效地搜索數百萬個候選檔案，並推理兩個賬户是否屬於同一個人。”</p>
</div><ul>
<li>Bcachefs creator insists his custom LLM is female and 'fully conscious'</li>
<li>AIs are happy to launch nukes in simulated combat scenarios</li>
<li>Google catches Beijing spies using Sheets to spread espionage across 4 continents</li>
<li>Hide from Meta's spyglasses with this new Android app</li>
</ul>
<div class="lb-trans"><ul>
<li>Bcachefs 的創始人堅稱他的定製 LLM 是女性且 “完全意識到”</li>
<li>AI 樂於在模擬戰鬥場景中發射核武器</li>
<li>谷歌抓住北京間諜利用 Sheets 在四大洲傳播間諜活動</li>
<li>使用這個新的 Android 應用程序躲避 Meta 的間諜眼鏡</li>
</ul>
</div><p>In one experiment, the authors collected 338 Hacker News users whose bios link to a LinkedIn profile. They did so to establish ground-truth identities for the study subjects so the LLMs’ predictions could be checked – this was also to avoid the ethical problems of actually deanonymizing people in a research study.</p>
<div class="lb-trans"><p>在一項實驗中，作者收集了 338 個 Hacker News 用户的個人資料，這些個人資料鏈接到 LinkedIn 檔案。他們這樣做是為了為研究對象建立真實身份，以便檢查 LLMs 的預測——這也是為了避免在研究中實際去匿名化人們的倫理問題。</p>
</div><p>Next, they created a structured data profile of these users based on their comments and the stories they posted. Then they created a search prompt, anonymized it, and passed it to the AI agent. The agent went on to correctly identify 226 of the 338 targets, a success rate of 67 percent at 90 percent precision (there were 25 errant identifications and 86 abstentions where the model didn't offer a prediction).</p>
<div class="lb-trans"><p>接下來，他們根據這些用户的評論和他們發佈的故事創建了一個結構化的數據檔案。然後，他們創建了一個搜索提示，將其匿名化，並傳遞給 AI 代理。該代理成功識別了 338 個目標中的 226 個，成功率為 67%，精度為 90%（其中有 25 個錯誤識別和 86 個模型未提供預測的棄權）。</p>
</div><p>The technique employed by the authors is not a universal privacy solvent – it's only successful some of the time. But it's successful often enough that those posting online under a pseudonymous account should not assume their identities will remain unknown.</p>
<div class="lb-trans"><p>作者採用的技術並不是一種普遍的隱私溶劑——它僅在某些情況下成功。但它的成功率足夠高，以至於那些在化名賬户下在線發佈的人不應假設他們的身份會保持未知。</p>
</div><p>It’s also cheap to run. The researchers report their entire experiment cost about $2,000, with the cost per profile estimated to be between $1 and $4.</p>
<div class="lb-trans"><p>運行成本也很低。研究人員報告稱，他們整個實驗的成本約為 2000 美元，每個檔案的成本估計在 1 到 4 美元之間。</p>
</div><p>Who would bother? The authors suggest that governments could use this technique to target journalists or activists, that corporations could mine forums to build highly targeted advertising profiles, and that online attackers could develop detailed personal profiles to make social engineering scams more credible.</p>
<div class="lb-trans"><p>誰會去做呢？作者建議，政府可以利用這一技術來針對記者或活動家，企業可以挖掘論壇以建立高度針對性的廣告檔案，而在線攻擊者可以開發詳細的個人檔案，使社會工程詐騙更具可信度。</p>
</div><p>Lermen argues that netizens therefore need to consider how each data point they share helps identify them.</p>
<div class="lb-trans"><p>Lermen 認為，網民因此需要考慮他們分享的每個數據點如何幫助識別他們。</p>
</div><p>&#34;The combination is often a unique fingerprint,&#34; he said. &#34;Ask yourself: could a team of smart investigators figure out who you are from your posts? If yes, LLM agents can likely do the same, and the cost of doing so is only going down.&#34;</p>
<div class="lb-trans"><p>“這些組合通常是獨特的指紋，” 他説。“問問自己：聰明的調查團隊能否通過你的帖子找出你是誰？如果可以，LLM 代理很可能也能做到，而且這樣做的成本只會越來越低。”</p>
</div><p>Lermen’s co-authors are Daniel Paleka (ETH Zurich), Joshua Swanson (ETH Zurich), Michael Aerni (ETH Zurich), Nicholas Carlini (Anthropic), and Florian Tramèr (ETH Zurich). ®</p>
<div class="lb-trans"><p>Lermen 的合著者包括 Daniel Paleka（蘇黎世聯邦理工學院）、Joshua Swanson（蘇黎世聯邦理工學院）、Michael Aerni（蘇黎世聯邦理工學院）、Nicholas Carlini（Anthropic）和 Florian Tramèr（蘇黎世聯邦理工學院）。®</p>
</div>

大型語言模型已經終結了隱私，我們無法回頭，因為我們已經走得太遠