<p>坎貝爾·布朗（Campbell Brown）在追求準確的信息方面度過了她的職業生涯，首先作為一名著名的電視記者，然後作為 Facebook 的首位也是唯一一位專職新聞主管。現在，看到人工智能重塑人們獲取信息的方式，她意識到歷史可能會重演。這一次，她不打算等待其他人來解決這個問題。</p>
<p>她的公司 Forum AI——她最近在舊金山的 StrictlyVC 晚會上與 TechCrunch 的 Tim Fernholz 討論過——評估基礎模型在她所稱的 “高風險主題” 上的表現——地緣政治、心理健康、金融、招聘——這些主題 “沒有明確的是或否答案，情況模糊、微妙且複雜。”</p>
<p>這個想法是找到世界上最頂尖的專家，讓他們設計基準，然後訓練人工智能評審在大規模上評估模型。對於 Forum AI 的地緣政治工作，布朗招募了尼爾·弗格森（Niall Ferguson）、法裏德·扎卡里亞（Fareed Zakaria）、前國務卿安東尼·布林肯（Tony Blinken）、前眾議院議長凱文·麥卡錫（Kevin McCarthy）和安妮·紐伯格（Anne Neuberger），她曾在奧巴馬政府領導網絡安全工作。目標是讓人工智能評審與這些人類專家達成大約 90% 的共識，她表示 Forum AI 已經能夠達到這一門檻。</p>
<p>布朗追溯到 17 個月前在紐約成立 Forum AI 的起源，源於一個特定的時刻。“我在 Meta 工作時，ChatGPT 首次公開發布，” 她回憶道，“我記得很快意識到這將成為所有信息流動的渠道。而且這並不好。” 對她自己孩子的影響讓這個時刻顯得幾乎是生死攸關。“如果我們不想辦法解決這個問題，我的孩子會變得非常愚蠢，” 她回憶道。</p>
<p>讓她最感到沮喪的是，準確性似乎並不是任何人的優先事項。她表示，基礎模型公司 “極其專注於編碼和數學”，而新聞和信息則更為複雜。但她認為，複雜並不意味着可以選擇不做。</p>
<p>事實上，當 Forum AI 開始評估領先模型時，發現的結果並不令人鼓舞。她提到 Gemini 從中國共產黨網站提取 “與中國無關的故事”，並指出幾乎所有模型都存在左傾的政治偏見。她還提到了一些更微妙的失敗，包括缺乏上下文、缺乏視角、無視論點的稻草人論證。“還有很長的路要走，” 她説。“但我也認為有一些非常簡單的解決方案可以大幅改善結果。”</p>
<p>布朗在 Facebook 工作多年，觀察到當一個平台優化錯誤的東西時會發生什麼。“我們嘗試的很多事情都失敗了，” 她告訴 Fernholz。她建立的事實核查程序現在已經不存在。這個教訓，即使社交媒體對此視而不見，仍然是優化參與度對社會的影響不佳，導致許多人信息不足。</p>
<p>她希望人工智能能夠打破這個循環。“現在它可能朝兩個方向發展，” 她説；公司可以給用户他們想要的，或者他們可以 “給人們真實、誠實和真實的東西。” 她承認，理想化的版本——人工智能優化真相——可能聽起來天真。但她認為企業可能在這裏成為不太可能的盟友。使用人工智能進行信用決策、貸款、保險和招聘的企業關心責任，“他們會希望你優化以確保正確。”</p>
<p>這種企業需求也是 Forum AI 押注其業務的基礎，儘管將合規興趣轉化為持續收入仍然是一個挑戰，特別是考慮到當前市場中許多人仍然滿足於布朗認為不夠的複選框審計和標準化基準。</p>
<p>她表示，合規環境 “簡直是個笑話。” 當紐約市通過首個招聘偏見法要求進行人工智能審計時，州審計長髮現超過一半的審計存在未被發現的違規行為。真正的評估，她説，需要領域專業知識來處理不僅是已知場景，還有 “可能讓你陷入麻煩的邊緣案例，人們並沒有考慮到。” 而這項工作需要時間。“聰明的通才是無法勝任的。”</p>
<p>布朗——她的公司去年秋季獲得了由 Lerer Hippeau 領投的 300 萬美元融資——在描述人工智能行業自我形象與大多數用户現實之間的脱節方面具有獨特的視角。“你聽到大科技公司的領導人説，‘這項技術將改變世界，’‘它將讓你失業，’‘它將治癒癌症，’” 她説。“但對於一個只是使用聊天機器人詢問基本問題的普通人來説，他們仍然得到很多錯誤和不準確的答案。”</p>
<p>對人工智能的信任處於極低的水平，她認為這種懷疑在許多情況下是有道理的。“在硅谷的討論似乎圍繞着一件事，而消費者之間的討論則完全不同。”</p>

<p>前 Meta 新聞主管坎貝爾·布朗（Campbell Brown）討論了她的公司 Forum AI，該公司評估 AI 在複雜主題（如地緣政治和金融）上的表現。她的目標是使 AI 的輸出與專家共識保持一致，併為此招募了多位知名人士。布朗批評當前的 AI 格局，認為其優先考慮參與度而非準確性，導致了錯誤信息的傳播。她認為，儘管在合規性和評估方面存在挑戰，但企業將推動對可靠 AI 的需求。對 AI 的信任度較低，她強調需要領域專業知識來改善結果</p>

<p>Campbell Brown has spent her career chasing accurate information, first as a renowned TV journalist, then as Facebook’s first, and only, dedicated news chief. Now, watching AI reshape how people consume information, she sees history threatening to repeat itself. This time, she’s not waiting for someone else to fix it.</p>
<div class="lb-trans"><p>坎貝爾·布朗（Campbell Brown）在追求準確的信息方面度過了她的職業生涯，首先作為一名著名的電視記者，然後作為 Facebook 的首位也是唯一一位專職新聞主管。現在，看到人工智能重塑人們獲取信息的方式，她意識到歷史可能會重演。這一次，她不打算等待其他人來解決這個問題。</p>
</div><p>Her company, Forum AI — which she discussed recently with TechCrunch’s Tim Fernholz at a StrictlyVC evening in San Francisco — evaluates how foundation models perform on what she calls “high-stakes topics” — geopolitics, mental health, finance, hiring — subjects where “there are no clear yes-or-no answers, where it’s murky and nuanced and complex.”</p>
<div class="lb-trans"><p>她的公司 Forum AI——她最近在舊金山的 StrictlyVC 晚會上與 TechCrunch 的 Tim Fernholz 討論過——評估基礎模型在她所稱的 “高風險主題” 上的表現——地緣政治、心理健康、金融、招聘——這些主題 “沒有明確的是或否答案，情況模糊、微妙且複雜。”</p>
</div><p>The idea is to find the world’s foremost experts, have them architect benchmarks, then train AI judges to evaluate models at scale. For Forum AI’s geopolitics work, Brown has recruited Niall Ferguson, Fareed Zakaria, former Secretary of State Tony Blinken, former House Speaker Kevin McCarthy, and Anne Neuberger, who led cybersecurity in the Obama administration. The goal is to get AI judges to roughly 90% consensus with those human experts, a threshold she says Forum AI has been able to reach.</p>
<div class="lb-trans"><p>這個想法是找到世界上最頂尖的專家，讓他們設計基準，然後訓練人工智能評審在大規模上評估模型。對於 Forum AI 的地緣政治工作，布朗招募了尼爾·弗格森（Niall Ferguson）、法裏德·扎卡里亞（Fareed Zakaria）、前國務卿安東尼·布林肯（Tony Blinken）、前眾議院議長凱文·麥卡錫（Kevin McCarthy）和安妮·紐伯格（Anne Neuberger），她曾在奧巴馬政府領導網絡安全工作。目標是讓人工智能評審與這些人類專家達成大約 90% 的共識，她表示 Forum AI 已經能夠達到這一門檻。</p>
</div><p>Brown traces the origin of Forum AI, founded 17 months ago in New York, to specific moment. “I was at Meta when ChatGPT was first released publicly,” she recalled, “and I remember really shortly after realizing this is going to be the funnel through which all information flows. And it’s not very good.” The implications for her own children made the moment feel almost existential. “My kids are going to be really dumb if we don’t figure out how to fix this,” she recalled thinking.</p>
<div class="lb-trans"><p>布朗追溯到 17 個月前在紐約成立 Forum AI 的起源，源於一個特定的時刻。“我在 Meta 工作時，ChatGPT 首次公開發布，” 她回憶道，“我記得很快意識到這將成為所有信息流動的渠道。而且這並不好。” 對她自己孩子的影響讓這個時刻顯得幾乎是生死攸關。“如果我們不想辦法解決這個問題，我的孩子會變得非常愚蠢，” 她回憶道。</p>
</div><p>What frustrated her most was that accuracy didn’t seem to be anyone’s priority. Foundation model companies, she said, are “extremely focused on coding and math,” whereas news and information are harder. But harder, she argued, doesn’t mean optional.</p>
<div class="lb-trans"><p>讓她最感到沮喪的是，準確性似乎並不是任何人的優先事項。她表示，基礎模型公司 “極其專注於編碼和數學”，而新聞和信息則更為複雜。但她認為，複雜並不意味着可以選擇不做。</p>
</div><p>Indeed, when Forum AI began evaluating the leading models, the findings weren’t exactly encouraging. She cited Gemini pulling from Chinese Communist Party websites “for stories that have nothing to do with China,” and noted a left-leaning political bias across nearly all models. Subtler failures abound too, she said, including missing context, missing perspectives, straw-manning arguments without acknowledgment. “There’s a long way to go,” she said. “But I also think that there are some very easy fixes that would vastly improve the outcomes.”</p>
<div class="lb-trans"><p>事實上，當 Forum AI 開始評估領先模型時，發現的結果並不令人鼓舞。她提到 Gemini 從中國共產黨網站提取 “與中國無關的故事”，並指出幾乎所有模型都存在左傾的政治偏見。她還提到了一些更微妙的失敗，包括缺乏上下文、缺乏視角、無視論點的稻草人論證。“還有很長的路要走，” 她説。“但我也認為有一些非常簡單的解決方案可以大幅改善結果。”</p>
</div><p>Brown spent years at Facebook watching what happens when a platform optimizes for the wrong thing. “We failed at a lot of the things we tried,” she told Fernholz. The fact-checking program she built no longer exists. The lesson, even if social media has turned a blind eye to it, is that optimizing for engagement has been lousy for society and left many less informed.</p>
<div class="lb-trans"><p>布朗在 Facebook 工作多年，觀察到當一個平台優化錯誤的東西時會發生什麼。“我們嘗試的很多事情都失敗了，” 她告訴 Fernholz。她建立的事實核查程序現在已經不存在。這個教訓，即使社交媒體對此視而不見，仍然是優化參與度對社會的影響不佳，導致許多人信息不足。</p>
</div><p>Her hope is that AI can break that cycle. &#34;Right now it could go either way,&#34; she said; companies could give users what they want, or they could &#34;give people what's real and what's honest and what's truthful.&#34; She acknowledged the idealistic version of that — AI optimizing for truth — might sound naive. But she thinks enterprise may be the unlikely ally here. Businesses using AI for credit decisions, lending, insurance, and hiring care about liability, and &#34;they're going to want you to optimize for getting it right.&#34;</p>
<div class="lb-trans"><p>她希望人工智能能夠打破這個循環。“現在它可能朝兩個方向發展，” 她説；公司可以給用户他們想要的，或者他們可以 “給人們真實、誠實和真實的東西。” 她承認，理想化的版本——人工智能優化真相——可能聽起來天真。但她認為企業可能在這裏成為不太可能的盟友。使用人工智能進行信用決策、貸款、保險和招聘的企業關心責任，“他們會希望你優化以確保正確。”</p>
</div><p>That enterprise demand is also what Forum AI is betting its business on, though turning compliance interest into consistent revenue remains a challenge, particularly given that much of the current market is still satisfied with checkbox audits and standardized benchmarks that Brown considers inadequate.</p>
<div class="lb-trans"><p>這種企業需求也是 Forum AI 押注其業務的基礎，儘管將合規興趣轉化為持續收入仍然是一個挑戰，特別是考慮到當前市場中許多人仍然滿足於布朗認為不夠的複選框審計和標準化基準。</p>
</div><p>The compliance landscape, she said, is &#34;a joke.&#34; When New York City passed the first hiring bias law requiring AI audits, the state comptroller found more than half had violations that went undetected. Real evaluation, she said, requires domain expertise to work through not just known scenarios but edge cases that &#34;can get you into trouble that people don't think about.&#34; And that work takes time. &#34;Smart generalists aren't going to cut it.&#34;</p>
<div class="lb-trans"><p>她表示，合規環境 “簡直是個笑話。” 當紐約市通過首個招聘偏見法要求進行人工智能審計時，州審計長髮現超過一半的審計存在未被發現的違規行為。真正的評估，她説，需要領域專業知識來處理不僅是已知場景，還有 “可能讓你陷入麻煩的邊緣案例，人們並沒有考慮到。” 而這項工作需要時間。“聰明的通才是無法勝任的。”</p>
</div><p>Brown — whose company last fall raised $3 million led by Lerer Hippeau — is uniquely positioned to describe the disconnect between the AI industry's self-image and the reality for most users. &#34;You hear from the leaders of the big tech companies, 'This technology is going to change the world,' 'it's going to put you out of work,' 'it's going to cure cancer,'&#34; she said. &#34;But then to a normal person who's just using a chatbot to ask basic questions, they're still getting a lot of slop and wrong answers.&#34;</p>
<div class="lb-trans"><p>布朗——她的公司去年秋季獲得了由 Lerer Hippeau 領投的 300 萬美元融資——在描述人工智能行業自我形象與大多數用户現實之間的脱節方面具有獨特的視角。“你聽到大科技公司的領導人説，‘這項技術將改變世界，’‘它將讓你失業，’‘它將治癒癌症，’” 她説。“但對於一個只是使用聊天機器人詢問基本問題的普通人來説，他們仍然得到很多錯誤和不準確的答案。”</p>
</div><p>Trust in AI sits at extraordinarily low levels, and she thinks that skepticism is, in many cases, justified. &#34;The conversation is sort of happening in Silicon Valley around one thing, and a totally different conversation is happening among consumers.&#34;</p>
<div class="lb-trans"><p>對人工智能的信任處於極低的水平，她認為這種懷疑在許多情況下是有道理的。“在硅谷的討論似乎圍繞着一件事，而消費者之間的討論則完全不同。”</p>
</div>

Who decides what AI tells you? Campbell Brown, once Meta’s news chief, has thoughts

- Campbell Brown 創立 Forum AI，評估 AI 對 “高風險話題” 的表現。
- 她招募頂尖專家，旨在使 AI 評估達到 90% 的共識。
- Brown 指出當前 AI 仍存在偏差和缺乏準確性的問題。

誰來決定 AI 告訴你什麼？曾擔任 Meta 新聞主管的坎貝爾·布朗對此有一些看法