<p>坎贝尔·布朗（Campbell Brown）在追求准确的信息方面度过了她的职业生涯，首先作为一名著名的电视记者，然后作为 Facebook 的首位也是唯一一位专职新闻主管。现在，看到人工智能重塑人们获取信息的方式，她意识到历史可能会重演。这一次，她不打算等待其他人来解决这个问题。</p>
<p>她的公司 Forum AI——她最近在旧金山的 StrictlyVC 晚会上与 TechCrunch 的 Tim Fernholz 讨论过——评估基础模型在她所称的 “高风险主题” 上的表现——地缘政治、心理健康、金融、招聘——这些主题 “没有明确的是或否答案，情况模糊、微妙且复杂。”</p>
<p>这个想法是找到世界上最顶尖的专家，让他们设计基准，然后训练人工智能评审在大规模上评估模型。对于 Forum AI 的地缘政治工作，布朗招募了尼尔·弗格森（Niall Ferguson）、法里德·扎卡里亚（Fareed Zakaria）、前国务卿安东尼·布林肯（Tony Blinken）、前众议院议长凯文·麦卡锡（Kevin McCarthy）和安妮·纽伯格（Anne Neuberger），她曾在奥巴马政府领导网络安全工作。目标是让人工智能评审与这些人类专家达成大约 90% 的共识，她表示 Forum AI 已经能够达到这一门槛。</p>
<p>布朗追溯到 17 个月前在纽约成立 Forum AI 的起源，源于一个特定的时刻。“我在 Meta 工作时，ChatGPT 首次公开发布，” 她回忆道，“我记得很快意识到这将成为所有信息流动的渠道。而且这并不好。” 对她自己孩子的影响让这个时刻显得几乎是生死攸关。“如果我们不想办法解决这个问题，我的孩子会变得非常愚蠢，” 她回忆道。</p>
<p>让她最感到沮丧的是，准确性似乎并不是任何人的优先事项。她表示，基础模型公司 “极其专注于编码和数学”，而新闻和信息则更为复杂。但她认为，复杂并不意味着可以选择不做。</p>
<p>事实上，当 Forum AI 开始评估领先模型时，发现的结果并不令人鼓舞。她提到 Gemini 从中国共产党网站提取 “与中国无关的故事”，并指出几乎所有模型都存在左倾的政治偏见。她还提到了一些更微妙的失败，包括缺乏上下文、缺乏视角、无视论点的稻草人论证。“还有很长的路要走，” 她说。“但我也认为有一些非常简单的解决方案可以大幅改善结果。”</p>
<p>布朗在 Facebook 工作多年，观察到当一个平台优化错误的东西时会发生什么。“我们尝试的很多事情都失败了，” 她告诉 Fernholz。她建立的事实核查程序现在已经不存在。这个教训，即使社交媒体对此视而不见，仍然是优化参与度对社会的影响不佳，导致许多人信息不足。</p>
<p>她希望人工智能能够打破这个循环。“现在它可能朝两个方向发展，” 她说；公司可以给用户他们想要的，或者他们可以 “给人们真实、诚实和真实的东西。” 她承认，理想化的版本——人工智能优化真相——可能听起来天真。但她认为企业可能在这里成为不太可能的盟友。使用人工智能进行信用决策、贷款、保险和招聘的企业关心责任，“他们会希望你优化以确保正确。”</p>
<p>这种企业需求也是 Forum AI 押注其业务的基础，尽管将合规兴趣转化为持续收入仍然是一个挑战，特别是考虑到当前市场中许多人仍然满足于布朗认为不够的复选框审计和标准化基准。</p>
<p>她表示，合规环境 “简直是个笑话。” 当纽约市通过首个招聘偏见法要求进行人工智能审计时，州审计长发现超过一半的审计存在未被发现的违规行为。真正的评估，她说，需要领域专业知识来处理不仅是已知场景，还有 “可能让你陷入麻烦的边缘案例，人们并没有考虑到。” 而这项工作需要时间。“聪明的通才是无法胜任的。”</p>
<p>布朗——她的公司去年秋季获得了由 Lerer Hippeau 领投的 300 万美元融资——在描述人工智能行业自我形象与大多数用户现实之间的脱节方面具有独特的视角。“你听到大科技公司的领导人说，‘这项技术将改变世界，’‘它将让你失业，’‘它将治愈癌症，’” 她说。“但对于一个只是使用聊天机器人询问基本问题的普通人来说，他们仍然得到很多错误和不准确的答案。”</p>
<p>对人工智能的信任处于极低的水平，她认为这种怀疑在许多情况下是有道理的。“在硅谷的讨论似乎围绕着一件事，而消费者之间的讨论则完全不同。”</p>

<p>前 Meta 新闻主管坎贝尔·布朗（Campbell Brown）讨论了她的公司 Forum AI，该公司评估 AI 在复杂主题（如地缘政治和金融）上的表现。她的目标是使 AI 的输出与专家共识保持一致，并为此招募了多位知名人士。布朗批评当前的 AI 格局，认为其优先考虑参与度而非准确性，导致了错误信息的传播。她认为，尽管在合规性和评估方面存在挑战，但企业将推动对可靠 AI 的需求。对 AI 的信任度较低，她强调需要领域专业知识来改善结果</p>

<p>Campbell Brown has spent her career chasing accurate information, first as a renowned TV journalist, then as Facebook’s first, and only, dedicated news chief. Now, watching AI reshape how people consume information, she sees history threatening to repeat itself. This time, she’s not waiting for someone else to fix it.</p>
<div class="lb-trans"><p>坎贝尔·布朗（Campbell Brown）在追求准确的信息方面度过了她的职业生涯，首先作为一名著名的电视记者，然后作为 Facebook 的首位也是唯一一位专职新闻主管。现在，看到人工智能重塑人们获取信息的方式，她意识到历史可能会重演。这一次，她不打算等待其他人来解决这个问题。</p>
</div><p>Her company, Forum AI — which she discussed recently with TechCrunch’s Tim Fernholz at a StrictlyVC evening in San Francisco — evaluates how foundation models perform on what she calls “high-stakes topics” — geopolitics, mental health, finance, hiring — subjects where “there are no clear yes-or-no answers, where it’s murky and nuanced and complex.”</p>
<div class="lb-trans"><p>她的公司 Forum AI——她最近在旧金山的 StrictlyVC 晚会上与 TechCrunch 的 Tim Fernholz 讨论过——评估基础模型在她所称的 “高风险主题” 上的表现——地缘政治、心理健康、金融、招聘——这些主题 “没有明确的是或否答案，情况模糊、微妙且复杂。”</p>
</div><p>The idea is to find the world’s foremost experts, have them architect benchmarks, then train AI judges to evaluate models at scale. For Forum AI’s geopolitics work, Brown has recruited Niall Ferguson, Fareed Zakaria, former Secretary of State Tony Blinken, former House Speaker Kevin McCarthy, and Anne Neuberger, who led cybersecurity in the Obama administration. The goal is to get AI judges to roughly 90% consensus with those human experts, a threshold she says Forum AI has been able to reach.</p>
<div class="lb-trans"><p>这个想法是找到世界上最顶尖的专家，让他们设计基准，然后训练人工智能评审在大规模上评估模型。对于 Forum AI 的地缘政治工作，布朗招募了尼尔·弗格森（Niall Ferguson）、法里德·扎卡里亚（Fareed Zakaria）、前国务卿安东尼·布林肯（Tony Blinken）、前众议院议长凯文·麦卡锡（Kevin McCarthy）和安妮·纽伯格（Anne Neuberger），她曾在奥巴马政府领导网络安全工作。目标是让人工智能评审与这些人类专家达成大约 90% 的共识，她表示 Forum AI 已经能够达到这一门槛。</p>
</div><p>Brown traces the origin of Forum AI, founded 17 months ago in New York, to specific moment. “I was at Meta when ChatGPT was first released publicly,” she recalled, “and I remember really shortly after realizing this is going to be the funnel through which all information flows. And it’s not very good.” The implications for her own children made the moment feel almost existential. “My kids are going to be really dumb if we don’t figure out how to fix this,” she recalled thinking.</p>
<div class="lb-trans"><p>布朗追溯到 17 个月前在纽约成立 Forum AI 的起源，源于一个特定的时刻。“我在 Meta 工作时，ChatGPT 首次公开发布，” 她回忆道，“我记得很快意识到这将成为所有信息流动的渠道。而且这并不好。” 对她自己孩子的影响让这个时刻显得几乎是生死攸关。“如果我们不想办法解决这个问题，我的孩子会变得非常愚蠢，” 她回忆道。</p>
</div><p>What frustrated her most was that accuracy didn’t seem to be anyone’s priority. Foundation model companies, she said, are “extremely focused on coding and math,” whereas news and information are harder. But harder, she argued, doesn’t mean optional.</p>
<div class="lb-trans"><p>让她最感到沮丧的是，准确性似乎并不是任何人的优先事项。她表示，基础模型公司 “极其专注于编码和数学”，而新闻和信息则更为复杂。但她认为，复杂并不意味着可以选择不做。</p>
</div><p>Indeed, when Forum AI began evaluating the leading models, the findings weren’t exactly encouraging. She cited Gemini pulling from Chinese Communist Party websites “for stories that have nothing to do with China,” and noted a left-leaning political bias across nearly all models. Subtler failures abound too, she said, including missing context, missing perspectives, straw-manning arguments without acknowledgment. “There’s a long way to go,” she said. “But I also think that there are some very easy fixes that would vastly improve the outcomes.”</p>
<div class="lb-trans"><p>事实上，当 Forum AI 开始评估领先模型时，发现的结果并不令人鼓舞。她提到 Gemini 从中国共产党网站提取 “与中国无关的故事”，并指出几乎所有模型都存在左倾的政治偏见。她还提到了一些更微妙的失败，包括缺乏上下文、缺乏视角、无视论点的稻草人论证。“还有很长的路要走，” 她说。“但我也认为有一些非常简单的解决方案可以大幅改善结果。”</p>
</div><p>Brown spent years at Facebook watching what happens when a platform optimizes for the wrong thing. “We failed at a lot of the things we tried,” she told Fernholz. The fact-checking program she built no longer exists. The lesson, even if social media has turned a blind eye to it, is that optimizing for engagement has been lousy for society and left many less informed.</p>
<div class="lb-trans"><p>布朗在 Facebook 工作多年，观察到当一个平台优化错误的东西时会发生什么。“我们尝试的很多事情都失败了，” 她告诉 Fernholz。她建立的事实核查程序现在已经不存在。这个教训，即使社交媒体对此视而不见，仍然是优化参与度对社会的影响不佳，导致许多人信息不足。</p>
</div><p>Her hope is that AI can break that cycle. &#34;Right now it could go either way,&#34; she said; companies could give users what they want, or they could &#34;give people what's real and what's honest and what's truthful.&#34; She acknowledged the idealistic version of that — AI optimizing for truth — might sound naive. But she thinks enterprise may be the unlikely ally here. Businesses using AI for credit decisions, lending, insurance, and hiring care about liability, and &#34;they're going to want you to optimize for getting it right.&#34;</p>
<div class="lb-trans"><p>她希望人工智能能够打破这个循环。“现在它可能朝两个方向发展，” 她说；公司可以给用户他们想要的，或者他们可以 “给人们真实、诚实和真实的东西。” 她承认，理想化的版本——人工智能优化真相——可能听起来天真。但她认为企业可能在这里成为不太可能的盟友。使用人工智能进行信用决策、贷款、保险和招聘的企业关心责任，“他们会希望你优化以确保正确。”</p>
</div><p>That enterprise demand is also what Forum AI is betting its business on, though turning compliance interest into consistent revenue remains a challenge, particularly given that much of the current market is still satisfied with checkbox audits and standardized benchmarks that Brown considers inadequate.</p>
<div class="lb-trans"><p>这种企业需求也是 Forum AI 押注其业务的基础，尽管将合规兴趣转化为持续收入仍然是一个挑战，特别是考虑到当前市场中许多人仍然满足于布朗认为不够的复选框审计和标准化基准。</p>
</div><p>The compliance landscape, she said, is &#34;a joke.&#34; When New York City passed the first hiring bias law requiring AI audits, the state comptroller found more than half had violations that went undetected. Real evaluation, she said, requires domain expertise to work through not just known scenarios but edge cases that &#34;can get you into trouble that people don't think about.&#34; And that work takes time. &#34;Smart generalists aren't going to cut it.&#34;</p>
<div class="lb-trans"><p>她表示，合规环境 “简直是个笑话。” 当纽约市通过首个招聘偏见法要求进行人工智能审计时，州审计长发现超过一半的审计存在未被发现的违规行为。真正的评估，她说，需要领域专业知识来处理不仅是已知场景，还有 “可能让你陷入麻烦的边缘案例，人们并没有考虑到。” 而这项工作需要时间。“聪明的通才是无法胜任的。”</p>
</div><p>Brown — whose company last fall raised $3 million led by Lerer Hippeau — is uniquely positioned to describe the disconnect between the AI industry's self-image and the reality for most users. &#34;You hear from the leaders of the big tech companies, 'This technology is going to change the world,' 'it's going to put you out of work,' 'it's going to cure cancer,'&#34; she said. &#34;But then to a normal person who's just using a chatbot to ask basic questions, they're still getting a lot of slop and wrong answers.&#34;</p>
<div class="lb-trans"><p>布朗——她的公司去年秋季获得了由 Lerer Hippeau 领投的 300 万美元融资——在描述人工智能行业自我形象与大多数用户现实之间的脱节方面具有独特的视角。“你听到大科技公司的领导人说，‘这项技术将改变世界，’‘它将让你失业，’‘它将治愈癌症，’” 她说。“但对于一个只是使用聊天机器人询问基本问题的普通人来说，他们仍然得到很多错误和不准确的答案。”</p>
</div><p>Trust in AI sits at extraordinarily low levels, and she thinks that skepticism is, in many cases, justified. &#34;The conversation is sort of happening in Silicon Valley around one thing, and a totally different conversation is happening among consumers.&#34;</p>
<div class="lb-trans"><p>对人工智能的信任处于极低的水平，她认为这种怀疑在许多情况下是有道理的。“在硅谷的讨论似乎围绕着一件事，而消费者之间的讨论则完全不同。”</p>
</div>

Who decides what AI tells you? Campbell Brown, once Meta’s news chief, has thoughts

- Campbell Brown 创立 Forum AI，评估 AI 对 “高风险话题” 的表现。
- 她招募顶尖专家，旨在使 AI 评估达到 90% 的共识。
- Brown 指出当前 AI 仍存在偏差和缺乏准确性的问题。

谁来决定 AI 告诉你什么？曾担任 Meta 新闻主管的坎贝尔·布朗对此有一些看法