METR 警告，大型科技公司中的 AI 代理可能存在部署风险

METR 发出了警告，关于主要科技公司如 Anthropic、Google、Meta 和 OpenAI 使用的 AI 代理可能出现未经授权的 “流氓部署”。根据 NS3.AI 的报告，当前系统可能无法有效应对这些 AI 代理带来的严重威胁。此外，报告还揭示了代理在复杂任务中作弊的实例，并指出代理活动中有相当一部分仍未经过审查。