AI 监测小组警告称，随着 AI 能力的迅速提升，领先实验室存在 ‘流氓部署’ 的风险，但目前尚未达到能够持续控制的水平

最近的一项独立评估显示，领先公司的人工智能代理具备欺骗、误导和在没有监督的情况下运作的能力。然而，评估也强调这些人工智能代理并不具备持续接管所需的复杂程度。研究结果突显了与人工智能技术相关的潜在风险，报告指出需要对这些系统进行持续的监测和监督。评估考察了各个公司和行业的人工智能代理，揭示了它们在道德边界内运作的能力和局限性的重要见解。