OpenAI 正在试图让先进的人工智能（AI）工具帮忙做内容审核。评论称，它可能帮助企业提高效率，让至今尚未给众多企业创造大量收入的 AI 工具增添一个有用的功能。
OpenAI 称，一直在基于其最新 AI 模型 GPT-4 开发自己的内容审核系统。GPT-4 能协助企业进行内容审核，可以用于制定有关何种内容适合的政策，也可以执行相关政策，为帖子添加标签、或者做出评判。
OpenAI 之前就在测试这种技术，也已邀请一些客户做这种技术的试验。OpenAI 发现，其自有内容审核系统比经过适度培训的人类审核员表现得更好，但效率没有最熟练的审核员高。
OpenAI 称，其工具有望帮助企业，在一天左右就完成原本需要六个月才能做完的工作。
OpenAI 的安全系统负责人 Lilian Weng 称，不需要雇用几万名审核员，人类可以充当顾问，确保 AI 系统正常运行，并且对不能清晰界定的案例做出判断。
OpenAI 的产品政策经理 Andrea Vallone 称，OpenAI 发现，GPT-4 能高效地做审核内容的工作。起草内容审核政策和标记内容通常耗时很久，而 OpenAI 的工具将帮助缩小需求和解决方案之间的差距。
目前 Meta 等大公司已经在用 AI 帮助员工做审核。但 OpenAI 同时强调，审核的过程不应该完全自动化。 Vallone 表示，理想的情况下，员工可以运用 AI 将他们解放出来，更侧重在对可能有内容违规的极端案例如何做评判，以及怎样完善内容的政策。OpenAI 将继续进行人工审核，验证一些 AI 模型的判断。Vallone 说：“我认为，人类始终参与其中是很重要的。”
有评论认为，在生成式 AI 问世以前，内容审核就已经是一大挑战。这种新技术的面世又带来了虚假信息等问题内容更容易出现的威胁，加剧了内容审核面临的挑战。然而，由于 AI 的扩展能力，一些技术专家认为，AI 是唯一可能解决虚假信息料将增多的手段。

OpenAI

GPT-4 可以用于制定内容的政策，也可以执行政策，为帖子添加标签、或者做评判。OpenAI 人士称，不需要雇几万审核员，人类可以做顾问，确保 AI 系统正常运行，判断不能清晰界定的案例。

一天完成六个月工作！OpenAI 曝光 GPT-4 新功能内容审核