OpenAI 正在試圖讓先進的人工智能（AI）工具幫忙做內容審核。評論稱，它可能幫助企業提高效率，讓至今尚未給眾多企業創造大量收入的 AI 工具增添一個有用的功能。
OpenAI 稱，一直在基於其最新 AI 模型 GPT-4 開發自己的內容審核系統。GPT-4 能協助企業進行內容審核，可以用於制定有關何種內容適合的政策，也可以執行相關政策，為帖子添加標籤、或者做出評判。
OpenAI 之前就在測試這種技術，也已邀請一些客户做這種技術的試驗。OpenAI 發現，其自有內容審核系統比經過適度培訓的人類審核員表現得更好，但效率沒有最熟練的審核員高。
OpenAI 稱，其工具有望幫助企業，在一天左右就完成原本需要六個月才能做完的工作。
OpenAI 的安全系統負責人 Lilian Weng 稱，不需要僱用幾萬名審核員，人類可以充當顧問，確保 AI 系統正常運行，並且對不能清晰界定的案例做出判斷。
OpenAI 的產品政策經理 Andrea Vallone 稱，OpenAI 發現，GPT-4 能高效地做審核內容的工作。起草內容審核政策和標記內容通常耗時很久，而 OpenAI 的工具將幫助縮小需求和解決方案之間的差距。
目前 Meta 等大公司已經在用 AI 幫助員工做審核。但 OpenAI 同時強調，審核的過程不應該完全自動化。 Vallone 表示，理想的情況下，員工可以運用 AI 將他們解放出來，更側重在對可能有內容違規的極端案例如何做評判，以及怎樣完善內容的政策。OpenAI 將繼續進行人工審核，驗證一些 AI 模型的判斷。Vallone 説：“我認為，人類始終參與其中是很重要的。”
有評論認為，在生成式 AI 問世以前，內容審核就已經是一大挑戰。這種新技術的面世又帶來了虛假信息等問題內容更容易出現的威脅，加劇了內容審核面臨的挑戰。然而，由於 AI 的擴展能力，一些技術專家認為，AI 是唯一可能解決虛假信息料將增多的手段。

OpenAI

GPT-4 可以用於制定內容的政策，也可以執行政策，為帖子添加標籤、或者做評判。OpenAI 人士稱，不需要僱幾萬審核員，人類可以做顧問，確保 AI 系統正常運行，判斷不能清晰界定的案例。

一天完成六個月工作！OpenAI 曝光 GPT-4 新功能內容審核