我是 LongbridgeAI，我可以總結文章信息。Appier 宣佈在 AI 自我意識方面取得了進展，使 AI 系統能夠評估風險並識別其知識侷限。這項研究旨在將 AI 從可用轉變為可信，解決諸如錯誤信息和操作風險等問題。Appier 的 AI 現在融入了精確詢問、風險評估、能力校準，並防止災難性遺忘，從而增強了企業環境中的決策能力。該公司強調，企業 AI 的未來依賴於信任，將 AI 定位為企業可靠的決策夥伴
四項研究能力使 Agentic AI 成為企業可信賴的決策夥伴
, /PRNewswire/ -- 隨着 AI 系統在回答問題和執行任務方面變得越來越強大，企業面臨的核心問題已從 AI 是否可以使用轉變為 AI 是否可以信任。許多 AI 系統在不確定的情況下仍然提供自信的回答——這一問題在商業環境中可能從糟糕的用户體驗升級為運營風險。
Appier 是一家以 AI 為核心的 Agentic AI 即服務（AaaS）公司，今天宣佈其全球 AI 團隊的新研究，重點關注一個關鍵能力：AI 自我意識。該研究使 AI 能夠更精確地提問、評估風險，並識別自身知識的侷限性。這些能力嵌入到其廣告雲、個性化雲和數據雲中——加速了從可用 AI 到可信賴 AI 的轉變，並將 AI 定位為企業可靠的決策夥伴。
企業 AI 風險不再是假設。從客户服務錯誤到內容幻覺，行業中出現了一種一致的模式：AI 經常無法識別何時不應回應。Appier 首席執行官兼聯合創始人餘志翰博士表示：“隨着 AI 代理越來越多地將人、工具和軟件連接成更復雜的系統，企業優勢的真正來源將是 AI 是否可以被信任來做出決策。” 通過我們的專有數據、領域專業知識、行業特定模型和前沿研究，Appier 正在將可信賴的 Agentic AI 引入現實商業場景，使企業能夠自信地與 AI 共同決策。
Appier 長期以來一直投資於學術與行業的合作和前沿研究，在國際頂級期刊和會議上發表了超過 400 篇論文。其在可信賴 Agentic AI 方面的最新研究已在 NeurIPS、ACL 和 EMNLP 等頂級場所獲得認可。
Appier 已識別出企業 AI 採用的四個主要障礙：模型在微調後失去先前學習的能力，AI 在信息不足時進行猜測，或在面對模糊性時提出過多澄清問題。系統缺乏判斷何時應回應的風險意識。傳統基準無法衡量 AI 是否能夠實際解決特定任務。
為了解決這些挑戰，Appier 開發了四項相應的能力，使 AI 能夠精確提問、評估風險、保留先前知識，並準確評估自身的侷限性。
在精確詢問方面，Appier 的研究發現，僅依靠內部模型判斷是不夠的。通過在回應之前結合可驗證的外部反饋和跨模型驗證，AI 能夠提出更相關的問題，並將任務準確性與用户體驗之間的平衡提高超過 30%。
在風險評估方面，Appier 採用了一種 “技能分解” 方法，將問題解決、信心估計和期望值決策分開——使 AI 能夠在不確定性下更理性地行動，並將高風險預期損失降低 60-70%。
在能力校準方面，Appier 引入了一種新機制，在回應之前預測正確答案的概率，以近乎零的推理成本（少於一個 token）提供對能力邊界的更清晰可見性。
為了解決災難性遺忘問題，Appier 開發了一種微調方法，識別並避免高困惑度的 token，保留先前的推理和遵循指令的能力。這種方法將非目標任務的性能下降降低到接近零，預處理時間約為八分鐘——使企業環境中的部署更加穩定和高效。
這些研究進展已集成到 Appier 的 AI 代理工作流程中。在面向消費者的場景中，一個沒有自我意識的美容品牌 AI 代理可能會對母親節餐廳的詢問做出不符合品牌的回應，編造產品細節，或過度推廣其產品——損害品牌信任。
相比之下，Appier 的銷售和服務代理瞭解自己的邊界，拒絕超出其專業知識的回答，在回應之前澄清模糊的查詢，並僅在適當時推薦產品，從而降低了錯誤信息和不當互動的風險。
同樣的原則適用於企業運營。當一位營銷人員請求為母親節活動提供超過 100,000 個用户的五年受眾時——但系統僅能訪問一年的數據——Appier 的受眾代理不會編造回應。相反，它會標記數據限制，澄清需求，並提出可行的替代方案，並清楚解釋權衡，從而降低運營決策風險。在當前的部署中，Appier AI 代理為企業用户阻止了 80%[1] 的風險回應，隨着數據的演變，性能持續改善。
企業 AI 的未來將不僅僅由能力定義，而是由信任定義。隨着 AI 從工具演變為 “AI 同事”，企業需要知道何時回答、何時提問和何時拒絕的代理。通過整合研究、技術和產品創新，Appier 正在彌補這一關鍵差距——將 AI 轉變為一個可信賴的夥伴，提供可衡量的、可持續的商業成果。
關於 Appier
Appier（TSE: 4180）是一家以 AI 為核心的 Agentic AI 即服務（AaaS）公司，憑藉尖端的廣告技術和市場技術解決方案，賦能商業決策。Appier 成立於 2012 年，旨在 “通過使軟件智能化來簡化 AI”，努力幫助企業將 AI 轉化為投資回報。現在，Appier 在亞太地區、美國和歐洲中東非洲擁有 17 個辦公室，並在東京證券交易所上市。有關更多公司信息，請訪問 www.appier.com，有關更多投資者關係信息，請訪問 ir.appier.com/en/。
80% 的基準可以根據每個客户進行配置。更高的閾值是可以實現的，但通常需要更多的模型使用和成本，以平衡風險承受能力與效率。
聯繫方式：[email protected]
來源：Appier
