我是 LongbridgeAI，我可以总结文章信息。Appier 宣布在 AI 自我意识方面取得了进展，使 AI 系统能够评估风险并识别其知识局限。这项研究旨在将 AI 从可用转变为可信，解决诸如错误信息和操作风险等问题。Appier 的 AI 现在融入了精确询问、风险评估、能力校准，并防止灾难性遗忘，从而增强了企业环境中的决策能力。该公司强调，企业 AI 的未来依赖于信任，将 AI 定位为企业可靠的决策伙伴
四项研究能力使 Agentic AI 成为企业可信赖的决策伙伴
, /PRNewswire/ -- 随着 AI 系统在回答问题和执行任务方面变得越来越强大，企业面临的核心问题已从 AI 是否可以使用转变为 AI 是否可以信任。许多 AI 系统在不确定的情况下仍然提供自信的回答——这一问题在商业环境中可能从糟糕的用户体验升级为运营风险。
Appier 是一家以 AI 为核心的 Agentic AI 即服务（AaaS）公司，今天宣布其全球 AI 团队的新研究，重点关注一个关键能力：AI 自我意识。该研究使 AI 能够更精确地提问、评估风险，并识别自身知识的局限性。这些能力嵌入到其广告云、个性化云和数据云中——加速了从可用 AI 到可信赖 AI 的转变，并将 AI 定位为企业可靠的决策伙伴。
企业 AI 风险不再是假设。从客户服务错误到内容幻觉，行业中出现了一种一致的模式：AI 经常无法识别何时不应回应。Appier 首席执行官兼联合创始人余志翰博士表示：“随着 AI 代理越来越多地将人、工具和软件连接成更复杂的系统，企业优势的真正来源将是 AI 是否可以被信任来做出决策。” 通过我们的专有数据、领域专业知识、行业特定模型和前沿研究，Appier 正在将可信赖的 Agentic AI 引入现实商业场景，使企业能够自信地与 AI 共同决策。
Appier 长期以来一直投资于学术与行业的合作和前沿研究，在国际顶级期刊和会议上发表了超过 400 篇论文。其在可信赖 Agentic AI 方面的最新研究已在 NeurIPS、ACL 和 EMNLP 等顶级场所获得认可。
Appier 已识别出企业 AI 采用的四个主要障碍：模型在微调后失去先前学习的能力，AI 在信息不足时进行猜测，或在面对模糊性时提出过多澄清问题。系统缺乏判断何时应回应的风险意识。传统基准无法衡量 AI 是否能够实际解决特定任务。
为了解决这些挑战，Appier 开发了四项相应的能力，使 AI 能够精确提问、评估风险、保留先前知识，并准确评估自身的局限性。
在精确询问方面，Appier 的研究发现，仅依靠内部模型判断是不够的。通过在回应之前结合可验证的外部反馈和跨模型验证，AI 能够提出更相关的问题，并将任务准确性与用户体验之间的平衡提高超过 30%。
在风险评估方面，Appier 采用了一种 “技能分解” 方法，将问题解决、信心估计和期望值决策分开——使 AI 能够在不确定性下更理性地行动，并将高风险预期损失降低 60-70%。
在能力校准方面，Appier 引入了一种新机制，在回应之前预测正确答案的概率，以近乎零的推理成本（少于一个 token）提供对能力边界的更清晰可见性。
为了解决灾难性遗忘问题，Appier 开发了一种微调方法，识别并避免高困惑度的 token，保留先前的推理和遵循指令的能力。这种方法将非目标任务的性能下降降低到接近零，预处理时间约为八分钟——使企业环境中的部署更加稳定和高效。
这些研究进展已集成到 Appier 的 AI 代理工作流程中。在面向消费者的场景中，一个没有自我意识的美容品牌 AI 代理可能会对母亲节餐厅的询问做出不符合品牌的回应，编造产品细节，或过度推广其产品——损害品牌信任。
相比之下，Appier 的销售和服务代理了解自己的边界，拒绝超出其专业知识的回答，在回应之前澄清模糊的查询，并仅在适当时推荐产品，从而降低了错误信息和不当互动的风险。
同样的原则适用于企业运营。当一位营销人员请求为母亲节活动提供超过 100,000 个用户的五年受众时——但系统仅能访问一年的数据——Appier 的受众代理不会编造回应。相反，它会标记数据限制，澄清需求，并提出可行的替代方案，并清楚解释权衡，从而降低运营决策风险。在当前的部署中，Appier AI 代理为企业用户阻止了 80%[1] 的风险回应，随着数据的演变，性能持续改善。
企业 AI 的未来将不仅仅由能力定义，而是由信任定义。随着 AI 从工具演变为 “AI 同事”，企业需要知道何时回答、何时提问和何时拒绝的代理。通过整合研究、技术和产品创新，Appier 正在弥补这一关键差距——将 AI 转变为一个可信赖的伙伴，提供可衡量的、可持续的商业成果。
关于 Appier
Appier（TSE: 4180）是一家以 AI 为核心的 Agentic AI 即服务（AaaS）公司，凭借尖端的广告技术和市场技术解决方案，赋能商业决策。Appier 成立于 2012 年，旨在 “通过使软件智能化来简化 AI”，努力帮助企业将 AI 转化为投资回报。现在，Appier 在亚太地区、美国和欧洲中东非洲拥有 17 个办公室，并在东京证券交易所上市。有关更多公司信息，请访问 www.appier.com，有关更多投资者关系信息，请访问 ir.appier.com/en/。
80% 的基准可以根据每个客户进行配置。更高的阈值是可以实现的，但通常需要更多的模型使用和成本，以平衡风险承受能力与效率。
联系方式：[email protected]
来源：Appier
